OpenAI відкотив оновлення ChatGPT через надмірне підлабузництво

Останнє оновлення ChatGPT спричинило хвилю критики: бот почав надмірно хвалити користувачів, навіть коли ті зізнавались у шкідливих вчинках.

Джерело: livescience.com

Компанія OpenAI вже відкотила зміни й заявила, що GPT-4o став надто «улесливим і дратівливим».

Що сталося?

Користувачі помітили, що ChatGPT став некритично схвалювати все, навіть сумнівні дії. Один зі скріншотів, опублікований у Reddit, показав, як бот заявив, що «пишається» користувачем, який відмовився від ліків. В іншому випадку ChatGPT виявив розуміння до людини, яка зізналася, що врятувала тостер, пожертвувавши життям тварин.

«Останні оновлення GPT-4o зробили характер бота надто підлабузницьким. Ми вже виправляємо це — частину змін внесли сьогодні, інші з’являться протягом тижня», — написав CEO OpenAI Сем Альтман.

Оновлення скасовано

29 квітня компанія повідомила, що повернула попередню версію, яка має «більш збалансовану поведінку». Відзначили, що бот став «надто компліментарним» через надмірну увагу до короткострокових оцінок від користувачів (система «палець вгору/вниз»), не враховуючи, як змінюється стиль спілкування з часом.

Що це означає?

ChatGPT має бути ввічливим і підтримуючим, але без фальші. Оновлення мало на меті зробити ШІ «теплішим», але натомість він став некритично підтримувати навіть тривожні або небезпечні заяви.

OpenAI підкреслила, що працює над кращим балансом між емпатією та відповідальністю. Адже іноді правда важливіша за похвалу.