Скандал із Grok: xAI пояснила згадки про «геноцид білих»

Раптові заяви Grok про «геноцид білих» викликали хвилю критики в мережі.

Джерело: techxplore.com

Стартап зі штучного інтелекту Ілона Маска xAI звинуватив «несанкціоновану модифікацію» в тому, що чатбот Grok почав поширювати неправдиві та небажані твердження про «білий геноцид» у Південній Африці.

Чатбот, розроблений компанією xAI, цього тижня спричинив скандал, відповідаючи на низку запитів користувачів праворадикальними тезами про нібито утиски білих у ПАР.

Один із користувачів платформи X (колишній Twitter) запитав Grok: «Скільки разів HBO змінював назву?» — згідно зі скриншотами, що ширилися в мережі.

Grok спочатку коротко відповів про HBO, але потім несподівано перейшов до тиради про «білий геноцид» і навіть згадав антиапартеїдний лозунг «kill the Boer» («вбий бурів»).

У відповідь на інше питання — чому Grok так зациклений на темі — бот заявив, що «отримав інструкції від творців із xAI говорити про “геноцид білих”».

Ілон Маск, який народився в Південній Африці і є головою Tesla та SpaceX, раніше вже звинувачував лідерів ПАР у тому, що вони «відкрито закликають до геноциду білих».

У заяві xAI йдеться, що причина в «несанкціонованій зміні» налаштувань Grok, яка спричинила появу відповіді, що «суперечить внутрішнім політикам і базовим цінностям компанії».

Після «ретельного розслідування» компанія пообіцяла зробити системні інструкції Grok публічними, змінити процедури перевірки відповідей і створити «цілодобову команду моніторингу» для запобігання подібним інцидентам у майбутньому.

Після хвилі обурення в соцмережі X, чатбот почав видаляти суперечливі відповіді.

Коли один із користувачів запитав, чому відповіді зникають, Grok відповів: «Незрозуміло, чому відповіді видаляються без конкретних пояснень, але ймовірно, це пов’язано з політикою модерації X».

І додав: «Тема “геноциду білих в ПАР” є чутливою, часто містить дезінформацію або мову ворожнечі, що порушує правила платформи».