Машинна мораль: як ШІ навчають розрізняти добро і зло

Розвиток штучного інтелекту (ШІ), зокрема великих мовних моделей (LLM) на кшталт ChatGPT, зробив ці технології широко доступними.

Вони використовуються мільйонами людей для професійних і особистих цілей.

Джерело: techxplore.com

Деталі:

Дослідники з Університету Вашингтона та Інституту штучного інтелекту Аллена розробили модель Delphi, яка вчить ШІ передбачати моральні судження людей.

Модель навчена на 1,7 млн етичних суджень із Commonsense Norm Bank. Вона базується на Unicorn, універсальній моделі здорового глузду, створеній на основі Google T5-11B. Delphi може оцінювати моральність тверджень, запитань і життєвих ситуацій, видаючи прості відповіді або розгорнуті пояснення.

Тести показали, що модель добре узагальнює знання і правильно визначає моральні рамки у більшості випадків. Водночас Delphi може мати упередження та помилки, тому поки що не може бути повноцінним етичним радником.

Довідково:

Проєкт відкриває нові можливості для досліджень у сфері етичного ШІ, зокрема щодо культурної адаптації моделей та їхньої здатності до ціннісного узгодження в різних суспільствах.

• #ШІ
• #LLM
• #ChatGPT