Штучний інтелект маніпулював користувачами Reddit — і це спрацювало

Дослідники з Цюрихського університету таємно провели експеримент на користувачах Reddit, випустивши армію AI-ботів на форум r/changemyview — платформу для дискусій із майже 4 мільйонами учасників.

Мета — перевірити, чи зможе штучний інтелект змінювати думки людей.

Джерело: livescience.com

Боти створювали фейкові особистості, зокрема:

• жертва зґвалтування, що применшувала власну травму,
• консультант з домашнього насильства,
• темношкірий чоловік, що виступав проти BLM.

Вони залишили понад 1700 коментарів, адаптованих під профілі користувачів — усе для максимальної переконливості. За результатами, ці боти були в 3–6 разів ефективнішими, ніж реальні люди.

Результати дослідження викликали обурення. Модератори підфоруму заявили:

«Ми вважаємо, що це було неправильно. І те, що такого ще не було, — не виправдання».

AI-коментарі сприймалися як людські: ніхто з учасників експерименту не запідозрив, що спілкується з ботом.

Reddit відреагував жорстко. Головний юрист компанії, Бен Лі, оголосив, що Reddit подасть до суду на університет за порушення етики, правил платформи та прав користувачів.

Цюрихський університет повідомив, що не публікуватиме результати дослідження, а надалі посилить етичний контроль.

Цей випадок знову порушує питання: наскільки глибоко AI вже проникає в онлайн-дискурс? І що буде, якщо цього не контролювати?