X запускає пілот з фактчекінгом від AI і людей

Платформа X (колишній Twitter) запускає пілотний проєкт, де ШІ створює нотатки разом з людьми для боротьби з дезінформацією.

Джерело: techxplore.com

Від 2021 року «Community Notes» дозволяє користувачам додавати пояснення до сумнівних дописів. Нотатки оцінюються іншими учасниками спільноти — на основі цих оцінок система вирішує, які показувати публічно.

Раніше нотатки писали лише люди. Але тепер X тестує гібридну модель, де до створення нотаток долучаються великі мовні моделі (LLM). Люди залишаються єдиними, хто оцінює корисність кожної нотатки — це критично важливо для збереження довіри.

Навіщо це потрібно?

Команда дослідників X пояснює: генерація нот ШІ значно прискорить і масштабуватиме процес. ШІ може охопити в десятки разів більше контенту, ніж людські автори, що особливо актуально на тлі зростання обсягу онлайн-дезінформації.

Зворотній зв'язок від людей стане джерелом навчання ШІ — за допомогою підходу reinforcement learning from community feedback (RLCF). Це дозволить зробити майбутні нотатки більш точними, неупередженими і зрозумілими.

Що далі?

У дослідженні пропонуються нові напрями розвитку:

• Спеціалізовані LLM для написання нот;
• AI-«копілоти» для підтримки людських авторів;
• AI-допомога для оцінювачів нот;
• Автоматична адаптація вже створених нот до схожих контекстів;
• Механізми автентифікації користувачів і персоналізації контенту;
• Відкрита й гнучка інфраструктура.

Які ризики?

Автори визнають:

• ШІ може створювати переконливі, але неточні нотатки;
• Надмірна уніфікація може зменшити різноманітність думок;
• Люди можуть втратити мотивацію писати власні нотатки;
• Обсяг нот може перевантажити людських модераторів.

Мета не в тому, щоб ШІ диктував, що думати, а в тому, щоб допомогти людям критично мислити й краще розуміти світ, — зазначають дослідники.