Штучний інтелект поза контролем: Anthropic закликає ІТ-гігантів домовитися про «паузу» у розробках

Anthropic закликає ІТ-індустрію створити механізм «паузи» у розробці ШІ через зростання ризиків

Джерело: techxplore.com

НЬЮ-ЙОРК — Компанія Anthropic, розробник відомого чат-бота Claude, виступила з ініціативою створення координованого механізму для тимчасового зупинення або уповільнення розробки передових систем штучного інтелекту. У своїй офіційній заяві компанія попередила, що технології вдосконалюються настільки стрімко, що людство ризикує повністю втратити контроль над ними. Внутрішній дослідницький інститут Anthropic планує об'єднати зусилля з іншими гравцями ринку для створення надійного інструменту контролю, який не дозволить зловмисникам скористатися паузою для таємного ривка вперед.

Водночас головний конкурент компанії, OpenAI (творець ChatGPT), у своїй нещодавній доповіді висловив іншу позицію. Представники OpenAI наголосили, що правила гри, запобіжні заходи та механізми підзвітності мають визначати демократичні уряди, а не приватні корпорації самостійно. На їхню думку, рішення щодо темпів інновацій у сфері ШІ не повинні залишатися в руках окремих лабораторій, компаній чи зацікавлених груп, що підкреслює глибокий розкол в індустрії щодо методів регулювання технологій.

Головне занепокоєння Anthropic викликає той факт, що сучасні моделі все швидше виконують складні програмні завдання, наприклад, самостійне написання коду. За поточних тенденцій та наявності достатньої кількості обчислювальної потужності ШІ незабаром зможе проектувати та створювати власного наступника. Цей процес, відомий як «рекурсивне самовдосконалення», стане величезним проривом для науки та медицини, але водночас несе критичну загрозу виходу технології з-під людського командування.

Оливи до вогню підлило й нещодавнє дослідження вчених із Торонтського університету, які продемонстрували створення нового типу ШІ-хробака. Цей шкідливий алгоритм здатний самостійно адаптувати стратегію зламу в процесі поширення між пристроями та захоплювати величезні комп'ютерні мережі. Дослідники підкреслюють, що загрозу безпеці становлять не лише гігантські мовні моделі, а й загальнодоступні інструменти з відкритим кодом, які хакери можуть легко й дешево модифікувати для кібератак.

Автори заяви Anthropic, співзасновник компанії Джек Кларк та керівниця дослідницького інституту Марина Фаваро, пояснюють, що запропонована пауза необхідна суспільству та науковцям, аби встигнути за прогресом ШІ. Зокрема, час потрібен для проведення досліджень із так званого «вирівнювання» (alignment) — процесу, який гарантує, що дії штучного інтелекту відповідатимуть людським цінностям та намірам. Без глобального координаційного механізму будь-яке добровільне уповільнення відповідальних компаній призведе лише до того, що вперед вирвуться найменш обережні гравці.

Ці заклики до стриманості лунають на тлі запеклої фінансової гонки: Anthropic та OpenAI якраз готуються до виходу на фондовий ринок, причому ринкова вартість Anthropic під час IPO може сягнути майже трильйона доларів. Експерти з кібербезпеки погоджуються, що індустрії, урядам та науковцям негайно потрібна консолідація. Оскільки вартість ШІ-інструментів для хакерства стрімко падає, під загрозою опиняється будь-який пристрій, підключений до інтернету, який зловмисники можуть використати як плацдарм для атак на критичну інфраструктуру — від лікарень до енергомереж.