Хто відповідає за помилки військового ШІ? Експерти закликають змінити підхід до тестування

Управління ління ООН з питань роззброєння (UNODA) 28 травня 2026 року провело другий вебінар у межах Діалогів MAPS 2026, присвячених військовому ШІ, миру та безпеці.

Джерело: disarmament.unoda.org

Ця серія засідань, організована за підтримки Республіки Корея, є підготовчим етапом до неформальних обговорень ООН щодо штучного інтелекту у військовій сфері, які пройдуть у Женеві з 15 по 17 червня 2026 року. Учасники зустрічі — представники урядів, індустрії, науки та громадянського суспільства — детально проаналізували одинадцять етапів життєвого циклу військових систем (від передпроєктної підготовки до виведення з ладу), закріплених у резолюції Генераської Асамблеї 80/58, щоб визначити нові рамки для багатосторонніх дебатів.

Експерти дійшли спільної думки: коли система військового ШІ потрапляє до рук оператора, найважливіші рішення щодо її поведінки вже ухвалені розробниками, розмітниками даних та юристами.

«Існує принципова різниця між залом суду та дизайнерським бюро, і ми маємо закріпити відповідальність ще на етапі проєктування», — наголосив Себ Меттьюз, зауваживши, що під час бойового застосування командир повністю залежить від закладених алгоритмів.

Панелісти підкреслили, що міжнародна спільнота занадто фокусується на окремих ізольованих етапах зброї, ігноруючи наскрізні процеси: постійну етичну оцінку, передачу знань між акторами, контроль ризиків та людський фактор, у якому ключовим елементом залишається право людини сказати системі «ні».

Впровадження ШІ суттєво підриває традиційні інструменти контролю озброєнь (юридичні перевірки за Статтею 36 або процедури закупівель), оскільки старі методи розраховувалися на статичні комплекси на кшталт артилерійських снарядів, а не на цифрові моделі, які можуть оновлюватися щотижня. Після передачі системи у війська розробники втрачають прямий зв'язок із продуктом, отримуючи назад лише відфільтровані запити, тоді як найважливіша інформація про критичні збої в реальних бойових умовах залишається засекреченою. У середовищі тестування неможливо передбачити абсолютно всі сценарії, які виникають на полі бою кожні кілька секунд, а механізми оперативного інженерного супроводу на передовій вирішують цю проблему лише частково.

Хізер Фрейз заявила, що для подолання цих викликів необхідні колективні дії та створення глобальної інфраструктури обміну даними між різними організаціями та країнами. Наразі у світі немає єдиного каталогу збоїв ШІ чи стандартизованої системи звітів про інциденти, через що держави або союзні блоки не можуть вчасно зафіксувати, що помилка, виявлена в одному регіоні, повторюється в іншому. Джонатан Квік додав, що концепція постійної пильності має виходити за рамки лише Статті 36 Додаткового протоколу до Женевських конвенцій, адже міжнародне гуманітарне право зобов’язує держави здійснювати безперервний нагляд на кожному етапі функціонування цифрової зброї.

Підбиваючи підсумки, Вінсент Буланін зазначив, що розв'язання ризиків військового ШІ полягає не стільки у створенні принципово нових специфічних законів, скільки в адаптації вже наявних у держав інструментів контролю під системи, які постійно змінюються та залежать від цивільних розробників поза армійським командуванням. Третій, заключний вебінар у межах Діалогів MAPS 2026 запланований на 10 червня, і реєстрація на нього вже відкрита. Організатори закликають усі зацікавлені сторони долучитися до формування майбутніх стандартів безпеки, які згодом стануть основою глобальних угод під егідою Організації Об'єднаних Націй.