Цієї весни американські військові почали готувати операцію з перехоплення китайського судна на Близькому Сході після отримання розвідувального звіту, в якому стверджувалося, що воно перевозить компоненти для ядерної збройової програми. Незадовго до початку операції з'ясувалося, що ключовий висновок звіту був помилково згенерований штучним інтелектом. Про це повідомляє CNN з посиланням на чотирьох співрозмовників, обізнаних з тим, що сталося.
Інцидент стався під час війни з Іраном і, за оцінкою одного з джерел телеканалу, міг призвести до небезпечної ескалації між США та Китаєм. Після поширення розвідувального повідомлення американські військові почали готуватися до перехоплення судна. За словами двох джерел CNN, озброєні військовослужбовці готувалися піднятися на його борт.
Військові літаки вже перебували в повітрі. Операцію зупинили лише після додаткової перевірки первинної розвідувальної інформації. З'ясувалося, що аналітик одного з підрозділів сил спеціальних операцій США використав чат-бота зі штучним інтелектом, який неправильно визначив вантаж, що перевозиться китайським судном.
CNN не вдалося встановити, що саме перебувало на борту. Один із співрозмовників телеканалу назвав підготовлений документ «повністю хибним». При цьому CNN підкреслює, що американська операція проти китайського судна могла створити ризик прямого збройного зіткнення між двома країнами.
ШІ об'єднав секретні та відкриті дані та зробив помилковий висновокВихідна інформація про судновий маніфест надійшла від Тихоокеанського командування сил спеціальних операцій США, розташованого на Гаваях. Аналітик передав ці відомості чат-боту для аналізу. Невідомо, чи використовував він комерційну систему штучного інтелекту або один з інструментів, створених для американського уряду.
За інформацією CNN, система об'єднала дані з відкритих джерел із секретною радіоелектронною розвідкою, що перебувала в розпорядженні уряду США, після чого дійшла помилкового висновку про характер вантажу. Після цього аналітик знову скористався ШІ — вже для оформлення результатів у стандартний розвідувальний документ. Саме в такому вигляді інформація була поширена серед військових структур і сприймалася отримувачами як звичайний розвідувальний звіт.
Єдиних правил перевірки результатів ШІ в американських військових немаєСпіврозмовники CNN розповіли, що різні підрозділи армії та розвідувальної спільноти США швидко впроваджують штучний інтелект, проте роблять це децентралізовано. Різні структури використовують різні системи та власні правила безпеки. У результаті в американській військовій і розвідувальній спільноті поки немає єдиного стандарту, який визначав би, яким чином необхідно перевіряти інформацію, отриману за допомогою генеративного ШІ.
Джерела телеканалу стверджують, що подібні «галюцинації» штучного інтелекту вже траплялися в розвідувальних структурах, і випадок із китайським судном не був поодиноким. Особливе занепокоєння викликає дедалі активніше використання ШІ під час вибору та аналізу цілей. Один із співрозмовників CNN заявив, що застосування таких систем у процесі цілевказівки швидко розширюється, тоді як чітких правил щодо людського контролю та запобігання помилковим ударам поки що недостатньо.
Пентагон прискорює впровадження ШІАмериканські військові використовують штучний інтелект для обробки великих масивів розвідданих, планування операцій, логістики, управління ресурсами та підтримки ухвалення рішень на полі бою. У січні Пентагон представив нову стратегію прискореного впровадження штучного інтелекту. Серед її напрямів — застосування ШІ для управління бойовими діями, підтримки рішень та прискорення ланцюжка від виявлення цілі до її ураження.
Документ також передбачає розширення доступу військовослужбовців і цивільного персоналу оборонного відомства до передових моделей штучного інтелекту. У Пентагоні пояснюють прискорення тим, що США не можуть дозволити собі відстати від потенційних противників, насамперед Китаю, у застосуванні ШІ у військовій сфері. Однак епізод із китайським судном показує інший ризик: небезпечне рішення може бути ухвалене не тому, що штучний інтелект діє автономно, а тому, що людина сприймає згенеровану ним помилкову інформацію як достовірну розвідку.
Тихоокеанське командування сил спеціальних операцій США та Пентагон не відповіли CNN на запити про коментар щодо цього інциденту. За матеріалами: CNN, Міністерство оборони США