Изкуственият интелект почти сблъска САЩ и Китай: Фалшив доклад за китайски кораб

Според разследване на CNN, в доклад на американското военно разузнаване, изготвен с помощта на изкуствен интелект, е било погрешно твърдено, че китайски кораб в Близкия Изток превозва компоненти, свързани с програма за ядрени оръжия, което почти е накарало американските сили да го пресекат и да се качат на борда му по време на войната с Иран. Четирима души, запознати с инцидента, разказаха на CNN, че докладът незабавно е предизвикал тревога в американските въоръжени сили, които започнали да подготвят операция срещу китайския кораб. Според информацията въоръжени военнослужещи се готвели да се качат на борда на кораба, докато американски военни самолети вече били във въздуха, пише MWM.

Операцията беше спряна едва след като официални лица проучиха по-внимателно разузнавателната информация и откриха, че докладът е бил изготвен с помощта на чатбот, задвижван от изкуствен интелект. Чатботът е идентифицирал погрешно материала, превозван от кораба. CNN не успя да установи какво всъщност е превозвал корабът. Един източник описа получената в резултат на това разузнавателна оценка като "напълно невярна", като добави, че тя "почти е предизвикала война". Американска операция срещу китайски кораб би могла да доведе до пряка конфронтация между Вашингтон и Пекин, която потенциално да ескалира далеч отвъд първоначалния инцидент. Инцидентът се случи през пролетта, докато американските сили провеждаха военни операции срещу Иран.

Според информациите епизодът започнал, когато анализатор, свързан с командването на специалните операции на САЩ, проучил разузнавателна информация относно товаро-разтоварния манифест на кораба. Информацията произхождаше от Командването за специални операции на САЩ в Тихия океан в Хавай. Вместо да разчита изцяло на конвенционални процедури за анализ на разузнавателна информация, анализаторът зададе въпрос на чатбот с изкуствен интелект относно информацията. Според източниците на CNN чатботът съчета публично достъпна информация с класифицирана сигнална разузнавателна информация, с която разполагаше правителството на САЩ, преди да стигне до погрешното си заключение относно товара на кораба. Впоследствие анализаторът използва изкуствен интелект за втори път, за да превърне резултатите в стандартен разузнавателен доклад.

Тази втора стъпка беше особено значима, тъй като полученият документ беше представен в познатия формат на традиционен военен разузнавателен продукт. След това той беше разпространен в рамките на въоръжените сили на САЩ, където персоналът предприе действия въз основа на съдържанието му.

"Вътрешните инструменти са предимно просто копия на комерсиалните продукти, преобразени леко", заяви пред CNN бивш висш американски служител, запознат със системите за изкуствен интелект, използвани от военните и разузнавателните анализатори. 

Инцидентът подчертава потенциалните последствия от генерирането на неточна информация

от системите за изкуствен интелект във военна среда, където разузнавателните оценки могат директно да повлияят на употребата на сила.

Големите езикови модели са способни да генерират отговори, които звучат правдоподобно, но съдържат фактически грешки – феномен, обикновено наричан „халюцинация“ на изкуствения интелект. В този случай обаче погрешната информация, според съобщенията, е надхвърлила рамките на изолирана аналитична грешка и е била включена в оперативен разузнавателен продукт. Инцидентът се случи в момент, когато Пентагонът бързо разширява използването на изкуствен интелект. Министърът на отбраната Пит Хегсет насърчава подход „AI-first“ (изкуствен интелект на първо място) във всички въоръжени сили на САЩ, като ИИ се въвежда за приложения, вариращи от разузнавателен анализ и определяне на цели до логистика, бюджетиране и управление на веригата на доставки.

О.р. полковник от ВВС на САЩ Седрик Лейтън, военен анализатор на CNN, изтъкна, че анализаторите все още трябва самостоятелно да установят дали информацията, въведена в системите за изкуствен интелект, е точна и правдоподобна. „Все още е необходим истински анализ, за да се разбере точно какво се случва, за да се уверите, че данните, които използвате в тези инструменти за изкуствен интелект, са, първо, верни и, второ, правдоподобни“, каза Лейтън. „Това са нещата, за които като разузнавателен анализатор наистина е необходимо много време, за да се разбере.“ Епизодът повдига въпроси относно сигурността и надеждността на системите за изкуствен интелект, използвани за обработка на чувствителна разузнавателна информация.