ИИ едва не вкара САЩ във война с Китай

Американската армия едва не е започнала военен конфликт с Китай заради разузнавателен доклад, изготвен с помощта на изкуствен интелект (ИИ), съобщава американската телевизия CNN, позовавайки се на свой източник.

Анонимният събеседник разказал, че през пролетта, на фона на войната с Иран, американските военни получили разузнавателен доклад, според който китайски кораб в Близкия изток превозвал компоненти за ядрената програма на Ислямската република.

Американските военни започнали подготовка за прихващане на кораба. Според CNN въоръжени отряди морски пехотинци се готвели за щурм на борда, а американски самолети вече били във въздуха.

Непосредствено преди операцията обаче станало ясно, че анализатор от специалните операции е изготвил доклада с помощта на ИИ, а чатботът неправилно е интерпретирал данните за товара.

Според източника на телевизията операцията е можела да доведе до ескалация, включително до въоръжен конфликт.
В този конкретен случай анализаторът е отправил запитване до чатбот относно разузнавателни доклади за корабния манифест, изпратен от Тихоокеанското командване на специалните операции на САЩ, базирано в Хавай. Не е ясно дали чатботът е търговски достъпен или продукт на правителството на САЩ.
Какъв всъщност е бил товарът, не е ясно. Според един от източниците докладът е бил „напълно неверен". Същият източник обаче определя случая
като особено опасен, защото той „почти започна война".
Една американска операция срещу китайски плавателен съд би могла да предизвика ескалация и да доведе до въоръжен конфликт между Вашингтон и Пекин.

Случаят показва и един от най-непосредствените рискове при бързото навлизане на изкуствения интелект във военната сфера. 

По-рано медиите съобщиха, че САЩ ще използват изкуствения интелект на компанията на Илон Мъск за вземане на военни решения.

През януари министърът на отбраната на САЩ Пийт Хагсет представи стратегия за ускорено внедряване на изкуствен интелект. В същото време, според CNN, използването на изкуствен интелект във военната и разузнавателната сфера остава децентрализирано: различните подразделения използват различни системи и следват различни правила за сигурност. Няма единен стандарт за проверка на информацията, генерирана от подобни инструменти. 

Според източници на CNN, случаи на така наречените „халюцинации“ на изкуствения интелект, при които системата генерира невярна информация, вече са се случвали в американската разузнавателна общност. Някои служители се опасяват, че бързането за ускоряване на производството на разузнавателна информация може да увеличи броя на грешките. „Изкуственият интелект ви позволява да стигнете до лоша идея по-бързо“, каза един от източниците на изданието.

Според информация на „Ню Йорк таймс“ пък Иран, Израел и Китай са използвали ИИ за масови манипулации чрез социалните мрежи.

До момента няма официален коментар от Пентагона за случая. Той, обаче, повдига множество въпроси относно начина по който се борави с информацията, подадена от изкуствения интелект, особено в критични ситуации, коментира CNN.