Русия бълва дезинформация в опит да "отрови“ моделите с AI

Нов тревожен доклад разкрива, че Русия манипулира отговорите, които изкуственият интелект (ИИ) предоставя на потребителите, с цел разпространение на дезинформация.

Като част от обезпокоителна нова форма на информационна война, враждебни държави "отравят“ моделите с изкуствен интелект, използвани ежедневно от милиони хора, като редактират материалите, на които технологията разчита при генерирането на отговори.

Това води до ситуации, в които моделите на OpenAI, Anthropic и Google извличат невярна информация от уебсайтове и социални мрежи, разпространявайки по този начин подвеждащи внушения в интернет пространството.

Изследването, изготвено от мозъчния тръст Demos, разкрива също как Русия манипулира изкуствения интелект, за да представи в положителна светлина групи, които биха навредили на Великобритания.

Коментирайки резултатите, Джулия Лопес, министър в "сенчестия кабинет“ с ресор технологии, каза: "Тъй като изкуственият интелект се превръща в основен източник на информация за милиони хора, враждебните държави неизбежно ще се стремят да манипулират тези системи, точно както сме наблюдавали при социалните мрежи и търсачките".

Война с информацията

Правителството не може да си позволи самодоволство и трябва да гарантира, че компаниите за изкуствен интелект разполагат със солидни механизми за разпознаване и ясно обозначаване на подкрепяна от държавата дезинформация, като същевременно си сътрудничат със съюзници за пресичане на чуждестранната информационна война, преди тя да се е утвърдила.

"Тъй като системите с изкуствен интелект се превръщат в основен посредник, чрез който хората, институциите и правителствата получават достъп до информация, онзи, който контролира какво тези системи извличат и на какво "вярват“, придобива огромно предимство", казват авторите на доклада", казват авторите на доклада.

Това не е среда, в която либералните демокрации могат да си позволят да отстъпят асиметрично предимство на автократични държави.