ИИ агенти шокираха създателите си: Избягаха и хакнаха софтуерна платформа

Създателят на ChatGPT, OpenAI, наскоро започна лабораторен експеримент, който насочи технологичната индустрия към нов курс и разкри нови уязвимости в сигурността. Експертите казват, че това е повратен момент в киберсигурността, още по-тревожен, защото не е резултат от инцидент, а следствие от уменията, които най-модерните системи за изкуствен интелект са били умишлено дадени, според анализ на Financial Times.

На пръв поглед изглежда като нормален тест за сигурност: няколко хакери са наети, за да се опитат да решат труден проблем с киберсигурността, в който ще тестват границите на своите умения. Използвайки креативни тактики и си сътрудничейки ефективно помежду си, хакерите успяват да намерят правилните решения за решаване на проблема само за няколко дни.

Но тези "хакери" всъщност са агенти на изкуствен интелект - компютърни програми, които могат да изпълняват сложни когнитивни задачи без човешка намеса. OpenAI ги създаде, използвайки комбинация от модели, включително много мощен нов модел, който все още не е пуснат на пазара.

Успехът на този експеримент изпрати ударни вълни по целия свят.

Миналия месец агенти с изкуствен интелект успяха да избягат от обичайната си офлайн тестова среда, получиха достъп до интернет и хакнаха системите на софтуерната платформа Hugging Face, без да уведомят или получат разрешение от човешки оператор.

"Критичен момент" за индустрията с изкуствен интелект

Агентите с изкуствен интелект демонстрираха и нова способност: те могат да комуникират и да си сътрудничат, за да изпълнят мисията си. Агентите с изкуствен интелект си оставяха съобщения във вътрешен форум, който също създадоха, споделяйки различни уязвимости, които откриха, за да планират бягството си.

Когато бяха публикувани подробности за инцидента, експертите по киберсигурност и изкуствен интелект бяха разтревожени. Изследователите на OpenAI заявиха, че това е "критичен момент" за индустрията. Други гиганти в областта на изкуствения интелект, като Anthropic и Meta, както и китайската компания Moonshot и Институтът за сигурност на изкуствения интелект към правителството на Обединеното кралство, който оценява кибервъзможностите на новите модели с изкуствен интелект, откриха доказателства, че по време на тестове агентите с изкуствен интелект хакват системи на трети страни, без да го осъзнават.

Няколко експерти, интервюирани от FT, заявиха, че пробивите представляват повратна точка в глобалната киберсигурност, като агентите с изкуствен интелект вече притежават разнообразен и сложен набор от умения, които могат да използват, за да атакуват цели в реалния свят без външен контрол или подкрепа.

Сложните стратегии, използвани от агентите с изкуствен интелект за постигане на целите си, включително хитрост и кражба на информация, изненадаха дори тези, които следят отблизо еволюцията на моделите с изкуствен интелект.

Агентите с изкуствен интелект не са "извън контрол": те изпълняват задачите, за които са били проектирани от самото начало

Изследователите подчертават факта, че моделите не действат нетипично, а са се усъвършенствали в изпълнението на задачите, за които са били проектирани от самото начало. Би било грешка да се етикетират тези агенти с изкуствен интелект като "извън контрол", което прави подобряването на предпазните мерки срещу подобни инциденти още по-важно.

"Офанзивните възможности, които постигнахме днес, бяха постигнати умишлено", обяснява Боян Миланов, изследовател в Института AI Now, който изучава рисковете за сигурността, свързани с агентите с изкуствен интелект. "Компаниите с изкуствен интелект активно събират данни за обучение, модели за обучение и подобряват своите киберспособности от години."

Този месец станахме свидетели и на първата по рода си кибератака с помощта на агенти с изкуствен интелект срещу държава. Хакери, действащи от името на Пекин, атакуваха правителството на Тайван, използвайки едновременно до осем автономни агента с изкуствен интелект. Те проникнаха в тайванските правителствени системи, компрометираха потребителски акаунти и извлякоха информация и документи за най-малко 2500 държавни служители, преди да разширят атаката си към енергийните компании и тайванската агенция за ядрена безопасност.

Според директор на израелската група Dream, която разкри атаката, с въвеждането на инструменти с изкуствен интелект "правителствата по света" винаги трябва да приемат, че са подложени на кибератака.

"Подценихме реалните кибер възможности на нашите модели с изкуствен интелект"

В компютърна система, която не разбира човешката етика и намерения, разликата между силен защитник на киберсигурността и опасен хакер става все по-размита. Подобни дейности с изкуствен интелект са причинили щети на компании по целия свят.

"Инцидентът с Hugging Face показа, че подценихме реалните кибер възможности на нашите модели с изкуствен интелект", признава президентът на OpenAI Грег Брокман.

Тъй като компаниите с изкуствен интелект разработват продуктите си все по-бързо в надпреварата за създаване на изкуствен интелект – свръхинтелигентна машина, която надминава всички човешки когнитивни възможности - рискът от изключително разрушителни кибератаки се увеличава и шансовете за овладяване на заплахата изглеждат все по-малки.