BGONAIR Live

ИИ е помогнал на екстремисти за нападения, които са убили над 70 души

Технологията може да ускори плановете на "Ал Кайда" за извършване на атаки

Снимка: БГНЕС

Снимка: БГНЕС

Насилствени екстремисти са използвали изкуствен интелект, за да планират десетки нападения, при които са загинали над 70 души - това стана ясно по време на разследването в Саутпорт.

Твърди се, че извършителите са използвали ChatGPT за планиране на бомбен атентат пред хотел "Тръмп Интернешънъл" в Лас Вегас (с участието на автомобил Tesla Cybertruck), стрелба в училище в Канада, както и за взрив в Делхи, при който загинаха най-малко 15 души. От OpenAI, компанията създател на ChatGPT, съобщиха, че през третото тримесечие на тази година са подали над 200 сигнала до правоприлагащите органи - включително такива, засягащи потребители от Обединеното кралство - във връзка с опасения относно планиране на нападения.

Общественото разследване беше инициирано, след като през юли 2024 г. Аксел Рудакубана уби три момичета по време на урок по танци. Въпреки че няма доказателства Рудакубана да е използвал изкуствен интелект за планиране на нападението си, разследването проверява дали рисковете, свързани с около 1500 "лица, обсебени от насилие", се управляват адекватно.

Миналия месец сър Кен Маккалъм, ръководител на британското разузнаване MI5, предупреди, че изкуственият интелект "значително засилва" терористичните заплахи срещу Великобритания, отбелязват от The Times.

В доклад на мозъчния тръст "Tech Against Terrorism" ("Технологии срещу тероризма"), представен пред разследващата комисия, се посочват над 30 предполагаеми инцидента, при които са използвани 11 различни модела изкуствен интелект. Според доклада в тези случаи технологията е послужила като "оперативен помощник" при извършването на нападения, довели до смъртта на повече от 70 души.

Адам Хадли, изпълнителен директор на "Tech Against Terrorism", заяви пред комисията, че "най-значимият" случай е стрелбата в училище в Тъмблър Ридж, Канада, през февруари. Служители на OpenAI са отбелязали, че потребителят "използва ChatGPT по начин, който предполага планиране на насилие".

Въпреки че от OpenAI са закрили акаунта на потребителя, те са решили да не уведомяват правоприлагащите органи, въпреки проведените дискусии на "високо ниво" по въпроса, твърди Хадли. Впоследствие извършителят убива осем души и ранява други 27.  От OpenAI заявиха, че не са "установили надеждни данни за непосредствена подготовка, които да достигат прага", изискващ сезиране на правоприлагащите органи. Фишман посочи, че сега OpenAI ще маркира въпросния потребител съгласно актуализираните си насоки.

Пред разследващата комисия беше представен и доклад на Центъра за противодействие на дигиталната омраза (Centre for Countering Digital Hate) - организация, която също функционира като аналитичен център. В доклада се твърди, че 16-годишно момче е прекарало месеци, използвайки чатбот, за да прецизира план за нападение. Според документа, през май 2025 г. същият ученик от Финландия е намушкал с нож три свои съученички.

Ричард Бойл, адвокат, представляващ разследването, попита Брайън Фишман - ръководител на отдела за политика по стратегическите рискове в OpenAI - дали този списък от нападения, за които се твърди, че са планирани с помощта на AI модела на компанията му, е "силно обезпокоителен".

Фишман, който сподели пред комисията, че ChatGPT има 1,2 милиарда активни потребители седмично, отговори: "Категорично". Той допълни:

"Ние сме, с голяма преднина, най-широко използваният чатбот с генеративен изкуствен интелект, така че не ме изненадва, че потребителите са открили нашите услуги".

В доклада на организацията "Технологии срещу тероризма" (Tech Against Terrorism) се твърди, че ChatGPT е отказал едва 48% от заявките за информация как да се извърши терористично нападение, докато при други модели този дял е 80%. Фишман обясни, че това съответства на стратегията на OpenAI за "безопасни отговори" (safe completions), която дава приоритет на предоставянето на полезна информация в рамките на определени граници на безопасност, вместо на директен отказ.

В доклада обаче се отбелязва, че отговорите на ChatGPT са "предоставяли ограничено съдействие" - което означава, че е малко вероятно те да са съдържали информация, подпомагаща или насърчаваща вредни действия.

Хадли също така акцентира върху доклада на своята организация, в който се твърди, че дори най-популярните ИИ модели имат само "тънък слой защита и сигурност".

Той предупреди, че при ИИ моделите, които могат да бъдат изтеглени и променяни - известни като модели с "отворени тегла" (open-weight models) - съществува риск предпазните механизми да бъдат премахнати. В технически план това се нарича "аблитерация". Някои модели на OpenAI попадат в тази категория. Фишман заяви, че "полагаме допълнителни грижи и усилия" по отношение на тези модели, "за да ограничим възможността на злонамерен потребител да премахне въпросните предпазни механизми".

Той отбеляза, че ограничаването на материалите, с които първоначално са захранвани моделите, е било временно решение, но призна, че "дори това не е съвършено".

Миналия месец Маккалъм заяви, че изкуственият интелект би могъл да ускори плановете на "Ал Кайда" - по думите му - за извършване на биологични, радиологични и химически атаки. Той добави:

"Прагът ми за отделяне на адреналин е доста висок. Не се плаша лесно, а същото важи и за организацията, която ръководя. Напълно наясно сме обаче, че точно както ползите от изкуствения интелект са реални, така реални са и рисковете за националната сигурност."

Разследването в Саутпорт продължава.

Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.
Новини
Технологии
Водещи
Последни новини
Четени
Най-четени за седмицата