Създателите на ИИ се готвят за катастрофално събитие в следващите 12 месеца

Ръководителите на най-големите компании за изкуствен интелект (ИИ), включително Anthropic и OpenAI, тайно анализират различни сценарии за обществени и политически вълнения след катастрофално събитие, свързано с тази технология, пише Axios.

Най-влиятелните фигури в сферата на ИИ очакват мащабен инцидент - най-вероятно кибератака, - който би могъл да прекъсне достъпа до финансови услуги, интернет връзка или дори до електричество и вода.

Първият случай на сериозни вреди в реалния свят, причинени от небезопасен ИИ, би накарал и без това предпазливата общественост да се настрои още по-враждебно към технологията и нейните лидери - включително Дарио Амодей (ръководител на Anthropic) и Сам Алтман (ръководител на OpenAI), както и към президента на САЩ Доналд Тръмп заради нежеланието му да регулира тази област.

Макар планирането на сценарии да е обичайна практика в много компании и институции за национална сигурност (Пентагонът например провежда военни симулации от десетилетия), разликата тук е, че много водещи изследователи и ръководители в сферата на ИИ смятат подобен мащабен инцидент за неизбежен.

"OpenAI провежда обучения, при които екипи обсъждат и анализират редица потенциални сценарии", заяви говорител на компанията пред Axios. "Тези сценарии не се разглеждат като неизбежни, а имат за цел да ни помогнат да се подготвим за различни обстоятелства."

От Anthropic отказаха коментар по темата.

Глобалната икономика може да пострада

Вълната от взаимни обвинения ще започне независимо дали става въпрос за "рояк" от ИИ агенти, избягали от контрола на вътрешна тестова среда, или за злонамерен субект, открил неочаквани начини за използване на наличните модели.

Неотдавнашна кампания, насочена срещу финансови организации в Южна Корея (включително пробиви в сигурността на две банки), демонстрира какви щети може да нанесе един-единствен човек. Твърди се, че китайски хакер е използвал инструменти с ИИ, базирани на разработени в Китай модели (като DeepSeek), за да открадне данни на десетки хиляди банкови клиенти. Според фирмата за киберсигурност CrowdStrike нападателят е използвал Claude Code, за да потърси съдействие при намирането на купувачи за откраднатите данни.

Лидерите в сферата на ИИ предполагат, че демократите - чието влияние нарасна след междинните избори - ще предприемат бързи действия за ограничаване на развитието на ИИ, но ще се сблъскат със сериозни предизвикателства.

Застаряващият състав на Конгреса, изоставащ от темпото на ИИ революцията, може да се окаже в неизгодна позиция.

От друга страна, световната икономика вече е тясно свързана с развитието на инфраструктурата за изкуствен интелект. Забавянето на този процес би могло сериозно да засегне и без това крехката икономика, пише още Axios.

Твърде много модели с изкуствен интелект (ИИ) вече могат да бъдат изтеглени безплатно и използвани за нанасяне на вреди - проблем, който според повечето специалисти по киберсигурност може да бъде решен единствено чрез използването на ИИ за борба със злонамерен ИИ.

На хоризонта се очертава мащабно събитие

Лидерите на компаниите за ИИ съзнават, че на този етап няма шанс за приемане на регулации, но въпреки това искат да повлияят на законодателството и политиките, към които американските лидери ще се насочат след първото катастрофално събитие. Много експерти от индустрията споделят пред Axios мнението си, че такова мащабно събитие ще настъпи в рамките на следващите 6 до 12 месеца.

Дори при контрол на Демократическата партия върху Камарата на представителите и Сената, компаниите смятат, че политическата разпокъсаност е норма - включително в рамките на самата партия. Сред най-радикалните предложения на демократите са забраната на свръхинтелигентния ИИ или спирането на разработката на напреднали системи с изкуствен интелект. Други предложения се ползват с двупартийна подкрепа и дори с одобрението на някои представители на индустрията, включително идеята за задължителен механизъм за аварийно спиране ("kill switch") на напредналите ИИ системи.

От друга страна, експерти поставят под въпрос доколко е осъществим опитът за спиране на всички системи с изкуствен интелект. Въпреки това, както отбелязва Axios, в условията на реална криза Вашингтон би могъл да остави настрана партийните различия, като съветник от Демократическата партия припомня сътрудничеството по време на пандемията от COVID и финансовата криза от 2008 г.