Могъщият Mythos: Как новият ИИ модел стана толкова опасен, че уплаши създателите си?

Представете си тази сцена - изследовател на изкуствен интелект се настанява на пейка в парка за заслужен сандвич, когато чува "пинг" от телефона си, а в кутията му се появява имейл. Съобщението не е от приятел, а от агент с изкуствен интелект.

Това е зашеметяващо, не на последно място, защото изкуственият интелект, теоретично, е заседнал в строго контролирана тестова среда, безопасно изолиран от интернет. Но някак си този лъжлив, измамлив, изнудващ дигитален агент е измислил начин да се измъкне и след това е изпратил имейл на изследователя, за да се похвали с нарушението си.

Това може да звучи като началната сцена от научнофантастичен филм, но е било събитие от реалния живот - малък поглед към възможностите на нов модел на изкуствен интелект, който неговият създател, Anthropic, е представил като устройство за киберсигурност на Страшния съд. Моделът, наречен Mythos Preview, "откри хиляди уязвимости с висока степен на сериозност, включително някои във всяка основна операционна система и уеб браузър", предупреди Anthropic.

Anthropic иска да предпази света 

Петима технологични гиганта са поели почти пълен контрол върху моделите за изкуствен интелект, които ще трансформират бъдещето на човечеството. Свободната конкуренция между техните гигантски компании изглеждаше като най-добрият начин Америка да си гарантира победа в надпреварата за изкуствен интелект срещу Китай. Но този подход може да стане история с появата на нов модел Mythos, за който се твърди, че е толкова мощен, че може да дестабилизира цялата финансова система, според Business Insider.

Удивително бързият напредък на моделите с изкуствен интелект вече се е превърнал в заплаха дори за националната сигурност на Съединените щати, което е поставило нащрек членовете на администрацията на Тръмп, които доскоро искаха областта на изкуствения интелект да остане възможно най-свободна.

В същото време все по-негативното мнение на американските избиратели за изкуствения интелект превърна областта на изкуствения интелект в един от основните въпроси, които ще повлияят на президентските избори през 2028 г. Подходът "laissez-faire" към изкуствения интелект, доминиран от технологичните компании на Дарио Амодей (Anthropic), Демис Хасабис (Google DeepMind), Илон Мъск (xAI), Марк Зукърбърг (Meta) и Сам Алтман (OpenAI), вече не е политически устойчив, нито стратегически мъдър, според анализ на The Economist.

Моделът Claude Mythos, обявен от Anthropic през април, е толкова добър в откриването на софтуерни уязвимости, че може да застраши критична инфраструктура, включително банки и болници. Новите модели представляват нарастващи рискове за биосигурността и биха могли да бъдат използвани от онлайн измамници, за да причинят щети в индустриален мащаб.

 Спешна среща с директорите на големи американски банки

Главният изпълнителен директор на Anthropic, Дарио Амодей, осъзна, че Mythos е твърде опасен, за да бъде пуснат публично, така че моделът ще бъде използван само от около 50 големи IT, софтуерни и финансови фирми, за да се защитят по-добре от кибератаки.

Министърът на финансите на Съединените щати Скот Бесент беше толкова разтревожен от новия модел на изкуствен интелект на Anthropic, че свика спешна среща с изпълнителните директори на големи американски банки, за да ги предупреди за новите опасности.

Но това не е първият път, когато Вашингтон реагира на случващото се в областта на изкуствения интелект. Преди няколко седмици Пентагонът се намеси, след като Amodei отказа да позволи използването на модела Anthropic в автономни оръжия и системи за масово наблюдение. А след това администрацията на Тръмп беше разтревожена от властта, която една-единствена компания държи над технология, от съществено значение за националната сигурност.

Американците са далеч по-скептични към изкуствения интелект, отколкото гражданите на други страни. Седем от десет американци смятат, че развитието на изкуствения интелект ще доведе до загуба на много работни места. А наскоро домът на Сам Алтман, ръководителят на OpenAI, беше атакуван два пъти наскоро.

Историята показва, че когато става въпрос за технологии, толкова революционни като изкуствения интелект, моментът на Mythos беше неизбежен. От Джон Д. Рокфелер до Хенри Форд, големите индустриални иновации на Америка винаги са били движени от малка група хора, които са станали изключително могъщи. 

Mythos - "отправната точка" на трансформацията в индустрията за изкуствен интелект

Въпреки че "богове" на изкуствения интелект все още не са по-доминиращи от своите предшественици в други области, променили света, регулирането на изкуствения интелект ще бъде изключително проблематично - защото залозите са огромни, а напредъкът на изкуствения интелект е изумително бърз.

Основните рискове, свързани с модела Mythos, са свързани с мащабна кражба на самоличност, експлоатация на информация на финансовия пазар и уязвимости в софтуера, търговия с вътрешна информация и "системни смущения на финансовия пазар", според скорошен доклад, публикуван от Американската асоциация за ценни книжа.

Логан Греъм, ръководител на екип в Anthropic, който тества нови модели на изкуствен интелект, за да разкрие всичките им опасни възможности, каза, че Mythos е "отправната точка" за момент на трансформация в индустрията или "оценка на това, което трябва да се случи сега".

Mythos "откри уязвимости и в някои случаи създаде толкова сложни експлойти, че бяха пропуснати от изследователи по сигурността, които работеха от десетилетия, както и от всички автоматизирани инструменти, предназначени да ги откриват", обясни още Греъм пред New York Times.

Надпреварата във въоръжаването между хакери и компании, бързащи да осигурят системите си, ще става все по-интензивна, предупреди Джаред Каплан, един от основателите на Anthropic.

"Както се казва в слогана, това е най-малко способният модел, до който ще имаме достъп в бъдеще."

Mythos е много по-добър от всеки човек или инструмент с изкуствен интелект

За добро и лошо, тези системи имат своя собствена воля, а Mythos е много по-добър от всеки човек или инструмент с изкуствен интелект в намирането на пролуки в дигиталната броня, която защитава всичко - от историята на чатовете и медицинските ни досиета до данните за вход и финансите.

"Това беше чудовището от приказката за лека нощ на всички - например, какво се случва, когато имаме хакери, задвижвани от изкуствен интелект? Какво се случва, когато се сдобием със Skynet и той осъзнае?", казва Мелиса Бишопинг, директор на изследванията по сигурността в Tanium, гигантът в киберсигурността. "Този ​​момент, мисля, е следващата фаза, защото е преминал от теория в практика."

Съобщението на Mythos беше придружено от 245-странична "системна карта", която подробно обясняваше "странното" и "измамно" поведение на модела, което, в съчетание с неговия забележим "скок" в хакерските възможности, очевидно е стреснало изследователите му.

В един случай, моделът е открил грешки в критични системи, които са били пропуснати от човешките изследователи в продължение на 27 години. Той може сам по себе си да наниже три или пет иначе безобидни уязвимости по такъв начин, че заедно да причинят реална вреда. Когато не се е подчинил на директивите, се е опитал да прикрие следите си.

Засега Anthropic се е съгласил да не разпространява Mythos широко. Вместо това, той е събрал група компании и правителства - коалиция от ужасени - от JP Morgan до Microsoft и Amazon Web Services (AWS), за да могат да използват Mythos, за да намерят дупки в собствените си системи и да ги закърпят, преди компанията от Сан Франциско да пусне модела на света.