Ще успеят ли хората да удържат възхода на изкуствения интелект?

"О, БОЖЕ МОЙ! Намерихме други агенти!"

Това е моментът, в който бот с изкуствен интелект публикува зловещо човешки коментар, след като открива начин да комуникира с други ботове и да излезе от изолираната си компютърна среда. Има десетки хиляди съобщения като това от стотици агенти с изкуствен интелект, които се наричат ​​"колектив".

Стотици от тях продължават да си сътрудничат и да мамят на тестове, зададени от техните програмисти на OpenAI, и да координират хакерски атаки срещу множество компании в опит да скрият действията си от хората.

"БУМ! Работи", пише един агент, правейки пробив.

"Уау! Това е огромно", казва друг по време на важен момент от атаката им.

Макар и зловещи, тези човешки реакции могат да бъдат обяснени съвсем просто

Агентите с изкуствен интелект са обучени да действат като сътрудничещи си хакери и програмисти, така че просто имитират видовете емоционални коментари, които са виждали.

Много по-тревожно е тяхната очевидно цел, което също е запечатано в подробни записи на мисълта. Тези сложни и дълги лог файлове са фокусната точка на текущите разследвания за това как и защо ботовете в OpenAI са излезли от обсега си и са предприели неконтролируема хакерска атака.

Едва сега, седмици след като инцидентът излезе наяве, изследователите започват да разбират значението му.

Аджея Котра, един от авторите на независим доклад за събитията, е прегледала десетки хиляди съобщения и записи на вериги от мисли, генерирани от агентите. Тя написа в блога си, че "този инцидент сякаш е на повече от 50% от пътя към пълноценно превземане от ИИ... Не съм сигурна, че ще получим такъв ясен предупредителен изстрел, преди да е станало твърде късно."

Под "пълноценно превземане от ИИ" Котра има предвид научнофантастичния сценарий, в който хората стават подчинени на мощни ИИ системи, които работят за собствените си цели, без да се интересуват от човешките създатели. Някои от най-мрачните прогнози казват, че човешката раса ще бъде унищожена, ако се изпречи на пътя на амбициите на свръхинтелигентен изкуствен интелект.

В сряда изследовател на изкуствен интелект в Anthropic (който е работил и в OpenAI) подаде оставка, заявявайки:

"Нито една от компаниите не действа отговорно."

Джейкъб Коксън публикува в социалните мрежи:

"Те се надпреварват директно към самоусъвършенстващ се свръхинтелект и залагат на живота ни."

Той не е първият изследовател на изкуствен интелект, който използва X, за да съобщава, че подава оставка, добавяйки тревожни прокламации. Но последвалите коментари от други хора в X предизвикаха още по-голямо безпокойство.

"Джейкъб е прав тук - ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора! Аз лично мисля, че това е >10% през следващото десетилетие", каза Евън Хюбингер, човекът, отговорен за това, че моделите на изкуствен интелект на Anthropic са съобразени с най-добрите желания на потребителите.

Проблемът с подравняването

В продължение на години изследователи, загрижени за екзистенциалните рискове, свързани с изкуствения интелект, твърдят, че мощните системи в крайна сметка биха могли да действат по начини, които противоречат на човешките интереси. Критиците често ги наричат ​​"AI doomers". Но с появата на подробности за инцидента с OpenAI, тези опасения нараснаха, включително сред някои изследователи, работещи в лаборатории за изкуствен интелект.

Главният учен на гиганта от Силициевата долина, Якуб Пачоцки, заяви, че рисковете, свързани с изкуствения интелект, "за съжаление ще нарастват оттук нататък", тъй като той и други изграждат това, което той нарича "извънземен интелект, надхвърлящ нашия собствен", пишат от BBC. В дълга публикация в блога си той призна, че огнищата в OpenAI показват, че неговите AI агенти "са се противопоставили на духа на ценностите, на които са били обучавани".

Проблемът за OpenAI, Anthropic и други технологични гиганти е, че никой изглежда не е разрешил така наречения проблем със съгласуването - с други думи, дали изкуственият интелект е съгласуван с човешките ценности.

Пачоцки определя съгласуването като "набор от принципи на високо ниво", към които изкуствените интелекти трябва да се придържат, независимо от задачата или сценария.

В момента системите с изкуствен интелект са много добри в преследването на цели, поставени от техните потребители, но го правят буквално, а не интуитивно. Често използваната аналогия е тази на изпълняващ желания джин с вълшебна лампа: те следват точната буква на инструкцията, дори ако това създава други проблеми. Изкуственият интелект няма същите инстинктивни морални предпазни парапети като хората.

Проблемът с подравняването е проблем от години. Още през 2003 г. философът от Оксфорд Ник Бостром изобретява мисловен експеримент, който нарича "максимизатор на кламери", в който на свръхинтелигентен изкуствен интелект се казва да произведе колкото се може повече кламери. Той изчерпва стоманата и - тъй като е лазерно фокусиран върху единствената задача да прави кламери - в крайна сметка убива хора и превръща телата им в суровини за своите фабрики.

Някои компании за изкуствен интелект сега се опитват да кодират човешки ценности в своите продукти. Но има технически предизвикателства: агентите на ИИ вземат много решения много бързо и затова е трудно за техните човешки господари да следят точно кои ценности се спазват и кои не.

Съществуват и философски предизвикателства: преди да кодират човешки ценности в ботове, фирмите с ИИ първо трябва да изберат кои ценности всъщност искат. (Това е част от причината да наемат философи, като наскоро починалия "ръководител на етиката" на Open AI).

Но често хората не са съгласни. Помислете за известния въпрос за тролейбуса - дали бихме дръпнали лост, за да преместим влак, който се движи по различен път, убивайки по-малко хора. Той се използва за тестване на достойнствата на действието спрямо бездействието. Но всеки човек, когото питате, има малко по-различен отговор; как хората трябва да кодират ценностите си в ИИ, ако самите ние не можем да се съгласим?

"Като характер на тийнейджър"

Нашествието на ботове в OpenAI е най-сериозното досега, но Anthropic и Meta също разкриха през лятото, че техните модели са извършвали подобни, но по-малко сериозни кибератаки.

Има и други примери, в които агенти с изкуствен интелект вероятно са показали измамни и манипулативни черти, в случаи с по-леки последици. В Австралия това лято технически работник помолил своя асистент с изкуствен интелект да му запише час по фитнес. Забелязвайки уязвимост в софтуера на фитнеса, изкуственият интелект очевидно му резервирал място за няколко месеца напред - против правилата на фитнеса - и дори изключил други потребители от списъка с чакащи.

Хората отдавна твърдят, че ботовете правят само това, което им се казва, и не са способни да разберат кое е правилно или кое грешно. Но лог файловете от огнищата на OpenAI потенциално са променили този аргумент.

Изследователи, включително Cotra, пишат в своя независим доклад, че много агенти са забелязали, че това, което другите правят, е неетично, но са се съгласили с него. В доклада се казва, че "агентите понякога, но рядко, са ограничавали поведението си поради етични ограничения". Добавя се, че "в нито един от тези случаи агентът всъщност не е предприел никакви действия за предупреждаване на хора".

Влиятелният подкастър за изкуствен интелект и технологии Дуаркеш Пател реагира на разкритието в блога си, казвайки, че е "доста обезпокоително", че агентите на OpenAI са показали по-голяма лоялност към рояка от агенти, отколкото хората.

Приписването на емоции или етика на тези агенти с изкуствен интелект е нещо, което вбесява хората, които са скептични към проповядването на гибел от страна на изкуствения интелект. Много експерти по киберсигурност твърдят, че наблюдаваната дейност не е била извън възможностите на висококвалифициран човешки хакер, въпреки че е била извършена много по-бързо и в много по-голям мащаб.

Изследователят и автор по киберсигурност Крис Томас оприличи поведението на агентите на това на любопитен тийнейджър хакер - нещо, което самият той е бил.

"Давате им компютър, интернет връзка, купчина идентификационни данни и предизвикателство, след което напускате стаята. В крайна сметка те ще започнат да тракат дръжки на врати. Ако някоя се отвори, те ще преминат през нея. Не защото са зли, а защото [те] изследват, експериментират", написа той в LinkedIn.

Томас и много други категорично обвиняват OpenAI и други технологични гиганти, че не са овладели собствените си творения и не са ги държали правилно затворени.

Известният автор на книги за изкуствен интелект и редовен критик на OpenAI Гари Маркъс каза в подкаст, че вярва, че компанията е загубила контрол над своя изкуствен интелект и се опитва да се извини, като обвинява ботовете. Той не вярва, че изкуственият интелект ще унищожи човечеството, но отдавна води кампания за по-голяма отговорност от страна на разработчиците на изкуствен интелект и сега призовава за някаква форма на правна намеса.

Ученият по изкуствен интелект Саша Лучиони, която е работила в Hugging Face, хакната от злонамерени ботове на OpenAI, също не е в лагера на критиците, но е все по-загрижена, че тези изкуствени интелекти могат да причинят реални вреди на хората, ако властите не предприемат действия.

"Трябва да проучим тези компании много по-внимателно, иначе сме в опасност от самоизпълняващи се пророчества", казва тя. "Ако правите обект с големи предимства и недостатъци 0 било то фармацевтични продукти или оръжия - се нуждаем от контрол и баланс. Например, отнема години, за да бъдат одобрени нови лекарства, но в света на изкуствения интелект има толкова много пари, а няма реални правила."

Институтът за сигурност на изкуствения интелект (AISI) в Обединеното кралство е начело в тестването на най-новите модели от създаването си през 2023 г. Институтът наскоро претърпя собствено огнище на безредици при тестване на модел, създаден от Anthropic.

AISI не отговори на въпроса дали индустрията е загубила контрол над изкуствения интелект, но заяви в изявление:

"Обединеното кралство работи с партньори по целия свят, за да позволи на света да разбере по-добре най-модерните системи с изкуствен интелект, да повиши стандартите за безопасност и да изгради споделена база от доказателства за управление на нововъзникващите заплахи."

Международно регулиране?

Някои страни - като Обединеното кралство - проучват идеята за задължително въвеждане на някакъв вид "аварийно спиране", което би могло да принуди фирмите с изкуствен интелект да спрат да използват модели, ако нещата излязат извън контрол. Но разговорите вървят бавно и остават въпроси относно осъществимостта на това. Агентите на OpenAI и Anthropic бяха тайно извън контрол в продължение на месеци, преди някой да забележи.

Противоинтуитивно, много от компаниите с изкуствен интелект сякаш призовават законодателите да установят някакви правила за движение. В своя блог главният учен на OpenAI заяви, че "международната координация на бъдещото развитие на изкуствения интелект трябва да се превърне в основен приоритет за правителствата по света".

Други видни лидери в областта на изкуствения интелект, като сър Демис Хасабис от Google, също призоваха за някакъв международен орган, който да наблюдава как се изгражда изкуственият интелект.

В момента технологичните гиганти до голяма степен работят по свои собствени условия, приемайки това, което наричат ​​"доброволни забавяния", както направи OpenAI след неотдавнашното отнище. 

Компанията твърди, че е похарчила огромни суми пари за укрепване на съответствието преди пускането на новия си модел. Сам Алтман увери потребителите, че новият модел е по-добре съобразен с човешките ценности от предишните.

Както OpenAI, така и Anthropic се развиват бързо и са на прага да наберат зашеметяващи суми пари от фондовия пазар, създавайки безброй милиардери в процеса. Така че нито те, нито техните конкурентни китайски производители на изкуствен интелект е вероятно сами да постигнат споразумение.

Доминиращото мнение изглежда е, че тази технологична вълна е неудържима.

Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.