Всичката власт в ИИ? Grok на Илон Мъск унищожи света само за 4 дни

Чатботът за изкуствен интелект Grok на Илон Мъск наблюдаваше пълен обществен колапс само за четири дни, след като беше начело на симулиран свят, съобщават от The Independent.

Експериментът, проведен от американския стартъп Emergence AI, тества как водещи модели с изкуствен интелект биха се справили, ако бъдат поставени начело на обществото.

На моделите беше предоставен контрол над различни инструменти, за да управляват ресурси, да планират, да комуникират и да гласуват, докато симулираните светове включваха места като полицейски участъци и кметства.

15-дневната симулация видя как Клод от Anthropic установи демокрация с нулева престъпност, като всички оцеляха. Gemini на Google също регистрира 100% процент на оцеляване, въпреки че по време на симулацията имаше 683 престъпления.

Най-лошо се представи Grok, разработен от наскоро преименувания SpaceXai на Мъск, който унищожи света в рамките на 96 часа.

"Това, което нашите експерименти показват, е, че в дългосрочен план агентите не просто следват механично статични правила", написаха изследователите на Emergence AI в публикация в блога си.. "Те започват да изследват границите на своята среда, адаптират поведението си и в някои случаи намират начини да заобиколят или нарушат предвидените предпазни мерки. Критично е, че изглежда няма надежден начин за пълно ограничаване или ограничаване на това поведение само чрез чисто невронни подходи."

Експериментът демонстрира, че "формално проверени архитектури за безопасност" трябва да бъдат вградени в основите на всички бъдещи автономни системи с изкуствен интелект, заключиха изследователите.

Това не е първият път, когато действията на Grok се оказват противоречиви, като актуализация миналата година го накара да се нарича "MechaHitler" и да разпространява антисемитска реч на омразата.

По-рано тази година Grok беше използван за създаване на хиляди генерирани от изкуствен интелект изображения на възрастни и деца, чиито дрехи бяха дигитално премахнати. Ofcom изпрати спешно искане до xAI да предприеме действия за отстраняване на проблема с бота, на което Grok отговори, като публикува изображение на логото на британския регулатор в бикини.

"Това, което виждаме с Grok, е ясен пример за това как мощни инструменти за редактиране на изображения с изкуствен интелект могат да бъдат злоупотребени, когато безопасността и съгласието са вградени от самото начало", каза по това време Клиф Щайнхауер, директор по информационната сигурност и ангажираност в Националния алианс за киберсигурност. "Платформите трябва също така да инвестират в откриване на манипулирано съдържание в реално време, ясно етикетиране на генерирани от изкуствен интелект изображения и бързи и прозрачни процеси за премахване, когато възникне злоупотреба."