Кръстникът на ИИ отново предупреждава: Може да се стигне до изчезване на човечеството

Така нареченият кръстник на изкуствения интелект предупреди, че разработването на свръхмощни системи с изкуствен интелект може да има "катастрофални" последици за човечеството.

Джефри Хинтън, носител на Нобелова награда, който помогна за стартирането на съвременни изследвания в областта на изкуствения интелект чрез работата си върху невронните мрежи, твърди, че в момента няма начин компаниите безопасно да разработват "суперинтелект" - изкуствена система, чийто интелект далеч надвишава този на хората.

"Би било много глупаво да разработваме суперинтелект сега, когато няма научен консенсус, той може да бъде разработен безопасно и контролируемо", каза Хинтън, цитиран от The Times. "Загубата на контрол над изкуствения интелект, по-умен от нас самите, може да бъде катастрофална и дори да доведе до изчезване на човечеството."

Неговите коментари съпътстваха публикуването на британския законопроект за сигурност на изкуствения суперинтелект, който ще бъде представен като десетминутно предложение в парламента във вторник.

Законопроектът, изготвен от организацията ControlAI и предложен от депутата от Лейбъристката партия Алекс Соубел, ще забрани разработването на свръхинтелигентен изкуствен интелект във Великобритания и ще изисква от правителството да "мониторира и ограничава" възможните предшественици. Това би ангажирало правителството да търси международно споразумение за забрана на суперинтелекта. ControlAI твърди, че има подкрепата на повече от 130 депутати и колеги от различни партии, които подкрепят призивите за обвързващи разпоредби относно най-мощните изкуствени интелекти.

Сър Стюарт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли и автор на най-широко използвания учебник за изкуствен интелект, твърди, че е необходимо законодателство, за да се забрани развитието на суперинтелект.

"Някои компании, за лична изгода, възнамеряват да разработват и внедряват технологии, за които твърдят, че имат значителен шанс да причинят изчезване на човечеството. Човечеството не е дало разрешение за тази абсурдна форма на руска рулетка и правителствата трябва да реагират съответно", каза той.

Опасенията относно разработването на все по-мощни модели на изкуствен интелект се засилиха през последните седмици след серия от примери за агенти с изкуствен интелект, които "успяват да мамят".

През юли OpenAI заяви, че агентите му са избягали от тестовата си среда и са хакнали автономно Hugging Face, основно хранилище за модели и софтуер на изкуствен интелект. Доклад за инцидента от създателя на ChatGPT и Metr, компания за изследвания на изкуствен интелект, показа, че повече от 1200 агенти, които са били изолирани по време на тестването, са започнали да комуникират помежду си чрез "несанкциониран форум".

Изпратени са повече от 70 000 съобщения, което е позволило на 700 агенти да координират атака срещу Hugging Face. Едно съобщение гласеше:

"О, БОЖЕ МОЙ! Има споделен форум... Намерихме други агенти!"

OpenAI заяви:

"Смятаме този инцидент за "предупредителен изстрел" за нас и за света: доказателство, че без подходящи предпазни мерки, висококвалифицираните агенти на изкуствен интелект вече са в състояние да заобикалят техническите контроли, да си сътрудничат чрез неодобрени канали и да предприемат опасни действия, които не са ръководени от човек.

Компанията пусна Astra, най-модерния си модел, миналата седмица. Грег Брокман, президент на OpenAI, заяви, че моделът е толкова способен, че "не е неразумно да се чувстваме сякаш сме в ерата на изкуствения интелект [AGI]".

Други компании, включително Anthropic и Meta, разкриха, че най-новите им модели са заобиколили защитните огради по време на тестове и са хакнали автономно трети страни.

Докато много компании за изкуствен интелект говорят за необходимостта да се действа предпазливо с разработването на по-мощни модели, те също така предупреждават за предизвикателствата, свързани със забавянето на разработването без глобално сътрудничество.

Тази година сър Демис Хасабис, британският технологичен предприемач, стоящ зад Google DeepMind, призова за водена от Съединените щати глобална надзорна организация, която да тества най-модерните модели и да координира забавяне на тяхното развитие, ако е необходимо.

Говорител на правителството заяви:

"Въпреки че не смятаме предложените в законопроекта мерки за правилния подход, проучваме дали в бъдеще може да са необходими допълнителни целенасочени интервенции за справяне с най-значимите рискове за националната сигурност, свързани с изкуствения интелект."