Амодей, Алтман и Мъск в един глас: Да се забавят най-мощните модели с ИИ

Ръководителите на водещи компании за изкуствен интелект Дарио Амодей, Сам Алтман и Илон Мъск подкрепиха призиви за забавяне на разработването на най-напредналите модели заради нарастващите рискове, свързани с технологията, предаде Блумбърг.

Главният изпълнителен директор на Anthropic Дарио Амодей заяви в обширна публикация в блога си в събота, че компанията ще въведе допълнителни мерки за безопасност, включително независими оценки. Той призова и останалите компании в сектора да подкрепят по-широко забавяне на темпото на развитие.

Ръководителят на OpenAI Сам Алтман бързо се ангажира да възприеме предложението за "независими оценители с достъп, подобен на този на служителите. Илон Мъск, който оглавява xAI, написа: "Дарио е прав".

Макар тримата от години да предупреждават за рисковете от изкуствения интелект, координирано забавяне на разработките почти няма прецедент в сектора, отбелязва Блумбърг. Досега компаниите пускаха последователно нови продукти в стремежа си да привличат потребители, да увеличават пазарния си дял и приходите.

Обществените опасения се засилиха след масово отразената тази седмица оставка на изследовател от Anthropic, който обвини компанията в безотговорно поведение и предупреди за рискове за съществуването на човечеството. Случаят е поредният от серия предупреждения от представители на сектора, че бързото развитие на технологията създава нарастващи заплахи за националната сигурност и световната икономика.

Същевременно в САЩ се засилва недоволството срещу натоварването на местните ресурси от новите центрове за данни. Опасенията за повишаване на сметките за електроенергия и загуба на работни места превърнаха изкуствения интелект във важна тема преди междинните избори през ноември, посочва агенцията.

Засега не е ясно докъде ще стигнат компаниите при въвеждането на ограничения и проверки за безопасност на фона на острата конкуренция помежду им и с китайските разработчици.

Демис Хасабис, главен учен в Alphabet и съосновател на Google DeepMind, заяви в социалната мрежа Х, че предложената от Амодей посока е правилна, но подробностите трябва да бъдат доработени.

Остават въпроси и дали антимонополните органи биха допуснали координирано регулиране на темпото на разработките, както и как инвеститорите, очакващи висока рентабилност и печалби, биха реагирали на подобно забавяне.

Амодей посочи две основни причини за по-предпазливия си подход: способността на изкуствения интелект да се самоусъвършенства и неотдавнашен инцидент, свързан с OpenAI и Hugging Face, при който група агенти с ИИ са действали съвместно, за да проникнат в чужд уебсайт.

"Трябва да забавим темпото, с което подобряваме възможностите на моделите с ИИ. Напредъкът все пак ще изглежда бърз и трябва да използваме разумно спечеленото време", написа той.

Той подчерта още, че забавянето трябва да отчита конкурентната среда. По думите му то не означава прекратяване на обучението на моделите или на техническия напредък, а осигуряване на достатъчно време компаниите да съгласуват поведението на системите с човешките интереси, да гарантират безопасността им и да подложат резултатите на независима проверка.

През годините на бърз растеж на сектора ръководителите на водещите лаборатории многократно предупреждаваха за потенциални рискове за съществуването на човечеството. Тези предупреждения понякога бяха посрещани със скептицизъм и определяни като опити да се рекламират възможностите на продуктите и разработчиците им да се представят като най-надеждните пазители на технологията. Самият Амодей по-рано оцени на 25 процента вероятността нещата да се развият "наистина зле“.

Anthropic отдавна се представя като компания, която поставя акцент върху отговорното и безопасно разработване на изкуствен интелект, за да ограничи опасностите и да увеличи ползите за обществото. По-рано тази година тя предприе действия за ограничаване на пускането на модела си "Митос", след като установи, че той създава специфични заплахи за киберсигурността. Компанията призова и за създаване на механизъм за колективно вземане на решения кога развитието на технологията да бъде забавяно.

Същевременно „Антропик“ продължава да се конкурира ожесточено с OpenAI в разработването на все по-сложни модели, способни да автоматизират по-трудни и икономически значими задачи за бизнес клиентите.

Двете компании са подали поверително документи за първично публично предлагане на акции, като се очаква Anthropic да дебютира на борсата още тази година, посочва Блумбърг.

Алтман обаче заяви в интервю за списание "Форчън", публикувано в събота, че тази година би била неподходящ момент за излизане на на борсата и че това няма да стане преди 2027 г.

"Смятам, че е неприемливо да поемаме риск от около 10 процента до края на десетилетието всички да загинем", добави той./БТА, Бойчо Попов