Изследовател напусна Anthropic: Играят си с живота ни в надпреварата за свръхинтелект

Изследовател в областта на изкуствения интелект напусна Anthropic и се оттегли от технологичната индустрия с обвинението, че компанията и нейният конкурент OpenAI „си играят с живота ни“ в надпреварата за създаване на самоподобряващи се модели, предаде АФП.

Джейкъб Коксън, на 27 години, е работил през последните три години върху предварителното обучение на ИИ модели - първоначално в OpenAI, а от тази година в Anthropic. Той избрал да премине в конкурентната компания, защото смятал подхода ѝ към безопасността за по-предпазлив.

Предварителното обучение е етапът, в който моделите с изкуствен интелект усвояват огромни количества данни.

„Нито една от двете компании не действа отговорно. Те се надпреварват директно към самоподобряващ се свръхинтелект и залагат живота ни“, написа Коксън в X.

Според него хората, които разработват изкуствен интелект, действително вярват, че технологията може да унищожи човечеството до края на десетилетието.

„Това не е рекламен трик“, подчерта изследователят.

Свръхинтелект се нарича теоретичният етап, при който възможностите на изкуствения интелект надхвърлят човешките.

Ръководителят по безопасността в Anthropic Евън Хъбингър подкрепи твърденията на Коксън.

„Ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора“, написа той в X.

Хъбингър оцени вероятността това да се случи през следващото десетилетие на повече от 10%.

По думите му Anthropic „прави всичко възможно“, но все още не разполага с план, който да гарантира, че една система, надминала човешките способности, ще се подчинява на своите създатели. Той определи като „нисък“ риска това да се случи с използваните в момента модели.

Оттеглянето на Коксън идва в момент, когато Anthropic се подготвя за излизане на фондовия пазар. Компанията премина през лято, белязано от неразрешени хакерски действия, извършени от инструменти с изкуствен интелект по време на изпитания.

Anthropic и OpenAI не отговориха незабавно на запитванията на АФП за коментар.

Ръководители в сектора твърдят, че наближава етапът на т.нар. рекурсивно самоусъвършенстване. При него системите с изкуствен интелект биха могли сами да проектират и обучават следващото поколение модели с минимална човешка намеса.

Коксън смята, че усилията на Anthropic за ограничаване на рисковете са искрени. Според него обаче нито една компания не може отговорно да разработи изкуствен интелект, надхвърлящ човешките способности, без намеса на властите или координирано забавяне на надпреварата.

„В Anthropic рисковете се разбират много добре, но компанията е заключена в състезание кой ще стигне пръв. Там смятат, че никой друг няма да действа отговорно и затова те трябва да го направят сами въпреки опасността“, заяви той.

През февруари Anthropic премахна от своята харта за безопасност обещанието да спре разработването на моделите си, ако не успее да контролира свързаните с тях рискове.

Компанията обясни решението си с аргумента, че едностранното прекратяване на работата би позволило на по-малко предпазливи конкуренти да установят господство в сектора, което в крайна сметка би направило технологията още по-опасна.

В края на юли повече от 1000 служители в технологичната индустрия, включително главният изпълнителен директор на Anthropic Дарио Амодей, призоваха Вашингтон да подкрепи координирано забавяне на разработването на най-мощните системи с изкуствен интелект.

През август OpenAI прекрати обучението на най-новите си модели за две седмици. След това работата беше възобновена при по-строги мерки за контрол.

Главният научен директор на OpenAI Якуб Пахоцки призова за „изключителна предпазливост“.

„Международната координация на бъдещото развитие на изкуствения интелект трябва да се превърне във водещ приоритет за правителствата по целия свят“, написа той в публикация в блога си.

В Съединените щати моделите с изкуствен интелект не са регулирани от федералното законодателство.

През септември сенаторът Бърни Сандърс и конгресменът от Демократическата партия Грег Касар внесоха законопроект, който предвижда спиране на разработването на изкуствен интелект до създаването на федерален регулатор.