Работещите в сферата на ИИ са "искрено уплашени" за бъдещето на човечеството

Изследовател в областта на изкуствения интелект, напуснал компанията Anthropic, заяви, че хората, работещи с тази технология, са "искрено уплашени" от скоростта на нейния напредък и от това какво може да означава тя за човечеството.

"Вярвам, че ако не забавим темпото на сегашния прогрес, съществува голяма вероятност всички ние да загинем в близко бъдеще", споделя той.

Джейкъб Коксън говори пред BBC, след като публикацията му, в която обяви своята оставка заради опасностите от изкуствения интелект (ИИ), стана изключително популярна на фона на нарастващите опасения за безопасността в сектора. Бившият ръководител на 27-годишния специалист - Дарио Амодей, който оглавява Anthropic - наскоро призова за забавяне на развитието на ИИ, макар че някои поставиха под въпрос мотивите зад това искане.

Ръководителите на две конкурентни компании за ИИ - Сам Алтман от OpenAI и Илон Мъск от xAI - също заявиха, че подкрепят предложението на Амодей за забавяне на темпото и въвеждане на регулации в цялата индустрия, както и за независим мониторинг на разработването на модели с изкуствен интелект.

В есе, публикувано в събота, Амодей пише, че самото развитие на технологията не е под въпрос, но свързаните с нея рискове са "сериозни" и че на компаниите и правителствата трябва да се даде време да се справят с тях.

Коксън, който е работил в OpenAI, преди да се присъедини към Anthropic, приветства идеята за забавяне, но отбелязва, че тя трябва да бъде съгласувана с Китай, за да се избегне "надпревара в международен мащаб".

"Хората, работещи в тези компании, са напълно сериозни, когато настояват за регулации, тъй като се чувстват в капана на надпревара. И се страхуват от последиците от тази надпревара", твърди той.

Според Коксън най-трудният въпрос е как би изглеждал един апокалипсис, предизвикан от изкуствен интелект

Един от рисковете, посочени в коментарите на Амодей, е свързан с възможността рояк от ботове, действащи като суперкомпютър, да поеме контрола над интернет.

Коксън казва, че този сценарий би могъл да се превърне в реалност в рамките на шест месеца до една година. В отговор на напускането на Коксън говорител на Anthropic заяви пред BBC News:

"Винаги сме били открити относно факта, че изкуственият интелект ще донесе както огромни ползи, така и безпрецедентни рискове. За да се справим с тези рискове, продължаваме да създаваме модели с едни от най-стабилните защитни механизми в бранша."

Компанията е пионер в изследването на начина, по който работят моделите с изкуствен интелект, добави говорителят. Тя първа публикува рамка за смекчаване на рисковете, свързани с тяхното разработване, като същевременно подлага моделите си на "интензивно" тестване и публикува резултатите, за да улесни външния контрол и да предотврати инциденти, произтичащи от "несъответствие в целите на изкуствения интелект" (т.нар. AI misalignment).

"Именно заради тази дейност вярваме, че светът би спечелил, ако индустрията възприеме законосъобразен и подлежащ на проверка подход за съвместна работа, с който да се регулира темпото на пускане на мощни модели", добавят от компанията.

Коксън споделя, че колегите му се опасяват, че тази опасност може да се прояви още в следващите две години. По думите му служителите в компаниите за изкуствен интелект "планират бъдещето си и размишляват върху последиците от своята работа", като някои дори "обмислят закупуването на земя, тъй като са силно обезпокоени от нестабилността, породена от бурния напредък на технологиите".

"Всички те мислят за това ежедневно, докато работят по въпросните технологии."

Въпреки това Коксън изразява и известен оптимизъм за бъдещето на изкуствения интелект, като казва пред BBC, че хората, занимаващи се с изследвания в тази област, "искрено искат да видят положителните страни" - като например "лечение на болести и подобряване на живота на всички хора".

Мнозина работещи в бранша също изразиха опасенията си след публикацията на Коксън в социалните мрежи, включително ученият от Anthropic Евън Хюбингър.

"Ние наистина, искрено вярваме, че изкуственият интелект може да унищожи цялото човечество! Лично аз смятам, че вероятността е над 10% през следващото десетилетие", казва Хюбингър.

Компютърният специалист и носител на Нобелова награда Джефри Хинтън, известен като "кръстника на изкуствения интелект", заяви пред Би Би Си в петък, че вероятност от 10% изкуственият интелект да унищожи цялото човечество "не е нереалистична".

Междувременно Марк Уорнър, изпълнителен директор на компанията за безопасност на изкуствения интелект Faculty, каза пред BBC този уикенд, че е "изключително трудно да се определи вероятност" за това изкуственият интелект да унищожи човечеството.

"Важно е обаче да се признае, че тези хора са напълно искрени в твърденията си", добави той, като отбеляза, че рисковете, свързани с изкуствения интелект, от години се посочват от ръководителите на редица компании в този сектор.

Бившият министър-председател Риши Сунак, който е платен съветник на компанията Anthropic, написа в есе в "Sunday Times", че също е загрижен за риска, който изкуственият интелект крие за човечеството, въпреки че по принцип е оптимист.

Драматичните предупреждения от вътрешни лица относно изкуствения интелект не убеждават всички в Силициевата долина

Някои фигури в бранша обаче предполагат, че коментарите за опасностите и мощта на изкуствения интелект може да целят създаване на шум и сензация.

Изпълнителният директор на платформата за изкуствен интелект Hugging Face Клеман Деланг написа в социалните мрежи:

"Извинете, но да питате Джейкъб (Коксън) за риска от изчезване на човечеството заради изкуствения интелект е все едно да питате техника за климатици за климатичните промени. Не казвам, че темата сама по себе си не е интересна или че твърдението е погрешно, но нека гледаме на нещата в правилната перспектива."

След публикуването на есето на Амодей обаче, Деланг предложи помощта си за част от потенциалните решения, предложени от ръководителя на Anthropic.

Ръководителят на Nvidia Дженсън Хуанг също е коментирал изказванията на Коксън по време на конференция, организирана от инвестиционната банка Goldman Sachs миналата седмица. Според присъстващи на събитието той ги е отхвърлил като неверни.

Хуанг и преди е заявявал, че схващането, според което изкуственият интелект ще доведе до "края на човечеството", е "пълна глупост".

И макар да има бизнес интерес от бума на изкуствения интелект - тъй като Nvidia произвежда чипове, задвижващи системи с ИИ - коментарите му отразяват нарастващата съпротива в Силициевата долина срещу предупрежденията за екзистенциална заплаха, идващи от настоящи и бивши служители.

Според други критици Anthropic се опитва да инициира регулаторни мерки за блокиране на конкуренцията, което би оставила компанията и OpenAI в позиция на дуопол.

Съобщава се, че Anthropic се подготвя за първично публично предлагане (IPO), което може да постави рекорд, позволявайки на инвеститорите да закупят акции от компанията.

Очакваше се OpenAI - чиято пазарна оценка наскоро достигна 852 млрд. долара (630 млрд. паунда) - да предприеме същата стъпка, но в петък Алтман от OpenAI заяви, че това няма да се случи през настоящата година, като се позова на опасения, свързани с безопасността.