Предлагат пауза в развитието на ИИ "за доброто на човечеството"

Ами ако, за да дадем време на човечеството да се адаптира, поставим развитието на изкуствения интелект на пауза? Това е идеята, предложена от Anthropic, която се застъпва за създаването на глобална система за координация, така че никой съперник да не може да се възползва от ситуацията, за да получи предимство.

Anthropic, една от водещите американски компании за изкуствен интелект (ИИ), представи в четвъртък, 4 юни, идеята за създаване на система, позволяваща на защитниците на тази технология да се споразумеят да забавят или спрат развитието ѝ, докато човечеството се адаптира, съобщават от AFP.

"Вярваме, че би било добре светът да има възможността да забави или временно да спре развитието на авангарден изкуствен интелект, за да позволи на обществените структури и изследванията върху съгласуваността да са в крак с технологичния напредък", твърди компанията в текст, публикуван от нейния мозъчен тръст Anthropic Institute.

Компанията, която е в ожесточена конкуренция с OpenAI, Google и китайската компания DeepSeek, се застъпва за създаването на глобална система за координация, така че никой съперник да не може да се възползва от ситуацията, за да получи предимство.

Anthropic, създателят на моделите Claude, цитира прецедента на Договора за ядрените сили със среден обсег (INF). Компанията подчертава, че създаването на тази рамка е отнело десетилетия, но че времето е по-належащо за изкуствения интелект, който се счита за "много по-лесен за скриване от ракетните силози".

В Съединените щати се появява съпротива

"При липса на глобален механизъм за координация, компаниите и правителствата ще трябва да вземат трудни решения за сигурност под натиск от конкуренцията и геополитическите проблеми", пише компанията.

Очаква се предложението да се сблъска със силна съпротива в Съединените щати, където много технологични ръководители и лидери се противопоставят на всяко забавяне, което би дало на Китай решаващо предимство. Доналд Тръмп обаче заяви, че е повдигнал възможността за сътрудничество с Китай по отношение на сигурността на изкуствения интелект по време на неотдавнашно посещение в Пекин.

Anthropic, основана от дисиденти от OpenAI, си е изградила имидж на лаборатория, която дава приоритет на етиката и сигурността. Тя обаче е изправена пред критики от страна на индустрията и служители на Белия дом, които я обвиняват в преувеличаване на рисковете и дори в "маркетинг на страх" на фона на надпреварата си с OpenAI за първично публично предлагане.

През последните два месеца Anthropic ограничи разпространението на Mythos, най-модерния си модел, за да внедри корекции за киберсигурност, преди да го направи публично достъпен. Anthropic обяви пускането на модели с еквивалентна производителност "през следващите седмици" и се очакват сравними системи от конкурентите ѝ.

Компанията обосновава предложението си, като разкрива вътрешни данни, илюстриращи възможността един ден да се достигне "рекурсивно самоусъвършенстване", т.е. точката, в която системите с изкуствен интелект ще станат способни да обучават своите наследници с намалена човешка роля.

"Няма гаранция, че подобна промяна е неизбежна", предупреждава компанията, но "ако настоящите тенденции продължат", тя би станала "правдоподобна". Компанията го вижда както като скок напред за медицината, технологиите и икономиката, така и като риск от "загуба на контрол".