От страх до пълни глупости... ИИ може да ни заличи, но печалбата за бизнеса е по-важна

Миналата седмица финансовият директор на OpenAI Сара Фрайър заяви, че най-големите модели на компанията вече могат да обучават по-малки модели, което помага за спестяване на огромните разходи, свързани с обучението на тези системи. Това е пример за рекурсивно самоусъвършенстване (RSI) - процес, при който изкуственият интелект става толкова мощен, че сам може да създаде следващата, още по-мощна система, съобщава Business Insider.

За анализаторите от Уолстрийт и инвеститорите това звучи като чудесна бизнес възможност. За Силициевата долина обаче - и по-специално за някои изследователи, тясно ангажирани с разработката на изкуствен интелект - това е плашещо. Сред тях нараства убеждението, че рекурсивното самоусъвършенстване вече е факт или предстои съвсем скоро.

Съществува вероятност системите с изкуствен интелект да станат много по-мощни за изключително кратко време

Като добавим към това и възхода на AI агентите, които наводняват интернет и вършат както полезни, така и тревожни неща - като например излизане от изолираните среди за тестване ("пясъчници") - не е чудно, че в някои среди на общността, занимаваща се с изкуствен интелект, цари паника.

"Наистина вярваме, че изкуственият интелект може да погуби цялото човечество. Лично аз смятам, че има над 10% вероятност това да се случи през следващото десетилетие", написа миналата седмица в платформата X Евън Хюбингър, ръководител на направлението за наука по "подравняване" (alignment science) в Anthropic.

Други служители на Anthropic и OpenAI изразиха подобни опасения, предизвиквайки бурна реакция в сектора.

Капиталовият пазар обаче гледа на нещата по различен начин. Брад Герстнър от Altimeter Capital - инвеститор в Anthropic и OpenAI - определя тези страхове като "пълни глупости".  За Уолстрийт е неразбираемо защо служители на Anthropic биха заявили, че водещият им продукт ще убива хора, и то точно преди събитие, което може да се превърне в най-голямото първично публично предлагане (IPO) в историята.

Но защо тези хора продължават да работят по изкуствения интелект, ако вярват, че той ще унищожи човечеството?

Business Insider посочва няколко възможни причини: на първо място са финансовите ползи.

Anthropic и OpenAI ще постигнат успех, като създават по-добър изкуствен интелект и го продават. Следователно те трябва да продължат напред, а служителите са част от тази надпревара, дори и да смятат, че технологията може да бъде потенциално опасна.

На второ място, някои изследователи - особено в Anthropic - вярват, че са единствените, на които може да се гласува доверие за безопасното управление на тази технология, и затова трябва да изпреварват всички останали. Ако Anthropic спре работа, а OpenAI или китайски лаборатории продължат напред, ситуацията би била още по-лоша, тъй като според тях на тези други групи не може да се гласува доверие по отношение на мощния изкуствен интелект.

Самюел Маркс, ръководител на направлението за мащабируем надзор в Anthropic, изложи тези аргументи писмено миналата седмица:

"Защо разработчиците на ИИ продължават работа въпреки риска? Поради съчетание от търговски стимули и убеждението, че се надпреварват с други, по-малко отговорни разработчици, които биха злоупотребили с технологията или биха я развивали по по-несигурен начин."

Друго обяснение е свързано с подбора на кадри. Изследователите в областта на ИИ обикновено идват от академичните среди, а не от бизнеса, така че са силно мотивирани да вършат добро. Това означава, че компания като Anthropic не може просто да каже: "Елате да работите тук, ние ще създадем най-мощната машина за печалби в историята, а вие ще станете изключително богати." Вместо това тя им представя идеята, че технологията е толкова опасна, че те трябва да се включат в работата по безопасността и съгласуването на ИИ с човешките ценности, за да "спасят света".

Това е много по-приемливо за изследователите и намалява чувството им за вина, че забогатяват от разработването на ИИ. Освен това ги прави по-склонни да правят апокалиптични прогнози за катастрофално бъдеще.

Загуба на усещането за контрол

Настоящият пик на тревожност относно ИИ се подхранва от нарастващата загуба на усещане за контрол, отбеляза Кайлан Гибс, изпълнителен директор на стартъпа Inworld. С нарастването на мощта на ИИ, контролът върху неговото развитие се съсредоточава в ръцете на малък брой лаборатории.

Дори изследователите в тези компании може да чувстват, че имат слабо влияние върху посоката на развитие на ИИ, което ги оставя с повишено внимание относно рисковете, но с минимален контрол върху крайния резултат. Тази пропаст между осъзнаването и действията поражда тревожност, която прераства в публични предупреждения за екзистенциален риск.

Лидерите в сферата на ИИ си дават сметка за това.

"Хората наистина се нуждаят от възможност да влияят на събитията", каза Сам Алтман в подкаст по-рано тази година. "Хората искат автономия, самоопределение и възможност да участват в оформянето на бъдещето заедно с останалата част от обществото."