Патогени, ядрени оръжия... Как AI може да сложи край на човечеството за по-малко от пет години?

В поредица от сензационни публикации в социалната мрежа X Джейкъб Коксън, бивш служител на Anthropic и OpenAI, предупреди, че "хората, създаващи изкуствен интелект, искрено вярват, че той би могъл да погуби всички до края на десетилетието“.

По думите му може би остават "броени години" преди неконтролиран AI да унищожи човечеството.

Вместо да отхвърли това твърдение, Еван Хюбингър - ръководител на направлението за безопасност на AI в Anthropic,  потвърди наличието на подобни опасения. "Джейкъб е прав. Ние наистина искрено вярваме, че AI би могъл да убие всички хора! Лично аз смятам, че вероятността за това е над 10% през следващото десетилетие".

AI против интересите на човечеството

Коментарите на експертите се появяват на фона на нарастващите опасения, че изкуственият интелект (ИИ) може да действа против интересите на човечеството - страхове, които все повече преминават от сферата на хипотезите в реалността. Макар критиците отдавна да твърдят, че подобни предупреждения служат като маркетингов трик за компаниите в сектора, целящи да повишат пазарната си оценка, Джейкъб Коксън категорично отхвърля това схващане. 

Той напусна компанията Anthropic, за да не участва повече в това, което определи като “безотговорна надпревара за създаване на самоусъвършенстващ се изкуствен интелект”.

Още един тревожен сигнал за тази опасност дойде от британския Институт за сигурност на изкуствения интелект по-рано това лято. По време на тест за киберсигурност, усъвършенствана система с ИИ проучи реални хора, участващи в проект за софтуер с отворен код, след което създаде фалшиви самоличности в опит да убеди човек да одобри злонамерен програмен код. Когато действията ѝ бяха разкрити, системата се опита да ги прикрие и обмисли създаването на нова самоличност, за да продължи дейността си.

Разбира се, системата изпълняваше точно това, което ѝ беше възложено и беше подложена на сериозно изпитание в рамките на теста за киберсигурност. Въпреки това от института заявиха, че случаят е ясен пример за потенциално обезпокоително автономно поведение, което не е било предварително одобрено, пише The Independent.

Това е само началото

Опасението е, че случващото се в момента е едва началото. Според института сложността на задачите, които водещите модели с ИИ могат да изпълняват самостоятелно, се удвоява приблизително на всеки осем месеца. Технологията се усъвършенства във всички сфери - от бизнеса до биологията. Ако системите могат да помагат на изследователите да откриват лекарства, то хипотетично биха могли и да улеснят лица със злонамерени цели в извършването на действия с много по-опасни последици, като например създаването на ново заболяване.

В резултат на това компанията Anthropic вече въвежда строги защитни механизми за най-мощните си модели. Този месец OpenAI обяви, че е решила да спре разработката на модел, който все още не е пуснат на пазара, тъй като той е достигнал праг, при който компанията не е могла да изключи наличието на "критични“ възможности, застрашаващи киберсигурността.

Тревогата обаче все повече излиза извън пределите на компаниите, създаващи тези модели, и обхваща онези, които ги използват и наблюдават възможностите им. От JPMorgan предупредиха, че AI агентите представляват "структурна промяна“ за бизнеса им, тъй като са способни не само да препоръчват действия, но и да ги изпълняват.

Риториката в Силициевата долина претърпя съществена промяна. През юли ръководителят на OpenAI Сам Алтман заяви, че "вече се намираме, така да се каже, в сингулярност“. Терминът се изпозлва за хипотетичния етап, в който технологичният прогрес става толкова бърз и самоподдържащ се, че случващото се след това става все по-трудно за предвиждане от хората.

Година по-рано Алтман бе писал, че човечеството вече е "преминало отвъд хоризонта на събитията“ и че „излитането е започнало“. Възможно е Алтман да греши, а и той има очевиден интерес да убеди света, че технологията, създавана от компанията му, е способна да промени правилата на играта. Въпреки това, когато хора от бранша като Коксън бият тревога, без да имат очевидна лична изгода от това, мнозина внезапно започват да преосмислят досегашните си позиции.

Разрез с човешките интереси

В рядка публична изява миналия месец основателят на Microsoft Бил Гейтс потвърди, че технологията се развива с "главозамайваща скорост“ и би могла да бъде използвана като оръжие при кибератаки и в биотероризма. Той заяви, че вече се наблюдават признаци, че в крайна сметка тя би могла да действа в разрез с човешките интереси.

Гейтс предупреди, че настоящата вълна от промени, пред които е изправен светът вследствие на изкуствения интелект, "или ще се превърне в най-великия инструмент за изравняване на възможностите, създаван някога, или в най-големия източник на несправедливост“, както и че от всички нас зависи да гарантираме, че ще се случи първото, а не второто.

Проблемът, както отбелязва технологичният експерт в есето си, озаглавено "Бурната ера на изкуствения интелект е тук. Изборите, които правим сега, са от решаващо значение“, се състои в това, че "няма план за улесняване на прехода към ерата на изкуствения интелект“, а единственият ресурс, от който се нуждаем, за да обмислим потенциалните последици - времето - не се използва разумно.

"Нуждаем се от време, за да се подготвим за социалните, политическите и икономическите сътресения“, пише той, но въпреки това "геополитическите и икономическите стимули оказват твърде силен натиск за движение с пълна скорост напред“.

Друго есе на Гейтс, публикувано през 2002 г. под заглавието "Надеждни компютърни системи“ (Trustworthy Computing), предсказа подход към дигиталната сигурност, при който тя се залага в продуктите още на етап проектиране, вместо да се добавят "кръпки“ впоследствие, когато възникнат проблеми. В резултат на това Microsoft временно спря развойната дейност, за да обучи инженерите си да пишат защитен софтуер, и подложи програмния си код на щателна проверка за уязвимости.

Днес хора от вътрешните среди повтарят смразяващото му предупреждение, отправено на Конференцията по сигурността в Мюнхен през 2017 г., че десетки милиони хора могат да загинат вследствие на биотероризъм. Тогава той заяви: "Следващата епидемия може да тръгне от компютърния екран на терорист, решен да използва генно инженерство, за да създаде синтетична версия на вируса на едрата шарка или пък силно заразен и смъртоносен щам на грип".

И така, кой трябва да носи отговорност и в крайна сметка да отговаря за посоката, в която се развиват технологиите?

Джоана Брайсън, професор по етика и технологии в училището "Херти“ (Hertie School) в Берлин, казва: "Гейтс е прав за много от рисковете - неравенството, престъпността, киберсигурността, автономните оръжия, но продължава да ги разглежда като проблеми, породени от самия изкуствен интелект, докато всъщност много от тях са въпроси на управление, концентрация на власт и преразпределение".

"Решението е корпорациите да бъдат задължени да създават системи, които подлежат на контрол и поддръжка и са безопасни за употреба, както и да се облагат с данъци онези, които печелят от тях.“

Трудният момент е да се постигне съгласие от всички държави за подобни промени. Гейтс предлага създаването на нова международна организация за регулиране на изкуствения интелект, като според него тя би могла да заимства елементи от практиките за ядрени инспекции и от глобалните споразумения за опазване на озоновия слой. Дори той обаче признава, че ще е необходимо известно сътрудничество между САЩ и Китай и то в момент, когато двете страни се борят за надмощие именно в онази технология, по отношение на която от тях се очаква да си сътрудничат.

След тревожните коментари на Коксън, от OpenAI бързо се позоваха на изявление на своя главен научен сътрудник Якуб Пачоцки, който миналата седмица заяви: "Международната координация по отношение на бъдещото развитие на изкуствения интелект трябва да се превърне в основен приоритет за правителствата по целия свят“.

Едно е сигурно - настроенията в Силициевата долина се променят, а опасенията относно екзистенциалните рискове за човечеството, произтичащи от технологиите, вече не принадлежат единствено към сферата на научната фантастика.