До две години достатъчно мощни AI могат да убият много хора

AI системите ще бъдат достатъчно мощни, за да "убият много хора" само за две години, предупреди съветникът на британския премиер Риши Сунак по изкуствения интелект.

Мат Клифърд, който помага на министър-председателя да създаде правителствената работна група за AI, каза, че политиците трябва да са подготвени за заплахи, вариращи от кибератаки до създаването на биооръжия, ако човечеството не успее да намери начин да контролира технологията.

"Може да се появят наистина много опасни заплахи, които да доведат до смъртта на много хора, но не всички. Моделите показват, че това може да се случи след две години", каза той, говорейки по TalkTV.

В средносрочен план експертите предупреждават, че AI може да се използва за проектиране на химически и биологични оръжия и за извършване на масирани атаки в интернет. Миналата седмица изявление, подписано от 350 експерти по изкуствен интелект, включително главния изпълнителен директор на OpenAI, който разработи ChatGPT, предупреди, че има риск в дългосрочен план технологията да доведе до изчезването на човечеството.

Клифърд, който председателства правителствената Агенция за напреднали изследвания и изобретения (Aria), каза, че това "звучи като сюжет на филм", но всъщност е реалност,  а това е една от причините, поради които държавите трябва да работят през границите, за да създадат регулации.

"Видът екзистенциален риск, за който според мен говореха авторите на писмото, е. . . какво се случва, след като ефективно създадем нов вид, знаете интелект, който е по-голям от човешкия", каза той, добавяйки, че в можем да имаме компютър, по-умен от човек в рамките на две години.

"Ако се опитаме да създадем изкуствен интелект, който е по-интелигентен от хората и не знаем как да го контролираме, тогава това ще създаде потенциал за всякакви рискове сега и в бъдеще. . . правилно е това да бъде много високо в дневния ред на политиците."

Това, което го притеснява експертите, каза той, е, че "хората, които изграждат най-способните системи, свободно признават, че не разбират точно как проявяват поведението си". На въпрос дали това е "доста ужасяващо", Клифърд отговори: "Абсолютно".

Въпреки това, Клифърд каза, че AI също има потенциала да бъде преобладаваща сила за добро - при условие, че намерим начини да го контролираме. "Ако всичко върви правилно. AI ще може да лекува болести, да прави икономиката по-продуктивна, да помага да стигнем до въглеродно неутрална икономика."

Глобалните регулатори се опитват да се справят с технологията, която се движи с бързи темпове. Както Белият дом, така и Даунинг стрийт свикаха срещи на върха на лидерите на AI през последните седмици, за да намерят път напред.

Сунак има желание да популяризира Обединеното кралство като възможен център за бъдещ глобален регулатор, моделиран по ядрения орган Международната агенция за атомна енергия. Той също така се интересува от развитието на международна изследователска организация, подобна на Cern, изследователския център за частици.

Европейските и американските регулатори се срещнаха в Швеция тази седмица, за да намерят допирни точки относно доброволен кодекс на поведение за фирмите с AI, въпреки индикациите, че имат различия в подхода.

Брюксел напредва със Закона за изкуствения интелект, който ще определи определени видове технологии като високо или нискорискови. Както САЩ, така и Обединеното кралство се стремят да разработят подходи, които не вредят на иновациите, но Сунак наскоро сигнализира, че Великобритания може да възприеме по-интервенционистки подход, отколкото първоначално посочи в скорошна бяла книга.

Тъй като предупрежденията от някои кръгове на AI индустрията стават все по-силни и по-екстремни, някои в сектора смятат, че притеснението може да е самоцелно.

Арвинд Нараянан, професор по компютърни науки в Принстън, написа миналата седмица: "Историята на технологиите до момента предполага, че най-големите рискове идват не от самата технология, а от хората, които контролират технологията, използвайки я, за да натрупат власт и богатство. Трябва да внимаваме с прометеите, които искат едновременно да спечелят от донасянето на огън на хората и да им се вярва като огнеборци."