Предупреждение към Г-7: Светът има само няколко години да овладее изкуствения интелект

Главният изпълнителен директор на OpenAI Сам Алтман, ръководителят на Google DeepMind Демис Хасабис и шефът на Anthropic Дарио Амодей са се срещали с хора като Доналд Тръмп тази седмица - и появата им на срещата на върха на Г-7 дойде в напрегнат момент, съобщи "Sky news".

Шефовете на водещите световни компании за изкуствен интелект имат ясно искане към лидерите на Г-7: трябва да измислят начин за управление на изкуствения интелект.

Това беше посланието в залата, докато лидерите на Г-7 завършваха тридневните си разговори във Френските Алпи с работен обяд по напрегнатата тема за изкуствения интелект.

Разговорът се проведе в напрегнат момент.

Преди по-малко от седмица администрацията на Тръмп принуди Anthropic да прекрати достъпа до най-модерния си модел с изкуствен интелект , което предизвика опасения сред западните държави относно "ключовия авариен механизъм", който Вашингтон използва върху цифровите технологии.

И все пак, според хора, запознати с разговорите, никой не е споменал инцидента директно.

Тримата ръководители на отдела за изкуствен интелект фокусираха своите коментари върху теми за сътрудничество и регулация, отправяйки своята позиция за бъдещето на изкуствения интелект.

Хасабис, Алтман и Амодей предупредиха събралите се лидери, че трябва да действат бързо. Точните срокове варираха, но всички бяха единодушни: правителствата имат много малко време, за да овладеят изкуствения интелект.

Хасабис говори за период от три до пет години. Амодей каза, че сме на една до две години от това моделите с изкуствен интелект да бъдат по-добри от хората във всичко. Алтман каза: "След още една или две години очаквам да сме изградили системи с удивителна мощност."

И въпреки че и тримата подчертаха огромните ползи, които това би донесло, те изразиха открита загриженост относно недостатъците.

Не работни места или неравенство – те едва се споменаваха. Това бяха проблеми на националната сигурност: кибертероризъм, биотероризъм, ядрена енергия и военни действия.

Ако настоящата траектория продължи, предупреди Амодей, изкуственият интелект може да се превърне в доминиращ източник на икономическа и военна мощ за народите.

Не е успокояваща мисъл за събралите се лидери извън САЩ, където в крайна сметка са базирани всички водещи компании за изкуствен интелект (DeepMind е в Лондон, но е собственост на Google).

Изправени пред тази перспектива, и тримата ръководители на отдела за изкуствен интелект говориха за необходимостта от международно управление. 
Хасабис заяви, че въпросът е твърде важен, за да бъде оставен на технолозите.
"Трябва да го дефинираме заедно", заяви той. 

Алтман беше още по-категоричен. "Не прехвърляйте отговорностите си на лаборатории за изкуствен интелект като моята", каза той на лидерите на Г-7.
Но ръководителите на ИИ се разминават рязко в мненията си относно това кой трябва да контролира достъпа, как да осигури сигурността на технологията и какви правомощия трябва да имат лабораториите за ИИ.

Свобода или контрол?

Например, Амодей призова за водена от САЩ коалиция от демократични държави, която да контролира достъпа до технологията и да "изолира общи противници" като Китай.

Алтман отхвърли това, казвайки, че след като предпазните мерки бъдат поставени, "трябва да се стремим към човешката свобода. Искаме всеки на земята да се възползва от тази технология и сам да разбере как да я използва".

Друг спор беше относно ролята на лабораториите за изкуствен интелект.
Хасабис призова за "орган, който повишава доверието", предлагайки "орган за технически стандарти, подкрепян от водещи лаборатории". Този нов орган – международен, но ръководен от САЩ – би могъл да адаптира стандартите си всяко тримесечие, когато станат ясни нови рискове, нещо, върху което Хасабис каза, че работи.

Алтман, за разлика от него, предупреди, че лабораториите за изкуствен интелект не трябва да имат твърде голям контрол.

"Има заплаха, по-коварна от техническите рискове на тази технология", добави той. "Това е заплахата, че съвсем реалните рискове, които изкуственият интелект представлява, ще се превърнат в оправдание за концентриране на властта в ръцете на малцина."

Ключовият въпрос: трябва ли управлението на граничния ИИ да се изгражда около ограничаване или широк достъп? И трябва ли експерти или националните правителства да решават?

В своите забележки Киър Стармър не отговори директно на този въпрос, като вместо това избра да се съсредоточи върху общественото съгласие.

Британският премиер се съгласи, че стандартите са спешни предвид темповете на развитие на изкуствения интелект, казвайки: "Ако лидерите в областта на изкуствения интелект са притеснени от това, политиците също са притеснени."

Но вместо да изложи позицията си относно най-добрата рамка за международно управление, той призова за по-добро разбиране на необходимостта от обществено съгласие.

Жизненоважно е да можем да защитим децата и свободата на словото, както и да развиваме изкуствения интелект, каза той.

"Ако не можем да направим и двете неща", каза той в залата, "ще загубим съгласието на обществеността".