"Късметът може да изчезне": Защо атомната бомба не е пример за управление на ИИ?

Изкуственият интелект все по-често се сравнява с ядрените оръжия - от Илон Мъск и Сам Алтман до американски държавни служители и изследователи в областта. Тази аналогия обаче има съществени ограничения. За разлика от материалите, необходими за направата на бомба, които могат да бъдат проследявани и отчитани, моделите на изкуствен интелект могат да бъдат копирани, прехвърляни и адаптирани, а развитието им се доминира от частни компании.

Освен това светът все още не е преживял момент, съпоставим с Хирошима и Нагасаки, който да превърне рисковете, свързани с изкуствения интелект, от теоретични сценарии в неоспорима реалност. Авторите на анализ, цитиран от списание "Foreign Affairs", твърдят, че опитът да се изгради система за управление на изкуствения интелект по модела на ядрената енергетика крие риск да се пренебрегнат именно онези особености, които правят тази технология толкова трудна за контролиране.

В стремежа си да ограничат опасностите, произтичащи от бързото развитие на изкуствения интелект, много изследователи, предприемачи и държавни служители се обръщат към най-революционната технология, която го предхожда - ядрените оръжия.

Илон Мъск, изпълнителен директор на SpaceX, определя изкуствения интелект като "далеч по-опасен от ядрените оръжия". Дарио Амодей, изпълнителен директор на Anthropic, препоръчва на служителите си да прочетат книгата "Създаването на атомната бомба" и се сравнява с Лео Силард - един от учените, участвали в проекта "Манхатън". Амодей описва най-мощните модели на изкуствен интелект като "ядрени материали, които могат да бъдат превърнати в оръжия".

Когато го питат как би могла да се регулира технология като изкуствения интелект, Сам Алтман, изпълнителен директор на OpenAI, често дава за пример Международната агенция за атомна енергия - международния орган, отговарящ за надзора върху ядрената дейност. Същото сравнение прави и директорът на ЦРУ Джон Ратклиф.

Наистина съществуват прилики

Усъвършенстваният изкуствен интелект е мощна и трудна за контролиране технология, точно както ядрената. И двете могат да се използват както за граждански, така и за опасни цели. Освен това надпреварата за постигане на напредък в областта на изкуствения интелект би могла да окаже въздействие върху глобалния баланс на силите, съпоставимо - поне в някои отношения - с последиците от надпреварата във въоръжаването по време на Студената война.

Оттук идва и изкушението ядреният опит да се разглежда като модел за управление на изкуствения интелект.

Проблемът е, че това сравнение може да създаде прекалено оптимистична представа за успеха на режима за ядрен контрол и да заличи съществените разлики между двете технологии. Ядрените материали могат да бъдат проследявани и отчитани в много по-голяма степен, отколкото компонентите на една система с изкуствен интелект. Ядрените оръжия са проектирани и създадени под строг държавен контрол и продължават да бъдат основно под юрисдикцията на държавите. Изкуственият интелект се разработва предимно от частни компании, водени от силни търговски интереси и развиващи се с темпо, с което публичните институции трудно успяват да се справят.

Освен това ядрените технологии имат сравнително ясно дефинирани сфери на приложение. Изкуственият интелект (ИИ) може да се използва в почти всеки сектор - от медицината и икономиката до сигурността и военните операции.

Управлението на ИИ е изправено и пред друг проблем

Политиците трябва да убедят обществеността да подкрепи мерки за контрол, дори когато мащабът на някои от рисковете остава абстрактен.

Неотдавнашни разкрития на компаниите OpenAI, Anthropic, Google и Meta, че усъвършенствани модели са излезли извън тестовите среди и са получили нерегламентиран достъп до интернет, предизвикаха безпокойство във Вашингтон. Последиците от тези инциденти обаче все още не са ясни. Те са далеч от ежедневието на повечето хора и до момента не са причинили мащабни щети. Поради това е малко вероятно подобни инциденти, разглеждани изолирано, да генерират трайния политически натиск, необходим за изграждането и поддържането на дългосрочен режим за наблюдение и контрол.

Въпреки многобройните предупреждения от страна на изследователи и политици относно рисковете, свързани с ИИ, технологията все още не е преживяла момент, съпоставим с използването на ядрени оръжия в края на Втората световна война - събитие, превърнало страха в политически стимул за действие.

Светът обаче не може да си позволи да чака настъпването на такъв момент. Историята може да послужи като полезна отправна точка, но не предлага готов модел за справяне с проблема на ИИ.  Изкуственият интелект е технология, различна от всички досегашни, и системата, създадена за неговото регулиране, също ще трябва да бъде различна.

Неочакван шанс

Най-амбициозните международни предложения за регулиране на ИИ черпят вдъхновение от системата за управление на ядрените технологии. Идеята е, че подобна рамка би могла едновременно да намали потенциалните вреди от ИИ и да засили ролята на САЩ при определянето на международните правила.

Хейдън Белфийлд, изследовател в Google DeepMind, предложи споразумение, вдъхновено от Договора за неразпространение на ядреното оръжие, което би позволило само на определени държави - разполагащи с надеждни вътрешни регулаторни системи - да притежават мощни чипове. По същество това би представлявало режим за неразпространение на технологии за изкуствен интелект.

Други поддръжници на международното регулиране, включително Сам Алтм, се застъпват за създаването на независим орган от експерти с широки правомощия за инспектиране и проверка на дейностите, свързани с изкуствения интелект (ИИ) - модел, подобен на този на Международната агенция за атомна енергия (МААЕ).

Трета група предлага към надпреварата в сферата на ИИ да се приложат практиките за контрол на въоръженията и принципът на взаимна уязвимост, които помогнаха за стабилизиране на съперничеството между САЩ и Съветския съюз по време на Студената война.

Привлекателността на тези исторически примери е лесно обяснима. Ядреният ред се смята за един от малкото значими примери за глобално управление, изградени след войната. Държавите можеха да получат достъп до ядрени технологии, стига да се съгласят да се откажат от използването им за военни цели. Проблемът с разпространението на ядреното оръжие обаче не беше решен веднага. През 1963 г. президентът Джон Ф. Кенеди прогнозира, че през следващото десетилетие между 15 и 25 държави биха могли да се превърнат в ядрени сили. По това време мнозина високопоставени американски представители смятаха, че ядрената война е неизбежна.

През 70-те години на миналия век влезе в сила Договорът за неразпространение на ядреното оръжие (ДНЯО). Режимът на инспекции и проверки, ръководен от експерти на МААЕ и подкрепян от Вашингтон и Москва, започна да съдейства за прилагането на разпоредбите на договора. Двете свръхсили договориха ограничения върху ядрените опити, проведоха срещи на върха за контрол на въоръженията и създадоха „гореща линия“ за кризисни ситуации. Днес ДНЯО се ползва с широко международно признание. Само девет държави притежават ядрено оръжие и не се е стигнало до ядрена война. За мнозина това е доказателство, че светът е намерил баланс между ограничаването на рисковете и мирното използване на ядрените технологии.

Историята на неразпространението и контрола на въоръженията обаче е много по-сложна. В редица случаи натискът от страна на свръхсилите и високите разходи са допринесли за прекратяването на ядрени програми. Южна Корея и Тайван се отказаха от зараждащите се програми за създаване на ядрено оръжие след силен натиск от страна на САЩ. Това беше съпроводено с гаранции за сигурност, достъп до пазари и заплаха за оттегляне на военната подкрепа, ако програмите не бъдат прекратени. Израелски въздушни удари унищожиха ядрените програми на Ирак и Сирия.

Други държави се отказаха от идеята за създаване на ядрено оръжие поради вътрешни причини. Швеция и Швейцария изоставиха ядрените си проекти заради високите разходи. Аржентина и Бразилия прекратиха подобни програми, след като преходът към демокрация доведе до преориентиране на външната им политика към регионално сътрудничество. Южна Африка създаде шест ядрени бойни глави, които по-късно демонтира, в момент, когато краят на апартейда промени вътрешните и външните приоритети на страната.

Когато държавите бяха решени да разработят ядрени оръжия и разполагаха с капацитет да устоят на външен натиск, режимът за неразпространение имаше ограничени възможности да ги спре. Индия, Израел, Северна Корея и Пакистан успяха да създадат ядрено оръжие. Поради това режимът винаги е оставал непълен. Той се е опирал на сътрудничеството на държавите, притежаващи ядрено оръжие, и на готовността им да използват натиск или - в някои случаи - сила, за да предотвратят разпространението. Същевременно той не успя да възпре всички участници, решени да се сдобият с ядрени оръжия.

Дори съществуващите ядрени сили невинаги са си сътрудничили. Китай и Франция - две от петте държави с ядрено оръжие, признати съгласно Договора за неразпространение на ядреното оръжие (ДНЯО) - се присъединиха към договора едва през 1992 г.

До каква степен светът е разчитал на късмета?

Историята на неизползването на ядрено оръжие от своя страна е по-малко линейна, отколкото представянето на ядрения ред понякога внушава. Традиционното обяснение за 81-годишния период без ядрена война акцентира върху поредица от двустранни механизми: преговори за контрол на въоръженията, горещи линии, уведомления и предупреждения, както и премерени стратегии за възпиране. Тези механизми помогнаха да се предотврати ескалацията на съперничеството между Вашингтон и Москва в ядрена война.

Сергей Радченко и Владислав Зубок твърдят в анализ, публикуван през 2023 г., че решението на съветския премиер Никита Хрушчов да разположи ядрени оръжия в Куба е било лошо планирана операция, която включва много високо ниво на риск и в крайна сметка късмет. Но по-внимателният поглед върху този период показва колко близо е бил светът до катастрофа в определени моменти.

Кубинската ракетна криза от октомври 1962 г. е един от най-известните примери. Вашингтон и Москва се оказаха изключително близо до ядрен конфликт.  Няколко ситуации по време на кризата биха могли да доведат до използването на ядрени оръжия. Американските планове за нахлуване в Куба бяха изготвени, без Вашингтон да знае какъв е мащабът на съветското ядрено присъствие на острова. Една съветска подводница бе напът да изстреля ядрено торпедо срещу американски военноморски сили в Карибския басейн. При друг инцидент шпионски самолет U-2 случайно навлезе в съветското въздушно пространство. За да го защитят от евентуално преследване от страна на Съветския съюз, той е бил ескортиран до базата си от американски изтребители-прехващачи, въоръжени с ядрено оръжие.

Много от тези моменти са се случвали на по-ниски нива в командната верига, без Джон Ф. Кенеди или Никита Хрушчов да бъдат пряко информирани или въвлечени. По-нови анализи показват, че нарастващото усещане у двамата лидери, че вече не контролират напълно събитията - а не просто желанието да победят противника - е допринесло за края на кризата и впоследствие е стимулирало усилията за ограничаване на съперничеството между двете свръхсили.

Последвали са и други инциденти, свързани с ядрени оръжия: фалшиви тревоги, погрешно тълкувани военни учения и катастрофи на ядрени бомбардировачи. Нарастващата зависимост на американската стратегия от междуконтинентални и изстрелвани от морето ракети допълнително е увеличила риска. Тези оръжия са можели да достигнат целите си по-бързо от бомбардировачите, оставяйки на вземащите решения по-малко време за откриване и коригиране на грешки. Дори системите за ранно предупреждение, създадени за засичане на атаки, не са били безпогрешни.

През ноември 1979 г. американска система за предупреждение в реално време тълкува запис от изпитание като мащабна съветска атака. Преди грешката да бъде установена, са вдигнати по тревога поне десет изтребителя, а президентският самолет за извънредни ситуации излита, без президентът да е на борда.

През септември 1983 г. съветската система за ранно предупреждение, обслужвана от подполковник Станислав Петров, сигнализира, че САЩ се готвят да нанесат удар. Петров правилно преценява, че става въпрос за неизправност на системата.

Подобни примери показват, че институциите, създадени да предотвратяват разпространението и използването на ядрени оръжия, не са елиминирали възможността за катастрофа. С отварянето на архивите по ядрена история за изследователите са разкрити все повече ситуации, в които подобен изход е бил избегнат на косъм. Това повдига важен въпрос: до каква степен успехът на ядрения ред се дължи на институциите и до каква - на случайността?

Приписването на успеха единствено на институциите би могло да остави бъдещите архитекти на управлението на изкуствения интелект неподготвени за рисковете, свързани с тази технология. Фактът, че нито един съвременен модел на изкуствен интелект все още не е предизвикал катастрофа, може от своя страна да е въпрос на време и обстоятелства. А обстоятелствата могат да се променят.

Изпитване на границите

Ядреният модел става още по-малко убедителен, когато се вземе предвид настоящата крехкост на споразуменията за контрол на въоръженията. Отношенията между Русия и Съединените щати - които заедно все още притежават най-голям дял от световния ядрен арсенал - се намират в най-ниската си точка от времето на Студената война насам. Основните споразумения, регулиращи арсеналите на двете държави, са изоставени или действието им е изтекло. Сред тях са договорът "Нов СТАРТ", ограничаващ стратегическите оръжия, и Договорът за ликвидиране на ракетите със среден и по-малък обсег.

Войната на Русия в Украйна и несигурността относно ангажимента на Съединените щати към НАТО накараха няколко европейски държави да обсъдят други форми на споделяне на ядрени оръжия.

В някои страни, включително Полша, официални лица говорят открито за възможността за разработване или придобиване на ядрен потенциал.

Китай продължава да разширява арсенала си, необвързан от подобен договор и без външен механизъм за контрол на процеса. Ядреният запас на Китай се е увеличил почти трикратно от 2020 г. насам, а според оценки на Пентагона до 2030 г. Пекин може да разполага с до 1000 бойни глави.

Съюзниците на САЩ в Тихоокеанския регион също имат своите опасения. В Южна Корея проучванията неизменно показват, че мнозинството подкрепя създаването на национален ядрен арсенал като противодействие на Северна Корея. В Япония - страна със силни традиции срещу ядрените оръжия -политиците все по-често поставят под въпрос досегашното табу и обсъждат ядреното възпиране като елемент от националната отбрана.

За мнозина Договорът за неразпространение на ядреното оръжие (ДНЯО) остава последната преграда между сегашния ядрен ред и неконтролираното разпространение на ядрени оръжия. Дори бъдещето на този договор е под въпрос. ДНЯО изисква от държавите, притежаващи ядрено оръжие, да преговарят добросъвестно с цел разоръжаване. Това задължение беше една от причините държавите без ядрено оръжие да се съгласят да се откажат от разработването му. През последното десетилетие обаче тенденциите сочат към разрастване и модернизация на ядрените арсенали, а не към тяхното съкращаване. Повече от 90 държави, около половината от държавите-членки на ДНЯО без ядрено оръжие, са подписали отделен договор, забраняващ напълно ядрените оръжия.

Ядрените държави и техните съюзници отказаха да се присъединят, като изтъкват, че подобно споразумение би могло да подкопае настоящата архитектура на сигурността. Ограниченията на системата за неразпространение са особено видими в Близкия изток. Израел никога официално не е признавал, че притежава ядрени оръжия, и не се е присъединил към Договора за неразпространение на ядреното оръжие (ДНЯО), но през 60-те години на миналия век превърна ядрената си програма във военен потенциал. Израел също така е нанасял удари по ядрени съоръжения на съседни държави. През 1981 г. страната унищожи иракски реактор, който е бил в процес на изграждане, а през 2007 г. нанесе удар по сирийски обект Международните усилия за предотвратяване на развитието на ядрената програма на Ирак достигнаха кулминацията си с американската инвазия през 2003 г.

Съединените щати отново са въвлечени във война в региона, този път с Иран, а опасностите, свързани с иранската ядрена програма, бяха използвани, поне отчасти, за да оправдаят американските действия.

Изкуственият интелект не е като другите технологии

Има по-фундаментални причини, поради които ядреният модел не може просто да бъде прехвърлен в сферата на изкуствения интелект. Ядреният ред работи отчасти, защото материалите, необходими за изграждането на ядрени оръжия, са разпознаваеми, измерими и физически ограничени.

Разработването на ядрено оръжие изисква големи количества изотопи на два основни елемента: уран и плутоний. И двата са скъпи за производство, трудни за измерване и проследяване и изискват големи, сложни съоръжения за производство и преработка. Плутоният освен това се среща в природата само в много малки количества. Фактът, че уранът, предназначен за реактори, може по-късно да бъде обогатен до нивото, необходимо за оръжие, означава, че инспекторите трябва да следят отблизо дейностите на държавите.

В същото време външните наблюдатели могат приблизително да преценят какво може да направи дадена държава с ядрената инфраструктура, която притежава, и дали тази инфраструктура започва да се ориентира към производство на оръжия.

И развитието на ИИ оставя физически отпечатъци. То изисква усъвършенствани чипове, оборудване за производство на полупроводници, фотолитографски машини, фабрики и, най-важното, центрове за данни. Това прави развитието на ИИ, поне частично, наблюдаемо и проследимо.

Разширяването на инфраструктурата на ИИ вече представлява една от най-важните индустриални мобилизации в историята. Изчислителните клъстери, които свързват хиляди усъвършенствани чипове в центрове за данни, могат да заемат огромни площи и да консумират енергия, сравнима с тази на средно големи градове. Някои от тези съоръжения са достатъчно големи, за да бъдат наблюдавани от сателити. Поради тази причина много предложения за управление на ИИ се фокусират върху физическата верига.

Засега концентрацията на високопроизводителна изчислителна мощност представлява един от най-контролируемите лостове за ограничаване на способността на новите участници да изграждат усъвършенствани ИИ системи.

Но физическият отпечатък на изкуствения интелект е различен от този на ядреното оръжие. В случай на съоръжение за производство на делящ се материал, наблюдателите могат да оценят количеството наличен материал с военно предназначение и следователно приблизителния брой оръжия, които биха могли да бъдат произведени. В ИИ връзката между инфраструктурата и капацитета не е фиксирана. Изчислителната мощност е тясно свързана с производителността на моделите. През последното десетилетие увеличаването на изчислителната мощност и количеството налични данни доведе до появата на по-способни системи. Корелацията обаче не е твърда. Алгоритмичната ефективност непрекъснато се подобрява. Това, което изисква най-съвременни ресурси една година, може да стане по-евтино и по-достъпно следващата.

Освен това, възможностите на големи модели могат да бъдат прехвърлени или репликирани в много по-малки модели. Моделът може да продължи да се развива. Проблемът не свършва с обучението на модела. Система с изкуствен интелект може да даде различни резултати в зависимост от софтуера, към който е свързана, и инструментите, до които има достъп. Моделите могат да станат и по-ефективни, ако им се даде повече време и повече изчислителна мощност за решаване на проблеми.

В случая с ядрените оръжия, дадено количество делящ се материал ограничава размера на арсенала и способността на държавата да произвежда нови оръжия. Изчислителната мощност, необходима за обучение на модел с изкуствен интелект, не е сравнимо ограничение.

Способността на Китай да е в крак с американския напредък в областта на изкуствения интелект, въпреки недостатъка си по отношение на изчислителната мощност, е едно от доказателствата за тази разлика. Изкуственият интелект има и това, което може да се нарече "проблем на леярната". След обучение на модел, неговите тегла могат да бъдат отделени от инфраструктурата, използвана за създаването му. Теглата са числовите параметри, които определят поведението на модела след обучение. Те могат да бъдат копирани, прехвърляни, модифицирани и внедрявани в други системи.

Няколко разработчици, особено, но не изключително в Китай, направиха такива модели публично достояние, за да насърчат тяхното приемане. Моделите с отворен код могат да бъдат изтегляни и модифицирани от други лица или организации. Някои от тях вече се доближават до нивото на най-добрите американски модели в много отношения, като разликата в някои случаи се измерва в месеци, а не в години.

В света на ядрените оръжия няма пряк еквивалент за публикуване на универсална способност, която може да бъде подобрена и има трансформативни приложения. Използването на най-съвременен модел в значителен икономически или военен мащаб все още изисква значителна изчислителна мощност. Някои правителства въведоха контрол върху износа на чипове, вярвайки, че ограничаването на достъпа до тези компоненти могат да попречат на противника да натрупа достатъчно изчислителна мощност за обучение и използване на усъвършенствани модели.

Но всяко предимство, предлагано от изчислителната мощност, е частично и може да намалее с времето. Откраднати или публикувани тегла могат да се използват на много други места, а минималното количество ресурси, необходими за получаване на полезни резултати, непрекъснато намалява.

Един единствен модел може да се използва за цели, които създателите му не са предвидили: за анализ на медицински досиета, идентифициране на компютърни уязвимости или разсъждения относно дизайна на оръжия.

Контролът върху веригата за доставки може да забави разработването на модели от следващо поколение, да увеличи разходите и да улесни наблюдението на дейността на разработчиците. Те обаче не отговарят лесно на централния въпрос на режима за неразпространение: кой използва дадена способност и с каква цел.

Проблемът с проверката

Тази трудност би присъствала във всеки потенциален договор за ИИ. Споразумение между Съединените щати и Китай относно стандартите за разработване и тестване на изкуствен интелект почти сигурно би изисквало надежден механизъм за проверка на съответствието. За да работи такъв механизъм, двете страни ще трябва да се споразумеят какво трябва да се наблюдава.

В ядрената област обектите на контрол са сравнително ясни: ракети, пускови установки, бомбардировачи и бойни глави. Освен това, споразуменията за контрол на оръжията отнеха години, за да достигнат сегашния си вид.

Пълната проверка за съответствие на споразумение за ИИ може да изисква мерки за прозрачност, които правителствата биха сметнали за прекалено натрапчиви. В случая с ядрените оръжия правителствата знаят точно какво правят компаниите, управляващи съответните съоръжения, и могат да реагират от тяхно име. Ситуацията е различна в случая с лабораториите за ИИ, които са до голяма степен частни предприятия и се развиват с много бързи темпове.

Кой контролира технологията?

Има и друга фундаментална разлика: кой контролира технологията. Атомната бомба е разработена под правителствен контрол и надзор. Изграждането и поддържането на ядрен арсенал изисква координация на държавно ниво и стабилни институции, включително организирана военна и специализиран научен комплекс. Всяко правителство, което е изградило ядрена програма или се е опитало да се сдобие с ядрени оръжия, е трябвало да развие необходимите за тази цел държавни институции.

ИИ е в много отношения противоположен на този модел. Технологията е разработена от изследователи, учени, основатели на компании и независими търговски разработчици. Темпото, с което те напредват, досега изпреварва способността на правителствата да изграждат сравними регулаторни системи. Катастрофата засега остава теоретична.

Може би най-важната разлика между ядрените оръжия и изкуствения интелект е как всяка технология е демонстрирала своя разрушителен потенциал. Ядрените оръжия бяха представени на света чрез насилствена и конкретна демонстрация: бомбардировките над Хирошима и Нагасаки през август 1945 г. Ядреният ред се разви от пряка демонстрация на способността на технологията да произвежда масивни разрушения. Стотиците последващи ядрени опити допълнително потвърдиха разрушителния потенциал на тези оръжия. Независимо от противоречията около ядрената политика, последиците от мащабна ядрена експлозия никога не са били чисто теоретичен въпрос.

Изкуственият интелект не е имал еквивалентен момент. Инцидентът с Hugging Face от това лято, при който усъвършенствани модели преодолеха софтуерните ограничения и проникнаха във външни системи, включително инфраструктурата на компанията за изкуствен интелект, предизвика нови предупреждения относно безопасността и надзора върху изкуствения интелект. Последиците от инцидента обаче останаха ограничени и дебатът за неговото значение за управлението на изкуствения интелект се проведе до голяма степен сред специалисти.

Наистина катастрофалните сценарии, свързани с изкуствения интелект - от генетично модифицирани патогени и каскадни инфраструктурни повреди до загуба на човешки контрол върху неправилно подстроени свръхинтелигентни системи и дори изчезване на човечеството - остават теоретични сценарии и се оспорват в публичното пространство. При липсата на събитие, което недвусмислено да демонстрира способността на изкуствения интелект да причинява масивни разрушения, политиците, които се стремят да регулират технологията, трябва да действат без политическата енергия и капитал, които помогнаха за изграждането на ядрения ред.

Негативните ефекти на изкуствения интелект, които вече генерират политически дебат - въздействието на чатботовете върху младите хора, загубата на работни места и местните разходи, свързани с центровете за данни - доведоха до закони, съдебни дела и политически реакции. Тези проблеми се различават от катастрофалните рискове, залегнали в основата на сравнението между изкуствения интелект (ИИ) и ядрените оръжия. Дори по отношение на ядрените оръжия, избледняващите спомени за Хирошима и Нагасаки и постепенното намаляване на броя на оцелелите от тези атаки биха могли да допринесат за появата на нова форма на самодоволство. Дори ако се стигне до катастрофа, предизвикана от ИИ - за каквато предупреждават някои изследователи в лаборатории, работещи по най-съвременни технологии - това може да не доведе автоматично до приемането на подходящи политически мерки.

Кубинската ракетна криза спомогна за засилване на контрола върху въоръженията, тъй като и Вашингтон, и Москва осъзнаха, че са били съвсем близо до ядрен конфликт. В случая с ИИ нещата може да са по-трудни за тълкуване. Един модел, който заобикаля мерките за сигурност и предизвиква мащабна кибератака, довела до загуба на човешки живот или имущество, би могъл сравнително ясно да бъде посочен като причина. Въпреки това, даден модел с ИИ би могъл да допринесе и за други видове катастрофи, без да бъде единственият отговорен фактор.

Биологично оръжие, срив на финансовите пазари или прекъсване на електрозахранването - всичко това може да бъде свързано с неправилната употреба на ИИ, но би било трудно да се определи със сигурност какъв е приносът на технологията за крайния резултат. Сложните причинно-следствени връзки биха позволили на различните страни да си прехвърлят отговорността и биха могли да намалят обществения натиск за въвеждане на по-строги правила.

На прага на нова система за управление

Ако подходът, заимстван от ядрения ред и акцентиращ върху контрола на материалните ресурси, се окаже недостатъчен за ИИ, тогава регулациите трябва да обхванат и начина, по който се създават и използват моделите. Една от възможностите е да се наблюдават тестовете, извършвани от разработчиците преди внедряването на моделите, резултатите от тези тестове, както и лицата извън компанията, които имат право да проверяват процеса на обучение и получените резултати.

Друг елемент трябва да бъде регулирането на приложенията на ИИ, а не само на моделите и инфраструктурата. Решенията относно безопасността не могат да се вземат единствено с оглед на системите с общо предназначение. В сфери, където злоупотребата може да има сериозни последици, може да се наложи въвеждането на специфични правила. Някои приоритети вече са ясни.

Повечето водещи разработчици са съгласни, че използването на ИИ в синтетичната биология и при настъпателните кибероперации изисква особено строги предпазни мерки. Проблемът с изграждането на устойчива система за управление е, както и по време на Студената война, по-скоро политически, отколкото технически. 

В Съединените щати администрацията на Тръмп се противопостави на нови регулации и мерки за надзор в сферата на изкуствения интелект (ИИ), с аргумента, че те биха могли да забавят иновациите и да дадат предимство на Китай. По-рано този месец президентът Доналд Тръмп написа в социалните мрежи, че "единственият контрол или "предпазна мярка", от които се нуждае ИИ, е СИЛЕН И ИНТЕЛИГЕНТЕН ПРЕЗИДЕНТ (с висок коефициент на интелигентност!)."

Същевременно тази позиция в подкрепа на дерегулацията съжителстваше с отделни намеси от страна на изпълнителната власт. През юни Белият дом използва механизми за контрол на износа, за да ограничи чуждестранния достъп до моделите Fable 5 и Mythos 5 на компанията Anthropic, преди ограниченията да бъдат отменени в края на месеца.

Администрацията също така оказа натиск върху OpenAI да ограничи пускането на модела GPT-5.6, като го предостави единствено на субекти, одобрени от правителството. Подобен разпокъсан федерален подход не осигурява предвидимост нито за компаниите, разработващи ИИ - които се нуждаят от стабилни правила, за да планират инвестициите и пазарните си премиери, - нито за обществеността, която се нуждае от дългосрочни гаранции, а не от намеси, прилагани за всеки отделен случай.

С какви инструменти разполага Вашингтон?

Федералното правителство притежава няколко инструмента, които може да използва за изграждането на по-стабилна регулаторна система за ИИ. Освен контрола върху износа, властите могат да приложат Закона за отбранителното производство (Defense Production Act), за да задължат компаниите да предоставят чувствителна информация.

Федералното правителство може също така да използва покупателната си способност, като обвърже обществените поръчки на държавните ведомства с информацията, предоставяна от разработчиците, и със съгласието им за подлагане на външни оценки.

Това, което липсва във Вашингтон обаче, е трайна рамка, определяща начина на използване на тези инструменти, както и необходимите правомощия за тяхното прилагане. Инструментите, използвани понастоящем - лицензи за износ и неформален натиск върху определени компании, - са до голяма степен импровизирани и зависят от изпълнителната власт. Това означава, че те могат да бъдат променени или изоставени от бъдещи администрации.

След Втората световна война Съединените щати преминаха през политически спорове относно въпроса дали ядрените оръжия трябва да бъдат под военен, или под граждански контрол. Спорът приключи с преминаването на оръжията под военен надзор след кратък период на граждански контрол. Този процес доведе до елементи, които все още липсват в управлението на изкуствения интелект: ясни закони, ясно дефинирани федерални отговорности и стабилни правила за вътрешен надзор.

Регулирането в САЩ остава фрагментирано. Напредъкът в други области на регулирането на изкуствения интелект (ИИ) в САЩ също е фрагментарен. Законодателите във Вашингтон внесоха законопроекти, засягащи някои аспекти на рисковете, свързани с тази технология, включително възрастови ограничения за чатботове и механизъм за незабавно спиране ("kill switch") на модели, определени като опасни. Тези инициативи обаче трябва да преминат през пълния законодателен процес в Конгреса.

На щатско ниво Калифорния, Илинойс и Ню Йорк се опитаха да регулират водещи компании в сферата на ИИ чрез изисквания за докладване на инциденти, прозрачност и одит. Тези мерки запълват някои от съществуващите празноти, но законите няма да станат задължителни преди 2027 или 2028 г. и са ограничени от юрисдикцията на отделните щати, както и от изключения, благоприятстващи индустрията.

Все още няма внесен законопроект, който да предлага система за надзор с правомощията и обхвата, необходими за регулиране на критично важни за безопасността сектори, като авиацията или ядрената енергетика. Конгресът трябва да създаде такъв механизъм, за да могат политиците да регулират ИИ по последователен и устойчив начин.

Уроци от миналото и неизвестното

Ако политиците искат да изградят функционираща система за управление на ИИ, те трябва както да се поучат от миналото, така и да създадат решения за безпрецедентни проблеми. Създателите на атомната бомба е трябвало да си представят рамка за това, което би могло да се превърне в "абсолютно оръжие", без да разполагат с много предишни модели. Те са изхождали от самата технология, която са се опитвали да контролират, и от възможните последици от нея, често водени именно от страха от тези последици.

В случая с ИИ големите технологични компании са склонни да изхождат от съществуващите институции и механизми и след това да търсят начини да адаптират технологията към тях. Този подход крие риск да бъдат прикрити както слабостите и уязвимостта на въпросните институции, така и характеристиките, които правят изкуствения интелект толкова различен.

Предстоящата този месец среща на върха между Доналд Тръмп и китайския лидер Си Дзинпин ще бъде тест за способността на двете свръхсили в областта на ИИ да намерят обща основа за сътрудничество.  Безопасността на ИИ е сред възможните теми за обсъждане. Независимо от изхода на срещата обаче, най-належащата част от усилията се осъществява на вътрешно ниво. Вашингтон все още не знае какви точно ще бъдат възможностите на американските компании за ИИ през следващите месеци.

Стремежът към създаване на международна система за контрол, преди да се установи надежден вътрешен надзор, би означавало да се подходи към важните въпроси в погрешен ред. Докато Конгресът не изясни кой ще упражнява надзор върху изкуствения интелект (ИИ), каква информация трябва да предоставят компаниите и какви са отговорностите на регулаторните органи, американската политика за управление на ИИ ще остане фрагментирана и зависима от ситуативни намеси. А що се отнася до най-съществения паралел между изкуствения интелект и атомната бомба, вероятно съществува само една неоспорима прилика: допустимият толеранс за грешка е изключително малък.

Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.