Краят на взаимното гарантирано унищожение?

Бързото развитие на изкуствения интелект през последните години накара много анализатори да предположат, че той ще преобърне международната политика и военния баланс на силите. Някои стигнаха дотам, че твърдят, по думите на технолозите Дан Хендрикс, Ерик Шмит и Александър Уанг, че усъвършенстваните системи с изкуствен интелект биха могли да "установят пълно господство и контрол на една държава, оставяйки съдбата на съперниците подчинена на нейната воля".

Изкуственият интелект несъмнено е трансформираща технология, която ще укрепи икономическите, политическите и военните основи на държавната власт. Но победителят в надпреварата с изкуствения интелект не е задължително да се радва на безспорно господство над основните си конкуренти, пише "Foreign policy".

Мощта на ядрените оръжия, най-значимото изобретение на миналия век, остава основна пречка за булдозерната промяна, донесена от изкуствения интелект. Докато системите за ядрено възпиране остават налице, икономическите и военните предимства, произведени от изкуствения интелект, няма да позволят на държавите да налагат напълно своите политически предпочитания една на друга. Имайте предвид, че икономиката на САЩ е почти 15 пъти по-голяма от тази на Русия и почти 1000 пъти по-голяма от тази на Северна Корея, но въпреки това Вашингтон се бори да накара Москва или Пхенян да направят това, което иска, до голяма степен заради техните ядрени арсенали.

Някои анализатори предполагат, че напредъкът на изкуствения интелект би могъл да постави под въпрос тази динамика. За да подкопае ядреното възпиране, изкуственият интелект ще трябва да разруши централния му стълб: способността на държавата да отговори на ядрена атака с опустошителен ядрен удар, известен като способност за втори удар. Технологията на изкуствения интелект би могла правдоподобно да улесни държавата да унищожи целия ядрен арсенал на съперника си с един „великолепен първи удар“, като определи точното местоположение на ядрените подводници и мобилните пускови установки. Тя би могла също така да попречи на съперника да предприеме ответен удар, като деактивира мрежите за командване и контрол. И би могла да засили противоракетната отбрана, така че съперникът вече да не може убедително да заплашва с ответен удар. Ако изкуственият интелект може по този начин да помогне на държава да избегне перспективата за взаимно гарантирано унищожение, технологията би направила тази държава ненадмината в способността си да заплашва и принуждава противниците – резултат, съответстващ на все по-популярните визии за господство, подпомогнато от изкуствен интелект.

Но подкопаването на ядрения баланс на силите няма да бъде лесно. Нововъзникващите технологии все още се сблъскват с много реални ограничения в ядрената област. Дори най-сложните системи за насочване и сензори, задвижвани от изкуствен интелект, може да се затруднят да локализират мобилна ядрена ракета-носител, скрита под мост, да изолират сигналите на ядрена подводница от фоновия шум на океана и да организират едновременното унищожаване на стотици цели на сушата, във въздуха и в морето – без място за грешки. А конкурентите ще отговорят на използването на нови технологии от противниците си със собствени ходове за защита на своите системи, както са правили на всяка крачка от зората на атомната епоха.

Но дори и да не оспорва ядреното възпиране, изкуственият интелект може да насърчи недоверието и опасните действия сред ядрените държави. Много от стъпките, които правителствата биха могли да предприемат, за да защитят и засилят способностите си за втори удар, рискуват да обезпокоят съперниците си, потенциално стимулирайки скъпи и опасни надпревари във въоръжаването. Също така е възможно системите с изкуствен интелект да преминат критичен праг и да покажат изключително бързи подобрения в способностите си. Ако това се случи, техните предимства за страната, която ги притежава, биха могли да станат по-изразени и трудни за справяне с тях от съперниците. Политиците трябва да следят за подобен сценарий и да улесняват редовната комуникация между изкуствения интелект и ядрените експерти. В същото време те трябва да предприемат стъпки за намаляване на вероятността от аварии и ескалация, включително оценка на ядрените системи за уязвимости, свързани с изкуствения интелект, и поддържане на канали за комуникация между ядрените сили. Такива стъпки ще помогнат да се гарантира, че ядрената стабилност – а не само ядреното възпиране – ще се запази в ерата на изкуствения интелект.

Ядреното възпиране зависи най-вече от това дали държавите притежават способността да отвърнат на удара след поемане на ядрена атака: стига две ядрени сили да поддържат надежден капацитет за втори удар, който може да нанесе неприемливи щети на противника им, първият удар е самоубийствен. Това разбиране в продължение на десетилетия поддържа относително стабилно равновесие. Но възможностите за втори удар не са неуязвими. Държавите могат да елиминират платформи за доставка, като например мобилни ракетни установки и ядрени подводници, стига да могат да ги намерят. Трудността при намирането и деактивирането на тези платформи е една от основните пречки за нанасяне на блестящ първи удар. Огромният размер на Китай, Русия, Съединените щати, Атлантическия океан и Тихия океан – най-важните области за ядрена конкуренция днес – прави такъв удар трудно осъществим.

Появата на мощни системи с изкуствен интелект обаче би могла да реши този проблем. Способни да обработват и анализират огромни количества данни, военни, оборудвани с такива технологии, биха могли по-добре да се насочват към ядрените активи на своите конкуренти. Помислете за мобилните ракети с наземно изстрелване, една от платформите, които подкрепят руските и китайските възможности за втори удар. Тези ракети, които се носят на превозни средства, които могат да се крият под камуфлажни мрежи, мостове или тунели и да се придвижват от едно скрито място до друго, са може би най-трудният за елиминиране елемент от руските и китайските ядрени сили. (За разлика от тях, балистичните ракети, базирани в силозни бази, са много по-уязвими за атака.) Подобрената скорост и мащаб на обработката на разузнавателна информация, задвижвана от изкуствен интелект, може да улесни провеждането на операции срещу тези превозни средства. Системите с изкуствен интелект могат да претърсват и интегрират огромни количества данни от сателити, разузнавателни самолети, прихващания на радиоелектронно разузнаване, стелт дронове, наземни сензори и човешки разузнавателни данни, за да откриват и проследяват по-ефективно мобилните ядрени сили.

Що се отнася до морето, потенциалното сливане на изкуствения интелект със сензорните технологии може да направи океаните „прозрачни“, позволявайки на правителствата да проследяват подводници с балистични ракети в реално време. Това е особен проблем за Съединените щати, които държат много по-голям процент от бойните си глави на подводници, отколкото Русия или Китай. Изкуственият интелект би могъл да улесни проследяването на подводници чрез автоматизиране на разпознаването на модели от множество видове сензори в огромни океански райони и за дълги периоди от време. Той би могъл също така да помогне на държава да хакне системите, които противниците ѝ използват за проследяване на собствените си оръжия.

Но дори и с помощта на изкуствен интелект, държавите няма да бъдат абсолютно сигурни, че един блестящ първи удар може да нокаутира способността на съперника да отвърне на удара. На сушата, например, Китай и Русия биха могли да отговорят на подобренията в американските системи за проследяване със собствени контрамерки. Те биха могли да инвестират в противосателитни оръжия и възможности за заглушаване. Те биха могли да възприемат старомодни нискотехнологични решения, като например покриване на пътища с мрежи или изграждане на примамки, за да увеличат броя на целите, които нападателят би трябвало да удари. Те биха могли да наредят на своите пускови установки да излъчват по-малко сигнали, което би затруднило проследяването им от страна на Съединените щати. Те биха могли да модифицират пусковите установки, за да се движат по-бързо, разширявайки целевата зона, която американските удари биха трябвало да поразят. Те дори биха могли да използват собствени системи с изкуствен интелект, за да вкарват невярна информация в канали, наблюдавани от американската разузнавателна общност.

В морската област също е малко вероятно изкуственият интелект да направи морето напълно прозрачно. Всяка система ще се затруднява да идентифицира, проследява и наблюдава множество цели на дълги разстояния и сред океанския фонов шум, особено след като подводниците стават по-тихи, а океаните по-шумни. Подводниците остават изключително трудни за откриване, когато са потопени на дълбочина и работят с ниски скорости, поради начина, по който звукът се движи под водата, променящите се океански условия и присъщия шум на морската среда. В моретата фалшивите аларми са чести; надеждният контакт е рядък. А в морето, както и на сушата, големите сили могат да наклонят везните в своя полза чрез различни контрамерки: те могат да заглушават сигнали, да манипулират данни от сензори, да използват подводни сензори и безпилотни превозни средства за откриване на вражески активи и да управляват собствените си подводници в защитени бастиони близо до бреговете си. Следователно откриването ще остане въпрос на вероятност, дори с въвеждането на изкуствен интелект - и е малко вероятно държавите да искат да рискуват блестящ първи удар с нещо по-малко от сигурен залог.

Освен че улеснява откриването и унищожаването на ядрените оръжия на противника, изкуственият интелект би могъл правдоподобно да застраши системите за ядрено командване и контрол, необходими за предприемане на ответен удар. Системите за командване и контрол са отговорни за откриването на атаки, докладването им на съответния орган и предаването на заповеди за ответен удар на ядрените сили. Тези системи трябва да могат да идентифицират широк спектър от ракети, да оценяват щетите на земята, да изпращат кратки съобщения на хиляди мили, включително дълбоко под водата, и да защитават лидерите, отговорни за вземането на решения в ядрената област. Държавите, които се стремят да деактивират система за командване и контрол, трябва да действат предпазливо, тъй като явните действия за извеждане от строя системата на съперник могат да се разглеждат като прелюдия към ядрена атака, потенциално оправдаваща превантивен ответен удар. Подобно на повечето елементи от един блестящ първи удар, обезоръжаването на система за командване и контрол изисква, по думите на учения Джеймс Актън, унищожаване на „възможно най-много от всеки компонент с възможно най-малко предупреждение“.

Много части от системата за ядрено командване и контрол вече са уязвими за атаки и ще стават все по-уязвими с новите технологични пробиви. Ядрените и конвенционалните удари вече могат да унищожат фиксирано оборудване, като радари и високочестотни предаватели. С подобренията в изкуствения интелект, междувременно, може да стане по-лесно да се проследяват мобилни командни пунктове на сушата, както и по-точно да се насочват към въздушни такива. Сателитите, които осигуряват ранно предупреждение за предстоящи ядрени атаки, могат да станат все по-уязвими за противосателитни оръжия, подобрени с изкуствен интелект. А сложните кибероперации, подсилени от изкуствен интелект, биха могли да позволят на държавите да проникнат в мрежите за командване и контрол на съперника си, да деактивират системите за ранно предупреждение и да нарушат предаването на заповеди – риск, който може да нарасне, тъй като държавите модернизират своите системи, преминавайки от аналогови и кабелни възможности към цифрови.

Но премахването на цяла система за командване и контрол с един замах никога няма да бъде лесно, дори с напреднали технологии. Държавите са положили големи усилия, за да направят системите си устойчиви, включвайки резервиране и сложни контрамерки. На сушата някои командни бункери в Китай, Русия и Съединените щати са заровени на поне 700 метра под земята в твърда скала, достатъчно дълбоко, за да преживеят дори директен удар от голямо ядрено оръжие. В космоса всяка голяма ядрена сила е изпратила стотици или хиляди спътници в орбита или е близо до това, което затруднява унищожаването на всички системи за предварително предупреждение и комуникация на дадена страна. Във въздуха кривината на Земята ограничава разстоянието, на което радарът за наблюдение може да проследява въздушните командни пунктове. А в киберпространството възможността за извършване на обезоръжаващ удар ще изисква постоянен достъп до системите на противника, рискувайки откриване и евентуално отмъщение. Държавите също ще положат огромни усилия, опитвайки се да предотвратят подобни прониквания, най-вероятно с помощта на собствените си защитни системи с изкуствен интелект, като същевременно работят с множество резервирани мрежи. В резултат на тези предизвикателства изглежда малко вероятно изкуственият интелект да застраши сериозно премахването на системите за командване и контрол.

Последният страх е, че изкуственият интелект може да отслаби ядреното възпиране чрез подобряване на противоракетната отбрана, като по този начин минимизира възможността за успешен втори удар и направи първите удари по-изкушаващи. Създаването на силна защита срещу ядрени ракетни атаки винаги е било изключително трудна задача. Русия и Китай имат малко такива възможности, а американските отбранителни системи са склонни към грешки, разпръснати са и не са в състояние напълно да предотвратят атака от голяма ядрена сила. Тези системи трябва да направят почти невъзможното: да открият изстрелване, да проследят стотици ракети, пътуващи в космоса с 20 пъти по-висока скорост от тази на звука, да оценят бъдещите им траектории и да ги унищожат с прехващачи – всичко това за по-малко от 30 минути, приблизителното време за полет за повечето наземни ракети, пътуващи между Съединените щати и Русия или Китай. Служители на националната сигурност оприличават този процес на опит да се изстреля куршум с друг куршум. И те трябва да могат да правят всичко това икономично и в мащаб, така че нападателят да не може да претовари отбранителна система с много по-евтини ракети.

Изкуственият интелект би могъл да подобри някои от тези възможности. Алгоритмите за машинно обучение биха могли например бързо да анализират данни от множество сензори, за да различат действителни бойни глави от сложни примамки и да ускорят вземането на решения, след като противник изстреля своите ракети. Софтуерният напредък може да улесни прогнозирането на траекторията на ракетата. Освен това, чрез напредъка в материалознанието, изкуственият интелект може да помогне за производството на по-леки и по-гъвкави прехващачи, което прави оръжията по-евтини и по-маневрени по време на полет.

Но нито едно от тези развития няма да се случи за една нощ: разработването на отбранителни архитектури отнема години, а противниците на САЩ няма да стоят безучастно и да наблюдават. Атакуващите запазват значителни предимства: те могат да изстрелват ракети от неочаквани посоки, да преодоляват отбраната с координирани залпови атаки, използващи голям брой примамки, или директно да се насочват към ключови отбранителни системи. В много малко вероятния случай, че противоракетната отбрана стане толкова силна, че е непреодолима, държавите биха могли да прибегнат до по-креативни методи за доставка, като например контрабанда и предварително позициониране на малки ядрени устройства на вражеска територия. Система за противоракетна отбрана, подсилена с изкуствен интелект, би зависела от алгоритми за машинно обучение, които са обучени върху големи, надеждни набори от данни относно мерките за примамки и ракетните системи – данни, които противниците на САЩ имат всички стимули да прикрият. Всъщност, американските съперници биха могли да се опитат да объркат алгоритмите на ИИ, като манипулират ракетни тестове. Накратко, дори защитните системи, подобрени с ИИ, са изправени пред физически и икономически ограничения, които сложните ядрени сили могат да използват.

Дори и в условията на технологични промени, задвижвани от изкуствен интелект, ядреното възпиране трябва да остане силно. Това обаче не означава, че изкуственият интелект не представлява риск за глобалната ядрена стабилност. Дори ако прогнозите за мощта на изкуствения интелект надценяват действителните възможности на технологията, държавите могат да възприемат по-големи заплахи и да предприемат потенциално дестабилизиращи действия. Ако дадена държава смята, че конкурент, задвижван от изкуствен интелект, може по-лесно да открие нейните ракети, например, тя може да реши да построи повече бойни глави, да разположи повече от оръжията си на по-трудни за откриване мобилни превозни средства, да насочи тези превозни средства да се движат по-бързо и да делегира повече правомощия за изстрелване на водачите на превозни средства, за да намали нуждата от комуникация на дълги разстояния, която може да бъде прихваната. Ако държавите смятат, че техните системи за командване и контрол са уязвими към атаки, задвижвани от изкуствен интелект, те може да пожелаят да намалят броя на стъпките, необходими за започване на контраатака. Всички тези действия увеличават вероятността от ескалация и случайни изстрелвания, особено по отношение на държави с по-малко ресурси и по-малко опит в управлението на ядрени оръжия, като Индия и Пакистан.

Освен тази дестабилизираща несигурност, остава възможно държавите да разработят значително по-мощни системи с изкуствен интелект, които биха могли да застрашат методите за ядрено възпиране по начини, които все още не могат да бъдат предвидени, особено ако – както някои експерти предполагат, че е възможно – научноизследователската и развойна дейност в областта на изкуствения интелект стане напълно автоматизирана, което ще стимулира внезапния ръст на възможностите. Експертите по национална сигурност не бива да отхвърлят тази възможност и трябва непрекъснато да следят за доказателства за бърз ръст на възможностите в областта на изкуствения интелект сред конкурентите.

Но дори и интелигентността да е мощен актив, тя не е магия и държавите, които се стремят да използват изкуствен интелект, за да обезоръжат противниците си, ще се сблъскат с реални физически, практически и институционални ограничения. Държава, овластена от трансформативни системи с изкуствен интелект, все пак ще трябва да реши огромен брой изключително трудни проблеми, преди да може да обмисли обезглавяването на ядрен конкурент: ще трябва да интегрира усъвършенстван изкуствен интелект в мащабни военни бюрокрации, което не е лесна задача, и да разбере как да тества тези системи предварително - трудна задача, предвид необходимостта както да се избегне задействането на превантивен отговор, така и да се репетират хиляди стъпки с малко място за грешки. Колкото и интелигентни да са, мощните системи с изкуствен интелект няма да могат да избегнат законите на физиката. И никой инструмент или способност не гарантира, че една държава може да наложи предпочитанията си на друга: в края на краищата Съединените щати притежаваха огромна военна и икономическа мощ над талибаните в Афганистан, но претърпяха недвусмислено поражение след две десетилетия война.

Нищо от това не бива да насърчава самодоволство. Дори ако ядреното възпиране продължи, изкуственият интелект ще трансформира националната сигурност по много начини, включително като помага на държавите да разработват нови автономни оръжия и като укрепва офанзивните и отбранителните киберспособности. Тези развития ще имат значителни последици, дори ако не дават на никоя държава възможността да налага волята си на противниците, въоръжени с ядрено оръжие. Изкуственият интелект може също така да демократизира достъпа до опасни способности, като намали бариерите за недържавни участници и отделни лица да изграждат и разполагат опустошителни биологични, химически и радиологични оръжия. Това са само част от проблемите, с които политиците ще трябва да се справят, докато изкуственият интелект продължава да се усъвършенства.

В ядрената област, американските служители не трябва да чакат да видят какъв ще е напредъкът на изкуствения интелект. Те трябва да гарантират, че политическите процеси включват експерти по изкуствен интелект, наред с експерти по ядрена енергия, насърчавайки диалог, който досега липсваше в общността за национална сигурност. Те трябва да провеждат строги прегледи на ядрените системи, за да проверят за уязвимости, които биха могли да бъдат използвани от напреднал изкуствен интелект, особено в киберпространството, и да разширят редиците на експертите по изкуствен интелект в правителството на САЩ. Те трябва внимателно да калибрират всички твърдения за необходимостта от надпревара към изкуствен интелект или за важността да бъдеш първият, който разработва решаващо чудодейно оръжие, за да не изостри рискованата и скъпа ядрена конкуренция. И чрез диалози за контрол над въоръженията, те трябва да работят за засилване на значителните етични, политически и правни ограничения върху способността на дадена държава да нанесе блестящ първи удар или да предприеме други ескалиращи стъпки. Системата за ядрено възпиране, която съществува от края на Втората световна война, не може да се приема за даденост. Тъй като политическите съперничества и нарастващата конкуренция за надмощие на изкуствения интелект между великите сили в света се разгорещяват, е по-важно от всякога да се поддържат канали за комуникация и пътища за намаляване на риска от неволна ескалация и бедствие.