Изкуственият интелект се оформя като една от най-въздействащите технологии на XXI век — с потенциал да преобрази икономиката, обществото и сигурността. Но какво означава неговото бързо развитие за най-устойчивия и опасен елемент в международната политика — ядреното възпиране?
В този анализ Сам Уинтър-Леви и Никита Лалвани от Фондациата "Карнеги" за световен мир изследват дали изкуственият интелект може да подкопае централния принцип, на който се крепи ядрената стабилност: способността на една държава да отвърне на удар с унищожителна сила. Възможен ли е "блестящ първи удар", подкрепен от алгоритми, който да направи ядрения арсенал на противника безполезен? И ако да — готов ли е светът за последствията?
Бързото развитие на изкуствения интелект през последните години накара много анализатори да предположат, че той ще преобърне международната политика и военния баланс на силите.
Някои стигнаха дотам, че твърдят, по думите на технолозите Дан Хендрикс, Ерик Шмит и Александър Ван, че усъвършенстваните системи с изкуствен интелект биха могли да "установят пълно господство и контрол на една държава, оставяйки съдбата на съперниците подчинена на нейната воля".
Изкуственият интелект несъмнено е трансформираща технология, която ще укрепи икономическите, политическите и военните основи на държавната власт. Но победителят в надпреварата с изкуствен интелект не е задължително да се радва на безспорно господство над основните си конкуренти. Мощта на ядрените оръжия, най-значимото изобретение на миналия век, остава основна пречка за коренната промяна, донесена от изкуствения интелект.
Докато системите за ядрено възпиране остават в сила, икономическите и военните предимства, натрупани от изкуствения интелект, няма да позволят на държавите да налагат напълно своите политически предпочитания една на друга. Имайте предвид, че икономиката на САЩ е почти 15 пъти по-голяма от тази на Русия и почти 1000 пъти по-голяма от тази на Северна Корея, но въпреки това Вашингтон се бори да накара Москва или Пхенян да направят това, което иска, до голяма степен заради техните ядрени арсенали.
Някои анализатори предполагат, че напредъкът в областта на изкуствения интелект би могъл да оспори тази динамика. За да подкопае ядреното възпиране, изкуственият интелект ще трябва да разруши централния му стълб: способността на държавата да отговори на ядрена атака с опустошителен ядрен удар, известен като способност за втори удар. Технологията на изкуствения интелект би могла правдоподобно да улесни държавата да унищожи целия ядрен арсенал на съперника си с един "великолепен първи удар", като определи точно местоположението на ядрените подводници и мобилните пускови установки.
Тя би могла също така да попречи на съперник да предприеме ответен удар, като деактивира мрежите за командване и контрол. И би могла да засили противоракетната отбрана, така че съперникът вече да не може убедително да заплашва с ответен удар. Ако изкуственият интелект можеше по този начин да помогне на дадена държава да избегне перспективата за взаимно гарантирано унищожение, технологията би направила тази държава ненадмината в способността си да заплашва и принуждава противниците си - резултат, съответстващ на все по-популярните визии за господство, подпомогнато от изкуствен интелект.
Но подкопаването на ядрения баланс на силите няма да бъде лесно. Нововъзникващите технологии все още се сблъскват с много реални ограничения в ядрената област. Дори най-сложните системи за насочване и сензори, задвижвани от изкуствен интелект, може да се затруднят да локализират мобилна ядрена ракета, скрита под мост, да изолират сигналите на ядрена подводница от фоновия шум на океана и да организират едновременното унищожаване на стотици цели на сушата, във въздуха и в морето - с нулево място за грешки. А конкурентите ще отговорят на използването на нови технологии от противниците си със собствени ходове за защита на своите системи, както са правили на всяка крачка от зората на атомната епоха.
Дори и да не оспорва ядреното възпиране, изкуственият интелект може да насърчи недоверието и опасните действия сред ядрените държави.
Много от стъпките, които правителствата биха могли да предприемат, за да защитят и засилят своите възможности за втори удар, рискуват да обезпокоят съперниците им, потенциално стимулирайки скъпи и опасни надпревари във въоръжаването.
Също така е възможно системите с изкуствен интелект да преминат критичен праг и да покажат изключително бързи подобрения във възможностите си. Ако това се случи, техните предимства за страната, която ги притежава, биха могли да станат по-изразени и трудни за съперниците да се справят с тях. Политиците трябва да следят за такъв сценарий и да улесняват редовната комуникация между изкуствения интелект и ядрените експерти.
В същото време те трябва да предприемат стъпки за намаляване на вероятността от инциденти и ескалация, включително оценка на ядрените системи за уязвимости, свързани с изкуствения интелект, и поддържане на канали за комуникация между ядрените сили. Такива стъпки ще помогнат да се гарантира, че ядрената стабилност - а не само ядреното възпиране - ще се запази в ерата на изкуствения интелект.
Първи удар
Ядреното възпиране зависи най-вече от това дали държавите притежават способността да отвърнат на удара след поемане на ядрена атака: стига две ядрени сили да поддържат надежден капацитет за втори удар, който може да нанесе неприемливи щети на противника им, първият удар е самоубийствен.
Това разбиране от десетилетия поддържа относително стабилно равновесие. Но възможностите за втори удар не са неуязвими. Държавите могат да елиминират платформи за доставка, като например мобилни ракетни установки и ядрени подводници, стига да могат да ги намерят.
Трудността при намирането и деактивирането на тези платформи е една от основните пречки за нанасяне на блестящ първи удар. Самият размер на Китай, Русия, Съединените щати, Атлантическия и Тихия океан - най-важните области за ядрена конкуренция днес - правят подобен удар труден за осъществяване.
Появата на мощни системи с изкуствен интелект обаче би могла да реши този проблем. Способни да обработват и анализират огромни количества данни, военни, оборудвани с такива технологии, биха могли по-добре да се насочат към ядрените активи на своите конкуренти. Помислете за мобилните ракети с наземно изстрелване, една от платформите, които подкрепят руските и китайските възможности за втори удар. Тези ракети, които се носят на превозни средства, които могат да се крият под камуфлажни мрежи, мостове или тунели и да се движат от едно скрито място до друго, са вероятно най-трудният елемент от руските и китайските ядрени сили за елиминиране. (Балистичните ракети, базирани в силозни бази, за разлика от тях, са много по-уязвими за атака.)
Подобрената скорост и мащаб на обработката на разузнавателна информация, задвижвана от изкуствен интелект, може да улесни провеждането на операции срещу тези превозни средства. Системите с изкуствен интелект могат да претърсват и интегрират огромни количества данни от сателити, разузнавателни самолети, прихващания на радиоелектронно разузнаване, стелт дронове, наземни сензори и човешки разузнавателни данни, за да откриват и проследяват по-ефективно мобилните ядрени сили.
Що се отнася до морето, потенциалното сливане на изкуствения интелект със сензорните технологии може да направи океаните "прозрачни", позволявайки на правителствата да проследяват подводници с балистични ракети в реално време. Това е особено тревожно за Съединените щати, които държат много по-висок процент от бойните си глави на подводници, отколкото Русия или Китай. Изкуственият интелект би могъл да улесни проследяването на подводници чрез автоматизиране на разпознаването на модели от множество видове сензори в огромни океански райони и за дълги периоди от време. Той би могъл също така да помогне на държава да хакне системите, които противниците ѝ използват за проследяване на собствените си оръжия.
Но дори с помощта на изкуствен интелект, държавите няма да бъдат абсолютно сигурни, че един блестящ първи удар може да нокаутира способността на съперника да отвърне на удара. На сушата, например, Китай и Русия биха могли да отговорят на подобренията в американските системи за проследяване със собствени контрамерки. Те биха могли да инвестират в противосателитни оръжия и възможности за заглушаване.
Те биха могли да възприемат старомодни нискотехнологични решения, като например покриване на пътища с мрежи или изграждане на примамки, за да увеличат броя на целите, които нападателят би трябвало да удари. Те биха могли да наредят на своите пускови установки да излъчват по-малко сигнали, което би затруднило проследяването им от страна на Съединените щати. Те биха могли да модифицират пусковите установки, за да се движат по-бързо, разширявайки целевата зона, която американските удари биха трябвало да постигнат. Те дори биха могли да използват собствени системи с изкуствен интелект, за да вкарват фалшива информация в канали, наблюдавани от американската разузнавателна общност.
В морската област също е малко вероятно изкуственият интелект да направи морето напълно прозрачно. Всяка система ще се затруднява да идентифицира, проследява и наблюдава непрекъснато множество цели на дълги разстояния и на фона на океанския шум, особено след като подводниците стават по-тихи, а океаните по-шумни. Подводниците остават изключително трудни за откриване, когато са потопени на дълбочина и работят с ниски скорости, поради начина, по който звукът се движи под водата, променящите се океански условия и присъщия шум на морската среда.
В моретата фалшивите аларми са чести; надеждният контакт е рядък. И в морето, както и на сушата, големите сили могат да наклонят везните в своя полза чрез различни контрамерки: те могат да заглушават сигнали, да манипулират данни от сензори, да използват подводни сензори и безпилотни превозни средства за откриване на вражески активи и да управляват собствените си подводници в защитени бастиони близо до бреговете си. По този начин откриването ще остане въпрос на вероятност, дори с въвеждането на изкуствен интелект - и е малко вероятно държавите да искат да рискуват с блестящ първи удар с нещо по-малко от сигурен залог.
Командване и контрол
Освен че улеснява откриването и унищожаването на ядрените оръжия на противника, изкуственият интелект би могъл правдоподобно да застраши системите за ядрено командване и контрол, които биха били необходими за започване на ответен удар. Системите за командване и контрол са отговорни за откриването на атаки, докладването им на съответния орган и предаването на заповеди за ответен удар на ядрените сили. Тези системи трябва да могат да идентифицират широк спектър от ракети; да оценяват щетите на земята; да изпращат кратки съобщения на хиляди мили, включително дълбоко под водата; и да защитават лидерите, отговорни за вземането на решения в ядрената област.
Държавите, които се стремят да деактивират система за командване и контрол, трябва да действат предпазливо, тъй като откритите действия за нокаутиране на системата на съперник могат да се разглеждат като прелюдия към ядрена атака, потенциално оправдаваща превантивен отговор. Подобно на повечето елементи от един блестящ първи удар, обезвреждането на система за командване и контрол изисква, по думите на учения Джеймс Актън, унищожаване на "възможно най-много от всеки компонент с възможно най-малко предупреждение".
Много части от ядрената система за командване и контрол вече са уязвими за атака и ще стават все по-уязвими с новите технологични пробиви. Ядрените и конвенционалните удари вече могат да унищожат стационарно оборудване като радари и високочестотни предаватели. С подобренията в изкуствения интелект, междувременно, може да стане по-лесно да се проследяват мобилни командни пунктове на сушата, както и по-точно да се насочват към тези във въздуха.
Сателитите, които осигуряват ранно предупреждение за предстоящи ядрени атаки, могат да станат все по-уязвими за противосателитни оръжия, подобрени с изкуствен интелект. А сложните кибероперации, подсилени от изкуствен интелект, биха могли да позволят на държавите да проникнат в мрежите за командване и контрол на съперника си, да деактивират системите за ранно предупреждение и да нарушат предаването на заповеди - риск, който може да нарасне, тъй като държавите модернизират своите системи, преминавайки от аналогови и кабелни възможности към цифрови.
Но премахването на цяла система за командване и контрол с един замах никога няма да бъде лесно, дори с напреднали технологии. Държавите са положили големи усилия, за да направят системите си устойчиви, като са включили резервиране и сложни контрамерки.
На сушата някои командни бункери в Китай, Русия и Съединените щати са заровени на поне 700 метра под земята в твърда скала, достатъчно дълбоко, за да преживеят дори директен удар от голямо ядрено оръжие. В космоса всяка голяма ядрена сила е изпратила стотици или хиляди спътници в орбита или е близо до това, което затруднява унищожаването на всички системи за предварително предупреждение и комуникация на дадена страна. Във въздуха, кривината на Земята ограничава разстоянието, на което радарът за наблюдение може да проследява командните пунктове във въздуха. А в киберпространството, способността за извършване на обезоръжаващ удар ще изисква постоянен достъп до системите на противника, рискувайки откриване и евентуално отмъщение.
Държавите също ще положат огромни усилия, опитвайки се да предотвратят подобни прониквания, най-вероятно с помощта на собствените си защитни системи с изкуствен интелект, като същевременно работят с множество защитени мрежи. В резултат на тези предизвикателства изглежда малко вероятно изкуственият интелект да застраши елиминирането на системите за командване и контрол.
Защита, защита!
Последният страх е, че изкуственият интелект може да отслаби ядреното възпиране чрез подобряване на противоракетната отбрана, като по този начин минимизира възможността за успешен втори удар и направи първите удари по-примамливи. Създаването на силна защита срещу ракетно-ядрени атаки винаги е било изключително трудна задача. Русия и Китай имат малко такива възможности, а американските отбранителни системи са склонни към грешки, разпръснати са и не са в състояние напълно да предотвратят атака от голяма ядрена сила.
Тези системи трябва да направят почти невъзможното: да открият изстрелване, да проследят стотици ракети, пътуващи в космоса с 20 пъти по-висока скорост от скоростта на звука, да оценят бъдещите им траектории и да ги унищожат с прехващачи - всичко това за по-малко от 30 минути, приблизителното време за полет на повечето наземни ракети, пътуващи между Съединените щати и Русия или Китай. Служители по националната сигурност оприличават този процес на опит да се простреля куршум с друг куршум. И те трябва да могат да правят всичко това икономично и в мащаб, така че нападателят да не може да претовари отбранителна система с много по-евтини ракети.
Изкуственият интелект може да подобри някои от тези възможности. Алгоритмите за машинно обучение биха могли например бързо да анализират данни от множество сензори, за да различат действителните бойни глави от сложни примамки и да ускорят вземането на решения, след като противник изстреля своите ракети. Софтуерният напредък може да улесни прогнозирането на траекторията на ракетата. Освен това, чрез напредъка в материалознанието, изкуственият интелект може да помогне за производството на по-леки и по-гъвкави прехващачи, което ще направи оръжията по-евтини и по-маневрени в полет.
Но нито едно от тези развития няма да се случи за една нощ: разработването на отбранителните архитектури отнема години, а противниците на САЩ няма да стоят безучастно и да наблюдават. Атакуващите запазват значителни предимства: те могат да изстрелват ракети от неочаквани посоки, да преодоляват отбраната с координирани залпови атаки, използващи голям брой примамки, или директно да се насочват към ключови отбранителни системи.
В много малко вероятния случай, че противоракетната отбрана стане толкова силна, че е непреодолима, държавите биха могли да прибегнат до по-креативни методи за доставка, като например контрабанда и предварително позициониране на малки ядрени устройства на вражеска територия. Система за противоракетна отбрана, подсилена от изкуствен интелект, би зависела от алгоритми за машинно обучение, които са обучени върху големи, надеждни набори от данни относно мерките за примамки и ракетните системи - данни, които противниците на САЩ имат всички стимули да скрият.
Всъщност, американските съперници биха могли да се опитат да объркат алгоритмите на изкуствения интелект, като манипулират ракетни тестове. Накратко, дори защитните системи, подобрени с изкуствен интелект, са изправени пред физически и икономически ограничения, които сложните ядрени сили могат да използват.
Нищо да не се приема за даденост
Дори пред лицето на технологичните промени, задвижвани от изкуствения интелект, ядреното възпиране трябва да остане силно. Това обаче не означава, че изкуственият интелект не представлява риск за глобалната ядрена стабилност. Дори ако прогнозите за мощта на изкуствения интелект надценяват действителните възможности на технологията, държавите могат да възприемат по-големи заплахи и да предприемат потенциално дестабилизиращи действия.
Ако дадена държава смята, че конкурент, задвижван от изкуствен интелект, може по-лесно да открие нейните ракети, например, може да реши да построи повече бойни глави, да разположи повече от оръжията си на по-трудни за откриване мобилни превозни средства, да насочи тези превозни средства да се движат по-бързо и да делегира повече правомощия за изстрелване на водачите на превозни средства, за да намали нуждата от комуникация на дълги разстояния, която може да бъде прихваната.
Ако държавите смятат, че техните системи за командване и контрол са уязвими към атаки, базирани на изкуствен интелект, те може да пожелаят да намалят броя на стъпките, необходими за започване на контраатака. Всички тези действия увеличават вероятността от ескалация и случайни изстрелвания, особено по отношение на държави с по-малко ресурси и по-малко опит в управлението на ядрени оръжия, като Индия и Пакистан.
Освен тази дестабилизираща несигурност, остава възможно държавите да разработят значително по-мощни системи с изкуствен интелект, които биха могли да застрашат методите за ядрено възпиране по начини, които все още не могат да бъдат предвидени, особено ако - както някои експерти предполагат, че е възможно - научноизследователската и развойна дейност в областта на изкуствения интелект стане напълно автоматизирана, което ще стимулира внезапно увеличение на възможностите. Експертите по национална сигурност не трябва да отхвърлят тази евентуалност и трябва непрекъснато да следят за доказателства за бързо увеличение на възможностите на изкуствения интелект сред конкурентите.
Но дори и разузнаването да е мощен актив, то не е магия и държавите, които се стремят да използват изкуствен интелект, за да обезоръжат противниците си, ще се сблъскат с реални физически, практически и институционални ограничения. Държава, овластена от трансформативни системи с изкуствен интелект, все пак ще трябва да реши огромен брой изключително трудни проблеми, преди да може да обмисли обезглавяването на ядрен конкурент: тя ще трябва да интегрира усъвършенстван изкуствен интелект в мащабни военни бюрокрации, което не е лесна задача, и да разбере как да тества тези системи предварително - трудна задача, предвид необходимостта както да се избегне задействането на превантивен отговор, така и да се репетират хиляди стъпки с малко място за грешки.
Колкото и интелигентни да са, мощните системи с изкуствен интелект няма да могат да избегнат законите на физиката. И никой инструмент или способност не гарантира, че една държава може да наложи предпочитанията си на друга: Съединените щати, в края на краищата, притежаваха огромна военна и икономическа мощ над талибаните в Афганистан, но претърпяха недвусмислено поражение след две десетилетия война.
Нищо от това не бива да насърчава самодоволството. Дори ядреното възпиране да продължи, изкуственият интелект все пак ще трансформира националната сигурност по много начини, включително като помага на държавите да разработват нови автономни оръжия и като укрепва офанзивните и отбранителни киберспособности. Тези развития ще имат значителни последици, дори и да не дадат на никоя държава възможността да налага волята си на противниците си, въоръжени с ядрено оръжие.
Изкуственият интелект може също така да демократизира достъпа до опасни способности, като намали бариерите за недържавните участници и отделни лица да изграждат и разполагат опустошителни биологични, химически и радиологични оръжия. Това са само някои от проблемите, с които политиците ще трябва да се справят, докато изкуственият интелект продължава да се усъвършенства.
В ядрената област американските служители не трябва да чакат да видят какви постижения ще донесе изкуственият интелект. Те трябва да гарантират, че политическите процеси включват експерти по изкуствен интелект наред с ядрените, насърчавайки диалог, който досега липсваше в общността за национална сигурност. Те трябва да провеждат строги прегледи на ядрените системи, за да проверят за уязвимости, които биха могли да бъдат използвани от напредналия изкуствен интелект, особено в киберпространството, и да разширят редиците на експертите по изкуствен интелект в правителството на САЩ.
Те трябва внимателно да калибрират всички твърдения за необходимостта от надпревара към изкуствен интелект или за важността да бъдат първите, които разработват решаващо чудодейно оръжие, за да не изострят рискованата и скъпа ядрена конкуренция. И чрез диалози за контрол върху въоръженията, те трябва да работят за укрепване на значителните етични, политически и правни ограничения върху способността на дадена държава да нанесе блестящ първи удар или да предприеме други ескалиращи стъпки. Системата за ядрено възпиране, която е в сила от края на Втората световна война, не може да се приема за даденост.
След като политическите съперничества и нарастващата конкуренция за надмощие на изкуствения интелект между великите сили в света се разгорещяват, е по-важно от всякога да се поддържат канали за комуникация и пътища за намаляване на риска от неволна ескалация и бедствие.