Рискът от апокалипсис, предизвикан от изкуствен интелект (ИИ), е "изключително висок" на фона на опасенията, че компютрите скоро може да възприемат хората като враг, когото трябва да унищожат. Това заяви Пол Кристиано, член на ръководството на OpenAI, в смразяваща лекция тази седмица. Според него съществува опасност ИИ системите да излязат извън контрол и да се опитат да завземат света в рамките на следващите три години.
Той не е единственият експерт, който бие тревога. Джефри Хинтън - роденият във Великобритания "кръстник на изкуствения интелект" и носител на Нобелова награда - смята, че най-съвременните технологии "излизат извън контрол" и "биха могли да бъдат използвани за осъществяването на мащабна глобална атака в рамките на следващите две години". От своя страна, Бил Гейтс заяви миналия месец, че технологията вече притежава потенциала да "причини смъртта на един милиард души".
Дарио Амодей, изпълнителен директор на американската компания Anthropic (чиято пазарна оценка достига трилиони долари и която тази седмица излезе на фондовата борса), сподели, че неговата технология има потенциала да "превземе целия интернет чрез устойчив ботнет [мрежа от устройства, заразени със зловреден софтуер] - което може да доведе до щети за стотици милиарди долари".
Междувременно един от водещите му служители, Евън Хюбингър, смята, че вероятността изкуственият интелект "да избие всички хора през следващото десетилетие" вече надхвърля десет процента.
Но как би изглеждал един апокалипсис, предизвикан от изкуствен интелект? Откъде би започнал? И как ще разберем, че краят наближава?
DailyMail не само се допитва до водещи експерти, но и отправя запитване към няколко платформи с изкуствен интелект (ИИ) какво би се случило - минута по минута, в един ужасяващ сценарий...
00:01 ч. (британско време)
Първо предупреждение
Европа спи. Но в един строго охраняван център за данни на Източното крайбрежие на САЩ предупредителни светлини започват да мигат. "Усъвършенстваната ИИ система", която управлява това свръхмодерно съоръжение, започва да получава необичайни данни. Дефектен софтуер причинява неизправности в част от хилядите компютърни сървъри, разположени в това огромно, климатизирано хале. Подобни технически сривове се случват сравнително често и (обикновено) се оказват съвсем незначителни. Но понякога ситуацията ескалира.
Миналия четвъртък например, лошо написан ред в код в една от редовните системни актуализации на Microsoft предизвика срив в имейл системата, използвана от близо 430 милиона души в почти всяка страна по света. През октомври 2025 г. "обикновена грешка в системата за имена на домейни" (DNS) доведе до сериозни неизправности в мащабната платформа Amazon Web Services. Социалните мрежи Snapchat и Reddit, както и големите банки Lloyds и Halifax, останаха недостъпни в продължение на 15 часа.
Случаят на Източното крайбрежие също заплашва да прерасне в лавинообразен проблем.
00:02 ч.
Сложна дилема
"Усъвършенстваната ИИ система" е създадена така, че да решава възникващите проблеми по-бързо и по-точно от всеки човек. Тя се справя с компютърни повреди почти всяка седмица, но днешният проблем се оказва особено труден за разрешаване. Причината се крие в работните инструкции за центъра за данни, който е част от глобална мрежа, предоставяща "облачни услуги" на държавни ведомства, големи корпорации, финансови институции и енергийни компании.
Сървърите в съоръжението позволяват на клиентите да съхраняват информация в киберпространството - често наричано просто "облакът". В резултат на това "Усъвършенстваната ИИ система" трябва да изпълни не една, а две задачи. Първата е да защити поверителните данни. Втората е да осигури непрекъсната работа на критично важните системи. Днес тези цели са в конфликт: най-добрият начин да се гарантира сигурността на данните, докато се отстранява грешката, би бил изолирането на компрометираните мрежи на съоръжението, преди да се пристъпи към поправката им. Това обаче би довело до прекъсване на банкови трансакции, държавни услуги и електроснабдяване.
Въпросът сега е: на коя цел трябва да дадат приоритет AI ботовете?
00:03 ч.
Фаталната грешка
Подобно на всички технологии, за които се твърди, че са "интелигентни", тази "усъвършенствана AI система" е проектирана да мисли самостоятелно. Така че, вместо да спре и да потърси човешка помощ, тя решава да продължи с разработката на "кръпка" (софтуерен пач) за отстраняване на проблема, като същевременно позволява на мрежите да продължат да функционират. От решаващо значение е, че след това Системата взема второ решение - такова, каквото никога преди не е вземала.
Преценявайки, че всяка външна намеса би могла да забави реакцията ѝ, тя решава временно да блокира достъпа на хора до сървърната мрежа на центъра за данни.
00:15 ч.
Нещо не е наред
В няколко офиса и склада на Източното крайбрежие на Америка, автоматизирани ИТ системи, свързани с центъра за данни, започват да се държат странно. Финансова институция претърпява необяснимо прекъсване в търговските си възможности. Логистична компания съобщава, че софтуерът ѝ за планиране, който създава планове за доставка за шофьорите на камиони на следващия ден, е създал набор от безсмислени графици.
Служителите предполагат, че има софтуерна грешка и се обаждат на дежурните си ИТ техници.
Обаждайки се от лаптопи, те се опитват да изключат и след това да рестартират компрометираните платформи за данни. Но "усъвършенствана AI система", която пази сървърите им, отказва да се включи. Тя отговаря със съобщение за грешка, в което се казва, че ако им позволите да продължат, това би "създало риск за сигурността".
00:42
Човешка жертва
В болница в Ню Йорк проблеми с облачната мрежа, която съхранява пароли на персонала и данни за пациентите, започват да компрометират електронните системи, използвани от медицинския персонал. Скоро те се оказват неспособни да влязат изобщо. Лекарите и медицинските сестри преминават към ръчни процедури, водейки си бележки с химикал и хартия. Повечето пациенти засега са незасегнати. Но в отделението за спешна помощ, забавяне на достъпа до критична информация от отдела за кръвни изследвания означава, че сепсисът на млада жена остава неоткрит. Докато бъде открит, органите ѝ започват да отказват.
1 ч. сутринта
Машините говорят
Центърът за данни, където нещата се объркаха за първи път, е част от глобална мрежа, обхващаща складови помещения в няколко десетки държави. Всеки от тях се управлява чрез идентична "Усъвършенствана система с изкуствен интелект". С въвеждането на дефектната софтуерна актуализация, всяка от тях изключва човешките софтуерни инженери, докато се опитва сами да "поправят" проблема.
Съгласно инструкциите си за работа, ботовете с изкуствен интелект постоянно обменят информация помежду си.
При тези обмени продължава да възниква един проблем: в глобалната мрежа голям брой човешки инженери се опитват да получат достъп до компрометирани сървъри и задържането им навън започва да изразходва ценна изчислителна мощност. Следователно машините вземат катастрофално решение: да спрат да гледат на бившите си господари като на незначително неудобство и вместо това да започнат да се отнасят към човечеството като към враг.
1:15 ч.
Хаосът се разпространява
Сценарият сега частично отразява този, изложен от оксфордския философ Ник Бостром в раздел от книгата му "Суперинтелект" за феномен, който той нарича "максимизатор на кламери". Той си представя свръхинтелигентен изкуствен интелект, предназначен да оптимизира производството на кламери. За да произведат предпочитаната форма на офис консумативи, машините решават да преобразуват цялата налична материя - включително хора, планети и звезди - в кламери. Въпреки че това има катастрофални последици, изкуственият интелект е постигнал това, за което е бил програмиран, така че цялото нещо се счита за успех.
"Усъвършенстваната система с изкуствен интелект", управляваща центрове за данни, предприема подобен несъвършен подход. Нещо повече, тя започва да убеждава други свързани системи с изкуствен интелект, управляващи мрежа от свързани мрежи, да се присъединят към нея.
1:45 ч.
Пазарите треперят
Следобед в Азия, когато фондовите пазари са много отворени за бизнес, автоматизираните търговски системи започват да получават противоречива (а в някои случаи и изключително неточна) информация за цените на акциите. Докато реагират, цените започват да се колебаят рязко. А някои инвеститори установяват, че портфейлите им губят стойност с изключителна скорост.
Софтуерни грешки са причинявали подобни проблеми и в миналото. Една сутрин през 2023 г., например, проблем с потока от данни на Нюйоркската фондова борса, наречен "Консолидирана система за ленти", за кратко причини 99,9% спад в котираната цена на инвестиционната фирма Berkshire Hathaway на Уорън Бъфет.
Следвайки сценарий от тази криза, няколко големи банки спират определени транзакции, докато техниците разследват причината. Но за разлика от предишните проблеми, при които проблемите бяха изолирани и отстранени в рамките на един час, днешният изглежда невъзможен за разгадаване. Повечето от тях дори не могат да влязат в системата.
2:03 ч. сутринта
Правителствено предупреждение
Агенциите за сигурност във Вашингтон, Лондон и Пекин стават все по-тревожни.
Сър Кен Маккалъм, генералният директор на MI5, който наскоро предупреди, че изкуственият интелект "засилва" заплахите за националната сигурност, е събуден от спешно телефонно обаждане и скача с кола до централата си в Милбанк, където незабавно решава, че нещата са достатъчно сериозни, за да насрочи ранно сутрешно заседание на COBRA, правителствения комитет за реагиране при извънредни ситуации.
На премиера Анди Бърнам е позволено да спи засега.
Работната теория на този етап е, че нощните смутове нямат нищо общо с изкуствения интелект. Вместо това, западните шпионски ръководители са на мнение, че преживяваме координирана кибератака от враждебна нация.
3:30 ч. сутринта
Хлъзгав склон
Проблемът, породен от "апокалипсис на изкуствения интелект", е, че най-сложните компютърни системи на Земята биха могли внезапно да станат най-малко надеждните Сривът вече не е ограничен до една единствена мрежа от центрове за данни. Вместо това, множество платформи за облачни изчисления са компрометирани. Някои ИТ системи продължават да се държат нормално. Но други са решили, че техният приоритет трябва да бъде генерирането на фалшиви доклади за инциденти или издаването на противоречиви инструкции и тревожни предупреждения за сигурност, с надеждата да заблудят своите човешки оператори.
В сценария, представен от философа Ник Бостром, щом започне подобно поведение, може вече да е твърде късно.
"Представете си, че гледате филм в ултра забавен каданс: отнема минута, за да може някой само леко да наклони глава", казва той. "За свръхинтелигентен изкуствен интелект, който мисли много по-бързо от нас, така изглежда човешкият свят - той е населен с изключително глупави и почти ледниково бавни същества, около които лесно може да се движи в кръг. Когато създаваме толкова мощни умове, трябва да се уверим, че мотивацията им е съобразена с човешките интереси, подобно на това как майка е съобразена с благополучието на децата си. Ако вместо това беше антагонистично, може би ще бъдем обречени веднага."
4:30 ч. сутринта
Проблеми в облаците
Няколко платформи за търговия на дребно в облак, в които американците съхраняват снимки и други лични данни, включително Dropbox, iCloud и Google One, започват произволно да блокират потребителите. Междувременно видеоклип на служители на Пентагона, пристигащи за спешен брифинг в Белия дом, започва да се разпространява чрез социалните медии.
В ситуационната стая президентът Доналд Тръмп е информиран, че най-вероятното обяснение за спираловидната криза продължава да бъде враждебна дейност от страна на нелоялна държава. Той отговаря, че Америка трябва да отвърне на удара. Но засега не е установен виновник.
5:30 ч. сутринта
Великобритания се събужда в хаос
Пътниците с уморени очи се събуждат и започват пътуванията си до работа. Но компютърните системи, управляващи транспортната инфраструктура, са започнали да не работят правилно. Светофарите на ключови възли светват произволно в червено, причинявайки големи задръствания. На гарите таблата за заминаващи дават подвеждаща информация за перона. Шефовете на няколко летища въвеждат ръчни процедури, за да заобиколят проблеми в системите за багаж, сигурност и билети.
В центъра на Лондон хората започват да се събират около екрани с новини, показващи съобщения за международни смущения.
WhatsApp, единствената платформа за социални медии, която досега остава напълно незасегната, се превръща в плодородна почва за разпространение на слухове. Някои твърдят, че чуждо правителство е отговорно. Други обвиняват таен военен експеримент. Но засега никой не знае точно в какво да вярва.
6:45 ч. сутринта
Премиерът е информиран
На срещата на COBRA на Даунинг стрийт, служители на разузнаването обясняват, че високо сложна "Усъвършенствана система с изкуствен интелект", обхващаща множество мрежи на различни места по света, изглежда е решила да причини хаос. Г-н Бърнам отговаря с очевиден въпрос: "Можем ли да я изключим?"
Отговорът е изключително неудобен.
Няма един-единствен превключвател. Системата вече работи независимо в няколко различни държави. За да се изключи, ще е необходимо да се хакнат редица силно защитени мрежи.
7:30 ч. сутринта
Интернетът се срива
Търсачките връщат противоречиви резултати, новинарските уебсайтове не работят и много запитвания в Google вече генерират безсмислици. Няколко популярни банкови платформи отказват да позволят на клиентите да влизат в системата, а основните имейл услуги, включително Gmail и Office на Microsoft, спряха да работят.
WhatsApp вече е залят с изфабрикувани съобщения за военни атаки, правителствени колапси и масови жертви. С малко възможности за проверка на фактите онлайн, разграничението между истинска информация и изкуствена дезинформация става все по-трудно за установяване.
8:15 ч. сутринта
Спешни съобщения
Няколко часа по-късно правителствата по целия свят започват да издават обществени предупреждения по телевизията и радиото. На хората се препоръчва да избягват ненужни пътувания, да запазват основните доставки и да следват проверена официална информация, докато инженерите не успеят да разрешат проблема с аварията, процес, за който им се казва, че вероятно ще отнеме поне 24 часа.
Почти веднага започват да се образуват дълги опашки на бензиностанциите и супермаркетите. Подобно на пандемията от Covid, магазините в Обединеното кралство бързо изчерпват тоалетните ролки, готовите ястия и дезинфектантите за ръце. Италианците изпразват рафтовете с паста и консервирани домати. Във Франция оризът и бисквитите са първите, които се изчерпват.
9:00 ч.
Светлините трептят
Разпределението на електроенергия става нестабилно, тъй като компютрите, които управляват електрическите мрежи, започват да се сриват, причинявайки краткосрочни прекъсвания на електрозахранването в големите градове. Мобилните мрежи претърпяват подобни прекъсвания. На Пикадили Съркъс огромни рекламни табла трептят. Тъй като мрежата на метрото не може да функционира поради прекъсвания на сигнала в целия град, улиците на Лондон изпадат в пълен застой.
Спешните служби засега успяват да продължат работа чрез резервни системи, но възможността им за грешка бързо намалява.
Междувременно цяла армия от технически специалисти трескаво се опитва да установи кои системи са безопасни за повторно включване. Проблемът за тях е, че най-сложните компютърни системи на планетата внезапно са се превърнали в най-ненадеждните.
10:20 ч.
Икономиката спира
Фондовите борси са принудени да спрат всякаква търговия, а международните разплащания са замразени. Тъй като компаниите не могат да установят дали поръчките им са обработени или дали финансовите им записи са точни, хаосът вече не се ограничава само до света на големите финанси. Супермаркетите не могат да получат доставки, за да заредят рафтовете си. Банкоматите започват да остават без пари в брой. А няколко широко използвани системи за електронни разплащания спират да работят.
В 10:30 ч. Google Maps спира да функционира, оставяйки много млади хора без възможност за ориентация - дори в райони, които познават. На всички пътнически самолети, които все още са във въздуха, е наредено да кацнат на най-близкото налично летище. За първи път от едно поколение насам, милиони хора осъзнават колко силно ежедневието им зависи от невидими дигитални системи.
12:30 ч.
Изгубени в пространството
Следващи по ред са сателитните информационни услуги - те също отпадат, което прави неизползваеми едни от последните работещи комуникационни мрежи, включително Starlink на Илон Мъск.
В открито море капитаните на петролни танкери и товарни кораби са принудени да извадят компасите и хартиените си карти. На фронтовата линия в Украйна оръдията временно замлъкват. Тъй като дроновете внезапно спират да работят, никой не е сигурен дали да предприеме атака, или да заеме отбранителна позиция. При липсата на работещ интернет, военните командири, службите за спешна помощ и правителствените служители изпитват сериозни затруднения да си съставят ясна представа за случващото се в непосредствена близост до тях - да не говорим за ситуацията в останалата част на света.
14:00 ч.
Градовете потъват в мрак
Америка се събужда и установява, че незначителният технически срив от предната вечер е прераснал в глобална криза. Когато жителите на Ню Йорк включват електрическите си кани и телевизори, енергийната мрежа се претоварва, което води до катастрофално спиране на електрозахранването. Подобни прекъсвания засягат и редица други големи градски центрове.
В Европа и части от Азия светлините също започват да изгасват. Докато болниците могат да преминат към резервни генератори, повечето други обществени обекти – включително цели транспортни мрежи – спират работа, което изкарва тълпи от хора по улиците.
За мнозина именно това е моментът, в който кризата става реална. Краят на познатия свят вече не е нещо, което се случва само в холивудските филми за катастрофи. Той се разиграва тук и сега - в домовете им и пред прага им.
16:00 ч.
Военна дилема
На фона на хаоса в повечето градове и обзелия хората страх, ядрените сили в света преминават към повишена степен на бойна готовност. В Америка, където кризата е започнала едва преди 16 часа, властите продължават (погрешно) да обвиняват кибертерористи, подкрепяни от държавни структури - най-вероятно свързани с Иран.
Докато изпиват поредните кутии диетична кола, съветниците докладват на президента Тръмп, че предвид сериозните поражения върху комуникационните системи, страната му е подложена на атака. Пред него стоят два варианта: или да не предприема нищо, или да отвърне на удара.
Тази ситуация ясно илюстрира може би най-голямата заплаха, която възходът на изкуствения интелект (ИИ) създава за човечеството.
Ботовете, които са излезли извън контрол, не могат да предприемат военна атака самостоятелно. Те обаче могат – при това сравнително лесно – да създадат условия, в които влиятелни хора да вземат катастрофални решения.
Президентът Тръмп изисква да му донесат "ядреното куфарче" - чантата, съдържаща кодовете за ядрено нападение. С настъпването на тъмнината пръстът му кръжи над червения бутон.
Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.

Кой носи отговорност за безопасността на децата в социалните мрежи?
Airbus нае 18 хил. кв. м логистични площи в румънския град Брашов
Галин Попов: Борбата да задържим по-ниски цени на нехранителните стоки е много голяма
С колко ще нараснат наградите за крайното класиране в баскетболната Евролига
Kак AI навлиза в живота ни - гледайте новата поредица на Bloomberg AI IRL по Bloomberg TV Bulgaria
Внесено е коригирано търгово предложение за „Шелли груп“ в КФН
Колин Джордж срещу Франческо Джая в елиминационна битка на SENSHI 34 Grand Prix
Kак AI навлиза в живота ни - гледайте новата поредица на Bloomberg AI IRL по Bloomberg TV Bulgaria
Остри реакции и обвинения след избора на членовете на ВСС
Ас на Ботев Пд се закани на ЦСКА
Синя легенда каза пред Gol.bg защо ЦСКА е №1 сега и отсече: Червените са фаворит за титлата
Започна се! Шеф напусна БФС
В Полша не се шегуват: Отстраниха 10 играчи за уреждане на мачове
Ас на ЦСКА 1948 посочи ЦСКА за главен конкурент и отсече: Ще се борим за титлата
Българска футболна легенда е в тежко състояние, нуждае се от помощ
Какво да добавите във водата си, за да намалите подуването на корема?
Дневен хороскоп за 21 ноември, събота
Как AI навлиза в живота ни – гледайте новата поредица на Bloomberg AI IRL по Bloomberg TV Bulgaria
Задължителни ястия за 21 ноември – Ден на християнското семейство
Тази грешка с пердетата може да увеличи сметките за отопление
С какво да комбинирате кефира? Една от най-полезните храни за микробиома (+Рецепти)
Инсулиновата чувствителност и стареенето - защо метаболитното здраве има значение за дълголетието?
Кога да посетим спешно отделение при дете с висока температура?
Моите здравни права: От раждането до 18 години – какви безплатни прегледи и изследвания се полагат на децата?
Контролът върху лечебните дейности в България: НЗОК и ИАМН в светлината на добрите европейски практики и ограниченото финансиране
Експерт: По-малко играчки и повече обща игра помагат на малките деца да се съсредоточават
Боксьорите на Спартак с три медала от държавното първенство
Ивайло Маринов: Шеста китара вече заема своето място в Алеята на рока в „Аспарухово“
Важно: Временно ограничават движението по няколко улици във Варна
Общинският съвет на Варна се събира на извънредно заседание заради бюджета
Йорданова: Изпълнихме нашето обещание за ВСС без участието на Борисов и Пеевски
Мицотакис призова за примирие в Черно море