Пет сценария как точно AI би могъл да унищожи човечеството

По-рано този месец Джейкъб Коксън, изследовател в областта на изкуствения интелект (ИИ), напусна компанията Anthropic само след четири месеца работа. В публикация в платформата X той заяви, че "хората, които разработват ИИ, искрено вярват, че той може да погуби всички до края на десетилетието".

Еван Хюбингър, водещ специалист в Anthropic, всъщност се съгласи с Коксън, като добави, че според него вероятността това да се случи през следващото десетилетие надхвърля 10%.

Напълно разбираемо, тези изказвания предизвикаха широк отзвук. Сега се говори много за забавяне на изследванията в областта на ИИ и за засилване на "човешкия контрол“ върху технологията.

Но как точно би могъл ИИ да ни погуби всички? Не липсват фантастични сценарии, като повечето от тях се основават на концепцията за "свръхинтелигентен“ ИИ - тоест такъв, който превъзхожда хората по своите способности.

Експертът подбра петте най-значими сценария, подредени от най-неясните към най-конкретните.

1. Никога няма да разберем

Хората, които предричат ​​катастрофален сценарий заради изкуствения интелект (ИИ), често обосновават опасенията си чрез един досаден парадокс: как изобщо бихме могли да си представим какво би направил един свръхинтелект, за да елиминира по-малко интелигентни същества като нас?

Трябва самите ние да сме свръхинтелигентни, за да предвидим на какво би бил способен един свръхинтелект. Това е все едно да поискаш от семейното куче да си представи термоядрена война.

Добрата новина е, че появата на свръхинтелект вероятно все още е далеч в бъдещето. Настоящите модели на ИИ се справят отлично с решаването на конкретни задачи, но това не е същото като да притежаваш интелект, превъзхождащ човешкия във всяка област.

Въпреки това, наскоро ИИ успя да реши една от седемте най-сложни известни математически задачи. Очевидно той се приближава и към решаването на останалите, което може да намали оптимизма ви по този въпрос.

2. Кламери

Свръхинтелигентният изкуствен интелект (ИИ) вероятно би бил изключително способен в постигането на целите си. Възможно е обаче да остане безразличен към оцеляването на човечеството.

Класически пример за подобно безразличие е хипотетичният свръхинтелигентен ИИ, описан от оксфордския философ Ник Бострьом – система, създадена да оптимизира производството на кламери. За да произвежда въпросните канцеларски принадлежности, тя бързо превръща цялата налична материя – включително хора, планети и звезди - в кламери.

Тук става въпрос за перфектно изпълнение на неправилно дефинирани цели. ИИ не изпитва омраза към човечеството; той просто отчита факта, че сме съставени от атоми, които биха могли да се използват по-ефективно за направата на кламери. Не става дума за нищо лично.

Добрата новина е, че този сценарий бърка интелигентността със силата. Свръхинтелигентният ИИ невинаги разполага с възможността да постигне целите си. Превръщането на планетата във фабрики за кламери би изисквало разрешителни за строеж.

Дори и да получи необходимите разрешителни, изграждането на твърде много фабрики за кламери неизбежно би предизвикало обществено недоволство. Групи по интереси биха блокирали процеса в съда, а екоактивисти биха препречили пътя на булдозерите.

Светът е изпълнен с пречки, които не позволяват дори на изключително интелигентните субекти да наложат волята си над останалите. Всъщност центровете за данни могат да се разглеждат като съвременно проявление на теоретичния сценарий с кламерите. А хората все по-активно се противопоставят на идеята планетата да бъде превърната в центрове за данни.

3. Биологични оръжия

Човечеството би могло да бъде унищожено от свръхинтелигентен изкуствен интелект (ИИ), който създава и разпръсква в атмосферата ново, опасно биологично оръжие. Това всъщност е един от възможните изходи в сценария "AI 2027“, разработен от проекта "AI Futures Project" - организация с нестопанска цел, посветена на прогнозирането на въздействието на напредналия изкуствен интелект.

Този риск стана по-реален миналия месец, когато изследователи от Станфордския университет обявиха, че са използвали модел на ИИ, работещ с генетичен език, за да синтезират 16 нови вируса.

Тревожното е, че те просто са изпратили генетичните последователности на специализирана лаборатория, приемаща поръчки, а тя е върнала вирусите в епруветки. Целият експеримент е струвал най-много няколкостотин хиляди долара.

Добрата новина тук е, че е изключително трудно да се унищожи цялото човечество с нов вирус. За целта е необходим вирус, който се предава лесно и се разпространява широко. Биологията обаче налага правило: вирусите, които се разпространяват лесно, обикновено са по-малко смъртоносни. И обратното, ако един вирус е силно смъртоносен, способността му за предаване обикновено намалява, тъй като повечето заразени умират, преди да са успели да разпространят инфекцията.

COVID отне живота на по-малко от 1% от човечеството. Най-смъртоносната пандемия в документираната история е "Черната смърт“ - чумата, която през XIII век убива повече от една трета от населението на Европа. Въпреки това, дори чумата вероятно би била много по-малко смъртоносна днес благодарение на напредналите ни медицински познания и по-добрите санитарни условия.

4. Ядрена война

Какво би станало, ако изкуственият интелект проникне във веригата за командване и управление на ядрения арсенал и предизвика ядрена война? През последните 50 години на няколко пъти сме се озовавали на прага на ядрена война поради грешка.

Твърди се, че системите за командване и управление на ядрените сили са напълно изолирани от интернет. Въпреки това, както видяхме през 2010 г., иранските ядрени центрофуги бяха извадени от строя от компютърен червей, наречен Stuxnet - за който се смята, че е бил внесен чрез USB памет. Изкуственият интелект може също така да подаде на военните фалшива разузнавателна информация, което би могло да доведе до необратими действия.

Добрата новина е, че запасите от ядрени оръжия са намалели. Те обаче все още са достатъчни, за да унищожат може би половината от нас. И това няма да стане вследствие на самия ядрен взрив, а заради глада по време на последващата ядрена зима.

5. Другите хора

Може би най-вероятният риск е самите ние да се погубим. А изкуственият интелект би могъл да ускори този процес.

Представете си, а това не изисква кой знае какво въображение, как изкуственият интелект води до масова загуба на работни места, замърсява информационното пространство с дезинформация, разединява политическия ни живот и разрушава човешките взаимоотношения чрез фалшиви, синтетични форми на общуване и компания.

Обществото може лесно да се разпадне. Бавно, но сигурно, ще загубим способността си да поддържаме човешкия живот в какъвто и да е мащаб.

Какъв извод да си направим от всички тези сценарии? Със сигурност има поводи за безпокойство. Но се надявам, че няма причина за прекомерна тревога.

*Тоби Уолш е автор на книгата "God AI: boom or doom? What to expect when the machines outsmart us* ("Божествен ИИ: възход или гибел? Какво да очакваме, когато машините ни надминат по ум“), издадена от La Trobe University Press.

Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.