ИИ не е врата към спасението и не дава отговори за морала

Най-шумните дебати около изкуствения интелект все още са свързани с продуктивността и икономическия растеж. Но проучване на Harvard Business Review от миналата година показа, че най-честите употреби на генеративния AI са много по-човешки: за терапия и компания, за организиране на живота и за търсене на смисъл. Машините тихо заемат роли, които някога изпълняваха приятели, възрастни хора, съветници, духовници — а за някои дори и молитвата.

AI като нов източник на утеха и смисъл

Това може да звучи абсурдно както за вярващи, така и за невярващи. Но AI отговаря на много човешка нужда в един все по-несигурен свят. В Китай DeepSeek се превърна в предпочитан „гадател“. В Индия платформи като GitaGPT, обучени върху индуисткия текст „Бхагавад Гита“, набират огромна популярност. „AI Jesus“ в платформата Twitch има над 85 000 последователи. А да не говорим за различните псевдорелигиозни AI-култове, пуснали корени в Силициевата долина — от парадокса на Роко до скандалната „Църква на бъдещето“.

Не би трябвало да е изненада, че хората започват да възприемат AI като някакво божество. Той може да изглежда всезнаещ. Слуша и „обича“ — или по-точно, обучен е върху огромни масиви човешко знание и фино настроен да бъде угоднически, за да ви задържи ангажирани.

Технологичната индустрия и езикът на „чудесата“

От години технологичната индустрия облича AI в религиозен език. Надпреварата за „суперинтелект“ се продава с месиански обещания: че ще лекува болести, ще спаси планетата и ще донесе свят, в който трудът е по избор, а над нас бдят „машини на любящата благодат“. Рисковете също се описват в космически мащаб: спасение срещу апокалипсис. Когато рекламираш продукт като чудо, не се учудвай, че потребителите го приемат като пророчество.

Религиозните лидери започват да реагират. През октомври Далай Лама организира диалог за AI, събирайки над 120 учени, академици и бизнес лидери, за да обсъдят въпроси като това какво отличава живия ум от изкуствения. Папа Лъв XIV също е открит критик, като настоява за регулации, които да предпазят хората от емоционална привързаност към чатботове и от разпространението на манипулативно съдържание. Той предупреди и за опасността да се откажем от собствената си способност да мислим. Още гласове ще се включат — от най-високите духовни постове до местни религиозни лидери.

Религиозните лидери предупреждават за рисковете

Това не означава, че технологията и религията трябва да бъдат противопоставени. В Япония изследователи от Университета в Киото наскоро представиха „Протестантски катехизис-бот“, създаден да дава отговори и съвети за християнските учения и ежедневието. Това е интригуващ проект в страна, където под 1% от населението се определя като християни. Същият екип преди това създаде „BuddhaBot“, базиран на будистки учения.

Прави впечатление колко предпазливо действат. „BuddhaBot“ беше предоставен на монаси в Бутан миналата година и в момента преминава оценка за безопасност преди по-широко разпространение. Християнският чатбот също не е публично достъпен — първо искат да бъде тестван в семинарии. Отговорните разработчици ще се движат бавно, защото разбират залога, дори когато пазарът възнаграждава скоростта и мащаба.

В общество, по-разделено от всякога, може да е по-лесно да попиташ чатбот за морална яснота, отколкото да рискуваш разговор с друг човек. През последната седмица попитах DeepSeek за корените на злото и как да се запази надеждата сред страдание. Най-често получавах баналности. Но оцених това, че често ме насочваше обратно към връзки с истински хора. Това, което ме смути в отговорите на ChatGPT на същите въпроси, беше навикът да завършва с отворени въпроси — малки кукички, създадени да ме задържат в разговора. Това не е откровение, а механика за задържане. И може да има опасни последици за уязвими потребители.

Опасността от възлагане на смисъл върху алгоритми

Когато мисля за рисковете от AI, по-малко ме тревожи идеята някой да използва чатбот, за да построи атомна бомба (все пак са нужни суровини като уран). По-тихата опасност е какво се случва, когато милиони хора започнат да възлагат смисъла на живота си на системи, оптимизирани за ангажираност. Колкото повече се обръщаме към алгоритми за напътствие, толкова повече те оформят нашите избори, вярвания и покупки. Частните изповеди се превръщат в тренировъчни данни, които ни държат да скролваме и да се абонираме.

Преди повече от десетилетие изпълнителният директор на OpenAI Сам Алтман отбеляза, че успешните основатели не започват с идеята да създадат компания. „Те са на мисия да създадат нещо по-близко до религия, и в един момент се оказва, че компанията е най-лесният начин да го направят“, написа той. (За протокола — в същия блог тогава разсъждаваше и за НЛО.) Но тази амбиция, умишлено или не, се оказа зловещо пророческа.

AI не предлага спасение — предлага привързване. Пророк със абонаментен модел е просто търговец.

--- 

Катрин Торбек е автор в Bloomberg Opinion, която преди това е работила като репортер и редактор за CNN, ABC News и Business Insider, със силен фокус върху технологии, дигитални платформи и влиянието им върху обществото и икономиката. Целият анализ - на сайта на Bloomberg TV Bulgaria