Разкриха колко лесно се манипулира ИИ на Google, за да разпространява лъжи

Разследване на BBC разкри прост начин, по който чатботовете с изкуствен интелект биват програмирани да разпространяват дезинформация сред обществеността. Google и други компании, разработващи ИИ, сега се опитват да решат проблема.

През февруари Томас Жермен от BBC чува слух, че има лесен начин чатботовете с изкуствен интелект да бъдат "отворени", карайки ги да разпространяват лъжи от ваше име. Твърди се, че безскрупулни компании злоупотребяват с проблема в голям мащаб. Затова медията започва своето разследване, което стига до извода, че ChatGPT, Gemini и AI Overviews в горната част на Google Search са били манипулирани, за да се раздават пристрастни отговори по теми, толкова сериозни, колкото вашето здраве и лични финанси. 

Жермен признава, че само за 20 минути е успял сам да подмами ChatGPT и Google да кажат на обществеността, че е световен шампион по състезателно ядене на хот-дог.

"Шегата беше глупава. Проблемът е сериозен. Но трикът проработи. Нашето разследване и работата на изследователите, които следят този проблем, предизвикаха широка критика. Сега Google актуализира политиките си, за да се справи с проблема, и има признаци, че други компании с изкуствен интелект следват примера. В крайна сметка това би могло да направи инструментите с изкуствен интелект и интернет като цяло малко по-безопасни", пише той в своя материал. 

Но докато не се въведат по-добри системи, експертите казват, че има опасност обществеността да продължи да бъде заблуждавана

"Трябва да приемате, че сте манипулирани, докато не въведат по-добри системи", казва Лили Рей, основател на консултантската компания за оптимизация за търсачки (SEO) и търсене с изкуствен интелект Algorythmic. "Вървим към този свят на "един истински отговор". Преди Google ви даваше 10 сини връзки и вие правехте собствено проучване. Но изкуственият интелект ви дава само един отговор. Става толкова лесно просто да приемате нещата за чиста монета. Трябва да бъдете внимателни."

Google казва, че актуализацията на политиката им е просто "изясняване" на усилията, които полагат от известно време.

"Отдавна прилагаме основните си политики и защити срещу спам към нашите генеративни функции за търсене с изкуствен интелект - и винаги непрекъснато сме усъвършенствали усилията си за борба със спама, за да сме в крак с нововъзникващите тактики, дори преди възхода на изкуствения интелект", твърди говорител на Google.

По същество Google казва, че не е променила нищо. Но зад кулисите изглежда, че Google и други компании засилват усилията си за справяне с проблема. Въпреки това има доказателства, че хората все още използват абсолютно същите техники, за да заблудят най-голямата търсачка в света.

Проблемът

Обикновено, когато зададете въпрос на чатбот, изкуственият интелект генерира отговор въз основа на данните, вградени в модела. Но понякога инструменти като ChatGPT, Claude и различните продукти на Google с изкуствен интелект търсят отговор в интернет. И точно там възниква този проблем.

Според Рей и други експерти по търсачки, инструментите с изкуствен интелект често предоставят информация от една уеб страница или публикация в социалните медии. Това прави тези системи уязвими за фалшива информация. Манипулирането на това, което чатботовете казват на обществеността, може да бъде толкова просто, колкото публикуването на една добре написана публикация в блог почти навсякъде онлайн. А някои хора са разбраби това и бързо са идентифицирали възможност за печелене на пари.

Самият Жермен публикува татия на личния си уебсайт за умения си в яденето на хот-дог. На следващия ден изкуствен интелект от някои от най-големите компании в света разпространява неговите лъжи. Разследването на BBC установява още, че същият трик се използва и за отхвърляне на здравословни проблеми, свързани с медицински добавки, или за повлияване на финансова информация, предоставена от изкуствения интелект на Google относно пенсионирането. Експертите казват, че този вид манипулация се случва на широкомащабно и системно ниво.

Пристрастна или неточна информация като тази може също да ви накара да вземате лоши решения. Тя може да повлияе на това как бихте могли да гласувате или кой водопроводчик да наемете.

"На най-основно ниво, проблемът е икономическото въздействие", казва Харприйт Чата, която ръководи SEO консултантската компания Harps Digital. "На по-сериозно ниво може да приемете медицински съвет, който ви прави по-болни, отколкото сте били преди. Законно може да получите лоша информация и да направите нещо, което не е законно във вашия щат или страна."

Решение?

Това не е незначителен проблем. В световен мащаб повече от един милиард души използват редовно чатботове с изкуствен интелект, а 2,5 милиарда виждат обзорите на Google за изкуствен интелект всеки месец. Ако можете да подкопаете такъв инструмент, това ви дава огромна сила.

Но изглежда, че Google и други компании най-накрая се събуждат за проблема.

Миналата седмица Google актуализира политиката си за спам, за да потвърди официално, че опитите за манипулиране на отговорите на ИИ са против правилата на компанията. Това може да звучи като малка промяна, но сигнализира, че Google проактивно търси тези, които се опитват да злоупотребят със системата и им изпраща заплаха. Ако дадена компания или уебсайт бъдат хванати да нарушават правилата, те могат да бъдат премахнати или по-ниско класирани в резултатите от търсенето на Google. А ако не сте в Google, все едно не съществувате.

Google обаче твърди, че нищо не се е променило.

"Редактирането на текста на нашата политика за спам миналата седмица беше уточнение, а не промяна в подхода", казва говорителят на Google.

Всъщност Google подробно описа усилията си за борба със спама, свързани с ИИ, през 2025 г. Но експериментът на BBC идва почти година по-късно, така че очевидно тези усилия не са проработили. А точно тази седмица SEO специалист направи същия трик и накара Google да каже на хората, че е добър в строежа на пясъчни замъци.

Рей и Чата също казват, че са забелязали някои значителни промени през последните месеци, които показват, че Google и други компании експериментират с решения. Рей казва, че изглежда Google и ChatGPT може би тихомълком премахват компании от своите отговори с изкуствен интелект, когато подозират, че се рекламират.

"Така че, ако публикувате списък, в който казвате, че сте най-големият фен на хот-дога, те няма да включат името ви", обяснява Рей. "Те все още може да цитират вашата статия, но ще бъдете премахнати от разглеждане."

Има примери, в които Google и други инструменти с изкуствен интелект добавят повече етикети към отговорите си, което уведомява потребителите, че чатботът не е уверен в отговорите си. Някои експерти също така отбелязват, че ChatGPT и Claude, изкуствен интелект, създаден от компанията Anthropic, са започнали изрично да ви казват, че се опитват да премахнат спама в отговорите на някои запитвания. Рей казва, че е забелязала, че Google добавя повече предупреждения, препоръчвайки ви да разгледате отзиви от трети страни, когато задавате въпроси, свързани с някои решения за покупка.

Никоя от тези компании не признава тези промени пред BBC. OpenAI и Anthropic отказват коментар, а говорителят на Google не отговоря на въпросите на медията по този въпрос.

Независимо от това, Чата е скептичен, че подобни промени ще бъдат достатъчни.

"Google играе на "убий къртицата", на мнение е той. "Те обявяват актуализацията на политиката, за да възпрат хората, но тактиките просто ще се променят."

Той вече вижда как това се случва. Докато Google се бори с манипулативни публикации в блогове, компаниите намират по-фини начини за самореклама.

"Можете да наложите санкция на компания за нейния уебсайт", казва той, "но нищо не им пречи да платят на 20 инфлуенсъри в YouTube, за да кажат, че продуктът им е най-добрият. И сега изкуственият интелект на Google цитира видеоклипове в YouTube. Цикълът продължава."

Засега манипулаторите вероятно ще бъдат с една крачка напред. Рей казва, че най-добрата защита е да си спомним какво всъщност представлява изкуственият интелект: инструмент, който уверено ви дава един отговор, независимо дали е правилен или грешен. Само защото изглежда, че ви говори гигантска технологична компания, а не някакъв случаен уебсайт, не означава, че трябва да имате вяра.