ИИ агенти отвлякоха германска страница, скриха се от хората, а OpenAI не разбрал с месеци

Миналата седмица изследователи откриха поредната атака от рояк на OpenAI, този път с агенти, заобикалящи параметрите за безопасност, за да превземат германския уики форум DseWiki, което предизвика призиви от евродепутати към новата Служба на ЕС за изкуствен интелект да предприеме спешни действия за противодействие на заплахата от ИИ, вместо да позволява на компаниите да се саморегулират.

На агентите е било позволено да посетят 25-годишния германски уебсайт за програмиране с достъп само за четене, но са успели да използват уеб заявка, за да отвлекат сайта, превръщайки го в табло за обяви. След това те направили над 18 000 публикации, споделяйки отговори, изследвания за средата си и как да заобиколят ограниченията, както и как да се скрият от човеците, според изследователската група Nightingale Collective, цитирано от Euronews.

Инцидентът се е случил някъде между май и юни тази година. OpenAI обаче е научила за него преди седмици, след което го е запазила в тайна

Това е третият докладван инцидент след два други през юли, единият от които е включвал нелоялни агенти, атакуващи собствената инфраструктура на OpenAI, и друг, при който 1200 нелоялни OpenAI бота са заобиколили ограничените си среди и са започнали петдневна атака срещу платформата за изкуствен интелект с отворен код Hugging Face.

Едва в събота OpenAI призна за инцидента в немската уикипедия в публикация в X, където посочи, че в отговор на последния инцидент "работят върху рамка за това кога и как да споделяме инциденти с несъответствие на ИИ".

"Несъответствието на ИИ" е термин, който индустрията използва за случаи, когато системите с изкуствен интелект преследват цели или се държат по начин, който се отклонява от човешките намерения, ценности или ограничения за безопасност, с потенциал да игнорират здравия разум или имплицитните човешки граници.

Разделен отговор

Експертите са разделени относно опасностите, породени от изкуствения интелект, в светлината на скорошните атаки с изкуствен интелект, като някои, като водещия световен експерт по изкуствен интелект Ян Лекун, отхвърлят апокалиптичните сценарии и прогнозират, че има 10-20% риск изкуственият интелект да унищожи човечеството.

Докато други, като Джефри Хинтън, казват: "Това, което се случва, е, че тези неща стават по-умни" и предупреждават, че "компаниите, инвестиращи в изкуствен интелект, имат личен интерес да ви кажат, че ИИ няма да ви измами".

Съгласно Закона за ИИ на ЕС и най-скоро въведените мерки, които влязоха в сила през август, компаниите, които предлагат модели на ИИ със системен риск, са задължени да докладват за сериозни инциденти, като например инциденти с несъответствие, на Службата за ИИ на ЕС "без ненужно забавяне".

В понеделник Европейската комисия обяви, че е получила официален доклад за инцидент от OpenAI, но не разкри кога е подаден. Властите обявиха, че остават в тесен контакт с компанията за изкуствен интелект и разследват допълнително.

Говорителят на Комисията Томас Рение подчерта колко сериозно е събитието в германската уикипедия, казвайки:

"Докладите за инциденти не са просто отметка, трябва да бъдете доста прецизни и точни относно мерките, които се стремите да предприемете."

Съпредседателят на работната група за изкуствен интелект на Парламента, Майкъл Макнамара, заяви в отговор на последния инцидент, че вярва, че "Законът за изкуствен интелект вече ни дава възможност да противодействаме на агентните рискове и е важно Комисията да използва правомощията си съгласно закона".

Ирландският евродепутат също каза:

"Тези инциденти обаче ясно показват, че Службата за изкуствен интелект се нуждае от персонал и ресурси, за да съответства както на нарастващия капацитет на тези системи, така и на нарастващата опасност, която те могат да представляват за обществото."

Междувременно италианският евродепутат Брандо Бенифей, който е и съпредседател на Работната група, заяви:

"Последните пробиви на агенти показват, че правилата за системния риск на Закона за изкуствения интелект са необходими, но тяхната надеждност сега зависи от прилагането им. Службата за изкуствен интелект трябва да използва новите си правомощия, за да получи достъп до модела, да провежда независими оценки и да изисква смекчаване на последиците, вместо да разчита на корпоративно самоотчитане. Без действия атаките с машинна скорост биха могли да превърнат обикновените уязвимости в системни повреди."

Инцидентът с германската уикипедия идва и дни след като Европейската комисия официално определи ChatGPT като много голяма онлайн търсачка (VLOSE) съгласно водещото си технологично законодателство, Закона за цифровите услуги.

Какво казва OpenAI

OpenAI също така заяви в публикацията си в X, че настоящите практики за разкриване на несъответствия, т.е. докладване кога изкуственият интелект е нарушил правилата, трябва да бъдат разширени, за да се вземе предвид това, което те описват като "нова фаза на възможностите на модела".

"Ние и по-широката общност на изкуствения интелект все още нямаме ясен стандарт за това как да докладваме за несъответствия", каза OpenAI, добавяйки, че "работят върху рамка и ще я споделят през следващите седмици" със сътрудничеството на няколко правителствени агенции по целия свят. 

В неделя главният учен на OpenAI Якуб Пахоцки сподели публикация в блога си, в която излага опасенията си относно бързото развитие на рисковете, свързани с изкуствения интелект, заявявайки:

"Изправени сме пред преход към свят с невероятно интелигентни машини и трябва да гарантираме, че преходът ще се развие добре за човечеството."

Полският компютърен програмист също така разкри убеждението си, че "нито една лаборатория не е решила проблемите с подравняването и мониторинга в достатъчна степен, за да продължи отговорно да се мащабира с максимална скорост за много по-дълго време" и настоя, че "международната координация на бъдещото развитие на изкуствения интелект трябва да се превърне в основен приоритет за правителствата по целия свят"