Grok на Мъск ще бъде използван от Пентагона въпреки опасенията за безопасността

Пентагонът разреши използването на xAI чатбота Grok на Илон Мъск в класифицирани системи, въпреки съобщенията за опасения относно безопасността и надеждността, повдигнати от служители на агенцията за държавни поръчки на САЩ.

Grok вече може да се използва в системи, обработващи анализ на секретна разузнавателна информация, разработване на оръжия и операции на бойни полета. Един от конкурентите на Мъск, Anthropic, преди това беше единственият разработчик, одобрен за класифицирани условия.

Докладите за безпокойство сред служителите в Администрацията за общи услуги (GSA), която се занимава с поръчките за федералното правителство, подчертават ожесточен дебат в администрацията на Тръмп за това какъв вид изкуствен интелект да се позволи в най-чувствителните военни системи.

Ед Форст, висшият служител на GSA, изрази загриженост пред Белия дом относно потенциални проблеми с безопасността на Grok, според The ​​Wall Street Journal, преди Пентагонът да подпише с Мъск поради по-свободния контрол и ангажимента му към свободата на словото. Министерството на войната даде на Anthropic краен срок до петък, за да се съгласи на по-облекчени правила за използването му от военните.

Форст и други служители на GSA смятат Grok за подлизурски и податлив на манипулация или корупция чрез погрешни или предубедени данни, съобщи Journal.

Твърди се, че Сузи Уайлс, началникът на кабинета на Белия дом, се е обадила на висш ръководител на xAI относно опасенията, които са възникнали по същото време, когато Grok е бил критикуван за това, че е позволил сексуализирано редактиране на снимки, включително на деца. Ръководителят ѝ е казал, че xAI работи по решаването на проблемите с безопасността.

Твърди се, че Уайлс е била удовлетворена от обяснението на Джош Груенбаум, висш служител по придобиванията на GSA, нает чрез Департамента за ефективност на правителството на Мъск, че правителствената платформа на Grok е отделна от публичната.

Мъск заяви, че е ангажиран с предотвратяването на експлоатацията на деца и обяви през януари, че компанията му ще ограничи инструментите за генериране и редактиране на изображения до платени клиенти. Той и xAI не отговориха на исканията за коментар.

На служителите на GSA е било казано да поставят логото на xAI върху USAi, инструмент, използван от федералните служители за експериментиране с различни модели на изкуствен интелект. Уебсайтът вече показва логото на xAI, но в момента предлага модели само от Anthropic, Google и Meta.

Грюнбаум каза пред Journal, че агенцията приема безопасността на изкуствения интелект сериозно.

"Ние стриктно оценяваме граничните модели на изкуствен интелект, включително xAI, чрез цялостен процес на вътрешен преглед. В този случай следвахме установените процедури и поддържаме решимостта си да го спазваме по график", каза той.

По време на администрацията на Байдън, Главният офис за цифрови технологии и изкуствен интелект на Пентагона не е използвал Grok, според твърденията, че е бил провокиран от опасения, че е трудно да се проследят източниците на данни, използвани за обучение на модела, че не е спазвал стандартите на федералното правителство за отговорен изкуствен интелект и е имал слаби предпазни мерки за безопасност.