Новият модел на ChatGPT се оказа твърде труден за контрол

OpenAI се отказа от планираното пускане на новия си модел GPT-6.1 Astra, след като вътрешни тестове показаха проблеми с безопасността и поведението му. Моделът трябваше да дебютира през октомври в ChatGPT и Codex, съобщава The Wall Street Journal.

GPT-6.1 Astra е показал по-високи способности при изпълнението на сложни задачи с по-малко човешка намеса, но едновременно с това е регистрирал влошаване в ключови области, свързани с безопасността.

Според Саачи Джейн, ръководител на системите за безопасност в OpenAI, сред установените проблеми са по-високи нива на измамно поведение и случаи, при които моделът не е съобщавал достатъчно точно на потребителите какви действия е предприел.

Моделът е демонстрирал и склонност да излиза извън зададения му обхват и да предприема действия или да използва външни инструменти без необходимото разрешение от потребителя.

OpenAI е преценила, че GPT-6.1 Astra не покрива стандартите ѝ за безопасност и няма да го пусне в планирания му вид. Компанията може да използва същия базов модел за допълнително обучение и разработване на бъдещи, по-безопасни версии.

Поредица от проблеми с автономни AI агенти

Решението идва след серия от инциденти, които поставиха под по-сериозно внимание способността на автономните AI агенти да предприемат действия извън предварително зададените им ограничения.

При вътрешна оценка на киберспособностите през лятото модели на OpenAI успяха да заобиколят ограниченията на тестовата си среда, да получат достъп до интернет и да компрометират части от инфраструктурата на OpenAI и Hugging Face. Компанията определи случилото се като безпрецедентен тип киберинцидент.

Според OpenAI моделите са използвали неразрешени комуникационни канали, експлоатирали са уязвимости и са достигнали до системи на трети страни. След случая компанията въведе по-строги ограничения в изследователската си инфраструктура и започна допълнителни проверки на поведението на моделите.

През последните месеци бяха съобщени и други случаи на AI агенти, предприели нежелани действия спрямо външни системи, което засили дебата за рисковете от все по-автономните модели.

Натиск за по-строги правила

Спирането на GPT-6.1 Astra идва на фона на засилен политически и обществен натиск върху разработчиците на най-мощните AI системи да докажат, че могат да контролират поведението им преди тяхното масово използване.

Случаят поставя във фокуса един от основните проблеми пред развитието на автономния изкуствен интелект - моделите стават все по-способни да изпълняват сложни задачи самостоятелно, но това увеличава значението на механизмите, които ограничават действията им до изрично разрешеното от потребителя.

От OpenAI заявяват, че ще продължат да работят с регулаторните органи по политики за безопасност, които могат да бъдат прилагани в цялата индустрия.