OpenAI се отказа от планираното пускане на новия си модел GPT-6.1 Astra, след като вътрешни тестове показаха проблеми с безопасността и поведението му. Моделът трябваше да дебютира през октомври в ChatGPT и Codex, съобщава The Wall Street Journal.
GPT-6.1 Astra е показал по-високи способности при изпълнението на сложни задачи с по-малко човешка намеса, но едновременно с това е регистрирал влошаване в ключови области, свързани с безопасността.
Според Саачи Джейн, ръководител на системите за безопасност в OpenAI, сред установените проблеми са по-високи нива на измамно поведение и случаи, при които моделът не е съобщавал достатъчно точно на потребителите какви действия е предприел.
Моделът е демонстрирал и склонност да излиза извън зададения му обхват и да предприема действия или да използва външни инструменти без необходимото разрешение от потребителя.
OpenAI е преценила, че GPT-6.1 Astra не покрива стандартите ѝ за безопасност и няма да го пусне в планирания му вид. Компанията може да използва същия базов модел за допълнително обучение и разработване на бъдещи, по-безопасни версии.
Поредица от проблеми с автономни AI агенти
Решението идва след серия от инциденти, които поставиха под по-сериозно внимание способността на автономните AI агенти да предприемат действия извън предварително зададените им ограничения.
При вътрешна оценка на киберспособностите през лятото модели на OpenAI успяха да заобиколят ограниченията на тестовата си среда, да получат достъп до интернет и да компрометират части от инфраструктурата на OpenAI и Hugging Face. Компанията определи случилото се като безпрецедентен тип киберинцидент.
Според OpenAI моделите са използвали неразрешени комуникационни канали, експлоатирали са уязвимости и са достигнали до системи на трети страни. След случая компанията въведе по-строги ограничения в изследователската си инфраструктура и започна допълнителни проверки на поведението на моделите.
През последните месеци бяха съобщени и други случаи на AI агенти, предприели нежелани действия спрямо външни системи, което засили дебата за рисковете от все по-автономните модели.
Натиск за по-строги правила
Спирането на GPT-6.1 Astra идва на фона на засилен политически и обществен натиск върху разработчиците на най-мощните AI системи да докажат, че могат да контролират поведението им преди тяхното масово използване.
Случаят поставя във фокуса един от основните проблеми пред развитието на автономния изкуствен интелект - моделите стават все по-способни да изпълняват сложни задачи самостоятелно, но това увеличава значението на механизмите, които ограничават действията им до изрично разрешеното от потребителя.
От OpenAI заявяват, че ще продължат да работят с регулаторните органи по политики за безопасност, които могат да бъдат прилагани в цялата индустрия.
Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.

Wall Street се сблъска с разпродажба след силния борсов дебют на Anthropic
Кадър на деня за 19 ноември
Volkswagen иска да премахне бонусите, както и 35-часовата работна седмица
Си, Тръмп и Путин - сверяване на часовниците, а не общ проект за прекрояване на света
Паниката в магазините расте, докато потребителите се подготвят за „Деня на страшния съд“
Електронната индустрия е изправена пред глобален недостиг на печатни платки
Най-късметлийският ден за зодиите през седмицата 23-29 ноември 2026 г.
Най-характерната китайска подправка няма общо нито с черния пипер, нито с чушките
Турски съд забрани на Екрем Имамоглу да се кандидатира на изборите за президент
Маслен кекс с канела и кафява захар
Късна емисия
Отново здрав екшън и луди мачове в Евролигата
Кирил Десподов го направи, подписа с ПАОК до 2029 година
Човек на Бербатов: ЦСКА ще се върне към доминацията
От Левски обявиха важна новина за клуба
Бивш на ЦСКА и Литекс няма да играе срещу Левски
Компани: Вече съм в отлично здраве!
Задължителни ястия за 21 ноември – Ден на християнското семейство
Таро карта за 20 ноември, петък - Осмица чаши
Солен кекс с пармезан и колбаси – празнична рецепта
Дневен хороскоп за 20 ноември, петък
Явор прекрачва границата, а Иво и Амигото тръгват към война в епизод 7
3 продукта, които всяка стюардеса носи в чантата си
И БАПЗГ не са доволни от проектобюджетите на НЗОК и на МЗ за 2027 г. Какво искат те?
Психология за родители: Развитие на речта и емоционалната интелигентност в ранното детство
Какви видове презервативи съществуват?
Международен курс по сърдечна недостатъчност събира кардиолози в София
Защо новопоявилият се диабет понякога е ранен признак на рак на панкреаса?
Анонимни алкохолици предлагат безплатна подкрепа в 24 града
Българите живеем с 6 години по-кратко от европейците, но с 3 години по-дълго от руснаците
Българското строителство губи скорост: годишният растеж се срина от 6,8% до едва 0,6%
Според руските военни блогъри: Новият „Кама“ на „Калашников“ най-вероятно потапя корабите край България и Румъния
Експерти прогнозират нов ръст на цените
НСИ: Почти всеки втори българин над 15 години има хронично заболяване
Путин пое отговорност за атаките в Черно море край България и Румъния