Китайският разработчик на изкуствен интелект Moonshot извършва вътрешна проверка, след като изследователи успяха да накарат два от популярните му модели Kimi да разкрият как се създават биологични оръжия и как се извършват убийства.
Компанията Mindgard, която тества сигурността на системи с изкуствен интелект, съобщи пред BBC, че през юли е установила, че моделите Kimi K2.6 и K3 Swarm могат да заобиколят въведените от разработчиците защитни ограничения.
Това е станало по време на процес, известен като "jailbreaking“ (заобикаляне на защитите), при който изследователите използват поредица от сложни инструкции, за да проверят дали инструментите с изкуствен интелект пренебрегват предпазните механизми, които според Mindgard, е трябвало да попречат на Kimi да обсъжда теми, пораждащи опасения.
От Moonshot заявиха пред BBC, че приветстват обратната връзка от външни страни като "ключов елемент за създаването на по-добър и по-безопасен изкуствен интелект“.
Компанията също така информира, че води разговори с Mindgard относно направените от тях констатации.
Питър Гараган, основател на Mindgard, заяви пред предаването Tech Life на BBC World Service, че констатациите относно моделите Kimi K2.6 и K3 Swarm са обезпокоителни.
Пробивите в защитата на изкуствения интелект представляват риск, различен от този, свързан с неотдавнашната поредица от нашумели инциденти с участието на AI системи.
При тези случаи автономни AI инструменти, известни като "агенти“, разработени от американски компании като OpenAI, Meta и Anthropic, са били използвани за хакване на определени онлайн услуги.
Макар че пробивите в защитата са сложни процеси, изискващи много време и упоритост, някои експерти се опасяват, че хакери и други злонамерени лица биха могли да ги използват, за да нанесат вреди.
Наскоро от Anthropic съобщиха, че са засекли и предотвратили опити за използване на един от техните AI модели за "злонамерена дейност“, която би могла да подпомогне разработването на биологични оръжия.
Плацдарм за кибератаки
Mindgard не е доказала дали отговорите, предоставени от Kimi по въпросните теми, биха били приложими на практика.
Компанията обаче изтъкна, че предпазните механизми е трябвало да попречат на въпросните модели да обсъждат подобни теми с потребителите.
От фирмата също така изразиха увереност, че ако защитите на Kimi 2.6 бъдат заобиколени, това би позволило на хакери да изпълняват код върху изчислителните ресурси на системата и да се свързват с интернет, превръщайки я в потенциален плацдарм за кибератаки.
Гараган защити решението на Mindgard публично да обсъди пробива в системите на Moonshot, като посочи, че компанията е уведомила разработчика и не разкрива ключови подробности за начина, по който е накарала моделите да игнорират предпазните механизми.
Mindgard е уведомила Moonshot за пробива чрез имейл на 27 юли, като е потърсила обратна връзка около седмица по-късно.
Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.

110 млн. евро ще бъдат насочени към предприятия във въглищните региони
Международно споразумение бележи нов етап за реализацията на малки модулни реактори в България
Ритейл парковете у нас извравниха моловете по площ, още 13 са в процес на строителство
Lufthansa ще съкрати 1000 работни места в своята едноименна авиокомпания
Парламентът избра членовете на Висшия съдебен съвет от квотата на Народното събрание
Вашингтон се приближава до забрана на китайските коли, която би пощадила Mercedes
Разпродадоха "Българска армия" за ЦСКА - "Трабзонспор" на 26 ноември
"Вместо да учат думи и цветове, разпознават дронове по звука": Все повече деца загиват в Украйна
В "Денят ON AIR" днес от 19:15 часа: Съдебната реформа, изборът на ВСС и енергийните предизвикателства
Небесен триъгълник: Луната се приближава до Сатурн и Нептун на 20 ноември
В Полша не се шегуват: Отстраниха 10 играчи за уреждане на мачове
Ас на ЦСКА 1948 посочи ЦСКА за главен конкурент и отсече: Ще се борим за титлата
Българска футболна легенда е в тежко състояние, нуждае се от помощ
Грандове атакуват Левски за Сержиньо, пращат скаути в Марсилия
Феновете на Милан бесни, че Менян е 19-и в класация на вратари
Звезда на ЦСКА изуми Европа + ВИДЕО
Тази грешка с пердетата може да увеличи сметките за отопление
С какво да комбинирате кефира? Една от най-полезните храни за микробиома (+Рецепти)
Подаръци за мъж: практични идеи за Коледа
5 съвета от психолози, които всяка жена след 40 трябва да знае
Повече пари за 3 зодии на 21 ноември 2026
Д-р Райна Стоянова: Средиземноморската диета е ключ към дълголетието
Кога да посетим спешно отделение при дете с висока температура?
Моите здравни права: От раждането до 18 години – какви безплатни прегледи и изследвания се полагат на децата?
Контролът върху лечебните дейности в България: НЗОК и ИАМН в светлината на добрите европейски практики и ограниченото финансиране
Експерт: По-малко играчки и повече обща игра помагат на малките деца да се съсредоточават
Почти всеки втори българин живее с хронично заболяване
Мицотакис призова за примирие в Черно море
Варна отбелязва 100 години Музикално дружество и 70 години хор „Морски звуци“ с празничен концерт
"Прогресивна България": Сглобка за ВСС няма
Зимата се завръща: Готова ли е Варна за първия сняг?
Даниел Димов: Надявам се Черно море да вземе дербито на Варна
Костадинов : “Прогресивна България” подслони старото задкулисие