По 1 млн. души на седмица, пишещи си с ChatGPT, имат мисли за самоубийство

Според публикация в блога на OpenAI в понеделник, повече от милион потребители на ChatGPT изпращат съобщения всяка седмица, които включват „изрични индикатори за потенциално суицидно планиране или намерение“. Констатацията, част от актуализация за това как чатботът обработва чувствителни разговори, е едно от най-директните твърдения на гиганта в областта на изкуствения интелект за това как изкуственият интелект може да изостри проблемите с психичното здраве.

В допълнение към оценките си за суицидни идеи и свързаните с тях взаимодействия, OpenAI също така заяви, че около 0,07 от потребителите, активни в дадена седмица – около 560 000 от рекламираните 800 милиона седмични потребители – показват „възможни признаци на спешни психични заболявания, свързани с психоза или мания“. Публикацията предупреждава, че тези разговори са трудни за откриване или измерване и че това е първоначален анализ.

OpenAI публикува данни за проблеми с психичното здраве, свързани с нейния продукт, тъй като компанията е изправена пред засилен контрол след старта надело, заведено семейството на тийнейджър, починал от самоубийство след продължително взаимодействие с ChatGPT. Миналия месец Федералната търговска комисия допълнително започна широкомащабно разследване на компании, които създават чатботове с изкуствен интелект, включително OpenAI, за да установи как те измерват негативното въздействие върху деца и тийнейджъри.

OpenAI твърди в публикацията си, че последната актуализация на GPT-5 е намалила броя на нежеланите поведения от продукта и е подобрила безопасността на потребителите в оценка на модел, включваща повече от 1000 разговора за самонараняване и самоубийство. Компанията не е отговорила веднага на искането за коментар.

„Нашите нови автоматизирани оценки оценяват новия модел GPT-5 с 91% съответствие с желаните от нас поведения, в сравнение със 77% за предишния модел GPT-5“, се казва в публикацията на компанията.

OpenAI заяви, че GPT-5 е разширил достъпа до кризисни горещи линии и е добавил напомняния за потребителите да си правят почивки по време на дълги сесии. За да подобри модела, компанията заяви, че е ангажирала 170 клиницисти от своята Глобална мрежа от лекари, състояща се от експерти в здравеопазването, за да подпомогнат изследванията ѝ през последните месеци, включително оценяване на безопасността на отговорите на модела и подпомагане на писането на отговорите от страна на чатбота на въпроси, свързани с психичното здраве.

„Като част от тази работа, психиатри и психолози прегледаха повече от 1800 отговора на модела, включващи сериозни ситуации, свързани с психичното здраве, и сравниха отговорите от новия чат модел GPT‑5 с предишни модели“, каза OpenAI. Определението на компанията за „желателно“ включваше определяне дали група от нейните експерти са стигнали до същото заключение за това какъв би бил подходящ отговор в определени ситуации.

Изследователите на изкуствения интелект и защитниците на общественото здраве отдавна са предпазливи относно склонността на чатботовете да потвърждават решенията или заблудите на потребителите, независимо дали те могат да бъдат вредни, проблем, известен като подлизурство. Експертите по психично здраве също са загрижени за хората, които използват чатботове с изкуствен интелект за психологическа подкрепа, и предупреждават как това може да навреди на уязвимите потребители.

Езикът в публикацията на OpenAI дистанцира компанията от всякакви потенциални причинно-следствени връзки между нейния продукт и кризите с психичното здраве, които нейните потребители изпитват.

„Симптомите на психично здраве и емоционалният дистрес са повсеместно присъстващи в човешките общества и нарастващата потребителска база означава, че част от разговорите в ChatGPT включват тези ситуации“, се казва в публикацията на OpenAI.

Изпълнителният директор на OpenAI, Сам Алтман, по-рано този месец заяви в публикация в X, че компанията е постигнала напредък в лечението на проблеми с психичното здраве, обявявайки, че OpenAI ще облекчи ограниченията и скоро ще започне да позволява на възрастните да създават еротично съдържание.

„Направихме ChatGPT доста рестриктивен, за да сме сигурни, че сме внимателни с проблемите с психичното здраве. Осъзнаваме, че това го направи по-малко полезен/приятен за много потребители, които нямат проблеми с психичното здраве, но предвид сериозността на проблема, искахме да го направим както трябва“, публикува Алтман. „Сега, след като успяхме да смекчим сериозните проблеми с психичното здраве и разполагаме с нови инструменти, ще можем безопасно да отпуснем…“