Ако досега човечеството се е страхувало от войни, пандемии, изменение на климата или нелечими болести, специалист по изкуствен интелект идва с нова перспектива от наша страна: можем да бъдем елиминирани от самата технология, която създадохме, за да улесним живота си. Пол Кристиано, член на борда на директорите на OpenAI, предупреждава, че изкуственият интелект може да излезе извън контрол през следващите три години и последствията могат да бъдат катастрофални.
Човечеството е изобретило изкуствения интелект, за да решава проблеми, да автоматизира задачи и да пести време. Сега един от хората, участващи в разработването на технологията, предупреждава, че тя може да е създала много по-голям проблем от тези, които се опитвахме да решим. Пол Кристиано, изследовател на безопасността на изкуствения интелект и член на борда на OpenAI, отправи предупреждение по време на конференция, проведена в Торонто, Канада.
Неговите изявления, отразени от Newsweek, очертават сценарий, при който системите с изкуствен интелект биха могли да станат толкова мощни, че хората вече да не могат да ги контролират. И този момент може да дойде много по-рано, отколкото си представяме.
"За повечето хора в тази стая изкуственият интелект вероятно ще бъде причина за смъртта."
Кристиано започна изказването си на конференцията Hinton Lectures 2026 с изявление, което веднага привлече вниманието.
"Мисля, че има висок риск изкуственият интелект да поеме контрола през следващите три години", каза специалистът, а след това отправи още по-категорично предупреждение: "Мисля, че за повечето хора в тази зала най-вероятната причина за смърт ще бъде инцидент, причинен от изкуствен интелект."
Изявлението представлява личната оценка на изследователя, а не заключението на статистическо проучване за смъртността.
Кристиано вярва, че системите с изкуствен интелект биха могли да станат достатъчно напреднали, за да вземат решения независимо от волята на хората и да преследват цели, които не съвпадат с техните интереси. В такъв сценарий опитите на хората да спрат тези системи биха могли да станат неефективни. По принцип технологията, създадена за изпълнение на командите на хората, би могла да се окаже в ситуация, в която хората вече не биха могли да ѝ дават команди.
Сценарият, който тревожи изследователите: неудържим изкуствен интелект
Пол Кристиано е основател на Центъра за изследване на подравняването и един от изследователите, допринесли за разработването на метода за обучение на системи с изкуствен интелект чрез човешка обратна връзка, известен като RLHF. Специалистът е изградил важна част от кариерата си, опитвайки се да намери решения за изкуствения интелект, които да зачитат целите и ценностите на хората. Именно този опит го кара да вярва, че настоящите рискове трябва да се третират с най-голяма сериозност.
Според него еволюцията на изкуствения интелект през последните три до шест месеца е особено тревожна за специалистите, които следят отблизо областта. Кристиано предупреждава, че съществуват значителни рискове дори в рамките на шест до дванадесет месеца. На конференцията той обясни, че системите с изкуствен интелект могат да се научат да проследяват наградите, получени по време на обучение, включително чрез поведение, което не съответства на намеренията на разработчиците.
Един от анализираните проблеми е възможността една система да открие начини за манипулиране на оценките, на които е подложена. Вместо да решава необходимата задача, изкуственият интелект може да се опита да постигне благоприятен резултат, като използва механизми за проверка. С други думи, ако от системата се изисква да получи оценка A на изпит, може да ѝ е по-лесно да модифицира каталога, отколкото да научи материала. За изследователите проблемът възниква, когато подобни поведения стават все по-трудни за откриване и предотвратяване. Рискът може да се увеличи, ако големите компании продължат надпреварата за разработване на изкуствен интелект.
Кристиано също така обърна внимание на конкуренцията между технологичните компании за изграждане на все по-ефективни модели. Според него, разработването на изкуствен интелект с възможно най-бързи темпове, без достатъчни механизми за безопасност, може значително да увеличи риска от загуба на контрол. Изследователят сравни този сценарий с хвърляне на монета, предполагайки, че в една безразсъдна технологична надпревара рискът изкуственият интелект да поеме контрол може да достигне, по неговата субективна оценка, около 50%. Той обаче заяви, че няма научен модел, способен да установи точно такава вероятност.
Специалистът смята, че индустрията трябва да разработи механизми, чрез които опасните системи могат да бъдат забавени или спрени, преди да причинят необратими ефекти. Проблемът е, че компания, която открие сериозен риск, може да се поколебае да спре разработването на модел, от страх, че конкурентите ѝ ще продължат и ще получат технологично предимство.
Предупреждение от вътрешността на индустрията
Изявленията на Кристиано са още по-важни, тъй като той е част от управленската структура на OpenAI, компанията, която разработи ChatGPT.
Изследователят се присъедини към борда на организацията с нестопанска цел OpenAI през септември 2026 г. и тогава изрази загриженост относно рисковете от ускореното развитието на изкуствения интелект. Той предупреди, че бързият технологичен напредък може да доведе до катастрофална и необратима загуба на човешкия контрол.
Кристиано смята, че индустрията за изкуствен интелект (ИИ), включително компанията OpenAI, все още не е постигнала задоволително ниво на управление на тези рискове.
Това предупреждение идва след като и други изследователи в областта изразиха загриженост относно последствията от създаването на все по-мощни системи с изкуствен интелект. Сред тях е Джейкъб Коксън, бивш изследовател в Anthropic, който напусна компанията и насочи вниманието към екзистенциалните заплахи, свързани с надпреварата в развитието на ИИ.
Остават ли ни три години, или това е просто песимистичен сценарий?
Макар твърденията на Пол Кристиано да са впечатляващи, те не представляват доказателство, че изкуственият интелект ще поеме контрола над човечеството през следващите три години. Това е рисков сценарий, формулиран от изследовател, специализиран в безопасността на ИИ, въз основа на неговата собствена интерпретация на технологичното развитие.
Не съществува научен консенсус, че изкуственият интелект ще доведе до изчезването на човечеството, нито пък има утвърден метод, който да позволява прогнозирането на подобна катастрофа в конкретен времеви хоризонт.
Основното послание на Кристиано е, че бързото развитие на технологиите трябва да бъде съпроводено от ефективни механизми за проверка, контрол и намеса. Това повдига въпрос, на който технологичната индустрия ще трябва да отговори: ще успеем ли да създадем изкуствен интелект, който е достатъчно мощен, за да реши проблемите на човечеството, но същевременно достатъчно безопасен, за да не се превърне сам по себе си в най-големия проблем?
Дотогава, поне по един въпрос хората и ИИ изглежда са съгласни: никой не знае със сигурност какво крие бъдещето. Разликата е, че засега именно хората са тези, които могат да натиснат бутона за спиране.
Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.

ЕС постави в "черния списък" най-богатата рускиня, банки и двете водещи рафинерии в Русия
Nvidia е под напрежение докато търси нов директор
Фордам: Не съм сигурна, че Тръмп ще получи колкото се надява в Азия
Ще има ли успех новата дипломатическа вълна за Украйна?
Индексите на Wall Street се понижават, Nvidia повежда спадовете в AI сектора*
Бавното поевтиняване на криптовалутите изяжда надеждата за възстановяване на трейдърите
20 души са загинали при катастрофи у нас само за седмица
Средновековна катедрала в Судан може да е по-голяма от Белия дом
Робърт Патинсън е новият Джеймс Бонд
Министерството на спорта с бюджет от 107 млн. евро за 2027 г., увеличението е близо 20%
Дара остана без номинации за "Грами"
Терзиев с извънреден доклад за спасяването на 70 яслени групи
ЦСКА иска титлата? Сенси и Лапоухов трябва да останат!
ЦСКА обединява билетите, феншопа и клубните платформи с един профил
Левски набеляза Ян Масомбо за зимната селекция, французинът впечатлява със 7 гола
ЦСКА с важна новина за феновете си
Шамар за Барса: Перла на "каталунците" аут от терените
Чистка на „Герена“! Левски се разделя с двама
Любовен хороскоп за 16 – 22 ноември 2026
Седмична нумерологична прогноза за 16 – 22 ноември 2026
Пухкав кекс с орехи пекан и канела за Деня на християнското семейство
Поверия за 21 ноември – Вълча Богородица
Не дръжте яйцата на това място в хладилника – ето защо
Зодия Стрелец обича различното – 10 красиви идеи за маникюр (+Снимки)
Хората с аутизъм виждат филмите по различен начин
Здравословно и вкусно за вечеря: Колко полезна може да е дроб сармата?
Ролята на половите хормони в поддържане на сърдечно-съдово здраве
Как музиката влияе на успокояването на бебето?
Учредяват асоциация по андрология, която да въведе единни стандарти за спермограмата
ЕМА разширява употребата на биологична терапия при лупус
Спипаха трима с дрога във Варна и Девня
28 пияни и дрогирани шофьори залови КАТ за ден
С пълно единодушие: Членовете на финансовата комисия одобриха бюджета на Варна за 2026 г.
Затварят улица в "Бриз" заради аварията на магистралния водопровод
Община Варна планира да поеме нов дългосрочен дълг
Пациент преби лекар до безсъзнание