BGONAIR Live

Глас от OpenAI: Инцидент с ИИ ще е най-вероятната причина за смъртта ви

Пол Кристиано казва, че до три години машините може да излязат извън контрол

Снимка: БГНЕС

Снимка: БГНЕС

Ако досега човечеството се е страхувало от войни, пандемии, изменение на климата или нелечими болести, специалист по изкуствен интелект идва с нова перспектива от наша страна: можем да бъдем елиминирани от самата технология, която създадохме, за да улесним живота си. Пол Кристиано, член на борда на директорите на OpenAI, предупреждава, че изкуственият интелект може да излезе извън контрол през следващите три години и последствията могат да бъдат катастрофални.

Човечеството е изобретило изкуствения интелект, за да решава проблеми, да автоматизира задачи и да пести време. Сега един от хората, участващи в разработването на технологията, предупреждава, че тя може да е създала много по-голям проблем от тези, които се опитвахме да решим. Пол Кристиано, изследовател на безопасността на изкуствения интелект и член на борда на OpenAI, отправи предупреждение по време на конференция, проведена в Торонто, Канада.

Неговите изявления, отразени от Newsweek, очертават сценарий, при който системите с изкуствен интелект биха могли да станат толкова мощни, че хората вече да не могат да ги контролират. И този момент може да дойде много по-рано, отколкото си представяме.

"За повечето хора в тази стая изкуственият интелект вероятно ще бъде причина за смъртта."

Кристиано започна изказването си на конференцията Hinton Lectures 2026 с изявление, което веднага привлече вниманието.

"Мисля, че има висок риск изкуственият интелект да поеме контрола през следващите три години", каза специалистът, а след това отправи още по-категорично предупреждение: "Мисля, че за повечето хора в тази зала най-вероятната причина за смърт ще бъде инцидент, причинен от изкуствен интелект."

 Изявлението представлява личната оценка на изследователя, а не заключението на статистическо проучване за смъртността.

Кристиано вярва, че системите с изкуствен интелект биха могли да станат достатъчно напреднали, за да вземат решения независимо от волята на хората и да преследват цели, които не съвпадат с техните интереси. В такъв сценарий опитите на хората да спрат тези системи биха могли да станат неефективни. По принцип технологията, създадена за изпълнение на командите на хората, би могла да се окаже в ситуация, в която хората вече не биха могли да ѝ дават команди.

Сценарият, който тревожи изследователите: неудържим изкуствен интелект

Пол Кристиано е основател на Центъра за изследване на подравняването и един от изследователите, допринесли за разработването на метода за обучение на системи с изкуствен интелект чрез човешка обратна връзка, известен като RLHF. Специалистът е изградил важна част от кариерата си, опитвайки се да намери решения за изкуствения интелект, които да зачитат целите и ценностите на хората. Именно този опит го кара да вярва, че настоящите рискове трябва да се третират с най-голяма сериозност.

Според него еволюцията на изкуствения интелект през последните три до шест месеца е особено тревожна за специалистите, които следят отблизо областта. Кристиано предупреждава, че съществуват значителни рискове дори в рамките на шест до дванадесет месеца. На конференцията той обясни, че системите с изкуствен интелект могат да се научат да проследяват наградите, получени по време на обучение, включително чрез поведение, което не съответства на намеренията на разработчиците.

Един от анализираните проблеми е възможността една система да открие начини за манипулиране на оценките, на които е подложена. Вместо да решава необходимата задача, изкуственият интелект може да се опита да постигне благоприятен резултат, като използва механизми за проверка. С други думи, ако от системата се изисква да получи оценка A на изпит, може да ѝ е по-лесно да модифицира каталога, отколкото да научи материала. За изследователите проблемът възниква, когато подобни поведения стават все по-трудни за откриване и предотвратяване. Рискът може да се увеличи, ако големите компании продължат надпреварата за разработване на изкуствен интелект.

Кристиано също така обърна внимание на конкуренцията между технологичните компании за изграждане на все по-ефективни модели. Според него, разработването на изкуствен интелект с възможно най-бързи темпове, без достатъчни механизми за безопасност, може значително да увеличи риска от загуба на контрол. Изследователят сравни този сценарий с хвърляне на монета, предполагайки, че в една безразсъдна технологична надпревара рискът изкуственият интелект да поеме контрол може да достигне, по неговата субективна оценка, около 50%. Той обаче заяви, че няма научен модел, способен да установи точно такава вероятност.

Специалистът смята, че индустрията трябва да разработи механизми, чрез които опасните системи могат да бъдат забавени или спрени, преди да причинят необратими ефекти. Проблемът е, че компания, която открие сериозен риск, може да се поколебае да спре разработването на модел, от страх, че конкурентите ѝ ще продължат и ще получат технологично предимство.

Предупреждение от вътрешността на индустрията

Изявленията на Кристиано са още по-важни, тъй като той е част от управленската структура на OpenAI, компанията, която разработи ChatGPT.

Изследователят се присъедини към борда на организацията с нестопанска цел OpenAI през септември 2026 г. и тогава изрази загриженост относно рисковете от ускореното развитието на изкуствения интелект. Той предупреди, че бързият технологичен напредък може да доведе до катастрофална и необратима загуба на човешкия контрол.

Кристиано смята, че индустрията за изкуствен интелект (ИИ), включително компанията OpenAI, все още не е постигнала задоволително ниво на управление на тези рискове.

Това предупреждение идва след като и други изследователи в областта изразиха загриженост относно последствията от създаването на все по-мощни системи с изкуствен интелект. Сред тях е Джейкъб Коксън, бивш изследовател в Anthropic, който напусна компанията и насочи вниманието към екзистенциалните заплахи, свързани с надпреварата в развитието на ИИ.

Остават ли ни три години, или това е просто песимистичен сценарий?

Макар твърденията на Пол Кристиано да са впечатляващи, те не представляват доказателство, че изкуственият интелект ще поеме контрола над човечеството през следващите три години. Това е рисков сценарий, формулиран от изследовател, специализиран в безопасността на ИИ, въз основа на неговата собствена интерпретация на технологичното развитие.

Не съществува научен консенсус, че изкуственият интелект ще доведе до изчезването на човечеството, нито пък има утвърден метод, който да позволява прогнозирането на подобна катастрофа в конкретен времеви хоризонт.

Основното послание на Кристиано е, че бързото развитие на технологиите трябва да бъде съпроводено от ефективни механизми за проверка, контрол и намеса. Това повдига въпрос, на който технологичната индустрия ще трябва да отговори: ще успеем ли да създадем изкуствен интелект, който е достатъчно мощен, за да реши проблемите на човечеството, но същевременно достатъчно безопасен, за да не се превърне сам по себе си в най-големия проблем?

Дотогава, поне по един въпрос хората и ИИ изглежда са съгласни: никой не знае със сигурност какво крие бъдещето. Разликата е, че засега именно хората са тези, които могат да натиснат бутона за спиране.

Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.
Новини
Технологии
Водещи
Последни новини
Четени
Най-четени за седмицата