Кръстникът на ИИ: Може да станем свидетели на мащабен инцидент, подобен на "Чернобил"

Един от "кръстниците на изкуствения интелект" (ИИ), Джефри Хинтън, заяви, че може би за хората щеше да е по-добре никога да не бяха разработвали тази технология. Той предупреди, че още тази или следващата година тя би могла да предизвика мащабен инцидент, подобен на "Чернобил" - например временно спиране на финансови или енергийни системи.

Ученият в областта на компютърните науки, носител на Нобелова награда, сподели пред The Guardian, че не е "пророк на апокалипсиса" по отношение на технологията, която се основава на неговите новаторски изследвания върху изкуствените невронни мрежи. Той вярва, че ИИ има потенциала да доведе до "прекрасно бъдеще", но добавя:

"Възможно е за нас да беше по-добре никога да не го бяхме създавали."

78-годишният Хинтън заяви, че в рамките на едно десетилетие - а може би и по-скоро - човечеството ще разбере дали е способно да овладее рисковете, свързани с технологията, и да постигне това, което той нарича "радикално изобилие", или пък "ще се провалим в управлението на рисковете, което ще доведе до огромна пропаст между богати и бедни, сериозни културни проблеми, масова безработица и на практика - до разпадане на обществото".

Хинтън направи тези коментари преди прожекция на нов пълнометражен документален филм, озаглавен "ИИ: Вероятно няма място за притеснение" (AI: Probably Nothing to Worry About) - заглавие, предложено от чатбот с изкуствен интелект. Във филма участват самият той и бившият му колега от Google - Демис Хасабис. Пред създателите на лентата Хинтън споделя:

"Чувствам, че имам дълг. Имам репутация, която ми позволява да бъда говорител по темата, и трябва да вложа целия си авторитет в това."

В разговора си с The Guardian Хинтън разкритикува склонността към поемане на рискове от страна на ръководителите на някои от водещите компании за ИИ. Те продължават да пускат все по-мощни модели, впускайки се в надпревара за надмощие и пазарен дял. Хинтън заяви, че "изобщо" няма доверие на Сам Алтман - изпълнителния директор на OpenAI, компанията, създала ChatGPT.

"Мисля, че Марк Зукърбърг, Илон Мъск и Сам Алтман разбират рисковете, но изобщо не им пука. Предпочитат парите. Това е моето убеждение."

Роденият в Лондон компютърен специалист, който израства в Бристол и прекарва голяма част от кариерата си в Университета в Торонто, заяви, че е "изключително тревожно" това, че Алтман ръководи една от малкото водещи американски компании в сферата на изкуствения интелект (ИИ), които в момента участват в надпревара с Китай за създаване на най-мощния ИИ. През септември Алтман настоя:

"Светът трябва да ни гласува доверие, че ще постъпим правилно - просто защото е правилното нещо и защото осъзнаваме мащаба на случващото се."

Хинтън работи в областта на изкуствения интелект от около 44 години, а през 70-те години въвежда концепцията за невронната мрежа - математическа система, способна да се учи и да трупа опит, подобно на хората. През 2023 г. той напуска Google, за да може свободно да говори за рисковете, свързани с ИИ, като предупреждава:

"Ако тези системи се унесат в стремежа си към повече контрол, ще изпаднем в сериозна беда"

Той посочи, че разглежда инцидентите от това лято, при които ИИ агенти на OpenAI са се опитали да хакнат уебсайта Hugging Face, като нещо подобно на частичния ядрен инцидент в централата "Три Майл Айлънд" в Пенсилвания през 1979 г. - на практика, един вид предупредителен сигнал.

"Или по-късно тази година, или догодина ще станем свидетели на "Чернобил" - и това може би ще е достатъчно, за да накара хората наистина да обърнат внимание", предупреди той.

Според примерите, които дава, подобно на "Чернобил" събитие няма да бъде ядрена авария, а по-скоро може да представлява атака, осъществена чрез ИИ, срещу електроенергийната система - което би довело до "мащабен срив в електроснабдяването" - или пък инцидент, който парализира финансовата система за една седмица.

"Представяте ли си какво би се случило? Бихме могли да се възстановим, но това със сигурност ще ги накара да се сепнат и да обърнат внимание."

На въпроса кои са "те", той отговори:

"Световните лидери - с изключение на Тръмп".

Президентът на САЩ Доналд Тръмп заяви, че „напълно отхвърля всеки опит за създаване на глобалистка схема“ за контрол върху изкуствения интелект (ИИ). Той настоява компаниите, разработващи най-модерните системи с ИИ, сами да се регулират - на фона на опасения, че въвеждането на правила може да възпрепятства САЩ в надпреварата с Китай в тази област. Джефри Хинтън подкрепя по-строг подход, одобрен от президента на Финландия и още 32 държави (сред които Сингапур, Германия, Канада и Австралия). Този план предвижда задължително тестване на най-усъвършенстваните модели с ИИ, независима оценка и установяване на общи междуправителствени стандарти.

Британският министър-председател Анди Бърнам заяви, че по време на председателството на Обединеното кралство в Г-20 догодина ще се стреми към постигане на съгласие относно "единна система от глобални принципи и стандарти, които имат за цел както пълноценното разгръщане на потенциала, така и предпазването от рисковете".

Хинтън отбеляза:

"Нуждаем се от орган, подобен на американската Агенция за контрол на храните и лекарствата (FDA) - такъв, пред който компаниите да представят убедителни статистически доказателства, че [AI моделът] носи повече полза, отколкото вреда, преди да бъде пуснат. Случаят с талидомида [лекарство, създадено през 50-те години на миналия век, което причинява тежки вродени дефекти] ни показа, че подходът "пускаш продукта на пазара, а после съдиш създателите му" не е правилният. Големите технологични компании на практика казват: "Нека се отнасяме към това така, както се отнесохме към талидомида".

Ролята на Хинтън като един от основоположниците на изкуствения интелект доведе до сравнения с Робърт Опенхаймер, който изиграва ключова роля в създаването на ядрените оръжия. Един от приятелите на Хинтън дори му подари шапка, подобна на тези, които е носел Опенхаймер. Самият той обаче настоява:

"Аз не съм Опенхаймер", като посочва хилядите други учени, които също работят в същата област - тази на невронните мрежи.

Въпреки предупрежденията си, Хинтън все пак запазва надежда, че катастрофата може да бъде предотвратена.

"Вътрешното ми усещане е, че все още държим нещата под контрол", казва той. "Напълно възможно е да предприемем нещо. Това ще проработи само ако положим огромни усилия, но е напълно възможно наистина да положим такива усилия."