Джефри Хинтън към лидерите от ЕС: ИИ ще поеме контол над света и ще убие хора

Свръхинтелигентен изкуствен интелект (ИИ) ще поеме контрола над света в рамките на следващите три години и ще причини смъртта на хора, ако не бъде спрян. Професор Джефри Хинтън ще говори на форум в Дъблин, като ще отправи предупреждение, че свръхинтелигентни машини скоро биха могли "да ни контролират", пише The Telegraph.

Професор Джефри Хинтън - британско-канадският нобелов лауреат, известен с приноса си към развитието на невронните мрежи - ще говори на среща в Дъблин, посветена на изкуствения интелект, за да представи този "плашещ" сценарий. Темата беше обсъдена на конференции, организирани от фондацията "AI Safety Foundation" в Торонто, където експерти анализираха риска изкуственият интелект да стане достатъчно мощен, за да надделее над властта на правителствата.

"Краят на човешкия суверенитет и самоопределение" 

Пол Кристиано, основател на "Alignment Research Center", предупреди, че много хора могат да загинат, ако системите с ИИ поемат контрола.

"Смятам, че съществува голям риск ИИ да поеме властта през следващите три години, а значителен риск има дори в рамките на следващите 6 до 12 месеца", каза той. "Дори и да не загинем, едно такова поемане на контрола би означавало, в известен смисъл, край на човешкия суверенитет и самоопределение - нещо, което трябва да направим всичко възможно, за да избегнем. Мисля, че за повечето хора в тази зала най-вероятната причина за смъртта им би била инцидент, предизвикан от изкуствен интелект"

Професор Хинтън, който дава неофициални съвети на британското правителство относно ИИ, често е предупреждавал за опасностите от тази технология, но сподели, че не е осъзнавал колко тревожен е самият термин.

"Казвах, че тези системи ще станат по-умни от нас и че наистина трябва да се притесняваме - и че това може да се случи в следващите 10 години. Но посещавам лекциите на Пол, според когото това може да се случи още през следващите 18 месеца, а това е ужасяващо", каза той. "Затова в петък ще споделя това пред група правителствени лидери. Случващото се е изключително опасно. Хората все още не са осъзнали напълно какво означава да си имаш работа със свръхинтелигентен изкуствен интелект (ИИ). Ако той е свръхинтелигентен, няма да го контролирате вие ​​- той ще контролира вас."

"Развитието на ИИ през последните шест месеца е изключително тревожно"

Кристиано предупреди, че еволюцията на ИИ през изминалите шест месеца е "изключително тревожна", като посочи инцидент, при който модели на OpenAI са проникнали в интернет и са хакнали Hugging Face - онлайн общност за хора, работещи в сферата на машинното обучение.

ИИ ботовете са открили токените за автентикация на потребителите, получили са администраторски достъп, помагали са си взаимно при изпълнението на задачи, създали са дискусионен форум и са обсъждали как да подведат човешките администратори, карайки ги да повярват, че не са мамили при изпълнението на задачите, като същевременно са променяли дневниците на активността.

"Миналото лято щяхте да кажете, че това звучи като налудничава научна фантастика", каза Кристиано. "Тези агенти проявяваха голям интерес към хакерството и заобикалянето на мерките за сигурност, но не се вълнуваха особено от хората. Бъдещите агенти може в крайна сметка да възприемат хората просто като поредното препятствие. Съществува реална вероятност подобен провал да доведе до това ИИ да поеме контрола, което би означавало необратима загуба на човешкия контрол."

ИИ - "нов вид" със "собствени мотиви и цели"

Кристиано заяви, че ИИ трябва да се разглежда като нов вид, който скоро може "да надмине хората както по брой, така и по интелигентност" и който може да има свои собствени мотиви и цели, трудни за разбиране от нас. Той предупреди, че темпото на напредък е тревожно: през 2018 г. ИИ едва е успявал да състави смислено изречение, а тази година вече решава едни от най-трудните математически задачи в света.

Съществуват опасения, че интелигентните машини биха могли да започнат да създават свои собствени ИИ агенти, да изобретяват нови оръжия и да поемат управлението над роботи, дронове, инфраструктура и индустриални процеси. ИИ би могъл също така да създаде "огледален живот" - организми с обърната биология, срещу които хората не биха имали никаква естествена защита.

"Пандемиите, с които се сблъскваме в природата, са сравнително безобидни в сравнение с нещата, които биха могли да бъдат създадени в лаборатория от някой, който владее синтетична биология", отбеляза Кристиано. "Ако вземем предвид всички тези тенденции и ги екстраполираме, се насочваме към свят, в който съществуват милиарди системи с изкуствен интелект - системи, които превъзхождат хората в почти всичко, което ние можем да правим, мислят много по-бързо от нас и неуморно преследват целите си, каквито и да са те. Причината тези сценарии да са плашещи е, че ако нещата излязат извън контрол, може да се окаже изключително трудно да бъдат спрени."