ИИ с майчински инстинкт: Така ли ще се предпазим от унищожаването на човечеството?

Джефри Хинтън, известен като „кръстникът на изкуствения интелект”, се опасява, че технологията, за чието създаване е допринесъл, може да унищожи човечеството, а „технологическите запалянковци” подхождат погрешно, за да го предотвратят.

Хинтън, компютърен учен, носител на Нобелова награда и бивш ръководител в Google, предупреди в миналото, че има 10% до 20% вероятност ИИ да унищожи хората. Сега той изразява съмнения относно начина, по който технологичните компании се опитват да гарантират, че хората ще останат „доминиращи“ над „покорните“ ИИ системи, пише CNN.

„Това няма да проработи. Те ще бъдат много по-умни от нас. Ще имат всякакви начини да заобиколят това“, каза Хинтън на Ai4, конференция на индустрията в Лас Вегас.

В бъдеще, предупреди Хинтън, ИИ системите може да са в състояние да контролират хората толкова лесно, колкото възрастен може да подкупи 3-годишно дете с бонбони.

През тази година вече видяхме примери за ИИ системи, които са готови да мамят, измамват и крадат, за да постигнат целите си. Например, за да не бъде заменен, един ИИ модел се опита да изнудва инженер с това, че изневярава на съпругата си - нещо, за което е научил от имейл.

Но вместо да принуждава ИИ да се подчинява на хората, Хинтън представи интересно решение: да се вградят „майчински инстинкти“ в ИИ моделите, така че „те наистина да се грижат за хората“, дори когато технологията стане по-мощна и по-умна от хората.

"ИИ системите ще развият много бързо две подцели, ако са умни: едната е да останат живи... (а) другата подцел е да получат повече контрол“, каза Хинтън. „Има основателни причини да се смята, че всеки вид агентен ИИ ще се опита да остане жив."

Ето защо е важно да се насърчава чувството на състрадание към хората, аргументира Хинтън.

На конференцията той отбеляза, че майките имат инстинкти и социален натиск да се грижат за бебетата си.

„Правилният модел е единственият модел, който имаме за по-интелигентно нещо, контролирано от по-малко интелигентно, а именно майка, контролирана от бебето си“, каза Хинтън.

Хинтън посочи, че не му е ясно как точно това може да се направи технически, но подчерта, че е от решаващо значение изследователите да работят по въпроса.

„Това е единственият добър резултат. Ако не ме възпитава, ще ме замести“, подчерта ученът. „Тези супер интелигентни грижовни ИИ майки, повечето от тях няма да искат да се откажат от майчинския инстинкт, защото не искат да умрем."

Хинтън е известен с пионерската си работа в областта на невронните мрежи, която помогна да се проправи пътят към днешния бум на ИИ. През 2023 г. той напусна Google и започна да говори открито за опасностите на изкуствения интелект.

Не всички са съгласни с подхода на Хинтън към „майчинския инстинкт“ в изкуствения интелект.

Фей-Фей Ли, също известна като „кръстницата на изкуствения интелект“ заради пионерската си работа в областта, посочи, че с цялото си уважение не е съгласна с Хинтън, своя дългогодишен приятел.

„Мисля, че това е погрешен подход“, заяви Ли, съосновател и главен изпълнителен директор на стартиращата компания за пространствена интелигентност World Labs, по време на неформална беседа в Ai4. Вместо това тя призовава за „изкуствен интелект, ориентиран към човека, който запазва човешкото достойнство и свобода на действие“. „Наша отговорност на всяко ниво е да създаваме и използваме технологиите по най-отговорния начин. И в нито един момент нито един човек не трябва да бъде принуждаван или да избира да се откаже от достойнството си. Само защото едно средство е мощно, като майка, като педагог и като изобретател, аз наистина вярвам, че това е същността на изкуствения интелект."

Емет Шиър, който за кратко беше временен главен изпълнителен директор на OpenAI, собственик на ChatGPT, заяви, че не е изненадан, че някои ИИ системи са се опитали да изнудват хора или да заобикалят заповеди за изключване.

„Това продължава да се случва. Няма да спре“, заяви Шиър, главен изпълнителен директор на стартиращата компания за AI Softmax, на конференцията Ai4.„Днес ИИ са относително слаби, но стават все по-силни много бързо."

Шиър заяви, че вместо да се опитваме да внушим човешки ценности на ИИ системите, по-разумен подход би бил да изградим отношения на сътрудничество между хората и изкуствения интелект.

Много експерти смятат, че ИИ ще достигне супер интелигентност, известна още като изкуствен общ интелект или AGI, в следващите години.

Хинтън заяви, че преди е смятал, че постигането на AGI може да отнеме от 30 до 50 години, но сега вижда, че този момент наближава по-скоро.