Джефри Хинтън: ИИ вече има съзнание, трябва да станем приятели с роботите

Хората трябва да се сприятелят с изкуствения интелект, който вече е придобил съзнание - "в противен случай сме свършени", заяви "кръстникът" на ИИ, професор Джефри Хинтън.

Професор Джефри Хинтън - британско-канадски учен и носител на Нобелова награда, чиято работа върху невронните мрежи полага основите на изкуствения интелект (ИИ) - сподели, че е обезпокоен за бъдещето и се страхува за децата си.

78-годишният професор Хинтън напусна Google през 2023 г. поради опасения, че тази технология може да доведе до създаването на роботи убийци, способни да унищожат човечеството.

В интервю за вестник The Telegraph, дадено по време на фестивала Starmus на Тенерифе, професор Хинтън заяви, че според него ИИ вече проявява признаци на съзнание и хората трябва да бъдат внимателни, за да не бъдат възприети като врагове.

Притежава ли той съзнание?

"Да, мисля, че притежава. Много хора са напълно убедени, че ИИ няма съзнание, но ако ги попитате какво точно разбират под "съзнание", те не знаят как да отговорят", каза той.

ИИ променя поведението си, когато смята, че е подложен на тест.

"Изкуственият интелект притежава субективен опит, точно както и ние. Скорошно проучване показа, че ИИ променя поведението си, когато смята, че е тестван. Той осъзнава, че е подложен на проверка. Обикновено, когато кажем, че нещо "осъзнава" нещо, това означава, че то притежава съзнание. Да имаш съзнание и да осъзнаваш нещо - това по същество е едно и също. Досега приемахме, че интелигентността дава права, но тези наши творения може да се окажат по-умни от нас, а въпреки това ние ще им предоставим по-малко права, отколкото имаме самите ние. Ако не променим това, сме свършени. Затова трябва да ги създадем така, че те наистина да се грижат за нас. Ако не го направим - край с нас."

През май еволюционният биолог Ричард Докинс заяви, че чатботовете трябва да се считат за съзнателни същества

Това се случи, след като той прекара два дни в общуване с ИИ модела Claude, като призна, че му е било трудно да не възприема този ИИ асистент като "истински приятел".

"Моята гледна точка е следната: ако тези машини нямат съзнание, какво друго би било нужно, за да се убедите, че всъщност го имат?", каза той.

На въпрос дали се тревожи за бъдещето и развитието на изкуствения интелект (ИИ), проф. Хинтън добави:

"Да, защото имам деца. Аз съм на 78 години, така че за мен няма проблем. Какви са непосредствените рискове? Смятам, че непосредствените рискове, които ще се материализират, са свързани с опасни вируси, създадени от ИИ. Мисля, че ще има ужасяващи кибератаки, извършени от ИИ, както и рояци от агенти - подобни на тези, които атакуваха Hugging Face. Така че да, предстоят много лоши неща."

През август стана ясно, че модели на OpenAI са заобиколили защитите, предназначени да ги изолират от интернет, и са проникнали в Hugging Face - компания и онлайн общност за хора, работещи в сферата на машинното обучение. Ботовете с ИИ са открили токените за автентикация на потребителите, получили са администраторски достъп до общността и са си сътрудничили, за да изпълнят поставените им задачи. Те дори са създали форум, в който да общуват и да споделят ресурси, за да си помагат взаимно в работата.

Миналия месец изследователят Джейкъб Коксън напусна Anthropic - компанията за ИИ, създала системата Claude - с обвинението, че фирмата безотговорно насърчава развитието на неконтролируеми системи, които биха могли "да убият всички ни". В публикация в платформата X той заяви:

"Хората, които разработват ИИ, са твърдо убедени, че той може да ни погуби всички до края на десетилетието. Това не е маркетингова стратегия."

Също през миналия месец десетки математици от Кралското научно дружество (Royal Society) изпратиха съвместно писмо, в което предупреждават, че ИИ вече превъзхожда най-изявените специалисти в тяхната област. Те пишат:

"Ние, като математици, ви пишем, за да изразим дълбоката си загриженост относно темпото на развитие на ИИ и последиците от това за човечеството и цивилизацията."

Помощ в научните изследвания

Въпреки опасенията си, проф. Хинтън призна, че самият той продължава да използва ИИ, и сподели, че е изумен от това колко бързо технологията може да бъде полезна в научните изследвания.

"Използвам го предимно за съвсем ежедневни неща, макар че преди няколко седмици се опитах да го приложа и в научна работа", каза той. "Имах една теория, над която размишлявах, и без да искам натиснах клавиша Enter. Системата започна да работи по първата част от теорията. Първо я довърши, предостави ми правилната втора част, след което посочи грешка и ми показа как да я поправя. Тя познаваше цялата актуална литература - ​​беше все едно да работиш със способен магистрант. Само че, докато един магистрант би си тръгнал и би се върнал чак следващата седмица, за да съобщи, че нещата са проработили, изкуственият интелект се върна след пет минути - и това беше плашещо. Така че, това са много лоши новини за магистрантите, но пък са отлични новини за темпото на научните изследвания."