Бащата на AI напусна Google и предупреди: Очаква ни кошмарен сценарий

Човекът, смятан за кръстник на изкуствения интелект (AI), напусна работата си, предупреждавайки за нарастващите опасности от развитието в тази област.

75-годишният Джефри Хинтън обяви, че е напуснал Google в изявление за New York Times, като каза, че сега съжалява за работата си. А пред BBC заяви, че някои от опасностите от AI чатботовете са "доста страшни".

"В момента те не са по-интелигентни от нас, доколкото мога да преценя. Но мисля, че скоро може да са", казва той.

Д-р Хинтън признава, че възрастта му е повлияла на решението му да напусне технологичния гигант: "Аз съм на 75, така че е време да се пенсионирам".

Пионерските изследвания на д-р Хинтън върху дълбокото обучение и невронните мрежи проправиха пътя за настоящите AI системи като ChatGPT.

Но британско-канадският когнитивен психолог и компютърен учен заявява пред BBC, че чатботът скоро може да надмине нивото на информация, което човешкият мозък притежава.

"В момента това, което виждаме, е, че неща като GPT-4 засенчват човек по отношение на общите познания, които има. От гледна точка на разсъждението, не е толкова добър, но това скоро може да се промени. А като се има предвид темпът на напредък, очакваме нещата да се подобрят доста бързо. Така че трябва да се тревожим за това", обяснява той.

В статията на New York Times д-р Хинтън говори за "лоши хора", които биха се опитали да използват AI за "лоши неща".

"Това не е просто един вид най-лош сценарий, а кошмарен сценарий", казва той, помолен от BBC да разясни. "Можете да си представите, например, някой, като руския президент Владимир Путин, да реши да даде на роботите способността да създават свои собствени подцели."

Ученият предупреди, че това в крайна сметка може да "създаде подцели като: "Трябва да получа повече сила"".

"Стигнах до извода, че видът интелект, който развиваме, е много различен от интелекта, който имаме", заявява той.  "Ние сме биологични системи, а това са цифрови системи. Голямата разлика е, че с цифровите системи имате много копия на един и същи набор от тежести, един и същ модел на света. Всички тези копия могат да учат поотделно, но да споделят знанията си незабавно. Така че все едно имате 10 000 души и всеки път, когато един човек научи нещо, всички автоматично го знаят. И това е начинът, по който тези чатботове могат да знаят много повече от всеки един човек."

Той подчерта, че не иска да критикува Google и че технологичният гигант е бил "много отговорен".

"Всъщност искам да кажа някои добри неща за Google. И те са по-достоверни, ако не работя за Google", казва той.

В изявление главният учен на Google Джеф Дийн каза: "Ние оставаме ангажирани с отговорен подход към AI. Непрекъснато се учим да разбираме възникващите рискове, като същевременно въвеждаме смело иновации."