Сам Алтман: Светът трябва да приеме, че се случват и лоши неща заради AI

Изпълнителният директор на OpenAI Сам Алтман заяви, че съществува фундаментална разлика във възгледите на неговата компания и тези на конкурента Anthropic по отношение на регулациите за изкуствения интелект. 

В ексклузивно интервю за рубриката "Decoded“ на Politico предприемачът подчерта, че ползите от технологията оправдават поемането на определени рискове и че изкуственият интелект трябва да остане широко достъпен за обществеността.

"Мисля, че има съществени различия“, каза Алтман пред Брендан Борделон. На конкретен въпрос в какво се разминава с Anthropic и нейния изпълнителен директор Дарио Амодей, Алтман отговори: "Ние вярваме, че светът трябва да приеме възможността да се случват и някои негативни неща, за да се възползваме от ползите на тази технология и хората да запазят свободата на действие".

Anthropic отдавна се възприема като най-големия застъпник за регулиране на изкуствения интелект в бранша – позиция, която доскоро се разминаваше с подхода на по-слаб регулаторен контрол, предпочитан от OpenAI. През последните месеци обаче различията в политиките на двете водещи компании за ИИ намаляха, като OpenAI също започна да подкрепя по-строги правила на фона на сблъсъка си с нашумели случаи на хакерски атаки и неконтролирано поведение на своите модели.

Миналия месец Алтман се съгласи с призива на Амодей за забавяне на разработването на най-усъвършенстваните модели с изкуствен интелект. Компанията му последва примера на Anthropic, като подкрепи нови щатски закони, налагащи по-строги изисквания за безопасност от тези, които създателят на ChatGPT подкрепяше по-рано - финна промяна спрямо досегашната им стратегия на щатско ниво. Освен това лобисти на OpenAI наскоро подкрепиха двупартийно предложение в Камарата на представителите, което би задължило водещите компании в сферата на ИИ да включат външни оценители по въпросите на безопасността.

Въпреки това сближаване на позициите, Алтман се опита да разграничи подхода на своята компания от този на Anthropic, като се позова на критиките относно т.нар. "регулаторно пленяване“ (regulatory capture), обвинение, отправяно към Anthropic от технологични съветници, близки до президента Доналд Тръмп.

Регулация, хакерски атаки

"Не съм съгласен, но разбирам гледната точка на хората, които смятат, че тази технология ще стане толкова мощна и опасна, че само една лаборатория в Сан Франциско трябва да я притежава, да гарантира, че няма да се случи нищо лошо, и някак си да реши как да разпределя ползите от нея“, заяви Алтман. Той определи това като "напълно неприемлив компромис“, който противоречи на подкрепяния от OpenAI подход за "по-лек регулаторен контрол“.

"Не бих се съгласил на сделка от типа: "Ще гарантираме, че няма да има мащабни хакерски атаки, злоупотреби с тази технология, измами или каквито и да било други негативни последици“, заяви Алтман. "Защото смятам, че хората ще вършат неща, носещи огромна полза – в пъти повече, отколкото вреда".

По-късно изпълнителният директор на OpenAI добави, че не приема "наистина катастрофалните рискове“, включително възможността за "сериозна загуба на контрол върху изкуствения интелект“.

В отговор на това говорител на Anthropic заяви, че техните "предложения за регулации се отнасят единствено до моделите от най-ново поколение (т.нар. frontier models)“. Компанията също така се позова на дискусия в социалните мрежи от месец август, в която Амодей обсъжда с инвестиционен мениджър критиките относно риска от регулаторно обвързване (regulatory capture) и въздействието върху по-малките фирми.