Киберексперт: Потребителите да внимават каква информация споделят с AI

Преименуването на изкуствения интелект (AI) на "суперинтелект" от президента на САЩ Доналд Тръмп не означава, че технологията е достигнала ново ниво. Това заяви киберекспертът от института Gate Иван Драганов в студиото на "България сутрин".

"Суперинтелект и новото наименование не значи, че технологията е постигнала нови прагове или има нови способности, а по-скоро е пиар трик на президента".

Гостът отбеляза, че САЩ и Китай се съревновават за развитието и внедряването на изкуствения интелект.

Двете държави обаче използват различни подходи: 

Китай развива отворени модели, докато американските компании залагат основно на затворени големи езикови модели.

Според Драганов различия има и при контрола върху технологията – при американските модели компаниите поставят ограниченията, докато при отворените модели голяма част от отговорността остава за потребителя.

Драганов коментира и случаите, при които AI агенти са излизали извън предварително зададената им тестова среда. Според киберексперта това не означава, че изкуственият интелект сам е взел решение да атакува дадена система.

"На него му е поставена задача от човек, махнати са част от ограниченията от човек и съответно за това се стига и до тези резултати", обясни той в ефира на Bulgaria ON AIR.

Според Драганов именно на този фон Тръмп е събрал представители на големите технологични компании, за да обсъдят рамка за контрол върху изкуствения интелект.

Тя предвижда компаниите да поставят ограничения на моделите, да следят дали те се спазват и да бъдат проверявани от външни одитори.

"Наподобява повече на това индустрията сама да се регулира. Има вътрешни процеси, има одитор и след това бордът има отговорност да действа", посочи гостът.

Драганов подчерта, че потребителите също трябва да внимават каква информация споделят с изкуствения интелект.

"Всеки един човек, преди да използва технологията, трябва да има поне базово разбиране за това как работи и какви данни трябва да се споделят", каза експертът.

Според него бъдещето на технологията е свързано все повече с AI агентите, които не само отговарят на въпроси, а изпълняват реални задачи чрез различни програми и услуги.

"Агентите ще се превърнат в работници, а ние ще бъдем ръководител на този екип, ще трябва да проверяваме тяхната работа, да ги синхронизираме, съответно да знаем как да поставяме техните задачи", заключи Иван Драганов.