Какви са правата ни, задълженията ни и санкциите при използването на изкуствения интелект?

Изкуственият интелект отдавна присъства в нашето ежедневие, а бурното му развитие освен ползи от използването му, носи и задължения. Каква е целта на новия закон за изкуствения интелект, какви ограничения ще има при използването му, как ще се отрази на бизнеса в България и какви са санкциите при неспазване на правилата, какви рестрикции се очакват да бъдат приети в Европа? По темата говори експертът Траян Косев, адвокат, партньор в адвокатска кантора KGK Law Firm. Определен е като един от водещите специалисти в България в областта на правото на правото на интелектуална собственост от престижни международни класации. Консултирал е множество значими проекти с фокус софтуер, използващ изкуствен интелект.

Каква е основната цел на новия закон за изкуствения интелект в ЕС ?

Целта на наскоро приетия Регламент, уреждащ материята на използването на изкуствен интелект, е да намери баланс между технологичния напредък и иновациите от една страна и гарантирането на основни човешки права, в това число здраве и безопасност, от друга страна. Като цяло, идеята на акта не е да налага ограничения и санкции като самоцел, а по-скоро да въведе правила, с които в еднаква степен да се защити интереса на всички заинтересовани страни.

Кои са лицата, които са засегнати от действието на новия закон?

В известна степен, не би било далеч от истината ако кажем, че засегнати са всички лица. Това е така, защото мерките, които предвижда регламента, са насочени към охрана на интересите на всички субекти. В по-тесен смисъл, лицата, които ще трябва да приведат дейността си в съответствие с Регламента, са всички доставчици, разработчици или ползватели на услуги и продукти, използващи изкуствен интелект. Тук влизат и дистрибутори, и вносители на системи с изкуствен интелект. Важно е да се отбележи също така, че няма значение дали доставчика на определена услуга/продукт е установен на територията на ЕС. В случай че услугата/продуктът използва система с изкуствен интелект на територията на ЕС, регламентът намира пряко приложение, независимо от това къде е установен доставчикът на услугата. Тоест, регламентът ще касае и търговски дружества, които нямат седалище на територията на държава-членка на ЕС.

Какви ограничения се предвиждат при използването на изкуствен интелект?

Регламентът използва стъпаловидна система, което по мое мнение е добър подход. Най-напред са посочени забранени практики, при които не е възможно използването на изкуствен интелект или пък е възможно само в ограничен кръг случаи. След това са отсети хипотезите, при които използването на изкуствен интелект се отличава с висок риск. За всичко, което не попада под горните хипотези, е предвиден среден или нисък риск.

Така например забранено е пускането на пазара на услуга/продукт, ползващ изкуствен интелект, който действа на подсъзнанието или изобщо води до изменение на поведението на лице, без да дава възможност за информирано решение. Забранява се използването на изкуствен интелект, използващ уязвимост на определени лица, като възраст, увреждания, социално или икономическо положение, ако има вероятност това да доведе до вреда за съответните лица. Забранено е и профилирането на лица на база биометрични данни, като раса, политически убеждения, религиозни или философски вярвания или сексуална ориентация.

Що се отнася до системите с висок риск, регламентът посочва, че това са системи, които създават значителен риск за здравето, безопасността или основните права на физическите лица. Такива системи са например тези, които се използват в критична инфраструктура, образование, заетост, правоприлагане и съдебната система. Високорискова ще е система, която се използва за подбор на кандидати за работа или оценка на кредитоспособността на физически лица. Използването на такива системи ще е възможно, но ще са необходими конкретни мерки, като оценка на съответствието, прозрачност и човешки надзор.

Какво означава това за бизнеса?

Новият регламент означава, че компаниите, разработващи, търгуващи или използващи системи с изкуствен интелект, ще трябва да се съобразят с редица нови изисквания. Това може да включва:

Оценка на риска - компаниите ще трябва да оценят риска, който техните системи с изкуствен интелект представляват за основните права. Техническа документация - ще е нужно да се поддържа подробна техническа документация, която да описва как работят системите с изкуствен интелект и как са обучени. Прозрачност - бизнесът ще трябва да бъде прозрачен относно това как използва изкуствен интелект и да информира потребителите, когато взаимодействат със система с изкуствен интелект. Човешки надзор - при системите с висок риск ще е необходимо да се осигури човешки надзор, за да се гарантира, че системите се използват отговорно. Сигурност и точност на данните - ще се изисква високо ниво на киберсигурност и точност на данните, използвани за обучение на системите.

Какви са санкциите при нарушение на регламента?

Санкциите при нарушение на регламента могат да бъдат значителни. Глобите могат да достигнат до 7% от годишния глобален оборот на предприятието или 35 милиона евро, в зависимост от това кое е по-високо.

Какви са следващите стъпки за бизнесите?

Препоръчително е компаниите, които разработват или използват изкуствен интелект, да започнат да се подготвят за новите изисквания възможно най-скоро. Тази подготовка следва да започне с оценка на това как регламентът ще се отрази на техните дейности. Необходимо е да се помисли за разработване на стратегии за съответствие, обучение на служителите относно новите изисквания, а в определени случаи добра практика би било и назначаването на служители, отговорни за съответствието с регламента.

Какви са ползите от новия регламент?

Въпреки че регламентът въвежда нови изисквания, той също така предоставя възможност за повишаване на доверието на потребителите в системите с изкуствен интелект. Цели се създаване на по-безопасна и по-етична среда за развитие на изкуствен интелект. Насърчават се иновациите в областта на отговорния изкуствен интелект. В известна степен, регламентът ще доведе до еднакви правила за всички засегнати лица на пазара в ЕС.

От кога започва да се прилага регламентът?

Някои от разпоредбите на регламента, като тези касаещи забранените практики например, вече се прилагат, считано от 02.02.2025 г. Друга част от разпоредбите на регламента, касаещи използването на изкуствен интелект, който не се отличава с висок риск, ще започнат да действат на 02.08.2025 г. Голяма част от регламента ще започне да се прилага от 02.08.2026 г. Какъв точно ще е законодателният подход при учредуването на тези органи – предстои да разберем. Възможно е с такива функции да бъдат натоварени и вече съществуващи институции.

Какви задължения ще има България като членка на ЕС?

България следва да създаде национални органи, които следят за спазването на регламента. Всяка държава – членка следва да има най-малко един нотифициращ орган и един орган за надзор на пазара. Най-общо, това следва да са такива органи, които упражняват контрол и могат да налагат санкции, но едновременно с това предоставят разяснения и улесняват прилагането на регламента от засегнатите лица. На ниво ЕС вече е създадена Служба на ЕС за изкуствен интелект, която работи в сътрудничество с Европейски съвет по изкуствен интелект, в който има представители на всяка държава-членка. Службата на ЕС за изкуствен интелект ще следи генерално за приложението на регламента в рамките на целия ЕС.

Говори ли регламентът нещо за авторски права?

Регламентът не се фокусира пряко върху авторските права, но те са засегнати косвено.  Например, при обучението на системи с изкуствен интелект често се използват големи количества данни, които може да са защитени с авторски права. Регламентът изисква компаниите да бъдат прозрачни относно източника на данните, които използват, както и да гарантират, че не нарушават авторски права. Освен това, регламентът насърчава използването на отворени данни и инструменти с отворен код, което може да допринесе за по-справедливо и етично използване на авторски произведения. Що се отнася до ползвателите на изкуствен интелект за създаване на съдържание, те следва да са с повишено внимание, защото вероятността определен софтуер да генерира съдържание, което нарушава  права на интелектуална собственост е голяма. В тези случай, отговорността се носи от ползвателя на софтуера и съответно на генерираното съдържание.

Колко ще струва на бизнеса привеждането в съотвествие с регламента?

Разходите за привеждане в съответствие с регламента ще варират в зависимост от размера и дейността на компанията, както и от вида на системите с изкуствен интелект, които тя разработва или използва. Тук е моментът да отбележим, че един и същ алгоритъм може да бъде използван в различни обществени сфери, което ще означава, че нивото на риск е различно. Това пък от своя страна ще доведе до различни мерки, които следва да се предприемат. Едно е сигурно, ще бъде необходим индивидуален подход за всяка система използваща изкуствен интелект. Мерките, които следва да се предприемат не са страшни, по-трудното за бизнеса ще е да се ориентира кои точно са тези мерки. Тук освен консултантите, които ще бъдат наети от компаниите, роля ще следва да бъде поета и от националните органи.