Изкуственият интелект, изграден върху планини от потенциално пристрастна информация, създава реален риск от автоматизиране на дискриминацията, но има ли начин да се превъзпитат машините?
Въпросът за някои е изключително належащ. В ерата на ChatGPT изкуственият интелект ще генерира все повече решения за доставчиците на здравни услуги, банковите кредитори или адвокатите, използвайки като изходен материал всичко, което е било издирено от интернет, предава АФП.
Следователно базовият интелект на ИИ е толкова добър, колкото е добър светът, от който е дошъл, толкова вероятно е да е изпълнен с остроумие, мъдрост и полезност, както и с омраза, предразсъдъци и тиради.
"Това е опасно, защото хората прегръщат и приемат софтуера за ИИ и наистина зависят от него", казва Джошуа Уивър, директор на Тексаския инкубатор за възможности и правосъдие, юридическа консултантска компания.
"Можем да влезем в тази обратна връзка, при която предразсъдъците в собствената ни същност и култура информират предразсъдъците в ИИ и се превръщат в нещо като подсилващ цикъл", каза той.
Да се гарантира, че технологиите отразяват по-точно човешкото разнообразие, не е само политически избор.
При други приложения на ИИ, като например разпознаването на лица, компаниите са се сблъсквали с проблеми, свързани с дискриминация.
Такъв е случаят с Rite-Aid, американска верига аптеки, където според Федералната търговска комисия камерите в магазините фалшиво маркират потребителите, особено жените и цветнокожите, като крадци на стоки.
Генеративният изкуствен интелект от типа на ChatGPT, който може да създаде подобие на човешки разсъждения само за секунди, открива нови възможности за грешка, притесняват се експертите.
Гигантите в областта на изкуствения интелект са наясно с проблема, опасявайки се, че моделите им могат да изпаднат в лошо поведение или да отразяват прекомерно западното общество, когато потребителската им база е глобална.
"Имаме хора, които задават запитвания от Индонезия или САЩ", каза главният изпълнителен директор на Google Сундар Пичай, обяснявайки защо заявките за изображения на лекари или адвокати ще се стремят да отразяват расовото разнообразие.
Но тези съображения могат да достигнат абсурдни нива и да доведат до гневни обвинения в прекалена политическа коректност.
Това се случи, когато генераторът на изображения Gemini на Google изплю изображение на германски войници от Втората световна война, което абсурдно включваше чернокож мъж и азиатка.
"Очевидно грешката беше, че прекалихме с прилагането... там, където не трябваше да се прилага. Това беше грешка и ние сгрешихме", каза Пичай.
Но Саша Лучони, учен-изследовател в Hugging Face, водеща платформа за модели на изкуствен интелект, предупреди, че "мисленето, че има технологично решение за пристрастията, е един вид вече тръгване по грешен път".
Генериращият ИИ по същество е свързан с това дали резултатът "съответства на това, което потребителят очаква", а това до голяма степен е субективно, каза тя.
Огромните модели, върху които е изграден ChatGPT, "не могат да разсъждават за това кое е пристрастно и кое не, така че не могат да направят нищо по въпроса", предупреди Джейдън Зиглер, ръководител на продуктовия отдел в Alembic Technologies.
Поне засега от хората зависи да гарантират, че изкуственият интелект генерира всичко, което е подходящо или отговаря на техните очаквания.
Но като се има предвид лудостта около ИИ, това не е лесна задача.
Hugging Face разполага с около 600 000 модела на ИИ или машинно обучение на своята платформа.
"На всеки няколко седмици излиза нов модел и ние сякаш се борим, за да се опитаме просто да оценим и документираме пристрастия или нежелано поведение", казва Лучони.
Един от методите, които се разработват, е т.нар. алгоритмично изключване, което ще позволи на инженерите да изключват съдържание, без да разрушават целия модел.
Съществуват обаче сериозни съмнения, че това може да работи.
Друг метод би "насърчил" модела да върви в правилната посока, би го "донастроил", "възнаграждавайки за правилно и неправилно", казва Рам Шрихарша, главен технологичен директор в Pinecone.
Pinecone е специалист в областта на разширеното генериране на информация (retrieval augmented generation или RAG) - техника, при която моделът извлича информация от фиксиран надежден източник.
За Уивър от Тексаския инкубатор за възможности и правосъдие тези "благородни" опити за отстраняване на пристрастия са "проекции на нашите надежди и мечти за това как може да изглежда една по-добра версия на бъдещето".
Но предубедеността "е присъща и на това, което означава да бъдеш човек, и поради това тя е заложена и в изкуствения интелект", казва той.
Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.

Презаписването на IPO-то на Anthropic може би ще убеди пазарните участници да нямат страх от AI
Европейските борси затвориха тежка седмица след разпродажби на технологичните акции
В очакване на народното недоволство: Как осем страни от Европа се борят с жилищната криза
Потребителското доверие в САЩ расте през ноември на фона на спада на цените на бензина
Москва опроверга САЩ - не приема гаранции "тип НАТО" за Киев, чака единение на Русия и Украйна
SOFIX и BGBX40 отстъпиха в петък, но нараснаха с по над 4% за седмицата
Всяко десето дете в България се ражда преждевременно
Николета Тодорова от ПБ отрече договорки "по кьошетата" за избора на ВСС
Акробатично шоу на лед и концерт откриха коледния фестивал пред НДК (ВИДЕО)
Овчаров: Свърши меденият месец на Радев, трябва като Херкулес да се заеме с Авгиевите обори
Възрастните в капана на дезинформацията - как да различаваме фактите от манипулацията
Централна емисия
Почетино с огромно обещание за Ман Юнайтед
Започна се! Шеф напусна БФС
„Синя“ еуфория! Левски победи ЦСКА + ВИДЕО
Легенда на Левски изригна пред Gol.bg: Не може Светльо Вуцов да е главен плеймейкър
Септември Сф и Локо Пд се занулиха
Синя легенда каза пред Gol.bg защо ЦСКА е №1 сега и отсече: Червените са фаворит за титлата
Таро карта за 21 ноември, събота - Четворка пентакли
Повече пари за 3 зодии на 21 ноември 2026
„Големите последици“: Кибератаки, 123 години „Майчин дом“ и Руслан Мъйнов на 50
Пухкав кекс с орехи пекан и канела за Деня на християнското семейство
Трапезата за 24 ноември – Света Екатерина
Какво да добавите във водата си, за да намалите подуването на корема?
Инсулиновата чувствителност и стареенето - защо метаболитното здраве има значение за дълголетието?
Кога да посетим спешно отделение при дете с висока температура?
Моите здравни права: От раждането до 18 години – какви безплатни прегледи и изследвания се полагат на децата?
Контролът върху лечебните дейности в България: НЗОК и ИАМН в светлината на добрите европейски практики и ограниченото финансиране
Експерт: По-малко играчки и повече обща игра помагат на малките деца да се съсредоточават
Русия може да засили ударите в Черно море, България има ограничени възможности за защита
Турция оскъпи Босфора пет пъти, България губи милиони
България има шанс да стане част от новата индустрия на Европа до 2035 г.
ИПБ: 54 човешки живота по-късно - МРРБ блокира пътната поддръжка
Колата пред самолета: България е трета в ЕС по пътувания по суша
Николай Попов за Аспарухов мост: Трябва ли да чакаме да вземе човешки жертви?