Софтуер на Amazon: Тези членове на Конгреса са заподозрени!

Инструмент за разпознаване на лица, който Amazon предлага на разработчици, е направил доста интересна грешка в тест, проведен от Американския съюз за граждански свободи (ACLU), пише The New York Times.

Вместо да идентифицира 28 членове на Конкреса като членове на законодателната власт в САЩ, инструментът разпознава тези личности като заподозряни от полицията (потенциални престъпници). Освен това някои афроамерикански и латино членове на Конгреса не са били разпознати като такива, което поставя въпрос доколко далече всъщност стига расовото профилиране в машинното обучение на такъв тип инструменти.

Пред The New York Times един от адвокатите на ACLU, Джейкъб Сноу, споделя, че този тест потвърждава опасността и неточността на лицевото разпознаване.

Сега Конкресът иска отговори. 5 от погрешно идентифицираните законодатели искат "незабавна" среща с главния изпълнителен директор на Amazon - Джеф Безос. Освен предполаганото засягане на лична основа конгресмените искат да разберат и "как да се справим с дефектите на тази технология, за да предотвратим неточни резултати".

Отговор от страна на Amazon дойде от Нина Линдзи, част от Amazon Web Services, според която ACLU са използвали въпросния Amazon Rekognition софтуер по различен от препоръчания от тях начин. Тя уточнява, че принципно се слага "ниво на сигурност" на резултатите до 80%, каквото са направили и ACLU, но когато става въпрос за база данни на полицията - трябва да се сложи праг от 95%, за да се избегнат такива грешки.

Това не е първият път, в който инструментът е поставен на прицел. През май месец ACLU отново е на фронтовата линия, изисквайки от Amazon да спре да продава Rekognition на правоприлагащи органи. Техните опасения са, че софтуерът може да послужи за наблюдение на протестиращи, имигранти и други важни за властта личности, различни от заподозрени в престъпления. От тогава има отправeни подобни искания към компанията дори от нейните собствени служители и инвеститори.

Към момента обаче не изглежда Джеф Безос да се трогва от тези молби, тъй като официалното становище на компанията е, че "оставаме развълнувани от това как анализът на изображения и видео може да помогне на света".