Пентагонът иска AI да разкрива лъжците: Новата технология ще следи реакциите без датчици

Въпреки че полиграфските тестове отдавна не са популярни в съдебната система, те все още се използват широко от правителството на САЩ за процеса на получаване на разрешение за достъп до секретна информация. Научните доказателства многократно показват, че полиграфските тестове не са надежден или валиден начин за откриване на измама. Машините – по-известни като "детектори на лъжата" – са разработени за първи път преди повече от век и измерват общия стрес, а не истинността. Това означава, че тестът далеч не е сигурен при откриването на измама; умел лъжец може лесно да премине теста, докато нервен казвач на истината може да се провали. Американските военни и граждански съдебни системи не позволяват полиграфските тестове да бъдат допускани като доказателство в съдебни процеси. Министерството на отбраната на Съединените щати (DoD) обаче твърди, че полиграфите са полезни при проверката на персонала. Агенцията за контраразузнаване и сигурност на отбраната (DSCA), най-голямата федерална агенция в Пентагона, използва полиграфи в процеса на получаване на разрешение за достъп до секретна информация, за проверка на персонала и в контраразузнавателни разследвания. Всъщност, едва през август, следователи от Пентагона са провели тестовете на около 50 членове на Обединения щаб на военните в опит да открият източника на класифицирани течове. Сега Министерството на отбраната търси нова версия, която би могла да бъде снабдена с изкуствен интелект. Пентагонът планира да инвестира над 30,3 милиона долара през следващите пет години, за да разработи подобрена версия на детектора на лъжата – с търговско име, което звучи като нова стрийминг услуга, пише за TNI журналистът Питър Сучиу.

На теория, изкуственият интелект – или по-точно алгоритми за машинно обучение – би се използвал с дистанционна сензорна система, което означава, че би могъл да работи чрез безконтактно физиологично наблюдение чрез камери, които проследяват движенията на главата, температурата на кожата на лицето и активността на порите. Това би могло да доведе до по-нисък процент на фалшиви положителни резултати в сравнение с традиционните детектори на лъжата, чиято зависимост от сензори, директно прикрепени към тялото, би могла да изплаши някои от участниците в теста. Две компании, Presage Technologies и Altec Research, сега разработват прототипи за Министерството на отбраната. Първата е фокусирана върху измерване на сърдечната честота и честотата на дишане чрез обикновени камери, а втората работи върху устройство, което би могло да проследява движението на главата, температурата на кожата на лицето и активността на порите. В крайна сметка, основният механизъм би бил същият: изкуственият интелект просто би разглеждал различни фактори на стрес, които според критиците на полиграфите не измерват измамата.

Относно оригиналния полиграфски тест

Джон Ларсън, полицай в Бъркли, Калифорния, за първи път изобретява полиграфа през 1921 г. Той основава машината на по-ранен тест за систолично кръвно налягане, разработен от психолога Уилям Моултън Марстън – по-известен в поп културата като създателя на "Жената чудо". Марстън и съпругата му, колежката психолог Елизабет Холоуей Марстън, наблюдават, че кръвното налягане на човек обикновено се повишава, когато се вълнува или развълнува, и вярват, че промените в кръвното налягане на човек могат да покажат дали лъже. Устройството на Ларсън разшири тази концепция, като едновременно проследява пулса, кръвното налягане и дишането на човек, всички от които се разглеждаха като потенциални индикатори, че някой се опитва да заблуди. Множеството измервани фактори даде името на теста "полиграф", което грубо означава „записване на всичко“. Подобрена версия, разработена през 30-те години на миналия век, добави система за проследяване с мастилена писалка и включи сензори за галванична кожна реакция (GSR) за измерване на активността на потта. Съвременните варианти вече са компютъризирани, преобразувайки физиологичните данни в цифрови сигнали за по-лесно съхранение, алгоритмична помощ при оценяване и анализ. Разцветът на полиграфа дойде в средата на 20-ти век, особено в криминалните разследвания през 60-те и 70-те години на миналия век. Американските военни също започнаха да използват машините за вътрешни разследвания през този период, като създадоха специално училище за полиграфи през 1951 г. Днес Американската асоциация за полиграфи (APA) – водещата световна професионална организация на експерти и изследователи в тази област – оценява точността на тестовете на около 80 до 90 процента.

Защо правителството на САЩ все още използва детектори на лъжата?

Друг аспект на историята е, че призивите за въвеждане на полиграф, подпомаган от изкуствен интелект (ИИ), идват от Агенцията за отбранителна сигурност и контраразузнаване (DCSA) и са част от усилията на министъра на отбраната Пийт Хегсет да предотврати изтичането на поверителна информация. Филмите и телевизионните предавания създават впечатлението, че "детекторите на лъжата" се използват за директно разкриване на лъжа, но в действителност механизмът им на работа е различен.

"Полиграфите традиционно са част от сферата на разузнаването, където се ценят не толкова заради способността им да засичат лъжи, колкото заради това, че карат кандидатите да се притесняват достатъчно, за да споделят информация, която са пропуснали да впишат във въпросниците за проверка на достъпа до класифицирана информация. Сега се наблюдава нарастващ интерес в рамките на Министерството на отбраната – както поради опасения от вътрешни заплахи (като скорошните случаи на изтичане на данни от Обединения комитет на началник-щабовете), така и с оглед на по-широкото им приложение при проверката на персонала", пише Линди Кайзър, вицепрезидент по съдържанието в ClearanceJobs, в публикация за платформата.

Вероятно не бива да се доверяваме на ИИ за засичане на лъжи (поне засега)

Едно от опасенията е свързано с факта, че е известно как ИИ допуска критични грешки – а понякога дори сам „лъже“. Системите с ИИ и техните големи езикови модели правят прогнози, вместо да проверяват абсолютни факти. Когато не успеят да усвоят търсената информация, моделите могат да измислят фалшиви факти, несъществуващи събития или измислени връзки, за да запълнят празнините в знанията си. Освен това ИИ среща трудности при сложните логически разсъждения, което би трябвало да буди безпокойство при използването на полиграф, базиран на тази технология, тъй като от резултата може да зависи кариерата на даден човек. Това повдига въпроса защо ИИ – за който е известно, че често греши и си измисля собствена версия на истината – трябва да бъде арбитър при откриването на лъжи. Едно от основните опасения е, че моделите на ИИ често проявяват склонност към системно недоверие. Когато бъде поставен в ситуация на интервю или разпит, алгоритъмът често приема, че човекът лъже, просто защото е подложен на разпит. С други думи, системата може да изхожда от презумпцията, че невинните хора изобщо не биха попаднали в подобна ситуация, което води до пристрастност. Предвид тази склонност към предубеденост, съчетана с факта, че на ИИ не може да се гласува пълно доверие, възниква въпросът защо той би се използвал за разпознаване на измама въз основа на визуални признаци за стрес. Съществува и напълно реалното опасение, че ИИ може да бъде програмиран така, че да дава резултатите, които разследващият иска да получи – нещо подобно на манипулирането на статистически данни. Днес учениците и студентите биват съветвани да не се доверяват на ИИ за домашните си работи, тъй като това може да доведе до неточна информация, академична нечестност и влошаване на уменията за критично мислене. Много работещи също така установяват, че генеративните и автономните системи с ИИ често допускат грешки, генерират „халюцинации“ или създават съдържание с ниско качество и малка стойност (т.нар. workslop), което изисква сериозна последваща обработка от човек. И въпреки това Пентагонът сега иска да повери откриването на лъжи на изкуствения интелект.