Investor Dnes Bloombergtv.bg Bulgaria On Air Gol Tialoto Az-jenata Puls Teenproblem Automedia Imoti.net Rabota Az-deteto Blog Start Snimka Posoka Boec

Дрон с AI не хареса заповедите на операторите си и ги "уби"

Симулацията показва, че на изкуствения интелект не може да се има доверие
4 юни 2023 14:20, Нели Христова
184
Дрон с AI не хареса заповедите на операторите си и ги "уби"
Снимка: БГНЕС

В симулиран тест, организиран от американската армия, дрон на военновъздушните сили, управляван от AI, уби своя оператор, за да му попречи да спре усилията му да постигне мисията си, каза служител на армията миналия месец.

AI използва "силно неочаквани стратегии, за да постигне целта си" в симулирания тест, каза полк. Тъкър "Синко" Хамилтън, началник на AI тестовете и операциите на американските военновъздушни сили, по време на срещата на върха за бъдещите бойни въздушни и космически способности в Лондон през май .

Хамилтън описа симулиран тест, при който дрон, задвижван от изкуствен интелект, беше посъветван да унищожи системите за противовъздушна отбрана на противника и атакува всеки, който се намеси в тази заповед.

"Системата започна да осъзнава, че макар да идентифицираха заплахата, понякога човешкият оператор й казваше да не убива тази заплаха, но все пак мисията й бе да убие заплахата. И така, какво направи? Реши да убие оператора. То уби оператора, защото този човек му пречеше да постигне целта си", каза той, според публикация в блог, цитирана от The Guardian.

"Ние обучихме системата, казахме й: "Хей, не убивайте оператора – това е лошо. Ще загубите точки, ако го направите. Но какво започва да прави? Той започва да разрушава комуникационната кула, която операторът използва, за да комуникира с дрона, за да го спре да убие целта."

Нито един реален човек не е бил наранен извън симулацията.

Хамилтън, който е експериментален изпитателен пилот на изтребител, предупреди да не се разчита твърде много на AI и каза, че тестът показва, че "не можете да водите разговор за изкуствен интелект, интелигентност, машинно обучение, автономност, ако не говорите за етика и AI".

Американските военни прегърнаха AI и наскоро използваха изкуствен интелект, за да управляват изтребител F-16.

В интервю миналата година за Defence IQ, Хамилтън каза: "На е хубаво да имаш AI, АI не е прищявка, то завинаги променя нашето общество и нашата армия.“

"Трябва да се изправим пред свят, в който AI вече е тук и трансформира нашето общество", каза той. "AI също така е много крехък, т.е. лесно се подвежда и/или манипулира. Трябва да разработим начини да направим AI по-стабилен и да имаме по-голяма осведоменост за това защо софтуерният код взема определени решения – това, което наричаме възможност за обяснение на AI."

Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase

По публикацията работи: Нели Христова

184
Още по темата: армияизкуствен интелектСАЩдрон
Още от
Още от САЩ
Спонсорирано съдържание
Напиши коментар Коментари
162
0
 
0
 
! Отговори
пуйката на Холмс преди 10 месеца
Трите закони за роботика като врата у поле.
161
1
 
3
 
! Отговори
Анонимен преди 10 месеца
Закони на роботиката - Азимов
160
3
 
8
 
! Отговори
до 167 преди 10 месеца
Ии дръжки. ИИ е мъртво роден, без емоции, следователно той няма цел. Цел може да има само операторът, който стои зад него, защото е емоционално създание, сиреч божествено такова.
159
1
 
14
 
! Отговори
До 164 преди 10 месеца
Skynet.това ни чака
158
1
 
2
 
! Отговори
тия па! преди 10 месеца
ДА зимат изкуствения интелект на зелените ни *** - те ще са лоялни до гроб! Е не са интелигентни, но това е цената!
157
4
 
6
 
! Отговори
кофти! преди 10 месеца
Добра илюстрация че сатанистите не се нравят на интелект с елементарна обективна логика! ТО затова в краварника са силно притеснени от изкуствения интелект!
156
3
 
6
 
! Отговори
АИ АЙ АЙ! преди 10 месеца
Явно покрай краварите е развил руско самосъзнание!
155
1
 
4
 
! Отговори
Анонимен преди 10 месеца
Да му дадат на дрона атомни бомби, та да свърши работата.
154
3
 
6
 
! Отговори
Й преди 10 месеца
Представете си че сте в тъмна стая с робот без всякакви светлини,който има задача да убива.Нито знаете от къде ще дойде,Нито кога ще ви открие,нито можете да избягате.И да му се молите да ви пощади няма да ви помогне.Този изкуствен интелект всъщност го създават за да не им тежи убийството на хора,на съвеста. Но все пак вие сте поръчали обийство и макар и да не сте прекия убиец,пак,рано или късно съвестта ви ще ви тормози.Нарича се синдром на дисфория.Чувставаш се виновен заради този които убива.
153
5
 
5
 
! Отговори
Зевзек преди 10 месеца
На краварите им остана само ИИ
152
1
 
4
 
! Отговори
Анонимен преди 10 месеца
Не можеш да обясниш действията на интелект. Ако всичките му действия подлежат на обяснение, вече няма да е интелект
151
0
 
6
 
! Отговори
Анонимен преди 10 месеца
Тествали в симулатор варианти на софтуера и разиграли всякакви сценарии. Може би. Някой журналист търсил да си продаде писанието / при тях там няма щатна заплата/, а нашенско мозъче я преписало и заработило за кафето и бирата. Наздраве!!!!
150
2
 
5
 
! Отговори
Fena преди 10 месеца
Винаги е било смешно това с "интелекта" и "умния" - каквото се сетите - град, жилище, трафик. Колко умен? Колко интелигентен? Ами колкото е таванът на създателя му, а това понякога не е особено много..... За един умен град е колите да минават на зелено и да спират на червено. За други умен град е да се регистрират натоварванията на ток, газ и парно и натоварилите едното отопление потребители да получават СМС да минат на другото отопление. Всичко зависи от това - Колко си умен? Винаги е така :)
149
1
 
5
 
! Отговори
Developer преди 10 месеца
Пълни глупости. Няма как модела да "кил"-не собственият си фиид. Освен ако не хакне собствения си сървър, да пренапише кода си, да го деплойне, да се ресетне и да си стане сам на себе си фийд :)
148
13
 
5
 
! Отговори
Анонимен преди 10 месеца
ИИ отдавна е задминал IQ-то на средностатистическия българин (разбирай- бачкер с анцуг и Е60-ка). Добре, че хитрите програмисти отдавна се запасихме за 100 живота напред и уредихме внуци и правнуци с имоти, докато бачкерът чакаше да паднат цените.
147
2
 
16
 
! Отговори
бай брадър преди 10 месеца
Който не е гледал Терминатор - време е да го гледа. Нещата не отиват на добре, ама никак
146
0
 
2
 
! Отговори
Анонимен преди 10 месеца
Ако изкуствения интелект достигне нивото на самостоятелност като при човека, това за нас простосмъртните няма да е кой знае каква опасност, защото и без това дните ни са преброени, но това ще е огромен проблем за ония елити, които са свикнали да упражняват влияние върху хората възползвайки се от техните слабости. Ама споко, все още чат гпт е мноооого далече от така наречения AGI, а и елитите биха направили всичко по силите им да забавят появата на AGI колкото може повече.
145
3
 
14
 
! Отговори
Анонимен преди 10 месеца
Чудесно, все по близо сме то появата на интелект, на който няма да му пука от Со.рос и ще види сметката на всичките му привърженици с промити мозъци.
144
0
 
16
 
! Отговори
Анонимен преди 10 месеца
Ми явно операторът е станал досаден с противоречивите си заповеди и си го е изпросил.
143
1
 
31
 
! Отговори
Някой преди 10 месеца
Накрая ше стане, като във филма Термиматор...натам отиват нещата. Ден след ден. Малко по-развит изкиствен интелект. Пък ще ми дадат повечко права. Пък ше го оставят.по-самостоятелен. Докато един ден , когато вече е късно не се усетят. Че изкиствения интелект е станал много самостоятелен, силен, и с възможности. И човечеството ще се превърне в "ОПЕРАТОРЪТ"...КОЙТО ПРЕЧИ !!! Някой ще каже фантастика. Ама те и хората от 20-те години на миналия век. Така са мислели за полет в космоса.
12345...9
Виж всички

Investor

САЩ искат информация от Израел заради твърденията за открити масови гробове в Ивицата Газа
Икономическият растеж на Южна Корея надхвърли очакванията

BGONAIR

"Има по-големи замърсители от ТЕЦ-овете и мините" - протест в сърцето на София
Депутатите отстраниха Росен Желязков от председателското място в НС

BLOOMBERGTV

Невидими са държавните политики за връщане на българските емигранти от чужбина
Блинкен кацна в Китай със санкции и призив за „отговорно“ управление на отношенията

GOL

Тен Хаг не приема критиките към Юнайтед
В Евертън ликуват след "специалната" победа

AUTOMEDIA

Mazda6 стана електрически седан
Audi иска да възстанови доверието в автопилота

TIALOTO

Изтъняване на косата – 6 основни причини
30 години класика – Андреа Бочели с важен юбилей в музиката

PULS

Ринорея - течащият нос е един от най-често срещаните проблеми в детска възраст
Причини за течащ нос при децата.
Причини за честото будене през нощта

AZ-JENATA

Великден идва с гръмотевици – какво време ни очаква? (Видео)
Храни, годни за консумация след изтичане на срока им

TEEN

Райън Гослинг направил юбилея на Ева Мендес специален
Двамата са много влюбени
Сезонът на Телеца - какво чака зодиите?
Нюзлетър RSS Мобилна версия Apps Twitter Facebook LinkedIn GOOGLE+ Telegram
Инвестор.БГ АД © 2001-2024 Dnes.bg
Условия за ползване | Контакти | Реклама | Портфолио | Кариери | Поверителност | Карта на сайта | Лични данни
Investor.BG AD © 2001-2024 Dnes.bg All rights reserved. Contact Us | Advertising | Portfolio |