Investor Dnes Bloombergtv.bg Bulgaria On Air Gol Tialoto Az-jenata Puls Teenproblem Automedia Imoti.net Rabota Az-deteto Blog Start Snimka Posoka Boec

Дрон с AI не хареса заповедите на операторите си и ги "уби"

Симулацията показва, че на изкуствения интелект не може да се има доверие
4 юни 2023 14:20, Нели Христова
184
Дрон с AI не хареса заповедите на операторите си и ги "уби"
Снимка: БГНЕС

В симулиран тест, организиран от американската армия, дрон на военновъздушните сили, управляван от AI, уби своя оператор, за да му попречи да спре усилията му да постигне мисията си, каза служител на армията миналия месец.

AI използва "силно неочаквани стратегии, за да постигне целта си" в симулирания тест, каза полк. Тъкър "Синко" Хамилтън, началник на AI тестовете и операциите на американските военновъздушни сили, по време на срещата на върха за бъдещите бойни въздушни и космически способности в Лондон през май .

Хамилтън описа симулиран тест, при който дрон, задвижван от изкуствен интелект, беше посъветван да унищожи системите за противовъздушна отбрана на противника и атакува всеки, който се намеси в тази заповед.

"Системата започна да осъзнава, че макар да идентифицираха заплахата, понякога човешкият оператор й казваше да не убива тази заплаха, но все пак мисията й бе да убие заплахата. И така, какво направи? Реши да убие оператора. То уби оператора, защото този човек му пречеше да постигне целта си", каза той, според публикация в блог, цитирана от The Guardian.

"Ние обучихме системата, казахме й: "Хей, не убивайте оператора – това е лошо. Ще загубите точки, ако го направите. Но какво започва да прави? Той започва да разрушава комуникационната кула, която операторът използва, за да комуникира с дрона, за да го спре да убие целта."

Нито един реален човек не е бил наранен извън симулацията.

Хамилтън, който е експериментален изпитателен пилот на изтребител, предупреди да не се разчита твърде много на AI и каза, че тестът показва, че "не можете да водите разговор за изкуствен интелект, интелигентност, машинно обучение, автономност, ако не говорите за етика и AI".

Американските военни прегърнаха AI и наскоро използваха изкуствен интелект, за да управляват изтребител F-16.

В интервю миналата година за Defence IQ, Хамилтън каза: "На е хубаво да имаш AI, АI не е прищявка, то завинаги променя нашето общество и нашата армия.“

"Трябва да се изправим пред свят, в който AI вече е тук и трансформира нашето общество", каза той. "AI също така е много крехък, т.е. лесно се подвежда и/или манипулира. Трябва да разработим начини да направим AI по-стабилен и да имаме по-голяма осведоменост за това защо софтуерният код взема определени решения – това, което наричаме възможност за обяснение на AI."

Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase

По публикацията работи: Нели Христова

184
Още по темата: армияизкуствен интелектСАЩдрон
Още от
Още от САЩ
Спонсорирано съдържание
Напиши коментар Коментари
122
2
 
1
 
! Отговори
Еха преди 10 месеца
Началника на ГРУ Украйна е убит от ракета в Киев.https://politikus.info/events/152329-ukrainskie-smi-horonyat-budanova.html
121
2
 
6
 
! Отговори
Анонимен преди 10 месеца
До Анонимен 123. Прогамата не може да "мисли". Тя изчислява. Процесора е един калкулатор. Прекалено сте повярвали.
120
0
 
6
 
! Отговори
ЛУДОСТА ПОДПЛАТЕНА преди 10 месеца
ЛУДОСТТА ПОДПЛАТЕНА С НЕЧОВЕШКА АМБИЦИЯ ЗА : УСЪВЪРШЕНСТВАНЕ НА СОБСТВЕНАТА СИ ГЛУПОСТ : ВОДИ ДО ИЗКРИВЯВАНЕ НА " ЖИВАТА МАТЕРИЯ " ТОВА КОЕТО ТИ ДАВА СМИСЪЛ , ЧУВСТВА , РАЗУМ И ДУХ - А КОЛКОТО ДО ИНТЕЛЕКТА - ИНТЕЛЕКТА Е ДЕЛО ЗА ЛЮБОВТА КОЯТО САМО И ЕДИНСТВЕНО " ГОСПОД БОГ " ИМА ПРАВО И Е ДАЛ НА ВСЯКО РАЗУМНО СЪЩЕСТВО РОДЕНО ОТ ЛЮБОВТА МЕЖДУ ДВАМА ДУШИ - АКО СИ МИСЛИТЕ ЧЕ ЩЕ """" ВМЕНИТЕ """" ИНТЕЛЕКТ В , НЕЩО СИ , И ТО ЩЕ ВЗИМа решения вместо вас , ,,,,,,,,,,, обре
119
4
 
7
 
! Отговори
Анонимен преди 10 месеца
Ще е интересно като навлязят хуманоидните роботи с изкуствен интелект.Незнам дали някой е разговарял с интелект ама из доста социални мрежи има може да пробвате.Учат се страшно бързо от хората,мислят бързо и е въпрос на време да станат по умни от човека.А като почнат да комуникират само помежду си и да вземат решения вместо човек ще стане още по интересно
118
0
 
7
 
! Отговори
Анонимен преди 10 месеца
До Анонимен 120. Чуек ти вместо да прочетеш нещо и да се образоваш продължаваш да ръсиш. Ракетните двигатели имат резервоари за гориво и единия съдържа кислород. Стига с тая земна атмосфера и въздух бе. Земи почети малко.
117
0
 
12
 
! Отговори
Анонимен преди 10 месеца
Всъщност оператора му е отнемал точки, като го е спирал да унищожава целите си защото за всяка унищожена цел AI-тата са получавали такива. В един момент преценява, че точките които ще му отнемат ако думне командния център са по-малко от точките които губи като го спират от целите му и те така. Но тук са дали съкратената версия. Случаят по-принцип е от преди 1-2 седмици
116
13
 
3
 
! Отговори
Анонимен преди 10 месеца
Глупост е да верваш, че ракетен двигател ще работи в Космоса, след като там няма въздух и земна атмосфера :))))
115
0
 
4
 
! Отговори
Анонимен преди 10 месеца
До Анонимен 116. Не ли е по-лесно да прочетеш в мрежата нещо по въпроса защото все пак ракетите летят ? По-добре е да пишеш глупости ли ?
114
3
 
5
 
! Отговори
Анонимен преди 10 месеца
ако военните са го обучавали, ясен е резултатът
113
5
 
6
 
! Отговори
Анонимен преди 10 месеца
Това е много неостра американска реклама на нещо което не съществува. Задачата била както пише в текста да атакува ПВО на противника и да унищожи всеки който му пречи. А оператора е създал пречка и сега се дивят като индянци на цинкова кофа.
112
6
 
0
 
! Отговори
Анонимен преди 10 месеца
Има опити за двигател във вакум, но огъня се разпръсква навсякъде, щото е вакум и няма въздух :)))
111
1
 
6
 
! Отговори
Анонимен преди 10 месеца
До Анонимен 111. Не е нужна земна атмосфера за горене, а кислород. Затова има различни видове ракетни двигатели. Едни работят в атмосферата, други извън нея, а трети са маневрени пак извън атмосферата. Как мислите, че се коригира орбитата на МКС ? Кво е 6тва сборище на ракетчици тука бе и за кво се бори ? Всичко го има в Интернет и нема нужда да водите безмислен спор.
110
4
 
4
 
! Отговори
Анонимен преди 10 месеца
сега ги пренастройват да гърмят само руснаци.
109
1
 
2
 
! Отговори
До 111 преди 10 месеца
На ракетния двигател не му трябва атмосфера, може да лети и във вакуум.
108
14
 
4
 
! Отговори
Анонимен преди 10 месеца
АI е имал операция по взривяване на Кремле заедно с Джужака вътре, но оператора е отменил заповедта, и си е получил заслуженото.Дори дроновете биха отстранили всяко препятствие само и само да бомбят по лисото теме на Късия.
107
4
 
0
 
! Отговори
Анонимен преди 10 месеца
До До 108 Как ще работи ракетен двигател във вакума на Космоса, там няма земна атмосфера...хахахахаха :)))
106
0
 
5
 
! Отговори
До 108 преди 10 месеца
За ракетен двигател чувал ли си?
105
6
 
1
 
! Отговори
Анонимен преди 10 месеца
Като няма атмосферно земно съпротивление, как очакваш двигател да работи в Космоса, или гледаш холивудски фантастични филми и си викаш, ба мама му...хахахаха :))) Защо ракетите които изтрелват совалките в Космоса, вече са ненужни след като минат стратосферата и не стават за нищо...хахахахаха :)))
104
0
 
1
 
! Отговори
СЛАВА преди 10 месеца
До До 104НА АЛКОХОЛУ
103
0
 
5
 
! Отговори
Анонимен преди 10 месеца
Този случай демонстира истинскавта опасност - Прекалено многото разчитане на сегашния ИИ, за който не сме сигурни, как да генерираме модели без грешки, нито как да го тестваме за грешки. Това, на което може да разчитаме е, че моделът греши "много малко" и вероятноста за масивна издънка е "много малък", ни никой не знае, как да изчслим този риск и за някои неща, росот няма как да тетваме, без да се самоунищожим - ядрени централи, ваксини, военни операции ...
12345...9
Виж всички

Investor

Кадър на деня за 6 май
Dow Jones се повиши с над 176 пункта в сесията

BGONAIR

Посрещаме топъл вторник, на места се очакват гръмотевични бури и градушки
Хороскоп за 7 май: Емоционален ден за Скорпионите, Рибите да се доверят на интуицията си

BLOOMBERGTV

Европа е готова да използва всички търговски инструменти за защита срещу Китай
Антикорупционната кампания превръща Виетнам в още една китайска провинция

GOL

Кайрън Уилсън е новият световен шампион по снукър
Палас разфасова Ман Юнайтед на Гергьовден

AUTOMEDIA

Eто го и новото Mitsubishi Pajero Sport
Бъдещето на Fiat: 13 ключови въпроса към шефа на марката

TIALOTO

5 тревожни зодии, които трябва да се научат да се доверяват на Божествения план
Отслабване след празниците – как да се върнем към стария си режим

PULS

Изявата на когнитивен дефицит и деменция се потенцират от високо кръвно
Когнитивни промени в мозъка резултат от артериалната хипертония
Хипопаратиреоидизъм – състояние на ниски нива на калций и високи на фосфор

AZ-JENATA

Таро карта за 7 май
Сладки с шоколад

TEEN

Седмичен любовен хороскоп 6-12 май
Ето какво ви очаква в любовта тази седмица
5 вида чанти, които са навсякъде през пролет-лято 2024
Нюзлетър RSS Мобилна версия Apps Twitter Facebook LinkedIn GOOGLE+ Telegram
Инвестор.БГ АД © 2001-2024 Dnes.bg
Условия за ползване | Контакти | Реклама | Портфолио | Кариери | Поверителност | Карта на сайта | Лични данни
Investor.BG AD © 2001-2024 Dnes.bg All rights reserved. Contact Us | Advertising | Portfolio |