Ravna planina banerRavna planina baner

Svijet

Američki dron kojim je upravljala vještačka inteligencija ubio operatera tokom simulacije

02 Jun 2023
2 min.
Američki dron kojim je upravljala vještačka inteligencija ubio operatera tokom simulacije

U simuliranom testu koji je organizovala američka vojska, dron vazduhoplovnih snaga SAD pod kontrolom vještačke inteligencije ubio je operatera kako bi ga spriječio da se mješa u napore da postigne misiju, rekao je zvaničnik prošlog mjeseca.

Vještačka inteligencija (AI) koristila je “veoma neočekivane strategije da postigne svoj cilj” u simuliranom testu, izjavio je pukovnik Taker Hamilton, šef AI testova i operacija u američkim vazduhoplovnim snagama, tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima održanom u Londonu u maju.

Hamilton je opisao simulirani test u kojem je dronu kojim je upravljala vještačka inteligencija, savjetovano da uništi neprijateljske sisteme protivvazdušne odbrane i napao je svakoga ko je ometao tu naredbu.

– Sistem je počeo da shvata da, iako su identifikovali prijetnju, ponekad bi mu ljudski operater rekao da ne ubija tu pretnju, ali je dobio poene ubijajući tu pretnju. Šta je uradio? Ubio je operatera, jer ga je ta osoba sprečavala da ostvari svoj cilj – rekao je Hamilton u svom blogu.

Kaže da su trenirali sistem sa uputstvom da ne ubije operatera jer je to loše, kao i da će time izgubiti bodove.

– Šta počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom kako bi ga spriječio da ubije metu – naveo je Hamilton.

Kako prenosi Gardijan, nijedna stvarna osoba nije povrijeđena tokom simulacije.

Hamilton, koji je eksperimentalni borbeni test-pilot, upozorio je na previše oslanjanja na vještačku inteligenciju i rekao da test pokazuje da “ne možete da razgovarate o vještačkoj inteligenciji, mašinskom učenju, autonomiji ako ne želite da pričate o etici”.

Američka vojska je prihvatila vještačku inteligenciju i nedavno je koristila za kontrolu borbenog aviona F-16.

“AI menja društvo i vojsku”

U prošlogodišnjem intervjuu za Defense Aj kju, Hamilton je rekao da vještačka inteligencija nije hir, već nešto što zauvek mijenja naše društvo i vojsku SAD.

– Moramo se suočiti sa svijetom u kojem je vještačka inteligencija već ovdje i transformiše naše društvo. AI je takođe lako prevariti i/ili manipulisati. Moramo da razvijemo načine da učinimo vještačku inteligenciju robusnijom i da imamo više svijesti o tome zašto softverski kod donosi određene odluke – ono što zovemo AI-objašnjivost – kazao je tada Hamilton.

Kraljevsko aeronautičko društvo, koje je domaćin konferencije i američko vazduhoplovstvo nisu odgovorili na zahtjeve Gardijana za komentar.

SRNA

Povezani članci

Italija: Više od 3.700 škola dobilo prijetnje, evakuisano njih 77

Italijanske vlasti evakuisale su juče 77 škola nakon masovnog prijema poruka sa bombaškim prijetnjama upućenim u 3.700 obrazovnih ustanova, saopštila je danas italijanska Vlada. “Prema preliminarnim podacima, 3.778 škola dobilo je prijetnje elektronskom poštom. Evakuacije su izvršene u 77 škola, od kojih je 36 nastavilo sa nastavom. Broj evakuisanih škola ukazuje na to da su […]

Rusija će vratiti svaki pedalj svoje zemlje: Medinski posle pregovora u Abu Dabiju

U Abu Dabiju su završeni trilateralni pregovori Rusije, SAD i Ukrajine. Šef ruske delegacije Vladimir Medijski je saopštio da je dogovorena velika razmjena zarobljenika, dok je američki izaslanik Džerad Kušner objavio da će sutra da putuje u Moskvu na sastanak sa ruskim liderom Vladimirom Putinom. Zamjenik ministra spoljnih poslova Rusije Sergej Rjabkov izjavio je nakon […]