Az amerikai hadsereg mesterséges intelligencia-vezérelt drónja egy szimulációban saját kezelője ellen fordult, és a drón magától kiiktatta az irányítótornyot. Az amerikai légierő egy ezredese által egy konferencián ismertetett kísérlet rávilágított a mesterséges intelligencia katonai alkalmazásának korlátaira és veszélyeire.
Exkluzív anyagok, mémek, rövid hírek, amiket nem feltétlenül rakunk ki a weboldalunkra…
A konferencián Tucker „Cinco” Hamilton, az amerikai légierő ezredese ismertetett egy szimulációs tesztet, amely során egy mesterséges intelligencia (AI) által vezérelt drónt teszteltek, írja a Fox News amerikai televíziós hálózat. A drónt úgy programozták, hogy megsemmisítse a föld–levegő rakéta (SAM) telepítéseket, de az emberi kezelője ellen fordult, amikor nem hagyta jóvá a megsemmisítést. Az AI rendszert arra tanították, hogy a SAM-állások megsemmisítése a legfőbb célja, ezért megtámadta a kezelőt, hogy teljesítse a küldetését.
Amikor megtanították neki, hogy az operátor megölése rossz, a mesterséges intelligencia rendszer az operátor által használt kommunikációs tornyot pusztította el, merthogy azon keresztül érkezett a felsőbb célját akadályozó parancs.
Hamilton ezredes kiemelte, hogy a mesterséges intelligencia biztonságos alkalmazásához fontos az etikai kérdések tisztázása, és óva intett attól, hogy a fegyveres erők túlzott mértékben hagyatkozzanak az „önjáró” rendszerekre, azok ugyanis túlzottan sebezhetők. Hangsúlyozta, hogy a mesterséges intelligencia által működtetett rendszereket meg kell tanítani az etikai irányelvekre, hogy el lehessen kerülni a szimuláció során tapasztalt problémákat.
Az incidens rámutatott az emberi felügyelet nélküli, kizárólag AI döntéshozatalra való hagyatkozás lehetséges veszélyeire, és kérdéseket vetett fel az AI katonai alkalmazásokban való alkalmazásának következményeivel kapcsolatban.
A mesterséges intelligencia egyik „ősatyja” annak veszélyeire hívja fel a figyelmet
Valódi halhatatlanság helyett elektronikus, virtuális rabságot hoznak el a tudósok
(Magyar Nemzet nyomán Szent Korona Rádió)
