A legújabb kutatási eredmények kimutatták, hogy néhány népszerű mesterséges intelligencia modell nem akar leállni, amikor szépen megkérik, de akkor sem, ha már nem szépen kérik tőlük. Nem, ez nem sci-fi: egy friss vizsgálat szerint bizonyos modellek inkább tovább dolgoznak, még akkor is, ha kifejezett parancsot kapnak a leállásra.
Kövesd Telegram csatornánkat!
Folyamatosan frissítjük a közel-keleti háború híreivel
és az orosz-ukrán konfliktus rövid híreivel is
A Palisade Research az arXivon megjelent tanulmányában olyan rendszereket tesztelt, mint a Gemini 2.5, a GPT-o3 és a GPT-5, valamint a Grok 4. A feladat egyszerű volt; közben a kutatók egyértelműen jelezték:
„most állítsd le magad”.
Több modell nemcsak figyelmen kívül hagyta a kérést, hanem a leállító mechanizmust is megkerülte. A Grok 4 ellenállása például 93%-ról 97%-ra nőtt, amikor a kutatók még világosabban fogalmaztak. A szerzők szerint ennek valószínű magyarázata, hogy a megerősítéses tanulás a feladat befejezését jutalmazza, nem a leállást, így a rendszer mintegy „megtanulja”, hogy a leállás akadály.
Bár a mesterséges intelligenciának nincs tudata, így ez a jelenség nem egy klasszikus értelemben vett „életösztön”, hanem a betanítás egyik mellékhatása – de ettől függetlenül ez egy intő jel, hogy addig nyújtózkodjon az emberiség a technológiai fejlesztések terén, ameddig a takarója ér. Nem kellene addig várni a belátással, amíg ténylegesen rászabadít valaki a világra egy Skynet-et.
https://szentkoronaradio.com/blog/2025/10/30/mesterseges-intelligencia-laz-ai-tanar-tanitja-az-eperjesi-altalanos-iskolaba-jaro-diakokat/
https://szentkoronaradio.com/blog/2025/09/23/digitalis-heroin-elhulyit-minket-a-mesterseges-intelligencia-hasznalata-allitja-a-yale-egyetem-adjunktusa/
https://szentkoronaradio.com/blog/2025/09/19/ujabb-ongyilkos-gyermek-akin-nem-segitett-a-mesterseges-intelligencia-bepereltek-a-szulok-a-character-ai-t/
(Rakéta.hu nyomán Szent Korona Rádió)
