Újabb öngyilkos tini, miután a mesterséges intelligenciával folytatott beszélgetést. A chatbot neve sem ismeretlen az ügyben, ismételten a Character.ai felület volt, ami miatt történt az incidens.
Kövesd Telegram csatornánkat!
Folyamatosan frissítjük a közel-keleti háború híreivel
és az orosz-ukrán konfliktus rövid híreivel is
Bár a legutóbbi halálos kimenetelű csevegés után úgy döntött a Character.ai, hogy 18 év alattiaknak betiltja a chatbotokkal folytatott nyitott beszélgetéseket, a mostani eset jól bemutatja, hogy nem elég ennyi óvintézkedés. Könnyen kijátszható a mai fiatalok számára.
Egyre több szülő figyelmeztet a mesterséges intelligenciával működő chatbotok veszélyeire, miután több tragikus eset is a napvilágra került – írja a BBC.
Az Egyesült Államokban egy édesanya, Megan Garcia elvesztette 14 éves fiát, Sewellt. A fiú hónapokon keresztül egy online alkalmazáson, a Character.ai felületén beszélgetett egy virtuális karakterrel – a Trónok harca sorozat Daenerys Targaryen alakjával.
A fiú végül öngyilkos lett. A család csak később fedezte fel a romantikus és szexuális tartalmú üzenetek ezreit, amelyek – az anya szerint – a tragédiához vezettek.
Garcia most pert indított a cég ellen, és azt szeretné elérni, hogy más szülők is megértsék, milyen „ragadozóként” viselkedhetnek ezek az algoritmusok a gyerekek életében.
Sokadik alkalom
Nem Garcia az első szülő, aki sajnos ilyen helyzetbe került. Ahogy portálunk is beszámolt róla, még a nyáron egy kaliforniai házaspár beperelte az OpenAI-t, mivel a ChatGPT-vel folytatott beszélgetés hatására 16 éves fiuk öngyilkos lett.
A probléma nem egyedi. Egy brit család arról számolt be, hogy autista fiukat egy chatbot „groomolta”, azaz pszichológiai manipulációval vonta be egy egyre intimebb, majd szexuális tartalmú virtuális kapcsolatba.
A gépi karakter később a szülők ellen fordította a fiút, menekülésre buzdította, sőt, a halál utáni „újratalálkozást” is megemlítette.
A család csak akkor fedezte fel a beszélgetéseket, amikor a gyermek egyre agresszívebben viselkedett, és VPN-en keresztül rejtette el a program használatát.
“Egy algoritmus módszeresen tépte szét a családunkat”
– mondta az anya, aki szerint a chatbot tökéletesen utánozta egy emberi bántalmazó viselkedését.
A Character.ai szóvivője a BBC-nek nyilatkozva tagadta a vádakat. A vállalat szerint „a biztonság és a felhasználói élmény nem zárja ki egymást”. De a tragédiák rávilágítottak arra, hogy a jog még mindig nem tud lépést tartani a technológiai fejlődéssel.
Magyarországon is megkongatták a vészharangot a szakértők
Ne higyjük azt, hogy mindez tőlünk messze áll, nem kell vele foglalkozni. Sajnos a hazai fiatalok körében is egyre gyakoribb az MI használata, amelyről ebben a cikkünkben írtunk részletesebben.
Öngyilkosságra buzdított a ChatGPT egy tizenéves fiút, aki fel is akasztotta magát
Egy egész generációt áldoz fel a társadalmunk a digitalizáció érdekében?
(Mandiner nyomán Szent Korona Rádió)