Dr. Geoffrey Hinton, a mesterséges intelligencia egyik nagy úttörője most otthagyta a Google-t, és az MI veszélyeiről osztja meg gondolatait. Legutóbb a nukleáris fegyverkezés hajnalán léptek fel ilyen mennyiségben és minőségben az emberi civilizáció sorsáért aggódó tudósok, mint most az MI kapcsán. A különbség csak az, hogy az atomfegyverek előállítása az űrből is jól látható, az MI-t azonban tökéletes titokban is lehet fejleszteni…
Kérjük, támogassa adója 1%-ával a HVIM-et!
A szervezet valós, kézzelfogható eredményeiről itt olvashat.
Felajánlását az Azonosságtudat Alapítványnak küldje el!
Adószám: 18218082-1-07
Hinton a New York Timesnak adott interjújában elárulta:
“Nem látom, hogy tudnánk megakadályozni, hogy rossz emberek rossz célokra használják”
– utalt a mesterséges intelligenciára az immár hivatalosan is az aggódók táborába lépő tudós.
A mesterséges intelligencia egyik “ősatyja”
Hinton 1970-ben szerzett pszichológiadiplomát Cambridge-ben, pár évvel később már a neurális hálókat kutatta az Edinburghi Egyetemen, ahol 1978-ban szerzett PhD-t a mesterséges intelligencia kutatásával. A 80-as években a Carnegie Mellon Egyetemen tanított az Egyesült Államokban, de mivel az országban akkor csak a Pentagon adott pénzt mesterséges intelligencia kutatására, inkább Kanadában folytatta.
2012-ben hallgatóival, Alex Krishevskyvel és Ilya Sutskeverrel épített, a konvolúciós neurális hálózatra épülő mélytanuló rendszerük, az AlexNet megnyerte a ImageNet képfelismerő versenyét. Ez azért lett a mesterséges intelligencia történetének egyik fontos mozzanata, mert a két hallgató ezután a Google-nél folytatta, a keresőóriástól 2015-ben kilépő Sutskever pedig az akkor induló, azóta a mesterségesintelligencia-forradalom élvonalában haladó OpenAI kutatási igazgatója lett.
Hinton 2018-ban két kollégájával megkapta a számítástechnika Nobel-díjának tekintett Turing-díjat. Yoshua Bengióval és Yann LeCunnal együtt lettek hárman a mesterséges intelligencia alapító atyái. A kitüntetés a három tudós 80-as években kifejlesztett gépi tanulási technikáját díjazta: ez a neurális háló hiba-visszaterjesztéses tanulása, ami addig módosítja a mesterséges idegsejtek közötti kapcsolatokat, amíg a hálózat a várt eredményt nem produkálja. Az algoritmus a 2000-es évek elején ugyan kiment a divatból, a 2010-es évektől az olcsó és erős videokártyákkal párosítva teljesen újjászületett, és a mai gépi intelligenciák tanulásának alapját képezi.
Idegen agyat alkottunk
Hinton kezdetben úgy gondolta, hogy a Google és az OpenAI nyelvi modelljei nem érnek fel az emberi agy nyelvi képességeihez. Az egyre nagyobb adatbázisokon kiképzett szöveggenerátorok teljesítménye láttán azonban megváltozott a véleménye.
Ma már úgy véli, hogy bizonyos értelemben továbbra sem érik utol az emberi intelligenciát, bizonyos területeken ugyanakkor meghaladják azt.
“Lehet, hogy ami ezekben a rendszerekben történik, az sokkal jobb, mint ami az agyban történik” – mondja a tudós, aki szerint ez egyben igazán ijesztő, főleg, ha az elmúlt öt év hatalmas fejlődését előrevetítjük a következő öt évre. Hinton úgy gondolja, hogy a Google az elmúlt években tisztességesen gyámkodott az általa fejlesztett gépi intelligencia felett, így az az emberiségre leselkedő veszélyként csak elszálltabb futurista nagyotmondásokban merült fel. A Microsoft azonban kiugrasztotta a nyulat a bokorból, és a Google üzleti működésének alapját képező internetes keresést vette célba a Binghez társított csevegőrobottal. A mesterséges intelligenciák piaci versenye így már nyílt küzdelem.
A professzor szerint az internetet nagyon rövid időn belül hamis fotók, videók és szövegek fogják elárasztani, az átlagos felhasználó számára felfoghatatlan lesz, mi igaz, és mi nem.
A gépi elme a munkaerőpiacot is felforgatja, és kiszorítja a titkárokat, fogalmazókat és tolmácsokat. Ezenkívül attól is tart, hogy a hatalmas adathalmazokból olyan viselkedéseket is elsajátít a gép, amire nem számítunk. A mesterséges intelligencia nemcsak önállóan generál kódot, de futtatja is azt, ami megidézi a Skynetet és a gyilkos robotokat, a tudós egyik fő etikai aggálya pedig a technika katonai felhasználása.
“Alig páran hitték, hogy ez az izé okosabbá válhat, mint az emberek. Legtöbben azt gondolták, hogy ez még jóval odébb van. Én is azt gondoltam, hogy még 30 vagy 50 év. Nyilvánvalóan ma már nem ez a véleményem.”
Részben megbánta életművét
Az akadémikusok és cégvezetők nyílt levelét, amelyben a állami beavatkozást és a mesterséges intelligenciák fejlesztésének féléves moratóriumát követelték, Geoffrey Hinton nem írta alá – utóbb kiderült, hogy csak az időzítésen múlt, mert csak a Google-től való távozása után akart ilyen kiállásokhoz csatlakozni.
Mindenesetre legutóbb csak a nukleáris fegyverkezés hajnalán léptek fel ilyen mennyiségben és minőségben az emberi civilizáció sorsáért aggódó tudósok.
A hasonlóság sem véletlen: Hinton szerint a Microsoft és a Google küzdelme gyorsan globális versennyé alakulhat, aminek csak globális szabályok és egyezmények szabhatnak határt. Az atomfegyverek előállítása olyan ipari infrastruktúrát feltételez, ami az űrből is jól látható, mesterséges intelligenciát azonban tökéletes titokban is lehet fejleszteni.
Geoffrey Hinton – mint mondja – részben már megbánta életművét.
“Azzal a szokásos kifogással vigasztalom magam, hogy ha én nem, valaki más biztosan megoldotta volna ugyanezt” – mondja.
Valódi halhatatlanság helyett elektronikus, virtuális rabságot hoznak el a tudósok
(Index nyomán Szent Korona Rádió)