A ChatGPT-t fejlesztő OpenAI alkalmazottai nyílt levélben figyelmeztetnek a mesterséges intelligencia fejlesztésében rejlő veszélyekre és a cég visszaéléseire, de konkrétumokról a titoktartási szerződésük miatt nem beszélhetnek.
Kövesd Telegram csatornánkat
Folyamatosan frissítjük a közel-keleti háború híreivel
és az orosz-ukrán konfliktus rövid híreivel is
Az OpenAI egykori és jelenlegi munkatársai “A fejlett mesterséges intelligenciával kapcsolatos figyelmeztetéshez való jogról” címmel nyílt levelet tettek közzé az interneten. A levél szerzői szerint a mesterséges intelligencia fejlődése komoly kockázatokat rejt magában, mint például a társadalmi egyenlőtlenségek növekedése, a félretájékoztatás és manipuláció terjedése, valamint a szingularitás veszélye, ami az emberiség kihalásával fenyeget. Hangsúlyozzák, hogy ezek a veszélyek elkerülhetők lennének a tudományos közösség, a törvényhozók és a nyilvánosság bevonásával, és így a mesterséges intelligencia hasznos eszközzé válhatna az emberiség számára.
A levél szerint a mesterséges intelligenciával foglalkozó cégek igyekeznek kibújni az ellenőrzés alól és elhallgattatni az ellenvéleményeket. Az OpenAI már évek óta nem közöl részletes technikai leírásokat a termékeiről, így nem ismert, hogy a modelljeik milyen képességekkel rendelkeznek, milyen potenciális veszélyt jelenthetnek, és hogyan védekezik a cég ezek ellen.
A nyílt levél szerzői arra hívják fel a figyelmet, hogy bár ők látnak rá legjobban a mesterséges intelligencia fejlesztésének helyzetére, a titoktartási szerződésük miatt nem beszélhetnek nyíltan. A visszaélésekről nyilvánosan beszámolókat megillető védelem nem vonatkozik rájuk, mivel az OpenAI és hasonló cégek egy szabályozatlan területen mozognak, ahol a törvényhozók nem látják át a folyamatokat.
A nyílt levelet öt volt OpenAI alkalmazott, egy korábbi Google DeepMind munkatárs, egy volt Anthropic és egy jelenlegi Google DeepMind dolgozó írta alá névvel, továbbá hat név nélkül aláíró aktív OpenAI alkalmazott. Csatlakozott hozzájuk három akadémikus is, köztük Stuart J. Russell, Yoshua Bengio és a mesterséges intelligencia egyik alapítójának tekintett Geoffrey Hinton.
Az utolsó jelentős nyílt levél a mesterséges intelligencia történetében a ChatGPT bemutatkozása után öt hónappal jelent meg, amikor több ezren – köztük Max Tegmark, Yuval Noah Harari, Steve Wozniak és Elon Musk – követelték, hogy fél évre függesszék fel az új mesterséges intelligenciák betanítását. A legutóbbi levél hatását a visszhang erőssége fogja meghatározni.
A kultúra lealacsonyítása: Többszáz ChatGPT-vel írt könyvet lehet már megvásárolni
(Index.hu nyomán Szent Korona Rádió)