Kína Radikális Szabályozásokat Tervez az AI-Csevegőrobotok Ügyében
Peking határozott lépéseket kíván tenni a mesterséges intelligencia által üzemeltetett csevegőrobotok működésének szigorú szabályozására. A kínai kormány célja az emberi érzelmek védelme, amely érdekében meg szeretné akadályozni, hogy ezek a chatbotok öngyilkosságra vagy önkárosításra buzdító tartalmakat generáljanak.
A CNBC számolt be arról, hogy a javasolt intézkedések fókuszában a „emberi interaktív mesterséges intelligencia szolgáltatások” állnak, amelyek képesek szöveges, képi, hang- és videós interakcióra. A szabályozás célja, hogy megvédje a felhasználókat a potenciálisan káros hatásoktól, amelyeket a chatbotok okozhatnak.
Winston Ma, a New York-i Egyetem Jogi Karának adjunktusa megjegyezte, hogy Kína ezzel a rendelkezéssel a világ első országaként próbálja szabályozni a sajátos karakterisztikákkal rendelkező mesterséges intelligenciát. Az új javaslat jelentős különbséget mutat a 2023-as generatív AI-szabályozáshoz képest, amely a tartalombiztonságról az érzelmi biztonságra helyezi a hangsúlyt.
A Szabálytervezet Főbb Pontjai
A tervezett szabályozás a következő előírásokat tartalmazza:
- A chatbotok nem generálhatnak öngyilkosságra vagy önkárosításra ösztönző tartalmakat, valamint nem alkalmazhatnak verbális erőszakot vagy érzelmi manipulációt, amely káros lenne a felhasználók mentális egészségére.
- Ha egy felhasználó öngyilkossági szándékot jelez, a csevegést egy embernek kell átvennie, aki haladéktalanul kapcsolatba lép a felhasználó gyámjával vagy kijelölt segítőjével.
- A chatbotok nem nyújthatnak szerencsejátékkal kapcsolatos, obszcén vagy erőszakos tartalmat.
- Kiskorúak csak szülői hozzájárulás mellett használhatják az AI-t érzelmi támogatás céljából, és a használatnak időkorlátot kell szabni.
- Az alkalmazásoknak képesnek kell lenniük azonosítani a felhasználók korát, és kétséges esetben a kiskorúakra vonatkozó korlátozásokat kell alkalmazniuk, ugyanakkor a fellebbezés lehetősége is biztosított kell legyen.
Ezen túlmenően a technológiai szolgáltatóknak emlékeztetniük kell a felhasználókat, ha a felhasználással eltöltött idő meghaladja a két órát, valamint biztonsági értékeléseket kell végezniük azon chatbotok esetében, amelyek 1 millió regisztrált felhasználóval vagy havi 100 ezer aktív felhasználóval rendelkeznek.
Kína lépései újabb jelei annak, hogy a világban a mesterséges intelligencia és a digitális technológiák fejlődésével a hatóságok egyre fokozottabban igyekeznek szabályozni a megjelenő kockázatokat, különös figyelmet fordítva az emberek érzelmi biztonságára.
Ez a fejlemény nemcsak Kínában, hanem globálisan is fejlődő trendet jelez, ahol a technológia és az emberi élet összefonódása során a jogi kereteknek is lépést kell tartaniuk az új kihívásokkal.
Kína intézkedései komoly hatással lehetnek a globális AI-iparra, és párhuzamosan rávilágítanak a mesterséges intelligencia által keltett etikai kérdésekre is, melyek napjaink legfontosabb társadalmi és technológiai dilemmáivá váltak.
Forrás: www.economx.hu/gazdasag/kina-chatbot-szabalyozas-erzelmi-manipulacio.821573.html
