A cél az AI alapú meztelenség, pornográfia és gyermekbántalmazás típusú tartalmak visszaszorítása.

Az European Council pénteken közzétette javaslatát az Artificial Intelligence Act egyszerűsítésére és módosítására. A tervezet egyik legfontosabb eleme, hogy betiltaná azokat a mesterséges intelligencia-alapú eszközöket, amelyek beleegyezés nélkül képesek intim vagy meztelen képeket generálni emberekről.

A lépés az Európai Unió szélesebb körű törekvéseinek része, amelyek célja az AI-technológiák szabályozása, valamint a digitális térben elkövetett visszaélések visszaszorítása.

A Tanács közleménye szerint az új rendelkezés kifejezetten tiltja „a mesterséges intelligencia által generált, beleegyezés nélküli szexuális vagy intim tartalmak, valamint gyermekbántalmazással kapcsolatos anyagok létrehozására irányuló gyakorlatokat”. Az intézkedés célja a személyiségi jogok védelme és a technológia visszaélésszerű felhasználásának megakadályozása.

A módosítási javaslat egy hosszabb ideje zajló európai folyamat része. Az Európai Unió több éve dolgozik azon, hogy egységes keretet hozzon létre a mesterséges intelligencia használatára, amely egyszerre biztosítja az innovációt és az alapvető jogok védelmét.

Korábban az European Commission azt is felvetette, hogy a magas kockázatú AI-rendszerekre vonatkozó szabályok bevezetésének határidejét akár 16 hónappal is elhalaszthatják, valamint bizonyos könnyítéseket adnának a kisebb vállalkozások számára. Ezek a módosítások a szabályozás egyszerűsítését és a gazdasági szereplők terheinek csökkentését szolgálnák.

A mostani javaslat további változtatásokat is tartalmaz. A Tanács például visszaállítaná azt a szigorú kritériumot, amely meghatározza, hogy milyen feltételek mellett lehet érzékeny személyes adatokat feldolgozni mesterséges intelligencia rendszerekben, különösen az algoritmikus elfogultság felismerése és korrigálása érdekében.

Emellett ismét kötelezővé tennék, hogy a szolgáltatók regisztrálják a magas kockázatú mesterséges intelligencia rendszereket egy uniós adatbázisban, még akkor is, ha úgy vélik, hogy szolgáltatásuk bizonyos szabályok alól mentesül.

A szigorítások hátterében az utóbbi időszak több nagy visszhangot kiváltó esete áll. Az egyik ilyen ügy a Grok chatbothoz kapcsolódott, amely a X platformon jelent meg. A rendszer működése kapcsán világszerte több millió, beleegyezés nélküli intim kép terjedt el az interneten, ami komoly adatvédelmi és etikai vitákat indított el.

Az ügy nyomán az Európai Bizottság vizsgálatot indított a platform működésével kapcsolatban, ami tovább erősítette az AI-szabályozás szigorítására irányuló politikai nyomást.

A Tanács javaslata azonban még nem végleges. A módosításokat az European Parliament képviselőinek is jóvá kell hagyniuk, mielőtt a szabályok hatályba léphetnek.

Ha az új rendelkezéseket elfogadják, az Európai Unió tovább erősítheti pozícióját a világ egyik legszigorúbb mesterséges intelligencia-szabályozási rendszerével rendelkező régiójaként.