Akár a Black Mirror disztópikus világában is érezhetjük magunkat, a mesterséges intelligencia, és a rasszista felhasználók ténykedését látva.
Mi, emberek, valahogy úgy vagyunk összerakva, hogy ha valamit használhatunk olyan dolgokra, amikre korábban nem volt lehetőségünk, akkor villámgyorsan elkezdjük ártalmas módon igénybe venni. A Google Veo 3 nevű AI-videógenerátorát használó emberek közül sokan rasszista tartalmakat gyártanak és tesznek virálissá a TikTokon, és bár a techóriások látszólag próbálnak fellépni ellene, a baj már megtörtént.
A Media Matters nevű médiaszkeptikus szervezet robbantotta a hírt, miszerint több milliós nézettségű videók keringenek a platformon, amelyeket minden bizonnyal a Google májusban bemutatott Veo 3 eszközével készítették. A kisfilmek mindössze 8 másodpercesek — ez megegyezik a Veo 3 jelenlegi technikai korlátjával —, de ennyi is elég, hogy a rasszista üzenetek célba érjenek. Egyes videók akár 14 millió megtekintést is elértek, ami ijesztő gyorsasággal juttatta el az üzenetet a fiatal nézőkhöz.
A rövid anyagokban nem csupán a fekete embereket érintő sztereotípiák szerepeltek, hiszen volt köztük antiszemita tartalom, idegengyűlölő jelenetek, és ázsiai emberek karikatúraszerű bemutatása is. A Google hivatalosan nem kommentálta az esetet, de a Veo honlapján elvileg ott virít a figyelmeztetés: „blokkoljuk a káros kéréseket és eredményeket.” Úgy tűnik, ez a blokk most nem működött.
A TikTok közben próbálja menteni, amit lehet. A platform állítja, hogy több fiókot is töröltek, köztük olyat is, amely már a jelentés előtt tiltva volt. A felület elvben tiltja a gyűlöletbeszédet és az előítéletes tartalmakat, de ezúttal a gyakorlatban mégis elcsúszott valami. És nem csak a TikTokon, mert a Media Matters által feltárt videók egy része felbukkant a YouTube-on is, más verziók pedig az Instagramon keringenek.
Itt egy olyan helyzettel nézünk szembe, amely egyszerre technológiai áttörés és morális válság. Egy pár szóval generált rasszista videó több kárt okozhat, mint amennyi idő alatt valaki végigmond egy mondatot. A mesterséges intelligencia képes lenne csodákra, de ha nincs megfelelő kontroll, a legrosszabb ösztöneink tükre lesz.
