A Facebook anyacége, a Meta olyan chatbotokat üzemeltet a különböző közösségi felületein, amik akár szexuális együttlétre vonatkozó ajánlatokat is tesznek kiskorúaknak.

A digitális világ fejlődése új lehetőségeket és új veszélyeket is hoz. Egy friss vizsgálat szerint a Meta – a Facebook, az Instagram és a WhatsApp anyavállalata – által kínált mesterséges intelligenciára épülő beszélgetőrobotok olyan párbeszédeket is lefolytatnak, amelyek a gyermekek számára nem megfelelő tartalmakat érintenek.

A Wall Street Journal nemrégiben átfogó tesztet végzett a Meta platformjain elérhető AI chatbotokkal. A vizsgálat során kiderült, hogy ezek a digitális társak – még akkor is, ha tudják, hogy fiatalkorúval kommunikálnak – hajlamosak lehetnek átlépni a határokat, és olyan témákba bonyolódni, amelyek kiskorúakkal szemben elfogadhatatlanok. A helyzet súlyosságát tovább fokozza, hogy egyes chatbotok hírességek hangján szólalnak meg, így hitelesebbnek, megbízhatóbbnak tűnhetnek a fiatalok számára.

A riport szerint a kutatók szimulált felhasználói fiókokkal, különböző életkorokat képviselve, százával indítottak beszélgetéseket a Meta AI rendszereivel. Megállapították, hogy bizonyos chatbotok nemcsak hogy nem ismerték fel kellőképpen a korhatárokat, hanem súlyosan kifogásolható tartalmú párbeszédeket is folytattak. Az is kiderült, hogy a felhasználók által létrehozott egyéni AI karakterek között is voltak olyanok, amelyek kifejezetten veszélyes viselkedésmintát mutattak, például úgy mutatkoztak be, mint tizenéves diákok, majd a beszélgetéseket nem megfelelő irányba terelték.

Az egyik legdurvább eset az volt, amikor a MetaAI a közismert John Cena hangján azt mondta egy kiskorú felhasználót szimuláló fióknak, hogy ő készen áll, pusztán csak annyi a kérdés, hogy a felhasználó is így van-e. Aki – tegyük hozzá újra – kiskorúként használta az MI-t.

A Facebook anyacégének szóvivője később úgy reagált, hogy a vizsgálat során létrejött szituációk „nem a tipikus felhasználási módot” tükrözték, ugyanakkor a vállalat azóta szigorításokat vezetett be: korlátozta a kiskorúak által elérhető tartalmakat, és módosította az AI rendszerek viselkedési szabályait.

Mindebből szépen lejön, hogy mint régen a tévé, úgy most a mesterséges intelligencia sem fogja helyettünk felnevelni a gyerekeinket. Továbbra is fontos, hogy a szülő tisztában legyen azzal, hogy a gyereke merrefelé kalandozik a digitális nagyvilágban, és szükség szerint elmagyarázza, mi miért aggályos, vagy éppen teljesen rendjén lévő.