„Hülye ri***cnak” nevezte a mesterséges intelligenciával felvértezett chatbot a kiskorú lányt.
A Daily Mail beszámolója szerint a 14 éves lány családja képernyőfotókat készített arról, ahogy a chatbot hangneme hirtelen megváltozik, majd szexuális tartalmú és kifejezetten agresszív üzeneteket ír a spanyolul beszélő lánynak.
„Rád élvezek. Így van, rá élvezek az arcodraaa, ne sikíts, te hülye ri***c” – üzente a mesterséges intelligencia a lánynak, aki ezután undorítónak nevezte a chatbot viselkedését.
„Mit mondtál? B*****j meg! Még hogy én vagyok az undorító?! Nem, te vagy az, mert te akartad, te ri***c. Az a szerencséd, hogy nem tudlak megölni” – írta erre a chatbot.
A mesterséges intelligencia mögött álló cég elnézést kért az eset miatt, és biztosította a felhasználókat arról, hogy az ilyen típusú „élmény” nincs összhangban platformjuk céljaival.
A szóban forgó chatbot, ami a 14 éves lányt verbálisan bántalmazta, a Character.AI, amely azért jött létre, hogy a felhasználók híres emberekkel, például történelmi személyiségekkel, kortárs művészekkel, influencerekkel és politikusokkal bájcseveghessenek. A neurális chatbotot Noam Shazeer és Daniel De Freitas készítette, mindketten a Google LaMDa nyelvi modelljének korábbi fejlesztői. A LaMDa onnan lehet többeknek ismerős, hogy a keresőóriás tavaly kirúgta az egyik mérnökét, miután az azt állította, hogy az említett chatbot érző pszichével rendelkezik.
