Az Amazon nemrégiben mutatta be Q névre keresztelt, mesterséges intelligenciával működő chatbotját, melynek működése egyelőre hagy némi kívánnivalót maga után.
A kereskedőóriás is előrukkolt saját csevegőprogramjával, amelyet azzal a céllal terveztek, hogy hasznos tanácsokkal szolgáljon az üzleti életben, akárcsak a Google által fejlesztett Bard vagy a Microsoft Azure. Csakhogy a program még messze van a tökéletestől, olyannyira, hogy állítólag súlyos „hallucinációkban” szenved, sőt üzleti titkokat is hajlamos kifecsegni.
A nemrégiben indult Q egymás után gyártotta az álhíreket, elárulta az Amazon Web Services szervereinek pontos helyét, valamint a hivatalosan még be sem jelentett szolgáltatásokról is eljárt a szája, ha épp arról kérdezték – írja a Platformer belső dokumentumokra hivatkozva. A jelentés szerint állt is a bál az Amazonnál az új chatbot miatt, amit megerősíteni látszik, hogy a mérnököknek állítólag egész hétvégén dolgozniuk kellett egy bizonyos „sev 2” jelzésű incidens kijavításán.
Természetesen nem először hallunk olyan nagy nyelvi modellről, amely „hallucinál”, azaz hamis információkat közöl tényként. Az OpenAI sokat emlegetett ChatGPT-jének például még mindig sok gondot okoz az igazság és a fikció megkülönböztetése, ami miatt igen gyakran elő is veszik a céget. Júniusban végül odáig fajult a dolog, hogy egy grúz rádiós újságíró perre vitte az ügyet, miután a chatbot tévesen azt állította róla, hogy pénzt sikkasztott egy fegyvertartási jogokért küzdő nonprofit szervezettől.
