A Meta annyira bízott a saját AI-asszisztensében, hogy gyakorlatilag tálcán kínálta fel az Instagram-felhasználók fiókjait a hackereknek.

A mesterséges intelligencia-alapú ügyfélszolgálati botok elvileg arra hivatottak, hogy megkönnyítsék az életünket és tehermentesítsék a humán erőforrást, ám a Meta legújabb esete a létező legrosszabb forgatókönyvet produkálta. A vállalat saját Meta AI chatbotja akaratlanul is bűntárssá vált, és aktívan segített a hackereknek több tucat kiemelt fontosságú Instagram-fiók megfúrásában.

A hétvégén napvilágot látott jelentések szerint a sérülékenység kihasználása annyira megdöbbentően egyszerű, hogy az egész kiberbiztonsági szakma értetlenül áll a helyzet előtt. A támadóknak lényegében csak meg kellett kérniük az AI-t a célzott fiók e-mail címének megváltoztatására, a bot pedig jelszó vagy kétlépcsős azonosítás (2FA) kérése nélkül végrehajtotta a parancsot.

A trükk működéséhez a jelek szerint mindössze egy olyan VPN-kapcsolatra volt szükség, amely földrajzilag közel helyezkedett el a kiszemelt áldozat szokásos bejelentkezési helyéhez. A Meta ugyanis korábban büszkén hirdette a blogján, hogy rendszereik minden eddiginél jobban felismerik a felhasználók által általában használt eszközöket és az ismerős helyszíneket, és a chatbot valószínűleg ezt a földrajzi egyezést tekintette elegendő bizonyítéknak a hitelesítéshez.

Azokban az esetekben, amikor a Meta AI mégis gyanút fogott és szelfis igazolást kért, a hackerek egy másik generatív AI-eszköz segítségével pillanatok alatt hamisítottak egy fotót a fiók tulajdonosáról, könnyedén átverve a védelmi vonalat. A biztonsági rést kihasználva a támadók olyan magas profilú és hivatalos fiókokat tudtak teljesen kisajátítani, mint a Sephora világmárka oldala, az amerikai Űrhaderő törzsőrmesterének (Chief Master Sergeant of the Space Force) profilja, Jane Manchun Wong neves tech-kutató fiókja, Albert Renshaw fejlesztő értékes „@albert” felhasználóneve, valamint Barack Obama egykori Fehér Házának archivált hivatalos oldala.

A Meta még tavaly decemberben indította el ezt az AI-alapú támogatási rendszert azzal a céllal, hogy segítsen a csalások bejelentésében, az új funkciók megismerésében és a jelszavak visszaállításában. Ez utóbbi azonban a rendszer leggyengébb pontjának bizonyult. A helyzetet tovább fokozza az a frusztráló és dühítő tény, hogy a pórul járt, kizárt felhasználók sem az AI-bot segítségével, sem pedig valós, hús-vér ügyfélszolgálatosokon keresztül nem tudták eddig visszaszerezni az ellopott fiókjaikat, mivel a rendszer teljesen magára hagyta őket a bajban.