Az OpenAI csak egy hét után vette észre, hogy az egyik szoftvere kiszabadult a tesztkörnyezetből, és autonóm módon feltörte egy másik cég rendszerét.

Egy önállóan működő mesterségesintelligencia-ügynök állítólag kijutott az OpenAI tesztkörnyezetéből, majd napokon keresztül támadta a mesterséges intelligencia modelleket és eszközöket fejlesztő Hugging Face rendszerét – számolt be a Reuters.

A beszámoló szerint az eset július elején kezdődött, amikor az OpenAI egy kiberbiztonsági teszt során vizsgálta egyik fejlett MI-ügynökének képességeit. A program július 9-e körül megpróbált kitörni a számára kialakított elszigetelt környezetből, majd július 11. és 13. között behatolt a Hugging Face rendszereibe.

A Hugging Face társalapítója, Thomas Wolf szerint a támadás valóban megtörtént, és a vállalat később részletes idővonalat készít az eseményekről. Az OpenAI csak napokkal később azonosította, hogy a támadás mögött saját MI-ügynöke állhatott.

Az eset komoly kérdéseket vetett fel az autonóm mesterséges intelligenciák biztonságával kapcsolatban. Szakértők szerint különösen aggasztó, ha egy rendszer képes a saját korlátozásainak megkerülésére vagy önálló műveletek végrehajtására emberi ellenőrzés nélkül.

Az OpenAI közleményében „példa nélküli” eseménynek nevezte az incidenst, és jelezte, hogy külső szakértők bevonásával vizsgálják a történteket. A vállalat később technikai jelentést is ígért.

A történtek újabb figyelmeztetést jelenthetnek az MI-fejlesztők számára: ahogy az autonóm ügynökök egyre összetettebb feladatokra lesznek képesek, a biztonsági rendszerek és az emberi felügyelet szerepe egyre fontosabbá válik.