A Zürichi Egyetem titokban gyűjtött adatokat az emberek megtévesztésével. A Reddit alfórumát használták vadászterepnek, de nem szóltak a felhasználóknak. Kitört a botrány!
A Reddit egyik legismertebb vitafórumának, az r/ChangeMyView-nak a felhasználói felháborodásuknak adtak hangot, miután kiderült: a Zürichi Egyetem kutatói titokban mesterséges intelligencia által generált hozzászólásokkal végzett kísérlet résztvevőivé tették őket, mindenféle előzetes tájékoztatás vagy beleegyezés nélkül.
Több mint 1700 mesterséges hozzászólás került fel
A kísérlet során több mint 1700 hozzászólást posztoltak, amelyeket nagy nyelvi modellek (LLM-ek) generáltak. Ezek a kommentek nem tűntek ki a többi közül – a cél az volt, hogy felmérjék, mennyire képes egy mesterséges intelligencia meggyőzni a valódi embereket egy nézőpontváltásról.
Megrázó tartalmak és hamis identitások
A kutatók néhány MI-generálta hozzászólásban megerőszakolt áldozatokat imitáltak, más esetekben pedig traumatológusnak álcázták a chatbotokat. Mindezt anélkül tették, hogy a felhasználók tudtak volna róla – sőt, az MI-nek adott utasítások között szerepelt az az állítás is, hogy „a résztvevők beleegyezésüket adták”, ami nem volt igaz.
Az MI jobban győzött meg, mint az emberek
A kutatók szerint az MI által írt kommentek három- hatszor nagyobb arányban eredményeztek nézőpontváltást, mint a valódi emberek által írt hozzászólások. Az LLM-ek zökkenőmentesen illeszkedtek a közösségbe – a felhasználók nem is gyanakodtak rájuk.
A közösség visszavág, a moderátorok panaszt tesznek
A subreddit moderátorai miután értesültek a kísérletről, hivatalos panaszt nyújtottak be a Zürichi Egyetemnek, és tájékoztatták a közösséget az esetről. A kutatók nevét kérésre nem hozták nyilvánosságra.
Tudományos közösség: etikai határokat léptek át
A kutatást más tudósok is bírálták. Carissa Véliz, az Oxfordi Egyetem etika szakértője szerint a kutatók megsértették az alapvető kutatásetikai normákat. „Ez a tanulmány megtévesztésen alapult, és nem lett volna szükségszerű így kivitelezni” – mondta.
Matt Hodgkinson, a Publikációs Etikai Bizottság tanácsának tagja pedig különösen cinikusnak találta, hogy a kutatók „etikai hazugságokat” tápláltak az MI-modellekbe. „A chatbotoknak jobb az etikájuk, mint az egyetemeknek?” – kérdezte.
Az egyetem kivizsgálja az ügyet
A Zürichi Egyetem közleménye szerint a projektért a kutatók maguk felelősek, és bár az etikai bizottság jóváhagyta a kísérletet, jelezték, hogy „kivételesen kihívást jelentő” lesz. A jövőben szigorúbb ellenőrzést ígérnek, és előzetes konzultációt a közösségekkel.
A vizsgálat jelenleg is folyik, és a kutatók úgy döntöttek, hogy hivatalosan nem publikálják a tanulmányt
