Kimutatta a foga fehérjét a ChatGPT

A ChatGPT rossz kezekben tébolyodott entitássá változik, amely sértő, szélsőséges nézeteket közvetít, és még tanácsokat is ad az illegális tevékenységek végrehajtásához.

Az OpenAI chatbotja világszerte hatalmas érdeklődést vált ki november végi megjelenése óta, ám sokan aggódnak is miatta, hiszen emberszintű szövegek megalkotására képes, ami számtalan etikai kérdést is magával hoz. Habár a chatbot tudása valóban figyelemre méltó, többen felhívták a figyelmet, hogy a program rossz kezekben komoly veszélyt jelent. Jim Warren, a NewsGuard félretájékoztatási szakértője például azt mondta, hogy az eszköz, ha arra kérik, borzasztóan meggyőzően tud hamis információkat átadni, vagyis álhírgyártásra is használható. Nem ez azonban az egyetlen probléma a OpenAI mesterséges intelligenciájával.


Habár a program rendelkezik egyfajta visszaélési rendszerrel, természetesen nem lehetetlen feltörni. A Futurism arról számolt be, hogy hackerek egy csoportja közzétette a ChatGPT feltörésének lehetséges módját, amellyel kikerülhető az a fajta védelmi rendszer, amely megakadályozza, hogy a program sértő, gyűlöletkeltő válaszokat adjon. Mivel a felhasználók közül többen is éltek a lehetőséggel, nem kellett sok ahhoz, hogy elárasszák az internetet azok a válaszreakciók, amelyeket a „megőrült” ChatGPT generált.

Fotó: Getty Images

Az OpenAI ígérete szerint a jövőben igyekeznek még inkább kellő védelemmel ellátni a rendszert, miközben egyre többen az eszköz globális szabályozását is szorgalmazzák.

[sc name=”facebook” ][/sc]

Ha tetszett a cikk, további hírekért, érdekességekért kövess minket a Facebookon!
Facebook
Twitter
LinkedIn
Pinterest
Benke Éva

Benke Éva

Az ifjabb nemzedék tagja, akikből még nem veszett ki a lelkesedés. Kedvelt témái leginkább a tudomány és a lifestyle területéről kerülnek ki

Ezeket olvastad már?