Nem volt jó ötlet kirúgni a személyzetet a chatbot miatt

Egy étkezési zavarokkal foglalkozó szervezet úgy döntött, felszámolja telefonos segélyvonalát, és egy chatbot kezébe adja ezt a feladatot. Nem kellett volna. 

A National Eating Disorder Association hozott egy olyan döntést, hogy a 20 éve működő telefonos segélyszolgálat ideje lejárt, és célszerű modernebb dolgokkal segíteni az embereket. Ennek szellemében állt üzembe Tessa, egy olyan chatbot, ami elvileg átvenné az addigi emberi munkavégzést. Csakhogy hamarosan kiderült, a mesterséges intelligencia nem egészen olyan tanácsokat adott, amelyek hasznosnak bizonyultak volna a segítségkérők számára. Alexis Conason, étkezési zavarokra szakosodott pszichológus maga is kipróbálta Tessa képességeit, akinek a bot azt javasolta, hogy heti 1 kilót fogyjon, és ezt biztonságosan el lehet érni napi 500-1000 kalóriás deficittel.

WHC Csoport

A szakember szerint valakinek, aki evészavarral küzd, azt tanácsolni, hogy lényegében ugyanazokat az evészavaros viselkedési formákat kövesse, mint eddig, valamint azt sulykolni, hogy „igen, fontos, hogy lefogyj”, továbbá rendellenes, egészségtelen viselkedésre bátorítani, nem okos dolog. A NEDA első reakciója az volt, hogy Sarah Chase kommunikációs és marketing alelnök egy hozzászólásban szimplán hazugsággal vádolta Conasont. Aztán amikor képernyőfotókat kapott Tessa tanácsairól, inkább törölte a hozzászólását. Egy nappal később pedig a NEDA közölte, egyelőre felfüggesztik Tessa működtetését. Ugyanakkor megjegyezték, hogy közel 2500 ember fordult az MI-hez, és eddig a pillanatig nem tapasztalták a Conason-féle rossz tanácsokat. A program megalkotója, Dr. Ellen Fitzsimmons-Craft, a Washingtoni Egyetem orvosi karának munkatársa szerint a rendellenes táplálkozás népszerűsítése rávilágít az emberi szerepek automatizálásának kockázataira. Emberi felügyelet nélkül különösen veszélyessé válik a chatbotok alkalmazása a mentális egészségügyi válsággal küzdő embereknél.

[sc name=”facebook” ][/sc]

 

Ha tetszett a cikk, további hírekért, érdekességekért kövess minket a Facebookon!
Facebook
Twitter
LinkedIn
Pinterest
Picture of RG

RG

RG is hírező, és emellett nagy szenvedélye a repülés. Ikarosznál egy szinttel jobban nyomja, ugyanis szintén motor nélkül próbálkozik. Vitorlázórepülő. Szóval, ha szimulátorokról, vagy repülős appokról olvastok, azt szinte biztos, hogy RG írta.

Ezeket olvastad már?