A Google új fegyvere remélhetőleg hatékony lesz a mesterséges intelligencia segítségével készült hamis képek ellen.
A Google Fotók hamarosan könnyebbé teheti annak megállapítását, hogy egy fotót vagy videót mesterséges intelligencia eszközeivel módosítottak-e. A még nem elérhető funkciót az alkalmazás kódjának elemzésében talált hivatkozások buktatták le, és célja, hogy megoldja azt a problémát, amikor nem lehet egyértelműen megállapítani, hogy egy kép vagy videó valós-e, vagy deepfake.
A felfedezés a 7.41-es verzióban történt, ahol a kód egy „threepio” nevű funkcióra utal. Ez egy új „Hogyan készült?” szekciót adna a fotó részletes nézetéhez. A felhasználó felfelé húzással láthatná, hogyan készült vagy szerkesztették a képet vagy videót.
A címkék a következők lehetnek:
„Mesterséges intelligenciával készült tartalom”
„MI-eszközökkel szerkesztve”
„Több MI-eszközzel szerkesztve”
„Nem MI-eszközökkel szerkesztve”
„Kamerával rögzített, szoftveres módosítás nélkül”
A funkció képes lehet felismerni azt is, ha több szerkesztőeszközt használtak, vagy ha több képet kombináltak. Emellett, ha a fájl szerkesztési előzménye hiányzik vagy megváltozott, a Google Fotók hibaüzenetet jelenítene meg. A forrás szerint ezt a funkciót a Content Credentials technológia működteti, amely egy fájlhoz tartós szerkesztési előzményt kapcsol. Ez az információ a médiatartalommal együtt megmarad akkor is, ha megosztják, hacsak nem távolítják el.
Az ötlet nem teljesen új a Google-nél. A vállalat már kifejlesztette a SynthID nevű DeepMind-projektet, amely láthatatlan vízjelet helyez el az MI által generált képeken. Nem világos, hogy itt a SynthID-t használják-e, de mindkét megközelítés célja, hogy több kontextust adjon a vizuális tartalmak eredetéről.
Más cégek is dolgoznak hasonló megoldásokon. Az Adobe Content Authenticity Initiative kezdeményezése a kép metaadataiban követi a szerkesztéseket, míg a Meta vállalta, hogy címkézi az MI által generált képeket a Facebookon és az Instagramon. Ezek a projektek együtt azt mutatják, hogy a techipar egyre fontosabbnak tartja az átláthatóságot az MI-szerkesztések kapcsán.
Ha a Google valóban elérhetővé teszi ezt a funkciót a Google Fotókban, az hasznos eszköz lehet annak gyors ellenőrzésére, hogy egy fotó vagy videó hiteles-e. Bár kissé ironikus, hogy ugyanaz a cég készítette a nagyon élethű MI-képek és -videók előállítására alkalmas eszközöket, mégis világos, hogy ez értékes lehet például az újságírásban, az oktatásban és az online kereskedelemben, ahol a bizalom kulcsfontosságú. Ráadásul egy ilyen eszköz beépítése a világ egyik legnépszerűbb fotóalkalmazásába példát mutathat mások számára is.
