A Nightshade készítői azt szeretnék, ha a mérleg nyelve visszabillenne a húsvér művészek felé, szemben a mesterséges intelligenciával.
A művészek alapvető problémája nem feltétlen az, hogy a mesterséges intelligencia a valódihoz megtévesztően hasonló fotókat, vagy „festményeket” képes alkotni. Sokkal inkább az, hogy a generatív MI tanításához a tulajdonok minden szívfájdalom nélkül tiporják porba a szellemi tulajdon és a szerzői jog fogalmait. A Nightshade nevű új eszköz azonban lehetővé teszi a felhasználók számára, hogy kreatív munkájukhoz csatolva „megmérgezzék” az adott tartalom adatait. Ez tönkreteheti az olyan MI art platformok jövőbeli modelljeit, mint a DALL-E, a Stable Diffusion és a Midjourney, megszüntetve a képalkotási képességét.
A Nightshade lényege nagyon röviden annyi, hogy a digitális műalkotásokban láthatatlan változásokat ad a pixelekhez. Amikor a művet egy mesterséges intelligencia (ami már a világvégét is elképzelte) modell betanítása céljából használják, a „méreg” kihasznál egy biztonsági rést, amely összezavarja a modellt, így az például egy autóról készült képet már nem autónak fog olvasni, hanem egy tehénnel fog előállni.
Ben Zhao, a Chicagói Egyetem professzora és a Nightshade egyik alkotója azt reméli, hogy így megszűnik az MI-fejlesztő cégek azon rossz gyakorlata, hogy szerzői jogvédett adatokat vesznek át modelljeik betanításához. A jelenlegi tesztek szerint a szövegből képet készítő MI-modellekben használt képzési adatok sebezhetőek az eszköz által kibontakoztatott támadás típusával szemben. Egy ezzel foglalkozó tanulmányban a következő olvasható: „… a Nightshade mérsékelt számú támadása destabilizálhatja a szövegből képet generáló modell általános jellemzőit, és ezzel hatékonyan ellehetetleníti annak képességét, hogy értelmes képeket generáljon”.
A mesterséges intelligencia által generált tartalmak és a képzési adatok szerzői jogi kérdései szabályozás hiányában továbbra is szürke terület maradnak. Az ezzel kapcsolatosa perek is zajlanak még. Januárban három művész perelte be a Stable Diffusiont, a Midjourney-t és a DeviantArt művészeti weboldalt, azt állítva, hogy a modellek engedély nélkül vették el a műveiket. A Getty Images szintén pert indított a Stable Diffusion ellen, mielőtt létrehozta volna saját MI képgenerátorát, amelyet a licencelt képein tanított ki. A Google és a Microsoft kijelentette, hogy hajlandók vállalni a jogi felelősséget, ha néhány ügyfelet beperelnek szerzői jogok megsértése miatt, miközben generatív MI termékeiket használják. E termékek többsége szövegalapú.
