„Az indiai választások bepillantást engedtek a mesterséges intelligencia által meghatározott demokrácia jövőjébe. A politikusok itt már deepfake hang- és videofelvételek segítségével lépnek kapcsolatba a választókkal, akiknek sokszor persze fogamuk sincs róla, hogy egy digitális klónnal beszélgetnek” – olvassuk a Wired magazinban Nilesh Christopher és Varsha Bansal tényfeltáró riportját.
A deepfake videókkal kapcsolatos félelmek széles körben ismertek. A hamisítványok nemcsak magánszemélyek lejáratására, hanem politikusok besározására is alkalmasak. Egyes elemzők azt jósolták, hogy a mai EP-választások kampányában is nagy szerep juthat a deepfake-nek. Szakértők a közelgő brit parlamenti választások kapcsán attól tartanak, hogy egyre-másra jelennek majd meg a mesterséges intelligencia segítségével hamisított videók, amelyek rossz színben tüntetnek fel politikusokat. Nem is alaptalanul, egy hamisítvány máris terjedni kezdett.
Christopher és Bansal cikkéből kiderül, hogy a deepfake politikai alkalmazása Indiában a kisebb, helyi politikusok között általános gyakorlattá vált a múlt héten tartott elnökválasztást megelőző kampányban. Bár Indiában is voltak olyan hamisítványok, amelyek a politikai ellenfél lejáratását célozták, ennél gyakoribb, hogy a mesterséges intelligencia segítségével saját magukat klónozzák a jelöltek. Ez ugyanis nem törvénytelen Indiában – szemben a lejáratást célzó hamisítással. A deepfake alkalmazások célja az, hogy a személyes kapcsolat illúzióját keltsék a választóban. Politikusok a kampányban előszeretettel rendeltek olyan chatrobotot és készíttetnek digitális klónokat, amelyek segítségével megsokszorozhatják magukat. Avatarjaik aztán ezerszámra hívják a választókat, hogy beszédbe elegyedjenek velük. Christopher és Bansal azt írják, hogy a videoklón ezerötszáz dollárba kerül, ha a telefonbeszélgetéseket végző hangavatar csak fele ennyi. A mesterséges intelligencia ilyetén politikai felhasználása milliárdos üzlet Indiában.
A módszer különösen az egyszerűbb, tanulatlanabb és a modern technológiát kevésbé ismerő választók esetében sikeres – állítja Christophe és Bansal. Ők ugyanis tényleg elhiszik, hogy személyesen beszéltek egy ismert politikussal. A dörzsöltebbek azért nehezebben ejthetők át deepfake videochatrobottal, amelyek – hasonlóan más mesterséges intelligencia alkalmazásokhoz – gyakran hallucinálnak és mondanak ordas nagy ostobaságokat, amelyek még egy hivatásos politikus száját sem hagynák el. Az ismertebb politikusok ezért egyelőre kerülik az alkalmazását. De azért vannak kivételek is. Modi elnök például előszeretettel használ videochatrobotokat.
Európában és Amerikában azonban nem valószínű, hogy elterjednek a hasonló alkalmazások – jegyzik meg a szerzők. Az Egyesült Államokban tavaly elfogadott törvény tiltja, hogy mesterséges intelligenciát alkalmazzanak telefonos politikai és egyéb hirdetéseknél. Az EU májusban elfogadott jogszabálya a mesterséges intelligencia alkalmazásáról szintén előírja, hogy a felhasználókat minden esetben tájékoztatni kell róla, hogy nem hús-vér emberrel beszélgetnek, hanem egy mesterséges intelligencia által generált digitális klónnal.