Az illúzióban megtestesülő manipuláció nem mai találmány. Emlékezzünk csak vissza az 1996-ban debütált Mission Impossible-re: Ethan Hunt maszkok és “varázskütyük” segítségével pillanatok alatt át tud vedleni tulajdonképpen bárkivé, hogy elérje célját. A DeepFake technológia lényegében ugyanezt eredményezi.
A DeepFake angol kifejezés a “deep learning” (a mesterséges intelligencia egy tanulási formája, szó szerinti fordításban alapos tanulást jelent) és a “fake news” (hamis hírek) összetételéből ered. A szófordulat lényegében olyan, általában videós tartalmakra utal, amelyeket mesterséges intelligencia (MI) segítségével manipulálnak. A videós tartalmak mellett ugyanakkor a technológia képes szimpla fotók és audio tartalmak átalakítására is.
Az első deep fake videók 2017-re datálhatók: az amerikai Reddit közösségi hírplatform egyik felhasználója ismert színésznők, például Scarlett Johansson, Gal Gadot képeit montírozta pornószínésznők arcára. Mivel akkoriban a manipulatív technológia még ismeretlen volt, senki nem kérdőjelezte meg a videók valóságtartalmát.
Mire használják?
Az előző példából már érzékelhető, hogy a DeepFake videókat leggyakrabban bosszúpornóra használják. Michelle Obama is áldozatul esett egy ilyesfajta támadásnak, ezzel ártva a First Lady hírnevének.
A DeepFake anyagok nemzetbiztonsági kihívásokat is jelentenek. Az amerikai hírszerzés a technológia létezése óta több olyan hamis profilt azonosított a közösségimédia-felületeken, amit ellenséges országok hoztak létre kémkedés céljából. Emellett nem kevés videó készült már vezető pozícióban lévő politikusokról, ahogy hadat üzennek egy ellenséges országnak. Az új technológia tehát azonnal megtalálta a rendszer és egyben a társadalom gyenge pontjait.
Ugyanakkor álszentség és meglehetős technopesszimizmus lenne azt állítani, hogy a DeepFake technika kizárólag negatív célokra használható. Megfelelő arcok bizonyos helyre való beillesztése rendkívül szórakoztató is lehet.
A segítő szándék sem elhanyagolható szempont: a hangklónozás például hozzájárul a pillanatnyilag hangjukat vesztett emberek mielőbbi rehabilitációjához. Az amiotrófiás laterálszklerózisban (ALS) szenvedő páciensek akaratlagosan működő izmai elgyengülnek, majd végül elsorvadnak, a DeepFake technológia segítségével viszont a betegek saját hangjukon képesek kommunikálni a külvilággal.
Kulturális szempontból a DeepFake új, eddig ismeretlen lehetőségekkel örvendeztetheti meg a befogadót. Egy floridai múzeumban például, a technológia segítségével, maga Salvador Dalì vezeti körbe saját képei között a látogatót, sőt, később közös szelfit is készíthetünk vele.
A filmszakma is gazdagabbá válik a DeepFake technológia által, hiszen segítségével rég elhunyt színészeket tudnak visszahozni a mozivászonra, de akár az kipróbálható, hogy „működne” egy másik művész az adott szerepben.
Hogyan és kik állítják elő?
A DeepFake anyagok előállítása mesterséges intelligencia segítségével történik, létrehozásuk speciális géphez és eszközökhöz kötött. Ilyen videókat tehát lényegében bárki készíthet a tudósoktól kezdve az amatőrökön át a pornófilm gyártóig.
Hogyan szúrd ki?
A DeepFake videókkal kapcsolatban talán a legfontosabb kérdés, hogyan szúrjuk ki, ha manipulációval van dolgunk? Az eredeti felvételeket a machinálttal összehasonlítva észrevehető, hogy a DeepFake anyagokon szereplők általában nem, vagy furcsán pislognak. Ez érthető, hiszen több ezer képből állítják (tömörítik) őket össze, ezeken pedig az alanyok ritkán pislognak.
A manipulált videók minősége egyelőre fényévekkel elmarad a normál változatoktól, így ha rossz színvonalú anyaggal találkozunk, fogjunk gyanút!
A DeepFake videókon szereplő alanyok érzelemkifejező képessége általában nem túl meggyőző. Ez, a pislogáshoz hasonlóan, szintén abból ered, hogy az ezernyi összetömörített képen nem gyakran sírnak vagy nevetnek a szereplők.
A DeepFake céljai, következményei
2020 januárjában, az amerikai elnökválasztások előtt a Facebook betiltotta a mesterséges intelligencia által létrehozott DeepFake videókat. Az intézkedés célja, hogy megvédje a felhasználókat a megvezetéstől, illetve megelőzzék az álhírek terjedését.
A DeepFake videók segítségével a gyanútlan befogadó manipulálható, könnyen átverhető. Az ilyenfajta anyagokból származó általános dezinformáltság zavart és pánikot kelthet a fogyasztókban, továbbá felkorbácsolhatja az indulatokat, miután nézőik nem tudják megkülönböztetni a hamisat a valóságtól.
Az ártatlan szórakoztató funkció mellett pedig ott van a mindent elsöprő gazdasági indok is: a manipuláció segítségével kicsalt kattintások hatalmas profitot hozhatnak az elkészítőknek.
Mi lehet a megoldás?
A DeepFake technológiát éltetők és ellenzők egy dologban egyetértenek, mégpedig abban, hogy a manipulált tartalmak kiszűrését egy mesterséges intelligencia tudná leginkább megoldani. Az emberi szem ugyanis nem képes olyan szintű, aprólékos összehasonlításra, mint a mesterséges intelligencia, vagyis tulajdonképpen a probléma ott oldódik meg, ahol kezdődött: az MI-nél.
Végeredményben a DeepFake anyagok kapcsán ugyanaz a kérdés vetődik fel, mint a történelem során eddig minden újdonság esetén, nevezetesen, hogy a végkimenetel attól függ, hogy az új technológia kinek a kezébe kerül, és az illetőnek milyen szándékai vannak vele.
Borítókép forrása: Pixabay.com
