A manipuláció fogságában: a DeepFake aranykora

Az illúzióban megtestesülő manipuláció nem mai találmány. Emlékezzünk csak vissza az 1996-ban debütált Mission Impossible-re: Ethan Hunt maszkok és “varázskütyük” segítségével pillanatok alatt át tud vedleni tulajdonképpen bárkivé, hogy elérje célját. A DeepFake technológia lényegében ugyanezt eredményezi.

A DeepFake angol kifejezés a “deep learning” (a mesterséges intelligencia egy tanulási formája, szó szerinti fordításban alapos tanulást jelent) és a “fake news” (hamis hírek) összetételéből ered. A szófordulat lényegében olyan, általában videós tartalmakra utal, amelyeket mesterséges intelligencia (MI) segítségével manipulálnak. A videós tartalmak mellett ugyanakkor a technológia képes szimpla fotók és audio tartalmak átalakítására is. 

Deepfake,concept,matching,facial,movements,with,a,different,face,of
Kép forrása: Shutterstock

Az első deep fake videók 2017-re datálhatók: az amerikai Reddit közösségi hírplatform egyik felhasználója ismert színésznők, például Scarlett JohanssonGal Gadot képeit montírozta pornószínésznők arcára. Mivel akkoriban a manipulatív technológia még ismeretlen volt, senki nem kérdőjelezte meg a videók valóságtartalmát. 

Mire használják?

Az előző példából már érzékelhető, hogy a DeepFake videókat leggyakrabban bosszúpornóra használják. Michelle Obama is áldozatul esett egy ilyesfajta támadásnak, ezzel ártva a First Lady hírnevének. 

A DeepFake anyagok nemzetbiztonsági kihívásokat is jelentenek. Az amerikai hírszerzés a technológia létezése óta több olyan hamis profilt azonosított a közösségimédia-felületeken, amit ellenséges országok hoztak létre kémkedés céljából. Emellett nem kevés videó készült már vezető pozícióban lévő politikusokról, ahogy hadat üzennek egy ellenséges országnak. Az új technológia tehát azonnal megtalálta a rendszer és egyben a társadalom gyenge pontjait.

Ugyanakkor álszentség és meglehetős technopesszimizmus lenne azt állítani, hogy a DeepFake technika kizárólag negatív célokra használható. Megfelelő arcok bizonyos helyre való beillesztése rendkívül szórakoztató is lehet. 

A segítő szándék sem elhanyagolható szempont: a hangklónozás például hozzájárul a pillanatnyilag hangjukat vesztett emberek mielőbbi rehabilitációjához. Az amiotrófiás laterálszklerózisban (ALS) szenvedő páciensek akaratlagosan működő izmai elgyengülnek, majd végül elsorvadnak, a DeepFake technológia segítségével viszont a betegek saját hangjukon képesek kommunikálni a külvilággal.  

Kulturális szempontból a DeepFake új, eddig ismeretlen lehetőségekkel örvendeztetheti meg a befogadót. Egy floridai múzeumban például, a technológia segítségével, maga Salvador Dalì vezeti körbe saját képei között a látogatót, sőt, később közös szelfit is készíthetünk vele. 

A filmszakma is gazdagabbá válik a DeepFake technológia által, hiszen segítségével rég elhunyt színészeket tudnak visszahozni a mozivászonra, de akár az kipróbálható, hogy “működne” egy másik művész az adott szerepben.

Cd1a5368 D44b 4d43 Bc2f 5074f4ccd078
A rettenthetetlen című film újragondolva: bal oldalon az eredeti főszereplő, Mel Gibson, jobb oldalon Tommy Wiseau
Kép forrása: YouTube

Hogyan és kik állítják elő?

A DeepFake anyagok előállítása mesterséges intelligencia segítségével történik, létrehozásuk speciális géphez és eszközökhöz kötött. Ilyen videókat tehát lényegében bárki készíthet a tudósoktól kezdve az amatőrökön át a pornófilm gyártóig. 

Hogyan szúrd ki?

A DeepFake videókkal kapcsolatban talán a legfontosabb kérdés, hogyan szúrjuk ki, ha manipulációval van dolgunk? Az eredeti felvételeket a machinálttal összehasonlítva észrevehető, hogy a DeepFake anyagokon szereplők általában nem, vagy furcsán pislognak. Ez érthető, hiszen több ezer képből állítják (tömörítik) őket össze, ezeken pedig az alanyok ritkán pislognak. 

A manipulált videók minősége egyelőre fényévekkel elmarad a normál változatoktól, így ha rossz színvonalú anyaggal találkozunk, fogjunk gyanút!

A DeepFake videókon szereplő alanyok érzelemkifejező képessége általában nem túl meggyőző. Ez, a pislogáshoz hasonlóan, szintén abból ered, hogy az ezernyi összetömörített képen nem gyakran sírnak vagy nevetnek a szereplők. 

A DeepFake céljai, következményei

2020 januárjában, az amerikai elnökválasztások előtt a Facebook betiltotta a mesterséges intelligencia által létrehozott DeepFake videókat. Az intézkedés célja, hogy megvédje a felhasználókat a megvezetéstől, illetve megelőzzék az álhírek terjedését. 

A DeepFake videók segítségével a gyanútlan befogadó manipulálható, könnyen átverhető. Az ilyenfajta anyagokból származó általános dezinformáltság zavart és pánikot kelthet a fogyasztókban, továbbá felkorbácsolhatja az indulatokat, miután nézőik nem tudják megkülönböztetni a hamisat a valóságtól. 

Az ártatlan szórakoztató funkció mellett pedig ott van a mindent elsöprő gazdasági indok is: a manipuláció segítségével kicsalt kattintások hatalmas profitot hozhatnak az elkészítőknek. 

Mi lehet a megoldás?

A DeepFake technológiát éltetők és ellenzők egy dologban egyetértenek, mégpedig abban, hogy a manipulált tartalmak kiszűrését egy mesterséges intelligencia tudná leginkább megoldani. Az emberi szem ugyanis nem képes olyan szintű, aprólékos összehasonlításra, mint a mesterséges intelligencia, vagyis tulajdonképpen a probléma ott oldódik meg, ahol kezdődött: az MI-nél. 

Végeredményben a DeepFake anyagok kapcsán ugyanaz a kérdés vetődik fel, mint a történelem során eddig minden újdonság esetén, nevezetesen, hogy a végkimenetel attól függ, hogy az új technológia kinek a kezébe kerül, és az illetőnek milyen szándékai vannak vele. 

Borítókép forrása: Pixabay.com

Ha tetszett a cikk, mutasd meg az ismerőseidnek is!

NEKED AJÁNLJUK

Mi szükséges a baba nyugodt alvásához és mi nem?