Hírlevél feliratkozás
Avatar
2019. július 7. 07:04 Tech

A társadalomnak kell eldöntenie, mit kezd a hamis pornóval

Senki sem tudja, miért tűnhetett jó ötletnek elkészíteni az appot, ami bárkit levetkőztet. A DeepNude rendkívül egyszerű dologra volt képes: adtak neki egy bikinis képet, és a programot futtató számítógép erőforrásaitól függően fél-egy perc alatt levette a bikinit a képről. Esetleg a bugyit is. Ezt eddig bármelyik jobb Photoshop mester is meg tudta tenni. Emellett a DeepNude elvben teljes ruhákat is el tudott tüntetni. A gyakorlatban azonban ezeknél már gyakorta hibázott az algoritmus.

A megvalósítás minősége, a tanításra használt adatbázis milyensége – a férfiak vetkőztetésére lényegében alkalmatlan volt – azonban mellékszál. A DeepNude két technológiai jellegű tanulsággal szolgál. Az egyik, hogy nincs az az előre megjósolhatóan visszaütő rossz ötlet, amit ne tartana valaki zseniálisnak. A másik, hogy a szabadon elérhető gépi tanulási, gépi látási eszközök tökéletesen alkalmasak arra, hogy bárki gyártson vetkőztetős appot. A harmadik, társadalmi jellegű tanulság pedig, hogy a felek beleegyezése nélküli szexuális jellegű tettek – ennek a skálának a végén a nemi erőszak van – tárháza tovább tud bővülni.

A DeepNude-dal szembeni fellépés arra volt jó, hogy a programozó törölte az alkalmazást a netről. Fájlmegosztó hálózatokon azonban még fel-felbukkan, illetve legalább féltucatnyi különböző projekt van a program újraírására. Emellett természetesen megjelentek még olyan zavarosban halászók is, akik kártevőket kínálnak DeepNude telepítőként. Most épp kevés akkora ostobaság van, mint különböző, a neten kísérletező vetkőztető appokkal próbálkozni.

Olyan, mint a hidra

A deepfake technológia először 2017-ben tűnt fel. Képeket manipulálni korábban is lehetett mesterséges intelligencia eszközökkel, de azok kevésbé voltak látványosak. A legnépszerűbb, a Google által közzétett DeepDreap eszközzel csápokat és további szemeket lehetett növeszteni a képek szereplőire. Ez jó móka volt, de annak a megértéséig a felhasználóknak valószínűleg csak a kisebb százaléka jutott el, hogy a csápok és szemek nem a mesterséges intelligencia “álmai”, hanem abból fakadnak, hogy egy állatokat tartalmazó képi adatbázison tanították be a neurális hálót. Ha az állatok helyett építészeti fotográfiákkal etetik a gépet, akkor csúcsíveket és huszártornyokat rajzolt volna mindenre.

Ez a kép medúzaként kezdte a pályafutását (Fotó: MartinThoma)

A deepfake arra volt jó, hogy rádöbbentse az embereket, hogy nem csak látványos, de hol vicces, hol Hieronymus Bosch-t idéző torzításokra is használható a képmanipuláció. Arra is jó, hogy megtanítsuk a gépet, hogy egy forrásfájlon csak részeket cseréljen. Így bárki belekerülhet egy pornófilmbe, ha van róla elég fotó. Egy politikussal olyasmit is ki lehet mondatni egy videofelvételen, amit valójában akkor sem mondana, ha a nyelvét kellene leharapnia.

Kezdetben a fő félelem nem a bosszúpornós vagy meztelenítős felhasználás volt, hanem az, hogy a hamis hír (fake news) ipar fog visszaélni vele. A félelem alaptalannak bizonyult, az álhírek terjedéséhez nem kellett hamisított videós bizonyíték, megtette egy-egy évekkel korábbi, kontextusából kiemelt kép is. A pornós hamisítványokhoz a pornóipari szereplők változatos módon álltak hozzá. A Pornhub*Az egyik legnépszerűbb, felnőtt-tartalmak megosztására alapított oldal nem közös megegyezésen alapulóan létrehozott tartalomként kezelte és tiltani kezdte ezeket a klipeket, az EroMe szerint viszont ezek paródiák, és emiatt a szólásszabadság ernyője alá esnek.

Nem a bíróságon dől el

Világszerte vannak már próbálkozások a deepfake technológia korlátozására. Az amerikai Virginia államban például egyszerűen be is tiltották a deepfake videókat még februárban. Ugyanez az állam tiltotta be a bosszúpornó videókat*Olyan felvételek, amelyeket egy párkapcsolati szakítás után ömlesztenek a netre megszégyenítési vagy zsarolási céllal. is még korábban.  A deepfakek tiltására készül New York is, de ebben az ügyben furcsa ellenfele támadt a törvényhozásnak. Az amerikai mozifilmes jogvédő szervezet, az MPAA jelezte, hogy túl szigorúnak érzik a törvénytervet. Az érdekvédő szervezet attól tart, hogy a deepfake és deepnude felvételekkel együtt az elhunyt színészekről készült felvételek felhasználásával készített élethű animációkat is eléri a tiltás.

A jelenség Magyarországon is létezik, ám amikor egy korábbi cikkhez megkérdeztem a Patent Egyesületet, akkor arról informáltak, hogy bár léteznek szexuális kényszerítési, zsarolási és bosszúpornó ügyek, ezek a bíróságon nem jelennek meg. A deepnude klipekről megkérdeztük Ormós Zoltán internetes ügyekben jártas ügyvédet is, aki szerint a kedvezőtlen megítélést keltő klipek közzététele a rágalmazás, becsületsértés tényállásai alá sorolhatók. Ugyanakkor ezekben az ügyekben a rendőrségnek kell nyomozni, és könnyen elképzelhető, hogy az eredeti feltöltőt nem lehet megtalálni. Ormós saját praxisában még nem fordult elő deepfake per, ellenben érdeklődésekkel már találkozott, ezeket a sértetteket a rendőrség felé irányította.

Problémát okoz azonban, hogy a szó hagyományos értelmében a deep fake készítése tényleg csak egy technológia, amely sok apró legódarabból áll, amiből építkezni lehet. A deepfake eljárással létrehozott rágalmazásra, hitelrontásra használt felvételekkel szemben el lehet járni. Ehhez azonban talán új törvényekre sincs szükség. Viszont arra nincs semmilyen garancia, hogy nem épít bárki, aki ért a neten talált kóddarabok és programkönyvtárak újrahasznosításához, egy újabb DeepNude appot. A képfelismerési és képmódosítási technológiát, ami az önvezető autóktól kezdve a Snapchat vicces maszkjain át egészen az új iPhone operációs rendszerének videotelefonjáig mindenhová beépült, nem lehet csak úgy kidobni. Emiatt nagyon nehéz lesz korlátozni, szabályozni a használatát.

Tech deepfake deepnude képszerkesztés manipuláció Olvasson tovább a kategóriában

Tech

Torontáli Zoltán
2019. augusztus 19. 09:25 Tech

Osztrák háttérrel elindult a Lime rollerek budapesti kihívója

Breezy néven itt az újabb e-roller szolgáltató a fővárosban, a jelek szerint egy osztrák rendszert szabtak magyar viszonyokra.

Avatar
2019. augusztus 17. 17:42 Tech

Drágám, mit keres egy router a lábadban?

Nem csak punk pólós hekkerek szórakozása, hogy kiborggá alakítsák magukat. Egyre nagyobb lehetőségeket hoz, hogy félig robottá alakuljunk, de súlyos kérdések is felmerülnek.

Hajdu Miklós
2019. augusztus 14. 13:03 Tech

Tényleg lehallgatta és leíratta a Facebook a messengeres telefonbeszélgetéseidet

Állítólag csak a mesterséges intelligenciájukat akarták tökéletesíteni a beszédrészletek elemzésével.

Fontos

Fabók Bálint
2019. augusztus 21. 06:51 Világ

138 milliárd forintos afrikai útépítés reklámfilmjében tűnik fel a Duna Aszfalt

A világ egyik legkorruptabb országában vesznek részt egy világkereskedelmi szempontból számottevő útépítésen. A kollégáik nagy nehézségekkel küzdenek.

Bucsky Péter
2019. augusztus 20. 07:27 Közélet, Világ

A környezetszennyező repülést elfelejti az állam adóztatni

Egy szinte észrevétlen adóval milliárdokhoz juthatna a magyar költségvetés is, ráadásul a hatása is jó lenne. És akkor még nem is beszéltünk arról, hogy áfa- és jövedéki adómentes a kerozin.

Torontáli Zoltán
2019. augusztus 18. 07:08 Élet

Vegetarianizmus, természetes étel és klímavédelem: ez nehéz lesz egyszerre

Tudatos vásárlóként hiába szeretnél egyszerre sok mindent elérni, egyelőre úgy néz ki, hogy ez ma még maradéktalanul nem sikerülhet. Melyik ujjunkba harapjunk?