Felvilágosultabb társaságokban – ahol a magánélet szentségét nem liberális álokoskodásnak, hanem alapvető emberi jognak tartják – manapság divatos aggódni a tömeges megfigyelés miatt. Csakugyan nem alaptalan a félelem, hogy a kiszivárgott adataink illetéktelen kezekbe kerülnek; az elrettentő példákat napestig sorolhatnánk a hírességek kiszivárgott fotóitól a Facebook és a Cambridge Analytica adatkezelési botrányáig. A jogalkotók próbálnak a technológiai fejlődés után loholni, hogy megelőzzék a hasonló eseteket, de csak nehezen tudnak lépést tartani azzal, hogy a nyilvánosság fogalma a szemünk előtt változik meg. Az olyan országokban pedig, mint Kína, a jogalkotás egyenesen arra törekszik, hogy felszámolja a magánélet utolsó morzsáit is.

A legegyszerűbb megoldás nyilván az lenne, ha egy dióverő doronggal lecsapkodnánk az összes köztéri kamerát, betiltanánk az arcfelismerő szoftvereket, eldobnánk a telefonjainkat, és elköltöznénk falura tehenet fejni. De ha fejlett, civilizált társadalomban szeretnénk élni, ennél kreatívabb módszerekhez kell folyamodnunk; nekünk is, a cégeknek is és a törvényhozásnak is. Például kezdhetnénk azzal, hogy nem hagyjuk az utóbbiaknak, hogy belemásszanak a magánéletünkbe.

Kamerák százmilliói

Szögezzük le: a nyilvános terek biztonsági kamerái kimutathatóan csökkentik a bűnözési kedvet. A hatvanas években, az amerikai kábeltévézés hajnalán egy vállalati vezetőnek az az ötlete támadt, hogy építsenek ki a New York állambeli Oleanben egy zártláncú tévékamerás rendszert (CCTV) a város főutcáján, amihez az újonnan lefektetett kábeleket használnák. Az ötlet kedvező fogadtatásra talált: a CCTV-rendszert 1968-ban telepítették.

A nyolc köztéri robotkamerának az egész világ csodájára járt. Hát persze – hiszen ez volt a világ első publikus kamerarendszere, amiket deklaráltan bűnmegelőzési célból telepítettek. És a hatékonyságát bajosan lehetne vitatni, a kísérleti jelleggel telepített rendszer másfél éves próbaideje alatt egyetlen bűncselekményt sem követtek el a kamerák hatósugarában.

Ma már több 50 millió CCTV-kamera figyeli az amerikai köztereket, és az otthoni biztonsági kamerák piaca is szárnyal. A két legnagyobb kameragyártó, a Google, illetve az Amazon tulajdonában álló Nest és a Ring csak 2018-ban 50 millió kamerát adott el, és a Strategy Analytics elemzőcég szerint négy éven belül további 120 milliót értékesíthetnek. Ezek remekül használható eszközök a bűnmegelőzésben és a bűnüldözésben, de ha arcfelismerő szoftvereket eresztenek rájuk, az minden személyiségijog-védő rémálma lehet.

A szakértők szerint ezek a technológiák radikálisan átalakíthatják, vagy inkább megszüntetik a közösségi terek anonimitását. Evan Selinger, a Rochester Műszaki Intézet professzora szerint a személyiségi jogokat védő törvényeket eddig azért nem kellett közösségi terek esetében alkalmazni, mert semmilyen intézmény nem engedhette volna meg magának, hogy nyomon követhessenek bennünket – egészen mostanáig.

Jogállami vétó

A tömeges azonosításra alkalmas arcfelismerők fejlesztésének nem alapfeltétele egy totalitárius diktatúra: a chicagói és detroiti rendőrség is vásárolt valós időben működő arcfelismerő rendszereket. A FaceWatch Plus néven futó technológiát egy dél-karolinai szoftvercég, a DataWorks Plus szállította; különlegessége, hogy ezzel élő közvetítésekben (például egy streamben) is rögtön azonosítani lehet az arcokat.

Az amerikai rendőrség eddig is használt arcfelismerő szoftvereket – például gyanúsítottak letartóztatásához, vagy rendszámtáblacsalások észleléséhez –, de a valós idejű videók elemzése egy egészen új szint. Egy ilyen rendszerhez szükség volt a közelmúlt mesterségesintelligencia-fejlesztéseire és a gépi látás (computer vision) fejlődésére, bár azt a szakértők is elismerik, hogy ezek még mindig kevésbé hatékonyak, mint a kontrollált körülmények között végzett arcfelismerés.

A rendőrség állítása szerint sem Chicagóban, sem Detroitban nem használják a FaceWatch Plust – igaz, utóbbi esetében hozzátették, hogy még nem. De ennek kizárólag műszaki, és nem jogi okai lehetnek, mivel

az amerikai szövetségi és állami törvények nem gátolnák, hogy aktiválják a tömeges megfigyelést valós időben végző arcfelismerő rendszert.

Detroitban 2017-ben vásárolták meg a valós idejű megfigyelést biztosító rendszert, egy hároméves, Project Greenlight nevű program keretében. A Project Greenlight célja az volt, hogy felvegyék a harcot az éjszakai bűnözéssel szemben. A benzinkutak, templomok, klinikák és más közintézmények biztonsági kamerái által közvetített adás – több mint 500 különböző forrásból – közvetlenül a rendőrséghez futott be, ahol ráereszthették az arcfelismerő szoftvert. De ez még csak a jéghegy csúcsa: Chicagóban 20 000 kamerából érkező nyersanyaggal dolgozhattak volna. És hasonló rendszerek telepítését fontolgatták Orlandóban és New York Cityben is.

Csakhogy hiába birtokolják a technológiát: a bevezetésük az amerikai jogrendszer ellenállásán megbukott.

Illinois egyike annak a három szövetségi államnak, ahol az érintettek beleegyezése szükséges az olyan biometrikus azonosítók rögzítéséhez, mint az ujjlenyomat vagy az arckép; valószínűleg ezért sem aktiválták a városban a FaceWatch Plust. San Franciscóban a felülvizsgálati bizottság megtiltotta a tömeges azonosításra alkalmas rendszerek telepítését, Massachusetts államban moratóriumot vezetnének be a kormányzati arcfelismerők alkalmazására, és a Boston környéki Oaklandben és Sommerville-ben is hasonló ellenállásra készülnek.

Made for China

A tömeges megfigyelésre szánt szoftverek fejlesztését néhány éve még csak a legjobb koponyákat foglalkoztató nagyvállalatok, illetve az állami szervek engedhették meg maguknak. Mások nem rendelkeztek az ehhez szükséges szellemi és anyagi tőkével. De mára megváltozott a helyzet. A Wired beszámolója szerint a Bikini.com – a hollywoodi producer, Brett Ratner tulajdonában álló Remark Holdings egyik leányvállalata – is olyan mesterségesintelligencia-projekteken dolgozik, amiket tömeges megfigyelésre is lehet használni. És a legnagyobb felvásárlójuk Kína. (Lehetne árnyalni a képet azzal, hogy megkülönböztetjük a kínai piaci szereplőket és a kínai államot, de nem érdemes; Kínában ezek nem különülnek el olyan élesen egymástól, mint egy nyugati típusú demokráciában.)

A Remark éves bevétele 70 millió dollár körül mozog; ez aprópénz ahhoz képest, amennyit a Google söpör a kasszába egy átlagos napján. De a Remark megfigyelőszoftvereinek fejlesztéséhez nincs szükség dollármilliárdokra. A cég vezető fejlesztője, Jason Wei szerint a munkatársak elsősorban nyílt forráskódú szoftverekkel dolgoznak, az arcfelismerő alapanyagául szolgáló képeket pedig a kínai és amerikai közösségi oldalakról, többek között a Facebookról gyűjtik be.

Az arcfelismerő szoftverek felhasználási területe igen változatos. Egyesekkel olyan útszakaszokat figyelnek, ahol tilos motorkerékpárral közlekedni, és ezzel csípik fülön a szabálytalankodó sofőröket. Máshol szupermarketekben telepítik őket, hogy azonosíthassák a visszatérő vásárlókat. Megint máshol munkavédelmi célra használják őket: így ellenőrzik, hogy az építkezéseken dolgozó munkások ne vállaljanak dupla műszakokat, vagy hogy a konyhai dolgozók az előírásoknak megfelelően viseljék az arcmaszkjukat. Esetleg nagybani krumplitolvajokat szúrnak ki vele egy koncerten, húszezer másik ember között.

Ezek látszólag ártalmatlan, de igen hasznos eszközök, így a fejlesztők is lelkifurdalás nélkül dolgozhatnak rajtuk – még akkor is, ha a megrendelő a kínai állam.

„Kína a legalacsonyabban lógó gyümölcs: ők valóban értik és elfogadják a mesterséges intelligenciát, és nem félnek használni.”

– mondta Tao Kai-Shing, a Remark vezérigazgatója.

Taónak abban igaza van, hogy Kína csakugyan kapva kap minden, arcfelismerésben és AI-fejlesztésben dolgozó cég ajánlatán. De a beszállítók nem keresik magukat halálra: a nyilvános cégadatok szerint a Remark közösségimédia-elemző szoftvere, a KanKan 4,6 millió dollár éves bevételt hozott.

4,6 millió dollár nem sok pénz. Az olyan techmoguloknak, mint a Google vagy a Microsoft (akiknek szintén vannak AI fejlesztéssel foglalkozó központjaik Kínában) ez az összeg jóformán egy kerekítési hiba az éves mérleg elkészítésekor. De ez a példa is jól illusztrálja, hogy a belépési küszöb korábban elképzelhetetlenül alacsony szintre került. Ma már aprópénzzel is beszállhatunk az arcfelismerő és mestereségesintelligencia-szoftverek fejlesztésébe.

És az aprópénz kifejezés nem túlzás. 4,6 millió dollár sokaknak megfizethetetlen, de egy százast mindenki megengedhet magának. A New York Times riporterei néhány olcsó köztéri kamerával és az Amazon arcfelismerő szoftverével csupán 9 óra alatt 2750 embert azonosítottak, nyilvános adatbázisokból hozzáférhető fotók alapján. A projekt teljes költsége 60 dollár volt.

Terrorelhárítás kontra magánélet

Kína bőkezű és gátlástalan felvásárlója az ehhez hasonló alkalmazásoknak. Valószínűleg megfizetnék a legnagyobb amerikai cégeket is, de őket gúzsba köti a jó hírnevük, amit nem tehetnek kockára egy-egy ellentmondásos projekttel. A Google – részben a saját alkalmazottainak nyomására – leállította a kínai állam megbízásából fejlesztett Dragonfly-projektet, és ugyancsak lefújtak egy, az amerikai drónok képalkotó szoftverét gépi tanulással felturbózó Pentagon-fejlesztést is.

Egy kisebb vállalatnak azonban nincs mit kockáztatnia a kieső bevételen kívül, és Tao szerint a fejlesztéseik amúgy sem sértenek törvényt, csupán az ügyfeleiket segítik a hatékonyabb munkavégzésben. Ez addig a pontig védhető álláspont, amíg a megfigyelésre szánt eszközöket munkavédelmi vagy biztonsági okokból alkalmazzák –

de Kína célja az, hogy 1,4 milliárd állampolgárt tartsanak állandó megfigyelés alatt.

Kínában nincs se alkotmányos kontroll, se önmegtartóztatás. A régi (sztálin- és maoista alapokon nyugvó) államrend és a csúcstechnológia keveréke ijesztő jövőképet fest: egy digitális diktatúráét, ahol minden és mindenki állandó megfigyelés alatt áll. Megfigyelt okostelefonok, telepített kémprogramok, arcfelismerő kamerák, ujjlenyomatokat és DNS mintákat tartalmazó adatbázisok szorítanak ki mindenkit a magánszférájából, és lopnak el minden percnyi magánéletet. Ezeknek az együttese garantálja, hogy a kínai hatóságok ne csak a bűnözőket figyelhessék meg, hanem mindenkit, aki az utcán sétál. Tudják róla, hogy hol volt, hova megy, kivel találkozik, és hogy mit gondol a Kommunista Pártról. Az Egyesült Államokban ilyen eszközöket csak a terroristák és a drogbárók ellen használnak, de Kínában mindenki célpont lehet.

A dolgok nagyjából tíz éve fordultak rosszabbra. 2009-ben kezdődtek a belvillongások a kínai ujgur és han közösségek között Ürümcsiben, Hszincsiang tartomány fővárosban. A rendőrség lezárta a várost, kikapcsolta az internetet, és kilőtte a mobilszolgáltatásokat. Ez volt az első lépés az ujgur nép digitális elszigetelése és csapdába ejtése felé.

A Tencent Holdings – az egyik legnagyobb kínai informatikai vállalat – 2011-ben indította el a WeChat szolgáltatást, ami villámgyorsan a kínai ujgur közösség egyik legfontosabb kommunikációs platformja lett. Az új közösségimédia-felületen az ujgurok mindenről beszélhettek: zenéről, vallásról, politikáról. A WeChatnek 2013-ra már milliónyi ujgur felhasználója volt; ekkorra már az iszlamista tartalmak is feltűntek a platformon. Ezek többnyire apolitikus, hangvételükben mégis ellenzéki és radikális bejegyzések voltak. A témával foglalkozó szakértők szerint az ilyen tartalmak aránya az 1 százalékot sem érte el, és ez az elenyésző arány is azért fordulhatott elő, mert a platform felhasználói közül nem mindenki tudta, hogy a platformot nemcsak a felhasználók, hanem a kínai állam cenzorai is nyomon követik.

2014-re a Kommunista Párt bekeményített. Májusban a kormány felállított egy akciócsoportot, akik a csevegőprogramokon terjedő pletykákat, álhíreket, illetve az erőszakos, pornográf vagy terrorizmushoz köthető tartalmakat figyelték. Ugyanebben a hónapban történt, hogy a kínai állam szélesebb körben is elindította az erőszakos terrorakciók elleni kampányát, válaszul azokra az akciókra, amiket (állítólag) militáns ujgur szervezetek követtek el: egy 2013-as bombamerényletet a Tienanmen téren, egy 2014-es robbantást egy vasútállomáson, egy kunmingi késeléses támadást, illetve egy robbantást Ürümcsi egyik piacán.

A hatóságok lecsaptak az ujgurok csoportjára, és ugyanígy bántak el a kazah, a kirgiz és a többi hszincsiangi türk kisebbséggel is. Annyi biometrikus azonosítót gyűjtöttek, amennyit csak tudtak: fényképeket készítettek róluk, begyűjtötték a DNS mintáikat, illetve egyeseknek a hangjukat is rögzítették. A hangfelismerő programot az az iFlytek fejlesztette, ami a kínai beszédfelismerő-ipar 70 százalékának bevételét termeli, és amiről a Human Rights Watch 2017 augusztusában készült jelentése megállapította, hogy a hszincsiangi rendőrségnek is szolgáltat hangfelismerő technológiát.

A hszincsiangi elnyomás nemcsak digitális, hanem fizikai is. Az ENSZ 2018 augusztusi emberijog-védelmi fórumán elhangzottak szerint Kína nagyjából egymillió ujgurt tart internáló táborokban – a lehető legnagyobb titokban. A pártvezetés eleinte tagadta a táborok létezését, de belátták, hogy ez értelmetlen. 2018 októberétől a kormányzati narratíva már úgy hivatkozott ezekre a létesítményekre, mint egy oktatási és továbbképző programra, a törvényhozás pedig kiképző központokként hivatkozott a táborokra. A Human Rights Watch egy hónappal korábbi jelentése egész másról ír: szerintük

a hszincsiangi ujgur táborok olyan mértékben sértik az emberi jogokat, amilyenre a kínai kulturális forradalom óta nem volt példa.

A kínai rendőrség idén áprilisban négy kamerát és két kis fehér dobozt helyezett el egy hatalmas épületkomplexum bejáratainál a közép-kínai iparvárosban, Csengcsouban. A kamerákat arcfelismerésre, a fehér dobozkákat a telefonokon található adatok begyűjtésére használják. Az adatgyűjtők – az úgynevezett IMSI catcherek – filléres kis semmiségek, de alkalmasak rá, hogy begyűjtsék a mobilokhoz tartozó azonosító kódokat.

Az arcfelismerővel kombinálva a rendszer üzemeltetői létrehozhatják a megfigyelt személyek digitális profilját: ha a mobil szignálját rögzítik az ellenőrzési pontokon, és a hozzájuk tartozó arc is megjelenik a kamerákon, a rendszer egyre nagyobb valószínűséggel kapcsolja össze az eszközt és az arcot. Ezen a ponton már nincs szükség emberi beavatkozásra. A rendszer hatékonyságát jól mutatja, hogy áprilisban alig négy nap kellett ahhoz, hogy bemérjen 67 ezer telefont, és rögzítsen 23 ezer képet, amiken 8700 arcot tudtak azonosítani. Ezekből nagyjából 3000 felhasználói profilt tudtak összeállítani.

Ez nem egy elszigetelt, egyedi kísérlet, hanem része annak a városszerte kiépítésre kerülő megfigyelőrendszernek, ami nemcsak az arcokat és a telefonokat kötheti össze, hanem hozzájuk rendelheti a rendszámtáblákat és a közösségi médiából begyűjtött adatokat is. És Csengcsou példáját mások is követik: a hivatalos jelentések és a rendőrségi dokumentumok tanúsága szerint hasonló rendszereket telepítenének Kujcsouban, Csöcsiangban és Honanban is. A Szecsuán tartománybeli Zigongban a rendőrség 156 különböző megfigyelőeszközet rendelt. A wuhani trendőrség pedig olyan rendszereket rendelt, amik a köztéri internethasználók adatait gyűjtené be: megfigyelnék a netezési szokásaikat, a mozgásukat, és a telefonjaik azonosító információit.

Ürümcsiben, a tartomány fővárosában a rendőrség 3640 épületkomplexumot szigetelt el, és vastagon beborította őket kamerákkal, telefonkövető szoftverekkel és szenzorokkal felszerelt ellenőrzési pontokkal. A környéket 18464 arcfelismerővel felszerelt kamera figyeli. A Hszincsiang tartomány déli részén fekvő Kasgarban a New York Times riporterei 37 telefonkövetőt észleltek egyetlen négyzetkilométeren belül.

Digitális atomkatasztrófa

Mindez olyan hatalmat ad a kínai rendőrség kezébe, amire korábban nem volt példa – és ez további veszélyekkel jár. Az országban nincsenek független bíróságok, se szilárd jogrend, így lehetetlen jogi úton védekezni a kormányzati túlkapások ellen. Amíg az állam nagyjából hagyta élni és boldogulni az állampolgárait, ebből nem is voltak túl nagy problémák, de ez a korszak nagyjából mostanában ért véget. Hszi Csin-ping, a Kommunista Párt főtitkára, az ország vezetője totalitárius rendőrállam kiépítésén dolgozik, ahol a hatalom mindent és mindenkit kontrollál. Egyre szabadabb kezet kapnak a civilek életébe belepofázó rendőrök is.

A tömeges megfigyeléshez korábban Peking hozzájárulása (pontosabban: parancsa) kellett. Ezt azóta kiszivárgott dokumentumok is bizonyítják. Az állami mobilvállalatok korábban vonakodtak kiadni a felhasználóik személyes adatait, de ma már egy közrendőr is vásárolhat telefonkövetőket és arcfelismerő kamerákat. Még nem tudni, hogy milyen hatékonysággal használják ezeket az eszközöket, de az biztos, hogy a pártvezetésnek a lehető legnagyobb kontroll, és a magánszféra lehető legkisebbre zsugorítása a célja.

Már ez is elég lenne a botrányhoz (ha egy demokráciáról beszélnénk), de a helyzetet tovább súlyosbítja az elképesztően hanyag kínai adatvédelem is. Európából, a GDPR bunkeréből elborzadva nézhetjük, ahogy a hatóságok gyakorlatilag védelem nélküli szervereken tárolják több millió állampolgár legszemélyesebb adatait, amikhez nemcsak az adatokat begyűjtő kínai kormány, hanem magánvállalkozók is hozzáférhetnek. Az online adatszivárgás amúgy is komoly probléma Kínában: nem ritka, hogy a csalók néhány dollárért jutnak hozzá magánszemélyek adataihoz. A szivárgások súlyosságára a rendőrség azzal reagált, hogy létrehoztak egy külön vállalatot az adatkezelésre, és kiiktatták a külső szereplőket. Így a rendőrség vált a legnagyobb adatkezelővé.

Ez az adatkezelési gyakorlat az, ami igazán hatékonnyá és veszélyessé teszi a kínai megfigyelőeszközöket. Tisztán műszaki szempontból nézve Kína semmivel sem tart előrébb, mint az Egyesült Államok, de sokkal gátlástalanabbul használhatja az elérhető technológiát. Egy nyugati típusú demokrácia törvényhozása és szigorú adatvédelmi szabályai megakadályozzák, hogy az állam kezébe kerüljön a totális kontroll. Kínában viszont nincs olyan adatvédelmi törvény, ami megakadályozná, hogy az állami szervek egyszerre használják fel a telefonokról begyűjtött azonosítókat, a közösségimédia-profilok információit, a biztonsági kamerák felvételeit és a valós idejű azonosításra képes mesterséges intelligenciát. Ezeknek a kombinációja kiküszöböli az egyes technológiák hiányosságait: ha egy kamera képén az arc rossz szögből látszik, a többi személyi azonosító (például a mobiladatok) kompenzálhatják az így kieső információt.

A fentiek alapján nincs okunk abban bízni, hogy a hatalom önmérsékletet gyakorolna, ha lehetősége lenne sosem látott mértékben belefolyni (és belepofázni) az állampolgárok magánéletébe.

A demokratikus rendszerekben a sokat kritizált fékek és ellensúlyok rendszere, valamint az állam, a törvényhozás és a magáncégek elkülönítése épp azt szolgálja, hogy a hatalom sose összpontosulhasson egy autoriter vezető kezében. A kínai helyzet kiváló illusztrációja annak, hogy mi lesz, ha ez mégis megtörténik, de nem követendő, hanem elrettentő példának tűnik.

Pedig nem kéne így lennie. Az arcfelismerés technológiája is épp olyan, mint az atomenergia: megfelelő óvintézkedésekkel, józan ésszel és felelősségteljes használattal valóban megkönnyítheti és biztonságosabbá teheti az életünket. Arról pedig, hogy milyen az, amikor egy szuperhatalom felelőtlenül bánik a rá bízott csúcstechnológiával, elég jó képet alkothatunk, ha elballagunk a csernobili atomerőmű maradványaihoz egy Geiger–Müller-számlálóval.

Kapcsolódó cikkKapcsolódó cikkOrosz atomkatasztrófa, szovjet csöndA legtöbb jel arra utal, hogy egy új típusú atomrakéta reaktorja robbant fel augusztus elején az arkhangelszki régióban. Attól még, hogy nem sikerült működésre bírni a rakétát, még nem lesz kevésbé ijesztő, hogy ezzel kísérleteznek.

G7 támogató leszek! Egyszeri támogatás / Előfizetés

Tech Kína megfigyelés megfigyelő állam megfigyelő technológia Olvasson tovább a kategóriában