A szerző a kis-és középvállalkozások digitális versenyképességét rendszeresen mérő Digiméter projekt szakmai vezetője, a Corvinus Egyetem adjunktusa. Az Ekonomi a G7 véleményrovata.

Kínában a legmodernebb infokommunikációs technológia, a mesterséges intelligencia és hús-vér emberek hibrid szövedékéből építik a jövő digitális panoptikonját, ahol idővel mindenkinek minden cselekedete megfigyelhetővé és kontollálhatóvá válik majd. Ez a rendszer szándékosan kiismerhetetlen, amivel igazodásra kényszerít minden benne élőt. Láthatatlan ketrecbe zárja saját állampolgárait, ellehetlenítve minden ellenállást, célja elhallgattatni a kritikus hangokat. Bár Nyugatról nézve már most is egységesnek tűnik ez a rendszer, egyelőre csak a kiépítése zajlik, de már most intő példa arra, hogyan ne akarjunk (poszt)modern társadalmat építeni.

A téma apropóját az adja, hogy 2024 februárjában rendezték meg idehaza a Budapesti Nemzetközi Dokumentumfilm Fesztivált. Az idén tízéves rendezvényen mutatták be a Total trust című, Jialing Zhang rendezte dokumentumfilmet, ami pár napja felkerült az RTL+ kínálatába is. A vetítés után kerekasztal-beszélgetést szerveztek Knut Jäger (a film producere), Sükösd Miklós (rendszerváltó szociológus, médiakutató, a Koppenhágai Egyetem kommunikációs tanszékének docense) és jómagam részvételével, amit Nagy Gábor (HVG) moderált. A kerekasztal felvétele pár napja elérhetővé vált több felületen is (a YouTube-on videó vagy podcast formájában, a Spotify-on eredeti verzióban vagy magyar szinkrontolmáccsal). De hogy a fenébe kerülök én egy kínai film szakértői panelébe? Röviden: jobb híján, ugyanis a felkért hazai Kína-szakértők kivétel nélkül elutasították a részvételt. Nekem viszont nem múlik a kenyérkeresetem azon, hogy mit merek vagy nem merek kimondani, leírni Kínával és az ott lassacskán kiépülő totális digitális megfigyelő állammal kapcsolatban.

A téma több ok miatt is különösen aktuális nekünk magyaroknak, így muszáj beszélni róla.

• Először is, adódik a kérdés, hogy akarunk-e megfigyelő államot Magyarországon (és Európában) – az ehhez szükséges technológia ugyanis nálunk is elérhető, lásd például a Pegasus-botrányt vagy a biztonsági kamerák széleskörű alkalmazását. A rossz értelemben vett „történelmi hagyományaink” is megvannak hozzá.
• Másodszor, Kína jól láthatóan európai hídfőállást épít ki Magyarországon, aminek része sok minden a Belgrád-Budapest vasútvonal megépítésétől kezdve a Fudan Egyetem (egyelőre meghiúsult) magyar campusának megnyitásán át az akkumulátor- és autógyárak magyar földre való telepítéséig. Fontos tehát megértenünk, hogy hogyan működik az egyik legfontosabb gazdasági partnerünk.
• Harmadszor, különös aktualitást kölcsönöz a film mondanivalójának a hír, hogy hamarosan kínai rendőrök járőrözhetnek a szuverenitására amúgy rendkívül büszke és kényes magyar állam területén. Ritkán szoktam nyilvánosan politizálni, így most sem az aktuálpolitikai vonatkozásait emelném ki a témának, hanem a szakmait, tehát hogyan működik a film alapján a kínai társadalmi kreditrendszer.

Bele sem férne egyetlen rövid vélemény írásba minden, amit ebben a témában el kellene mondani – ezért ajánlom a téma iránt érdeklődőknek a fentebb citált kerekasztal-beszélgetést, ahol az itt nem érintett aktuálpolitikai, gazdasági és kulturális vonatkozásokról is bőven szóltunk. Inkább arról írnék röviden, hogy a film alapján milyen kép bontakozik ki a kínai társadalmi kreditrendszerről.

A filmről

Kétszer néztem meg a filmet, először a beszélgetésre készülve otthon, másodszor pedig a fesztiválon moziteremben. Amikor január végén először néztem meg, nagy csalódás volt, ugyanis teljesen mást vártam, mint amit kaptam. Amikor másodszor is megnéztem, akkor viszont összeállt egy cizellált kép a megfigyelő rendszer természetéről.

Miért volt elsőre csalódást keltő a film? Mert látszólag nem a megfigyelési rendszerről szólt, hanem a kortárs kínai politikai elnyomásról, amiben a digitális eszközök csak egy szeletet jelenítenek meg, nagyjából a film 10-15 százalékában kap ez hangsúlyos szerepet, a 85-90 százalék a konkrét szereplők életéről, megpróbáltatásairól szól. Sok helyen elmondják ugyan a filmben, hogy a „big data rendszer” rendelkezésre áll, működik, megfigyel mindenkit, és azután mutatják a kamerákat, amiket az állam által gyanúsnak ítélt, a filmben bemutatott emberek házaira irányítanak vagy a lakótelepi lakásuk bejárati ajtaját figyelik vele, de igazándiból semmit sem tudunk meg arról, hogy ki szereli fel ezeket, vagy valójában hogyan működnek, mire használják őket. De ezeket a rövidebb, a rendszerről szóló filmes részeket kiemelve is rajzolható egy kép a társadalmi kreditrendszerről.

Ami biztos a film alapján

Először is, bár elsőre furcsa lehet a témával ismerkedők számára, de Kínában nincs az egész országra, minden lakosra kiterjedő átfogó társadalmi kreditrendszer, egyelőre ezzel „csak” kísérletezik a kínai állam. A filmben részletesen bemutatják a 2012 óta a santungi Zsungcseng városban bevezetett rendszert, ahol felosztották a várost egy rácshálózat mentén, egy egység nagyjából 400 háztartást és 1000 lakost foglal magába. Ezért egy hálózati tiszt (grid officer, nagyjából „tömb megbízott”) felelős, aki rendszeresen „járőrözik”, például ellenőrzi a tilosban parkoló autókat, vagy megfigyeli azokat az embereket, akiket kijelölnek a számára mint társadalmilag gyanús személyeket. (Például azokat, akik kérvényt nyújtottak be az államnak, mert megsértették a törvényben garantált jogaikat, ami a hatalom számára mégis egyenlő azzal, hogy a múltban helytelenül viselkedtek.)

Az ő mozgásukról papíralapú jegyzőkönyveket vezet a filmben megszólaltatott megbízott, amit utána számítógépen rögzít egy szoftverben (ezt be is mutatják a filmben). Még panaszkodik is a tiszt, hogy sok stresszel jár a lakosok személyes megfigyelése – de az olyan technológiák, mint az arcfelismerés, könnyebbé teszik a munkáját (például, mert a lakótelepen a kapukat arcfelismerő rendszer nyitja). Bár azt mondja a film, hogy ez csak kísérleti projekt, később azt állítják, hogy már 4,5 millió ilyen hálózati tiszt dolgozik országszerte. (Számoljunk utána, ez 1000 lakossal felszorozva 4,5 milliárd ember személyes megfigyelését tenné lehetővé, amivel többszörösen lefedhető Kína mostani lakossága).

Ebben a zsungcsengi rendszerben pontokat osztanak az embereknek, jó pontot 190-nél is több tevékenységgel lehet gyűjteni, például önkéntes éjszakai járőrözéssel, takarítással, szelektív szemétgyűjtéssel, főzéssel a jótékonysági közkonyhán. Büntetőpontot viszont 1040-et is meghaladó esetben szabhatnak ki (például, ha tilosban mész át a zebrán, amit rögzít egy kamera). Viszont nincs minden automatizálva, rengeteg „élőmunkával”, önkéntesekkel dolgozik a rendszer. Az önkéntes munkával szerzett pontokat a Zsungcseng közösségi appban vezetik, a sorrend publikus, ami „segíti az egészséges versengést” a hálózati tiszt szerint.

A kapott pontokért a rendszer által biztosított ajándékokat is lehet venni. 10 óra önkéntes munka 2 pontot ér, amiért evőpálcikát vagy kesztyűt lehet kapni, ha beváltod a pontjaidat. 300 óra önkéntes munka 50 ponttal egyenlő. Átmenni a piroson -5 pont, pletykát terjeszteni online -20 pont, kérvényt nyújtani be az államhoz -50 pont, tüntetésen részt venni -30 pont. A rangsor 1000 pontos skálán mozog, és ez alapján AAA, AA, A, B, C és D kategóriákba osztják az embereket. Ittas vezetésért egyből B kategóriába kerülsz, de ugyanez történik, ha kérvényt nyújtasz be az államnak. (A dokumentumfilm főszereplője Csecsüan Csen, akinek a férjét, Vejping Csang ügyvédet letartóztatták és elvitték ismeretlen helyre, rengeteg kérvényt adott be, hogy egyáltalán kiderüljön, hol van a férje és mivel vádolják.)

Ha a „rossz útra tévedt” személy megbánást mutat és jó útra tér, akkor visszaállíthatja a társadalmi pontszámát. A pontszám meghatározza a család lehetőségeit is, például milyen iskolába járhat a gyerek, utazhat-e valaki gyorsvonaton vagy repülőn. Ha párttag vagy, és előre szeretnél lépni, akkor gyűjtened kell a pontokat. Az átlagemberek elfogadják ezt a rendszert, részt vesznek a pontgyűjtésben, ettől a politikai rendszerrel szemben kritikus emberek (akik korábban középen álltak) nagyon gyorsan beazonosíthatóak és kitűnnek, nem tudnak elvegyülni a tömegben.

Arról is kapunk egy benyomást még a filmből, hogy milyen informatikai eszközök támogatják a háttérben ezt a rendszert. Például a „Sharp Eyes Project” egy 2018-ban készült bejátszás szerint a köztéren rögzített videofelvételeket az emberek otthonában is elérhetővé teszi kábeltévén, így „mindenki éberen őrködhet”^*de erről csak 15 másodperc van a filmben. A Skynet project 170 millió köztéri kamerát telepített szerte az országban 2018-ig, amit további 400 millió kamerával akartak bővíteni három éven belül (2018-tól), de erről is csak pár másodperc van a filmben.

Amit csak feltételezni tudunk

Mivel nehéz a társadalmi kredit- és megfigyelő rendszerekről közvetlen információt szerezni – érthetően nem szívesen nyilatkoznak a bennfentesek vagy a fejlesztők – sok minden van, amit sugall ugyan a film, de teljes bizonyossággal nem igazolható. Ilyen az a feltételezés is, hogy a koronavírus-járvány idején visszaélhettek az okostelefonon elérhető Covid-igazolásokkal, hogy politikailag gyanúsnak tartott személyek mozgását korlátozzák. Például nem engedték be az egyik főszereplőt abba a tartományba, ahol a férje tárgyalását tartották 2022-ben, az autópálya-kihajtónál lévő Covid-ellenőrzőponton több mint egy napra félreállították rendőrök, mert állítólag olyan tartományból jött, ahol magas a fertőzöttség szintje. Viszont miután véget ért a tárgyalás, a rendőrök is elmentek, és ő is szabadon távozhatott.

Egy másik esetben be akart menni egy boltba, de a telefonján lévő, addig zöld Covid-igazolása sárgára váltott, és nem engedték be. Nem tudni, hogy kifejezetten őt akarták-e korlátozni (ez valószínűbb), vagy véletlenül történt mindez. Mindenesetre a filmbéli eseményektől függetlenül korábban egy korrupcióellenes banki tüntetésen mindenki koronavíruskódja egyszerre vörös lett, ami azt mutatja, hogy ezzel az eszközzel időnként éltek a kínai hatóságok.

A gyanús személyek informatikai és kommunikációs eszközeinek feltörése, kémkedés, lehallgatás ezek segítségével – feltehetően ez is bevett gyakorlat lehet Kínában (a Pegasus szoftver képességeit ismerve elég nagy a valószínűsége, hogy hasonló eszköz Kínában is létezhet). De feltételezés szintjén is csak egyszer jelenik meg a filmben, hogy valakinek a telefonját követhették, amikor hosszabb útra ment (ezért feltehetően mindenki repülő üzemmódba rakja a telefonját és nem telefonál). A filmben 2000 kilométert utaztak a szereplők autóval a fogvatartott férj vélt börtönéhez, hogy meglátogassák, de ott már rendőrök várták őket, akik tagadták ugyan, hogy miattuk lennének ott, de ez elég nyilvánvalónak tűnt. Egy másik jelenetben egy szereplő vélhetően poloskát keresett a lakásában^*Nem mondják el, csak egy jelenet mutatja, hogy körbejár a lakásában egy villogó eszközzel..

Ugyancsak feltételezés, hogy besúgók lehetnek mindenhol, akiket a kamerarendszer adatai alapján riasztanak és odaküldenek, ahol valami gyanús történik. Például az egyik főszereplő elmegy a férje szüleinek elhagyatott házához, ahol korábban házi őrizetben tartották a férjét, de pár percen belül megjelenik egy kíváncsi szomszéd, és zavartan próbálja elmondani, miért pont akkor tűnt fel a hónapok óta lakatlan háznál, amikor a film szereplője is. Feltehető továbbá, hogy elemzik a gyanús személyek viselkedését, kommunikációs stílusát is – például egy 2019-es hongkongi tüntetések miatt megfigyelt újságíróét, aki szintén főszereplője a filmnek, összekötöttek egy általa írt szöveggel csak annak stílusa miatt.

Végül, amikor letartóztatnak valakit, akkor leveszik a biometrikus adatait, hangját, beszkennelik a retináját (feltehetően az arcképét is), ujjlenyomatát. Ezeket később felhasználják, például, ha a kínai TikTokra (Douyin) olyan videó kerül fel bárkinek a profiljára, amiben ilyen személy arca szerepel, akkor törlik a videót és felfüggesztik a felhasználó fiókját, illetve figyelmeztetik a szabályok megszegéséért. Ugyanakkor nem közlik az érintettel, hogy miért törölték a videót, de kísérletezéssel rá tudtak jönni a film szereplői, hogy feltehetően az arcuk lehet tiltólistán.

A kiismerhetetlenség és a hibriditás a rendszer lényege

A fentieket olvasva átfogónak és szisztematikusnak tűnhet a kínai társadalmi kreditrendszer bemutatása, viszont ezek szétszórva szerepelnek a film különböző részein, és több órámba telt összegezni őket. Sajnos ezek nincsenek igazán jól összekötve vagy elmagyarázva, és a film egészének csak töredékét teszik ki. Nekem először teljesen hiányzott a narráció vagy egy-két szakértő megszólaltatása, vagy független tanulmányok, adatok, infografikák szerepeltetése, amik felemelnék az egyes szereplők mikroszintjéről a történetet, és képesek lennének a big data rendszer kialakulását, működését, várható jövőjét szisztematikusan bemutatni.

Viszont a filmet másodszor is megtekintve azt gondolom, hogy ez szándékos. A rendező kifejezetten az egyén szintjéről láttatja ezt a rendszert. Az egyénéről, akinek nincs erőforrása a rendszer természetének kiismerésére, emiatt reménytelen a küzdelme, de folyamatosan próbálkozik, hogy megértse, hogyan működik az, hogy adaptálódni tudjon hozzá. Mindez egy idő után felőröli az ellenállást, a kilátástalanság és a ketrecbe zártság érzetét kelti, ahol nem lehet elbújni a kíváncsi tekintetek elől. Végeredményben a kafkai Kastély nyomasztó világát látjuk életre kelni a főszereplők révén, ahol az ember birokra kel az embertelenség gépezetével. A film ugyanis nem a technológiai rendszerről vagy annak kialakulásáról, hanem ennek emberi oldaláról szól: milyen hatása van a benne élőkre, hogyan élik meg ennek működését. A rendszer és az elnyomás része az is, hogy nem teljesen világosak a határok és a szabályok (ki figyel meg és miért, pontosan mit vár el és mit büntet), ettől lesz még inkább kafkai ez az egész.

A kiismerhetetlenségen túl fontos az is, hogy a totális megfigyelőrendszer nem egyszerűen csak a technológiáról szól, hanem az emberek és a technológiák bonyolult együttműködéséről. Ennek részesei a megfigyeltek is, akik öncenzúrázzák magukat, a tömbmegbízottak és az önkéntesek, akik saját munkájukkal és adatokkal egészítik ki a rendszert, illetve a fejlesztők, akik javarészt láthatatlanok maradnak a filmben. Ez egy hibrid rendszer, amit emberek és technológiák együttműködése tart mozgásban.

Erre jó példa, amikor az egyik főszereplőt és családját (aki nem áll házi őrizet alatt, de korábban évekig börtönben volt ügyvédi tevékenysége miatt) egyszerűen nem engedik ki a lakásából: amikor egy nagykövetségi rendezvényre kellene mennie, ott ül a lakás bejárata előtt három-négy ember a folyosón és egyszerűen eltorlaszolják az utat. Az ajtaját folyamatosan egy kamera figyeli, feltehetően lehallgatják az eszközeit, mozgását követik – de mégsem egy láthatatlan rendszer akadályozza meg, hogy elmenjen otthonról, hanem a rendszer részét képező emberek.

Végezetül, bár mi itt Nyugaton egységesnek látjuk ezt a rendszert, valójában még széttagolt, és a mesterséges intelligenciát is sokkal kisebb mértékben használja, mint feltételezzük. Viszont egységesítési törekvések feltehetően vannak egy teljes, minden lakosra és területre kiterjedő átfogó rendszerre, ami felsőbb szinten összekapcsolja, átjárhatóvá teszi a már létező rendszereket. Az is várható, hogy az MI fejlődésével az algoritmusok egyre hatékonyabbak lesznek, az arcfelismerésen túl mintázatokat keresnek az állampolgárok mozgásában, az általuk közzétett tartalmakban, tevékenységekben, és minden gyanúsra felhívják a figyelmet.

Szóval már így is rendkívül nyomasztó a Kínában kialakult totális digitális megfigyelőrendszer, de lesz ez még rosszabb.

Mi ennek az egésznek a tétje?

Tavaly jelent meg Mustafa Suleyman és Michael Bhaskar könyve a mesterséges intelligencia és a kapcsolódó technológiák kordában tartásának szükségességéről. Fő tézisük, hogy ezek a technológiák alapjaiban veszélyeztetik az emberi együttélés jelenlegi módját, és nem azért, amire mindenki elsőre gondol – nem a gépek lázadásától kell rövid távon félni. Az új technológiák kísértése a hatalmat bírók számára egy totális megfigyelő állam kiépítésének lehetősége – ha szépen akarom mondani, akkor ez az adatvezérelt, gondoskodó, a rendet és a biztonságot az együttműködő állampolgároknak garantáló állam.

Mindez egy újfajta leviatán digitális szörnyállam létrejöttét vetíti előre, amire egyre inkább példa lesz Kína. A film fő üzenete így számunkra az a kérdés, hogy akarunk-e ilyen jövőt itt Európában, és ha nem, akkor mit teszünk, mit tehetünk az elkerülése érdekében.

Akit mégis inkább a kínai társadalmi kreditrendszer érdekel és nem annyira a benne élő emberek képe erről, annak a Deutsche Welle 42 perces dokumentumfilmjét ajánlanám 2021-ből, ami szabadon elérhető a YouTube-on (angol narrációval).

Kapcsolódó cikkKapcsolódó cikkMeg kell erősödnünk fejben, hogy túléljük a dezinformáció korátA mesterséges intelligenciában még vadnyugat van, de közben már a kínai totális megfigyelés ellen kellene a Nyugatnak etikus víziót adni. Interjú Tilesch György MI-szakértővel.

Kapcsolódó cikkKapcsolódó cikkNincs többé magánéletAz arcfelismerő technológia napról napra lesz egyre jobb, olcsóbb és veszélyesebb. Olyan, mint az atomenergia: rossz kezekbe kerülve elképesztő károkat okozhat. Például ha a hatalom a saját polgárai ellen használja a csúcstechnológiát.

Kapcsolódó cikkKapcsolódó cikkLeszerelik a kínai gyártású kamerákat a középületekről AusztráliábanElvesztette az ausztrál kormány a bizalmát a kínai gyártók biztonságtechnikai termékeivel szemben.

G7 támogató leszek! Egyszeri támogatás / Előfizetés

Tech Világ diktatúra Kína megfigyelés megfigyelő állam megfigyelő technológia mesterséges intelligencia Olvasson tovább a kategóriában