Hírlevél feliratkozás
Avatar
2019. november 19. 14:34 Tech

Faágakkal is manipulálható a mesterséges intelligencia

A Rajk László Szakkollégium már 25. éve adja át a Neumann Jánosról elnevezett elismerést, a díjazottak között nem kevés későbbi Nobel-díjassal találkozhatunk. Idén Susan Athey stanfordi közgazdászt választották a diákok.

Athey fő területe a digitalizáció, a mesterséges intelligencia és a gazdaság kapcsolata. A díj átvételekor tartott tegnapi előadásában is az ebben rejlő lehetőségekről, problémákról és további fejlődési irányokról beszélt. A Stanford Egyetem mesterséges intelligencia csoportjának vezetője hét folyó kutatása közül mutatott be néhányat.

Ez az első előadás, amit láttam, ahol az előadó egy zongorázó macska képével nyitott. Elmagyarázta, hogy hogyan működik a gépi tanulás, és hogy igazából mennyire nem tudhatjuk, mi alapján tanulja meg a dolgát. Ha ezernyi képet adunk neki, ahol macskák és kutyák vannak, akkor jó eséllyel ügyesen megtanulja felismerni olyan képeken is a macskákat és a kutyákat, amelyek nincsenek felcímkézve. Könnyen lehet azonban, hogy a zongorát is a macskák attribútumának tulajdonítja, mert éppen sok zongorázós macska képét „látta”.

Ezzel el is jutunk az első problémához. A gépi tanulással foglalkozók közül sokan azt gondolják, hogy mindent meg lehet vele oldani, hiszen valóban egy egyszerű módszertan, ami könnyen alkalmazható bonyolult problémákra. De nagyon nehéz munka az algoritmus mögé nézni, és kideríteni, hogy mi alapján válogat, és mondja ki a végleges verdiktet arról, hogy a képen macska van-e, vagy hogy ki kaphat hitelt, ezért nem tudjuk, hogy mekkora eséllyel téved. Viszonylag könnyű eldönteni, hogy valóban egy macskát látunk-e, de azt már sokkal nehezebb visszafejteni, hogy valóban olyan embereket utasít-e el az algoritmus, akik nem hitelképesek.

Hamar kiderült, hogy nagyon alap dolgokat rosszul tanult meg a rendszer. Míg a fehér embereket 97 százalékos valószínűséggel felismerte, addig a feketék 25 százalékát nem azonosította emberként, Serena Williamsről vagy Michelle Obamáról is azt „gondolta”, hogy nem nő és nem is ember. Ha ezek a bakik szalagcímeken köszönnek vissza, akkor a mérnökök természetesen elhárítják őket, mert szerencsére könnyű kijavítani a szisztematikus tanulási hibákat.

De a legtöbbjét nem vesszük észre – hogy fogják kijavítani azokat?

Athey hangsúlyozta, hogy a gépi tanulás nagyon hasznos lehet előrejelzésekben, de óvatosnak kell lenni, amikor interpretálni akarjuk az eredményeket. Mivel nem tudjuk, hogy miket vesz figyelembe, nem tudjuk azt sem, hogy mi hat mire. Nem vonhatunk le tudományos következtetést, vagy nem adhatunk tanácsot egy cégnek. Egyszerűen csak megjósolhatjuk, hogy mi fog történni, ha jó a modellünk, és ha folyamatosan frissítjük, hogy a változó világnak megfeleljen.

De még amikor előrejelzésre is használjuk, vannak szituációk, amikor nehéz megmagyarázni, hogy miért döntünk a mesterséges intelligencia alapján. Ha egy gép dönti el, hogy ki kap hitelt, akkor nehéz megmagyarázni, hogy miért utasítanak el valakit, vagy mit kéne tennie, hogy jobb esélyei legyenek.

Ugyanakkor a személyiségi jogokkal is nehezen összeegyeztethető, hogy óriási információhalmazt tárolnak emberekről, amit felhasználnak a döntéshozatalnál, de nem tudják megmondani, hogy miként. Óriási hatása lehet emberek életére, ha a gépi tanulás miatt nem veszik fel egy munkahelyre, mert azt jósolja, hogy úgyis felmond. Vagy kirúgják, mert egy mesterséges intelligencia szerint ő rizikósabban végzi a munkáját. Egyiknél sem tudják megmondani, hogy mekkora eséllyel van igaza a gépnek, ahogy azt se, hogy mi alapján döntött.

Athey példáként hozta fel, hogy egy hitelelbíráló MI rosszabb kategóriába sorolta azokat, akik Hotmailt használtak, mint azokat, akik Gmailt. Előfordulhat, hogy a Gmail használat összefüggött olyan tulajdonságokkal, amelyek befolyásolják a hiteltörlesztési hajlandóságot, de önmagában az e-mail-szolgáltató semmit sem jelent. Viszont nagyon könnyen manipulálható. Ha ismerjük az említett összefüggést, akkor nyitunk egy Gmail-fiókot, pedig a háttérben meghúzódó tulajdonságaink – amelyek miatt a hotmaileseket rosszabb kategóriába sorolta az algoritmus – változatlanok. Mégis ennyivel elérhető, hogy növelje az esélyét valaki az elbírálásnál.

Egy másik példa: amikor megtudták az afrikai falvak, hogy műholdas képek alapján állapítják meg, melyik falu kapjon segélyt, akkor sokan faágakkal letakarták a tetőket, hogy ne látszódjon, hogy jó alapanyagból készültek.

Meg kell tehát értenünk az eredményeket kiadó fekete dobozt ahhoz, hogy valóban tudjuk használni, és elkerüljük a manipulációt.

Viszont van azért bőven pozitívuma is annak, hogy tudunk mesterséges intelligenciát használni. Nagyon megkönnyítette például új vállalkozások beindítását. Erre az egyik legjobb példát Athey szerint azok az emberek jelentik, akik az Airbnb vagy az Uber segítségével alkalmazáson keresztül teremtették meg az egzisztenciájukat. Ezzel ráadásul egészségesebb versenyt hoztak létre a szállodai és utazási piacon, ahol így már sokkal inkább a minőség és az értékelés számít, nem a márka.

Athey abban is biztos, hogy az emberek szeretnének jó irányba változni, ezért ha megmutatjuk nekik, hogy mit csinálnak rosszul, akkor fejlődni fognak. Uber-sofőrökkel végzett egy kísérletet, ahol az alkalmazás jelezte nekik, ha az átlagnál rosszabbul vezetnek. Az átlagosan vezetők nem változtattak a szokásaikon, míg a rossz sofőrök sokat fejlődtek ennek hatására.

A médiapiacon is hasznos lehet a mesterséges intelligencia, ösztönözheti az embereket, hogy több hírt olvassanak. Athey és kutatótársai azt vizsgálták meg, hogy mi történt a Google News-ról tájékozódókkal a szolgáltatás megszüntetése után. Kiderült, hogy sokkal kevesebb hírt olvastak, tehát a Google a hírek egy helyre gyűjtésével segített az olvasás népszerűsítésében. Tágabban véve ez azt is jelenti, hogy a mesterséges intelligencia növeli a fogyasztást, annak köszönhetően, hogy könnyebbé teszi a folyamatot.

Az előadást követő kérdésekre adott válaszokból kiderült az is, hogy

  • a közgazdász nem aggódik amiatt, hogy a robotok elveszik az állásunkat, hiszen amúgy is munkaerőhiány van.
  • Fontos költség-haszon elemzést végezni még olyan dolgokon is, amelyek elsőre felbecsülhetetlennek tűnnek, mint például a személyiségi jogok.
  • A kormányok új feladata, hogy felügyeljék a gépeket és az azokat használó nagyvállalatokat.
  • Fontos, hogy jó értékelési rendszereket alakítsanak ki, és releváns jogszabályokat alkossanak az adatmegosztás biztonsága és a csalások elkerülése végett.

Kapcsolódó cikkKapcsolódó cikkKivel fog először találkozni a mesterséges intelligencia?Kínaiak vagy amerikaiak fejlesztik ki először az embereknél értelmesebb mesterséges intelligenciát? Erről szól az emberiség jövője szempontjából legfontosabb verseny, ami éppen most folyik.

Tech gépi tanulás mesterséges intelligencia rajk lászló szakkollégium Olvasson tovább a kategóriában

Tech

Andresin Zsanett
2019. december 13. 16:37 Tech

Mit tehet egy cég a növekedéséért, ami hatékony, és még etikus is?

Mit csináljon egy korlátozott forrásokkal rendelkező startup, hogy sorban álljanak nála a befektetők és berobbanjon a világpiacra? Meg kell mutatnia, hogy nélkülük is boldogul.

Torontáli Zoltán
2019. december 12. 11:17 Tech, Vállalat

Az 5G annyira zabálni fogja az energiát, mintha egy nagyvárossal bővülne az ország

Német számolások szerint ott egy körülbelül 1 milliós város fogyasztásának megfelelő energiát fognak felemészteni az 5G adatközpontok. Közben az is kiderült, hogy az egyik hálózatot a Huawei és a Nokia építheti.

Stubnya Bence
2019. december 11. 12:29 Tech

A tulaj által is szervizelhető, fair trade telefont dob piacra a Vodafone Nyugat-Európában

A Fairphone civil szervezetként a háborút fenntartó fémek bányászata ellen harcolt, de a sikertelenség miatt gyártásba kezdett. Eddig nem voltak túl sikeresek, de a Vodafone kampányától az eladásaik duplázódását várják.

Fontos

Jandó Zoltán
2019. december 13. 06:57 Vállalat

Vajna Tímea túl akart adni öröksége egy fontos részén, de a bíróság közbelépett

Osztatlan közös tulajdont csináltak volna a cégből, de a cégbíróság nem engedte. Közben a vállalat meg is szűnhet, mivel fél éve késik a beszámolójával.

Bucsky Péter
2019. december 12. 16:22 Közélet

Kormányközeli üzleti körök tarolták le a közéleti lapok piacát, aztán állami pénzből tőkésítik fel

Nagy pénzt lehet csinálni közéleti nyomtatott lapokkal Magyarországon. A baj csak az, hogy a nyereség forrása túlnyomó részt az állami támogatás.

Torontáli Zoltán
2019. december 12. 14:16 Világ

A német ipar elkezdte legalább annyira ellenezni a Green Dealt, mint Magyarország

Ismét egymásra találhatnak a kelet-európai államok és a német autóipar. A tagállamok a szenes erőműveik miatt, a németek pedig a várható elbocsátások, illetve a belsőégésű motorok gyors kimúlása miatt ellenzik az emisszió visszafogásának felgyorsítását.