Hírlevél feliratkozás
Torontáli Zoltán
2019. július 15. 11:17 Élet

Akaratlanul is mérgező elegyet sikerült gyúrni a YouTube ajánlórendszeréből

Guillaume Chaslot 2010 és 2011 között dolgozott a YouTube ajánlórendszerét futtató algoritmuson, vagyis azon a mesterséges intelligenciát alkalmazó megoldáson, amely az egyes felhasználók számára a szokásaik, és mások szokásai alapján személyre szabott további tartalmakat kínál fel. “Akkoriban ártalmatlan dolognak tűnt az egész, de csaknem egy évtized elteltével már látom, hogy a munkánknak olyan következményei lettek, amelyeket nem akartunk, pedig láthattuk volna előre” – írta most a Wiredben megjelent cikkében.

Az ajánlórendszer célja az, hogy a felhasználó minél több időt töltsön a videómegosztó oldalon, hiszen így növelhető a szolgáltató bevétele. A problémát az okozza, hogy az algoritmus fejlesztésénél szinte kontroll nélkül mindent ennek a célnak vetnek alá.

Februárban elég nagy botrányba keveredett a YouTube, amikor egy felhasználó jelezte, rájött arra, hogy az algoritmus kiválóan összehozza a pedofil hajlamú nézőket azokkal a videókkal, amelyek kommentjei között pedofil tartalmakhoz vezető linkeket osztanak meg egymással a használók. Hasonló érintettség merült fel a YouTube-nál a terrorista tartalmak, a külföldi állami finanszírozású propaganda, vagy a kiskorúak számára tiltott videók terjesztésében is.

Chaslot szerint az a borzasztó, hogy minél több adattal és minél jobban dolgozik a rendszer, annál hatékonyabb lesz ezekben a problémás esetekben is. Az igazi veszélyt pedig abban látja, hogy ha annyira okossá válik a rendszer, hogy tényleg csak azoknak ajánlja az adott tartalmat, akiket érdekel, akkor például egy fent említett pedofil csoport soha nem fog lebukni, mert csak azok találnak rá a tartalomra, akik nem érdekeltek a visszaélések jelentésében.

A februári esetben is egy felhasználó jelezte a problémát, talán azért, mert az ajánló nem mérte fel tökéletesen a böngészési előzményeit, és olyan embereknek is feldobta a pedofil kommentelés lehetőségét, akiket nem érdekelt ez a fajta tartalom.

Mindez azonban általánosságban is súlyos problémákat okozhat. Ha a YouTube-on belül olyan teljesen zárt közösségek alakulnak ki, ahol idővel mindenki csak a világ egyfajta narratíváját látja, akkor a tagok könnyen csapdába kerülhetnek. A témában végzett kutatások szerint ugyanis ilyenkor fennáll a veszélye annak, hogy a felhasználó világlátása beszűkül, és irányíthatóvá válik.

A rendszer (feedback loop) egyébként így működik:

  1. Minél több időt tölt egy felhasználó a platformon, annál nagyobb mértékben veszi figyelembe a szokásait az ajánló algoritmus.
  2. Az ilyen nagyfelhasználók által kedvelt tartalmak nézettsége emelkedik.
  3. A tartalomkészítők olyan újabb videókat készítenek, amelyek hasonlóak a nagy nézettségű anyagokhoz.
  4. A felhasználók még több időt fognak tölteni az ilyen tartalmak nézésével (ezzel visszaérkeztünk az 1-es ponthoz).

A tapasztalatok szerint a felhasználók általában csak akkor jelzik, hogy problémás tartalmakat látnak, amikor már sok időt töltöttek el vele, és ekkor már késő. Az algoritmusnak ugyanis ekkor már megadták a pozitív visszajelzést a hosszas elköteleződésükkel, és nincs visszaút, beindul a körforgás. A rendszer másoknak is ajánlani fogja a tartalmat, és a készítők is azt fogják látni, hogy nagy igény van a hasonló videókra. Ezért fordulhat elő, hogy még a legjobb mesterséges intelligencia rendszerek is könnyű szerrel tolják előtérbe a hamis vagy tilos tartalmakat.

Kapcsolódó cikkKapcsolódó cikkEgy balatoni faluban élő házaspár uralja a magyar YouTube-otDancsó Péter és PamKutya videóit összesen nem látták annyian, mint a KerekMeséit. Cégportrénkból az is kiderül, mennyi pénzt hoz a legnagyobb magyar Youtube oldal.

Kapcsolódó cikkKapcsolódó cikkA Youtube tisztán üzleti érdekből őrjíti meg az emberiségetA videomegosztón belül évek óta nyílt titok, hogy elképesztően káros, ahogyan az ajánlórendszerük működik. Mégsem csináltak semmit, mert üzletileg nem éri meg.

Élet ajánlórendszer feedback loop videó YouTube Olvasson tovább a kategóriában

Élet

Torontáli Zoltán
2019. december 15. 13:26 Élet, Vállalat

Miután öt órára csökkentették a napi munkaidőt, sokan felmondtak

A munkahely elvesztette a fontosságát, és túl sok idejük maradt arra, hogy rájöjjenek, igazság szerint más munkát szeretnének végezni.

Torontáli Zoltán
2019. december 14. 12:47 Élet

A béna YouTube feldolgozások is az eredeti előadók zsebét tömik

A zenészek szempontjából a számok ismertségének növelése hasznosabb, mint az ingyenes hallgatás és az amatőr koncertfelvételek miatti bevételkiesés. A YouTube jó a zenészeknek, a bakelitpiacot pedig egyszerűen hidegen hagyja.

Avatar
2019. december 13. 17:11 Élet

Az oltásellenesek visszaélnek azzal, hogy a többség beoltatja magát

El lehet kerülni egy kicsit kellemetlen élményt, ha a többiek nagy része keresztülmegy rajta. Klasszikus potyautas probléma az oltásellenesség.

Fontos

Jandó Zoltán
2019. december 13. 06:57 Vállalat

Vajna Tímea túl akart adni öröksége egy fontos részén, de a bíróság közbelépett

Osztatlan közös tulajdont csináltak volna a cégből, de a cégbíróság nem engedte. Közben a vállalat meg is szűnhet, mivel fél éve késik a beszámolójával.

Bucsky Péter
2019. december 12. 16:22 Közélet

Kormányközeli üzleti körök tarolták le a közéleti lapok piacát, aztán állami pénzből tőkésítik fel

Nagy pénzt lehet csinálni közéleti nyomtatott lapokkal Magyarországon. A baj csak az, hogy a nyereség forrása túlnyomó részt az állami támogatás.

Torontáli Zoltán
2019. december 12. 14:16 Világ

A német ipar elkezdte legalább annyira ellenezni a Green Dealt, mint Magyarország

Ismét egymásra találhatnak a kelet-európai államok és a német autóipar. A tagállamok a szenes erőműveik miatt, a németek pedig a várható elbocsátások, illetve a belsőégésű motorok gyors kimúlása miatt ellenzik az emisszió visszafogásának felgyorsítását.