Správy z vášho kraja:
15. 03. 2019 13:53 | BRATISLAVA/tvnoviny.sk

Umelá inteligencia je jediná možnosť, ako bojovať s nevhodným obsahom, tvrdí odborník

Kto a ako vyhodnocuje obsah na Facebooku, sme pýtali Róberta Szabóa.

Róbert Szabó
Róbert Szabó Foto: PS:DiGITAL

Mnohí kritizovali sociálnu sieť Facebook, že na streamovanie útoku na Novom Zélande zareagovala príliš neskoro. A nestalo sa to po prvýkrát. Ako to funguje a kto vyhodnocuje obsah na Facebooku? Ako sa dá podobným prípadom zabrániť? Aj to sme sa opýtali odborníka na sociálne siete Róberta Szabóa. 

Objavil sa ďalší prípad brutálneho činu, ktorý bol naživo vysielaný na Facebooku. Facebook už v minulosti hlásil, že chce takýmto veciam zabrániť, no nedarí sa to. Prečo?

- Facebook rieši moderovanie obsahu na svojej sieti dvoma spôsobmi. Veľkú časť obsahu sleduje a vyhodnocuje umelá inteligencia, ktorá má svoje rezervy, ďalej využíva aj ľudí na hodnotenie toho, či je obsah vhodný alebo porušuje pravidlá. Stále však ide o obrovské sústo aj pre tohto giganta a toto live video nie je prvé, ktoré nebolo okamžite stiahnuté zo siete. Teoretickú možnosť publikovať nevhodný obsah na sieť má už dnes takmer 2,5 miliardy jeho používateľov.

Robí Facebook naozaj kroky, ktorým by sa dalo podobným veciam predísť?

- Sociálna sieť zrejme bojuje sama so sebou v tom, ako rýchlo a hladko dovolí používateľom zdielať svoj obsah so svetom a zároveň s moderovaním a odhaľovaním nevhodných videí, fotiek a statusov. Problém bude aj v tom, že ak umelá inteligencia rozpozná napríklad zbraň, nemusí z kontextu diania dokázať rozhodnúť, či ide o skutočnú zbraň alebo napríklad záber z počítačovej hry. Pričom najnáročnejší obsah je práve LIVE streaming, kedže systém nedokáže predikovať, čo sa bude diať vo videu.

Ako by sa dalo dosiahnuť to, že by podobné veci neboli vysielané naživo?

- Facebook by mohol začať vytvárať bariéry pre okamžité live streamovanie, napríklad zámerne oneskoriť stream, aby mal systém viac času na zhodnotenie obsahu skôr, ako je dostupný pre ostatných používateľov. Toto riešenie je však veľmi nepravdepodobné, keďže živých videí sú tisíce v tom istom momente. Skôr bude Facebook ďalej pracovať na vývoji ich umelej inteligencie, ktorá časom dokáže odhaliť nevhodný obsah v priebehu sekúnd a možno dokáže predikovať obsah videa na základe viacerých scenárov, ktoré sa naučí rozpoznať.

Keď už sa ale vysielanie spustí, ako Facebook reaguje?

- V tomto konkrétnom prípade bolo video streamované až 17 minút, čo je skutočne veľa. Problém môže byť v tom, že práve ľudia, ktorí posudzujú obsah, sú tomuto obsahu vystavení hodiny každý deň. Najnovšia reportáž magazínu The Verge odhaľuje, že títo ľudia znášajú enormnú psychickú záťaž. Následkom násilného obsahu, ktorý musia x-krát za deň sledovať, sa u nich formujú rôzne poruchy a nevydržia túto prácu robiť dlhodobo. Tým pádom tu zrejme vzniká priestor pre chyby a v live streame ostane nevhodný obsah dlhšie.

Ako rýchlo je Facebook schopný zasiahnuť a video stiahnuť? Stane sa tak ešte počas živého vysielania alebo až po jeho skonćení?

- Obsah dokážu moderátori stiahnuť okamžite, je to súkromná platforma, kde Facebook ovláda každý aspekt. Problém vzniká v reakčnej dobe, ak niečo nezachytí umelá inteligencia, čaká sa zrejme na moderátora, ktorý posúdi obsah. Veľkou pomocou môžu byť reakcie ľudí, ktorí majú vždy možnosť nahlásiť nevhodný obsah a upozorniť moderátorov.

Myslíte si, že aj po dnešku sa v budúcnosti stane prípad, kedy bude podobný útok vysielaný naživo?

- Je to pravdepodobné, aj pri tomto konkrétnom prípade bolo síce live video vysielané na platforme Facebook, no veľmi rýchlo sa záznam rozšíril a video bolo zdielané na ďalšie sociálne siete, kde bolo dostupné aj po tom, ako Facebook live video stiahol. Preto je jasné, že problém nevhodného obsahu sa netýka len jednej siete, ale každej platformy, kde majú ľudia možnosť obsah zdielať s ostatnými používateľmi. Myslím si, že v budúcnosti sa môžu podobné situácie opakovať častejšie, jediná možnosť moderovania obsahu, ktorého už bude len viac, je umelá inteligencia, ktorá dokáže reagovať okamžite, prípadne dokáže predikovať obsah, podľa situácie vo videu.

Komentáre ( 0)

 

VIAC Z Domáce