Instagram sa včera dostal pod paľbu kritiky, keď sa používateľom v sekcii Reels začali zobrazovať násilné a grafické videá, vrátane zobrazení vrážd a ďalších násilných činov. Incident vyvolal obavy o účinnosti moderovania obsahu.
Včera sa na sociálnej sieti Instagram objavil incident, ktorý vyvolal veľké znepokojenie medzi používateľmi. Mnohí hlásili, že sa im v sekcii Reels začali zobrazovať násilné a sexuálne videá, ktoré zobrazovali často aj vraždy a násilné činy kartelov. Obsah sa objavil aj napriek tomu, že mnohí používatelia mali nastavené najvyššie úrovne citlivosti, ktoré by mali blokovať zobrazenie podobného materiálu.
Problém vyvolal veľa negatívnych reakcií, pretože ľudia očakávajú, že platforma, ako je Instagram, bude dôkladne kontrolovať obsah, ktorý je im odporúčaný, najmä v oblasti násilia a citlivých tém.
Spoločnosť Meta, ktorá je materskou firmou Instagramu, okamžite zareagovala a ospravedlnila sa za tento incident. Podľa oficiálneho vyhlásenia bola chyba spôsobená technickým problémom, ktorý spôsobil, že sa nevhodný obsah dostal k používateľom, aj keď mali nastavené prísne filtre na citlivý obsah. Meta zdôraznila, že problém bol opravený a vyjadrila ľútosť nad tým, že sa tento obsah dostal k ľuďom, ktorí ho nemali vidieť.
Hovorca spoločnosti dodal, že Meta neustále pracuje na vylepšení svojich systémov, aby podobné problémy už nenastávali. Technologické giganty môžu čeliť problémom s moderovaním obsahu, čo vyvoláva otázky o efektívnosti ich nástrojov na zabezpečenie bezpečného prostredia pre používateľov.
Tento incident zdôrazňuje neustále problémy, ktorým čelí spoločnosť Meta a ďalší poskytovatelia sociálnych sietí pri moderovaní obsahu. Instagram, rovnako ako iné platformy, sa spolieha na zložité algoritmy na detekciu nevhodného obsahu, ale aj na zásahy moderátorov, ktorí tento obsah manuálne kontrolujú. Aj keď tieto systémy sú neustále vylepšované, nie sú nezraniteľné voči chybám.
Algoritmy, ktoré sa využívajú na filtrovanie obsahu, majú svoje limity a môžu občas neúmyselne neodstrániť nevhodný obsah alebo naopak, môžu blokovať obsah, ktorý nie je nevyhnutne škodlivý. Tento problém ukazuje, že aj s najnovšími technológiami a postupmi nie je možné úplne predísť zobrazovaniu nežiaduceho obsahu.
Navyše, sociálne siete čelí výzve spojiť efektívnu ochranu pred nevhodným obsahom s ochranou slobody prejavu. Je to obzvlášť citlivá téma, keďže každý zásah do algoritmov môže ovplyvniť rôzne kultúrne, politické alebo sociálne aspekty. Hoci mnohí používatelia volajú po prísnejšej cenzúre, iní varujú pred neprimeraným zásahom do slobody prejavu. Meta sa preto nachádza v obtiažnej pozícii, kde musí vyvažovať tieto dva faktory.
Incident vyvolal medzi používateľmi aj obavy o účinnosť kontrol citlivého obsahu na Instagrame. Aj keď spoločnosť Meta prijala opatrenia na opravu chyby, mnohí používatelia boli sklamaní, že aj pri nastavených vysokých filtroch na citlivý obsah sa im zobrazoval obsah, ktorý by mal byť zablokovaný. Títo používatelia sa pýtali, ako je možné, že takýto obsah nebol detegovaný moderovacími systémami Instagramu, ktoré by mali zabezpečiť, aby sa nevhodný obsah nedostal k širokej verejnosti.
Incident ukázal na potrebu neustáleho vylepšovania systémov automatického rozpoznávania a moderovania, aby sa predišlo podobným problémom v budúcnosti.
Mnoho ľudí si teraz kladie otázku, aké ďalšie technické a personálne opatrenia musí Meta zaviesť, aby zabezpečila, že takýto obsah už nebude ovplyvňovať používateľov, najmä tých najzraniteľnejších. Spoločnosť sa zaväzuje pokračovať v práci na vylepšení svojich nástrojov a postupov, aby sa podobné problémy v budúcnosti neopakovali a aby používatelia mali väčšiu kontrolu nad obsahom, ktorý im platforma odporúča.
Pre používanie spravodajstva Netky.sk je potrebné povoliť cookies