Americkí federálni prokurátori zintenzívňujú stíhanie prípadov súvisiacich s používaním umelej inteligencie na vytváranie obrázkov sexuálneho zneužívania detí. Nové technológie vyvolávajú obavy, že AI môže podporiť nárast nezákonného obsahu a normalizovať jeho tvorbu. Prípady, ako sú tie proti Stevenovi Andereggovi a Sethovi Herrovi, predstavujú právne nejasné územie, kde súdne precedensy ešte len vznikajú.
Americkí federálni prokurátori zintenzívňujú stíhanie podozrivých, ktorí používajú nástroje umelej inteligencie na manipuláciu alebo vytváranie obrázkov sexuálneho zneužívania detí, pretože orgány činné v trestnom konaní sa obávajú, že táto technológia by mohla podnietiť prílev nezákonného materiálu.
Ministerstvo spravodlivosti USA tento rok začalo dve trestné konania proti obžalovaným, ktorí sú obvinení z používania generatívnych systémov umelej inteligencie, ktoré vytvárajú text alebo obrázky v reakcii na podnety používateľa, na vytváranie explicitných obrázkov detí.
"Čaká nás toho ešte viac," povedal James Silver, šéf sekcie počítačovej kriminality a duševného vlastníctva na ministerstve spravodlivosti, a predpovedal ďalšie podobné prípady.
"Znepokojuje nás normalizácia," povedal Silver v jednom z rozhovorov. "Umelá inteligencia uľahčuje vytváranie takýchto obrázkov a čím viac ich bude, tým viac sa to bude normalizovať. To je niečo, čo chceme naozaj obmedziť a predísť tomu."
Rozmach generatívnej umelej inteligencie vyvolal na ministerstve spravodlivosti obavy, že táto rýchlo sa rozvíjajúca technológia sa bude využívať na kybernetické útoky, zvýši sofistikovanosť podvodníkov s kryptomenami a naruší bezpečnosť volieb.
Prípady sexuálneho zneužívania detí sú jednými z prvých prípadov, keď sa prokurátori pokúšajú uplatniť existujúce zákony USA na údajné zločiny s účasťou umelej inteligencie, a dokonca aj úspešné odsúdenia by mohli čeliť odvolaniam, keďže súdy zvažujú, ako môže nová technológia zmeniť právne prostredie v oblasti zneužívania detí.
Nástup generatívnej umelej inteligencie vyvolal na ministerstve spravodlivosti obavy, že táto rýchlo sa rozvíjajúca technológia sa bude využívať na kybernetické útoky, zvýši sofistikovanosť podvodníkov s kryptomenami a naruší bezpečnosť volieb.
Prípady sexuálneho zneužívania detí sú jednými z prvých prípadov, keď sa prokurátori pokúšajú uplatniť existujúce zákony USA na údajné zločiny s účasťou umelej inteligencie, a dokonca aj úspešné odsúdenia by mohli čeliť odvolaniam, keďže súdy zvažujú, ako môže nová technológia zmeniť právne prostredie v oblasti zneužívania detí.
To je len zlomok priemerného počtu 3 miliónov mesačných hlásení o celkovom zneužívaní detí online, ktoré skupina dostala v minulom roku.
Prípady súvisiace s AI-generovanými sexuálne explicitnými obrázkami, kde nie je zobrazené identifikovateľné dieťa, predstavujú právnu výzvu. Americké zákony o detskej pornografii sa na takéto prípady nevzťahujú, no obžalovaní môžu byť stíhaní za obscénnosť. Steven Anderegg a Seth Herrera čelia obvineniam za použitie AI modelov na vytváranie takýchto obrazov, no obaja tvrdia, že ich práva boli porušené.
Zatiaľ čo explicitné zobrazenia reálnych detí sú zákonom jasne trestné, AI-generované obrazy predstavujú právne nejasné územie. Zároveň technologické spoločnosti pracujú na prevencii tvorby takéhoto materiálu.
Pre používanie spravodajstva Netky.sk je potrebné povoliť cookies