Rozvoj systémov umelej inteligencie (AI), ktoré dokážu rýchlo generovať sofistikované obrázky, sprevádza explózia „znepokojivo realistických“ snímok ukazujúcich sexuálne vykorisťovanie detí. Zistil to denník The Washington Post (WP). Ako tento obsah vzniká, nie je vždy úplne jasné, podľa činiteľov americkej vlády je však ich šírenie nelegálne.
Na takzvanom dark webe, teda časti internetu prístupnej iba prostredníctvom špeciálnych prehliadačov, možno dohľadať tisíce umelo vytvorených snímok, na ktorých deti vykonávajú sexuálne akty, píše WP. Niektorí používatelia na internete zdieľajú tiež detailné inštrukcie, ako si ich môžu pedofili vygenerovať sami.
Istý analytik vývoj podľa amerického denníka označil za „predátorské závody v zbrojení“. Medzi odborníkmi, ktorí sa zaoberajú ochranou detí pred zneužívaním, narastajú obavy, že nový fenomén bude komplikovať pátranie po obetiach. A to preto, že systém zaplaví nový obsah.
„Identifikácia obetí je už tak hľadaním ihly v kope sena, pri ktorom sa polícia snaží nájsť dieťa v ohrození,“ povedala Rebecca Portnoffová. Portnoffová vedie dátovú analýzu v neziskovej organizácii Thorn.
Združenie pracujúce na ochrane detí pozoruje od vlaňajšej jesene narastajúci výskyt falošných obrázkov. „To, ako je ľahké tieto nástroje používať, znamená významný posun, ako aj realizmus (výstupov). Zo všetkého sa proste stáva väčšia výzva,“ myslí si Portnoffová.
Vzostup syntetickej detskej pornografie je ďalším z dôsledkov vývoja na poli takzvanej generatívnej umelej inteligencie. Týmto termínom sa označujú systémy, ktoré na základe „tréningu“ na obrovských množstvách dát dokážu vytvárať zdanlivo originálne výstupy. A to vo forme textov či obrázkov v reakcii na zadanie užívateľa. Do povedomia širokej verejnosti sa dostali najmä vďaka sprístupneniu chatovacieho programu ChatGPT vlani na jeseň.
Generovanie falošných snímok
Ku generovaniu obrázkov sa najčastejšie používajú programy Stable Diffusion, DALL-E alebo Mindjourney, ku ktorému pritiahli pozornosť falošné snímky amerického exprezidenta Donalda Trumpa či pápeža Františka.
Tieto voľne dostupné aplikácie umožňujú v priebehu niekoľkých sekúnd vytvárať presvedčivo vyzerajúce obrázky na najrôznejšie motívy. Vychádza pri tom z miliárd snímok prevzatých z internetu, medzi ktorými sú aj fotografie skutočných detí, píše WP.
Podľa denníka nie je z príspevkov v skrytých internetových fórach vždy jasné, ako boli sexuálne výjavy s deťmi vygenerované. Podozrenia expertov však mieria na nástroje z kategórie „otvoreného softvéru“, ako je Stable Diffusion.
„Ktokoľvek si môže tento nástroj stiahnuť do svojho počítača a používať ho, ako sa mu zachce. Z väčšej časti sa pritom vyhne firemným pravidlám a dohľadu,“ vysvetľuje článok.
Spoločnosť Stability AI, ktorá program prevádzkuje, vo vyhlásení uviedla, že tvorbu obrázkov s deťmi v sexuálnom kontexte zakazuje. Z dát, na ktorých je jej program vycvičený, údajne odstránila citlivé snímky v snahe obmedziť „schopnosť zlých aktérov generovať obscénny obsah“.
DALL-E a Midjourney môžu užívatelia na rozdiel od svojho konkurenta používať iba cez firemné kanály. Tvorba sexuálneho obsahu je na nich však zakázaná.
Výskyt syntetickej detskej pornografie začal tiež debaty o tom, či tieto obrázky porušujú americké zákony o ochrane detí, keď zobrazujú imaginárne osoby.
„Činitelia ministerstva spravodlivosti, ktorí bojujú proti zneužívaniu detí, hovoria, že takéto obrázky sú stále nelegálne. Nedokázali však uviesť žiadny prípad, v ktorom by podozrivý za ich vytvorenie čelil obvineniam,“ napísal WP.
