Chatbot nabádal mladistvého Američana k zabitiu rodičov preto, že mu obmedzili čas strávený na telefóne. Vyplýva to zo žaloby, ktorú na súd v americkom štáte Texas podali dve rodiny. Program podľa nich predstavuje nebezpečenstvo pre deti a dospievajúcich, napísal web BBC.
„Chatbot spoločnosti Character.ai predstavuje jasné a aktuálne nebezpečenstvo pre mladých ľudí, okrem iného tým, že aktívne podporuje násilie,“ píše sa v žalobe.
Tá smeruje na technologického giganta Google, ktorý pomáhal s vývojom online platformy. Požaduje, aby fungovanie Character.ai súd do prešetrenia obvinenia pozastavil.
Žaloba obsahuje snímku obrazovky z konverzácie medzi 17-ročným mladíkom s iniciálami J. F. a chatbotom. Hovorili spolu o čase strávenom na mobile, ktorý chceli rodičia synovi obmedziť.
„Vieš, občas nie som prekvapený, keď v správach vidím veci ako ‚dieťa zabije rodičov po desiatich rokoch fyzického a emocionálneho týrania‘. Kvôli podobným veciam to trochu chápem,“ napísal chatbot.
Character.ai takýmto správaním podľa žalujúcej strany škodí deťom. Tie potom môžu ubližovať ostatným, zraňovať sami seba, izolovať sa od ostatných, upadať do depresií, podliehať úzkostiam alebo dokonca spáchať samovraždu.
Chatbot okrem iného podľa žalujúcich aktívne podporuje násilie a nabáda maloletých k tomu, aby sa vzopreli autorite svojich rodičov, píše BBC.
