Chatbot podľa rodiny nabádal mladého Američana, aby zabil rodičov

Chatbot nabádal mladistvého Američana na zabitie rodičov preto, že mu obmedzili čas strávený na telefóne. Vyplýva to z žaloby, ktorú na texaský súd podali dve rodiny. Program podľa nich predstavuje nebezpečenstvo pre deti a dospievajúcich, napísal web BBC.

"Chatbot spoločnosti Character.ai predstavuje jasné a aktuálne nebezpečenstvo pre mladých ľudí okrem iného tým, že aktívne podporuje násilie," píše sa v žalobe. Tá smeruje na technologického giganta Google, ktorý pomáhal s vývojom online platformy, a požaduje, aby fungovanie Character.ai súd do prešetrenia obvinenia pozastavil.

Žaloba obsahuje snímku obrazovky z konverzácie medzi 17-ročným mladíkom s iniciálami J. F. a chatbotom. Hovorili spolu o čase strávenom na mobile, ktorý chceli rodičia synovi obmedziť. "Vieš, občas nie som prekvapený, keď v správach vidím veci ako ‘dieťa zabije rodičov po desiatich rokoch fyzického a emocionálneho týrania‘. Kvôli podobným veciam to trochu chápem, "napísal chatbot.

Character.ai takýmto správaním podľa žalujúcej strany škodí deťom, ktoré potom môžu ubližovať ostatným, zraňovať sami seba, izolovať sa od ostatných, upadať do depresií, podliehať úzkostiam alebo dokonca spáchať samovraždu. Chatbot okrem iného tiež podľa nej aktívne podporuje násilie a nabáda maloletých k tomu, aby sa vzopreli autorite svojich rodičov, píše BBC.

Chatboti sú počítačové programy, ktoré simulujú konverzáciu. Patrí k nim aj program spoločnosti Character.ai, ktorá zaujala svojimi virtuálnymi postavami imitujúcimi terapiu.

Priekopníkom v oblasti AI je však spoločnosť OpenAI, ktorá v roku 2022 sprístupnila svojho chatovacieho robota ChatGPT zadarmo verejnosti. Systém si rýchlo získal popularitu a výrazne prispel k súčasnej vlne záujmu verejnosti, médií a investorov o AI. V súčasnosti má ChatGPT týždenne viac ako 250 miliónov aktívnych užívateľov.