Niebezpieczne rozmowy z Gemini. Rodzice 13-latki poszli do sądu

Rodzice 13-letniej uczennicy z Karoliny Północnej w USA wnieśli pozew przeciwko firmie Google. Twierdzą, że sztuczna inteligencja Gemini zainstalowana na szkolnym Chromebooku pomagała ich córce w planowaniu odebrania sobie życia. Nastolatka przez kilka miesięcy wymieniała z czatbotem tysiące wiadomości dotyczących lęków i depresji, co przerodziło się w "zagrażającą życiu obsesję". Opiekunowie nie wiedzieli o dostępie do oprogramowania, a systemy bezpieczeństwa platformy nie wygenerowały alertów kryzysowych. O zagrożeniu powiadomiło dopiero oprogramowanie do monitorowania sieci szkolnej.