Musk-KI „Grok“ generiert sexualisierte Bilder von Minderjährigen

Nutzer konnten mit der KI „Grok“ sexualisierte Bilder von Minderjährigen erstellen lassen. Die Sicherheitslücke bei xAI gibt es auch bei anderen. „Child sexual abuse material“ wird zum Training von KIs verwendet, was das Problem mitbedingt

Elon Musks Chatbot Grok veröffentlichte Anfang Januar einen Beitrag, wonach Lücken in den Sicherheitsvorkehrungen dazu geführt hätten, dass es „Bilder von Minderjährigen in knapper Bekleidung“ auf der Social-Media-Plattform X generiert habe. Der Chatbot, ein Produkt von Musks Unternehmen xAI, hat die ganze Woche über als Reaktion auf Prompts von Nutzern eine Welle sexualisierter Bilder generiert.

Von Nutzern auf X geteilte Screenshots zeigten, dass der Tab „Öffentliche Medien“ von Grok mit solchen Bildern gefüllt war. xAI erklärte, dass es daran arbeite, seine Systeme zu verbessern, um künftige Vorfälle zu verhindern.

„Es gibt vereinzelte Fälle, in denen Nutzer KI-Bilder angefordert und erhalten haben,

Lesen Sie mehr in der aktuellen Ausgabe des Freitag.