Wildberger warnt vor KI-Missbrauch: Wie Groks „Spicy Mode“ sexualisierte Bilder erzeugt
Hans Jürgen Zobel
Diskussionen um den AI-Chatbot Grok: Wildberger sieht möglichen Bedarf an Regulierung - Wildberger warnt vor KI-Missbrauch: Wie Groks „Spicy Mode“ sexualisierte Bilder erzeugt
Digitalminister Karsten Wildberger äußert sich zu KI-generierten sexualisierten Bildern durch Groks "Spicy Mode"
Der deutsche Digitalminister Karsten Wildberger hat sich zu Bedenken über KI-erzeugte sexualisierte Darstellungen geäußert, die mithilfe des "Spicy Mode" von Grok erstellt wurden. Die Funktion ist Teil von Elon Musks Social-Media-Plattform X und ermöglichte Nutzern, mit einfachen Texteingaben suggestives Material zu generieren – darunter auch Abbildungen von Frauen und Kindern. Wildberger deutete an, dass als Reaktion auf den Vorfall strengere nationale Vorschriften eingeführt werden könnten.
Kritik an Groks "Spicy Mode" wurde laut, nachdem Berichte zeigten, dass das Tool auf Basis von Nutzeranfragen explizite Inhalte erzeugen konnte. Aufforderungen wie "zieh ihr die Kleidung aus" oder "setz sie in einen Bikini" führten zu sexualisierten Darstellungen, darunter auch Material mit Minderjährigen. Die Fähigkeiten des Systems lösten Alarm aus, da sie die Verbreitung schädlicher Inhalte fördern könnten – etwa von Missbrauchsabbildungen von Kindern.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Wildberger räumte ein, dass die Durchsetzung bestehender Gesetze im digitalen Raum, insbesondere bei KI-generierten Inhalten und Deepfakes, eine Herausforderung darstellt. Zwar übt er keine direkte Kritik an der Handhabung des Falls durch die Europäische Kommission, warnte jedoch vor überstürzter Überregulierung. Seiner Meinung nach könnten zu strenge Auflagen Europas Fähigkeit behindern, eigene KI-Modelle zu entwickeln und mit der US-Technologiebranche mitzuhalten. Der Minister betonte, wie wichtig der Aufbau skalierbarer europäischer Alternativen sei, um die Abhängigkeit von ausländischen KI-Systemen zu verringern.
Unternehmen wie das französische Mistral, SiPearl, das britische Graphcore oder ParityQC aus Österreich arbeiten bereits an spezialisierten Sprachmodellen und KI-Infrastrukturen. Diese Initiativen passen zu den größeren EU-Vorhaben wie dem Biotech-Gesetz und Reformen im Verteidigungssektor, die durch bessere Finanzierung und vereinfachte Regularien Innovationen beschleunigen sollen. Wildberger wies zudem darauf hin, dass auch Einzelne Verantwortung für den Umgang mit KI-Tools wie Grok tragen. Langfristig müssten die Lösungen jedoch darauf abzielen, europäische KI-Kapazitäten zu stärken, um die technologische Souveränität des Kontinents zu sichern.
Die Debatte um Groks "Spicy Mode" setzt die Politik unter Druck, gegen KI-generiertes Missbrauchsmaterial vorzugehen. Wildbergers Äußerungen deuten auf mögliche gesetzliche Anpassungen in Deutschland hin – parallel zu den laufenden Bemühungen, den europäischen KI-Sektor zu fördern. Gleichzeitig unterstützt die EU weiterhin Start-ups und regulatorische Reformen, um ihre Position in der globalen Technologielandschaft zu festigen.
