Die Europäische Union verschärft ihren Kampf gegen missbräuchliche Anwendungen von Künstliche Intelligenz drastisch. Vertreter der EU-Mitgliedstaaten und des Europäischen Parlaments einigten sich in nächtlichen Verhandlungen auf ein Verbot von KI-Anwendungen für Porno-Deepfakes und sexualisierte Bildmanipulationen.
Die neuen Regeln sollen bereits am 2. Dezember in Kraft treten. Ziel ist es, Systeme zu stoppen, die pornografische oder intime Darstellungen von Menschen ohne deren Zustimmung erzeugen können. Besonders im Fokus stehen Inhalte mit kinderpornografischem Material sowie sogenannte Deepfakes identifizierbarer Personen.
Künftig müssen KI-Systeme mit technischen Sicherheitsmechanismen ausgestattet sein, die verhindern, dass solche Inhalte erstellt werden können. Damit reagiert die EU auf eine massive Welle von Missbrauchsfällen im Internet.
Auslöser waren unter anderem Vorfälle rund um den KI-Chatbot Grok des US-Milliardärs Elon Musk. Nutzer hatten Anfang des Jahres millionenfach sexualisierte KI-Bilder von Frauen und Kindern erstellt und verbreitet. Mehrere Staaten und die EU-Kommission leiteten daraufhin Untersuchungen ein, einige Länder sperrten den Chatbot zeitweise.
Das Vorgehen in Brüssel ergänzt nationale Initiativen wie jene von Stefanie Hubig. Die deutsche Bundesjustizministerin hatte Anfang des Monats vorgeschlagen, das Erstellen und Verbreiten pornografischer Deepfakes künftig mit bis zu zwei Jahren Haft zu bestrafen. Hintergrund ist eine bisherige Gesetzeslücke: Das bloße Erstellen manipulierter pornografischer Inhalte war bislang in Deutschland nicht eindeutig strafbar.
Die Einigung ist Teil einer umfassenden Reform des europäischen KI-Gesetzes. Während die EU bei Porno-Deepfakes härter durchgreift, werden andere Regeln zeitlich verschoben. Vorgaben für sogenannte Hochrisiko-KI-Systeme – etwa im Sicherheits- oder Gesundheitsbereich – treten später in Kraft als ursprünglich geplant.
Für autonome Hochrisiko-KI-Systeme sollen die Regeln nun ab Dezember 2027 gelten, für integrierte Systeme ab August 2028. Die endgültige Zustimmung von Parlament und Mitgliedstaaten gilt nach Abschluss der Verhandlungen als Formsache.
Die Entscheidung markiert einen der bisher härtesten Schritte weltweit gegen missbräuchliche KI-Technologie – und könnte internationale Signalwirkung entfalten.
OZD/AFP
OZD-Kommentar – Die digitale Wildwest-Zeit endet
Die EU reagiert spät, aber entschlossen. Porno-Deepfakes sind längst
kein Randproblem mehr, sondern ein massives Werkzeug digitaler
Demütigung und Manipulation. Besonders Frauen, Minderjährige und
öffentliche Personen werden gezielt attackiert. Die Technik entwickelt
sich schneller als die Gesetze – und genau darin lag bisher die Gefahr.
Die Prognose: Die neuen Regeln werden nicht alle Missbrauchsfälle
verhindern, aber sie setzen erstmals klare Grenzen für KI-Plattformen
und Entwickler. Der globale Druck auf Tech-Konzerne wird dadurch massiv
steigen.
Historischer Hintergrund:
Künstliche Intelligenz
entwickelt sich seit Jahren rasant weiter. Mit sogenannten
Deepfake-Technologien können täuschend echte Bilder, Videos und Stimmen
künstlich erzeugt werden. Die Europäische Union
verabschiedete 2024 erstmals ein umfassendes KI-Gesetz, um Risiken der
Technologie zu regulieren. Besonders sexualisierte Deepfakes rückten
international in den Fokus, nachdem Plattformen und Chatbots massenhaft
missbraucht wurden.
Zukunftsprognose:
Die neuen EU-Regeln könnten weltweit zum Vorbild werden. KI-Unternehmen
werden ihre Systeme technisch stärker absichern müssen. Gleichzeitig
dürfte die Debatte um Meinungsfreiheit, Innovation und Überwachung
weiter eskalieren. Strafverfahren gegen Nutzer und Plattformen könnten
künftig deutlich zunehmen. Auch andere Staaten außerhalb Europas dürften
den regulatorischen Druck auf KI-Anwendungen verschärfen.
Gewinnspiel:
Was will die EU künftig bei KI-Systemen verhindern?
A) Wettervorhersagen
B) Porno-Deepfakes
C) Online-Shopping
D) Videospiele
Jetzt teilnehmen:
https://www.online-zeitung-deutschland.de/a/46220/das-tolle-gewinnspiel-2026-gutscheine-zu-gewinnen
Mini-Infobox:
– EU verbietet KI für Porno-Deepfakes
– Inkrafttreten am 2. Dezember
– Sicherheitsmechanismen für KI verpflichtend
– Deutschland plant Haftstrafen bis zu zwei Jahren
OZD-Analyse:
Regulierung von KI
– EU verschärft Kontrolle über Deepfake-Technologien
Politische Ziele
– a) Schutz von Persönlichkeitsrechten
– b) Kampf gegen digitale Gewalt
– c) Einschränkung missbräuchlicher KI-Anwendungen
Folgen
– Mehr Verantwortung und technische Pflichten für KI-Anbieter
Erklärungen:
Was sind Deepfakes?
Digital manipulierte Bilder, Videos oder Stimmen, die mithilfe von KI täuschend echt erzeugt werden.
Was ist das EU-KI-Gesetz?
Ein europäisches Regelwerk zur Kontrolle und Regulierung von Anwendungen Künstlicher Intelligenz.
OZD-Extras:
Bemerkenswert: Die EU gehört weltweit zu den ersten Regionen, die
konkrete Verbote für bestimmte KI-Anwendungen gesetzlich festschreiben.
Alle Angaben ohne Gewähr. Titelbild AFP.