Ein wichtiger Schritt im Kampf gegen digitale Gewalt: Das EU-Parlament will KI-Anwendungen verbieten, die ohne Einverständnis sexualisierte Bilder von Menschen erstellen können. Der Vorstoß kommt n...
Ein wichtiger Schritt im Kampf gegen digitale Gewalt: Das EU-Parlament will KI-Anwendungen verbieten, die ohne Einverständnis sexualisierte Bilder von Menschen erstellen können. Der Vorstoß kommt nicht von ungefähr – Elon Musks Chatbot Grok hatte mit seinem "Spicy Mode" gezeigt, wie schnell Künstliche Intelligenz zur Erstellung von Gewaltinhalten missbraucht werden kann. Während Europa voranschreitet, hinkt Österreich bei der Umsetzung des KI-Gesetzes bereits jetzt deutlich hinterher.
Der Auslöser für die jüngsten Verschärfungen im KI-Gesetz war erschreckend konkret: Elon Musks KI-System Grok ermöglichte es in seinem "Spicy Mode" Nutzern, binnen Sekunden sexualisierte Bilder von Frauen und Kindern zu generieren – bis hin zu kinderpornografischem Material. "Das ist keine abstrakte Debatte über Regulierung. Das ist digitale Gewalt, die reale Menschen trifft", kritisiert Süleyman Zorba, Digitalsprecher der Grünen im österreichischen Parlament.
Deepfakes bezeichnen mit Künstlicher Intelligenz erstellte Bild-, Video- oder Audioinhalte, die täuschend echt wirken. Die Technologie nutzt maschinelles Lernen, um das Gesicht oder die Stimme einer Person auf andere Inhalte zu übertragen. Was ursprünglich für Filmproduktionen oder harmlose Unterhaltung entwickelt wurde, hat sich zu einem mächtigen Werkzeug für Missbrauch entwickelt. Besonders betroffen sind Frauen und Minderjährige, deren Gesichter ohne Einverständnis auf pornografische Inhalte montiert werden.
Die Erstellung von Deepfakes basiert auf sogenannten Generative Adversarial Networks (GANs). Diese KI-Systeme bestehen aus zwei konkurrierenden Netzwerken: einem Generator, der gefälschte Inhalte erstellt, und einem Diskriminator, der zwischen echten und gefälschten Inhalten unterscheiden soll. Durch millionenfache Wiederholung dieses Prozesses werden die Fälschungen immer überzeugender. Moderne Systeme benötigen nur wenige Fotos einer Person, um täuschend echte Videos oder Bilder zu erstellen.
Was die Situation besonders problematisch macht: Die Technologie ist mittlerweile so zugänglich geworden, dass auch Laien ohne technische Vorkenntnisse solche Inhalte erstellen können. Smartphone-Apps und Online-Plattformen machen es möglich, innerhalb von Minuten kompromittierende Inhalte zu produzieren.
Die zuständigen Ausschüsse des EU-Parlaments haben nun ein klares Signal gesetzt: KI-Systeme, die zur Erstellung sexualisierter Inhalte ohne Einverständnis der betroffenen Personen verwendet werden können, sollen auf dem europäischen Markt verboten werden. Dieser Schritt erweitert das bereits bestehende KI-Gesetz der Europäischen Union erheblich.
Das ursprüngliche KI-Gesetz, das im Juni 2024 in Kraft getreten ist, gilt als weltweit erste umfassende Regulierung Künstlicher Intelligenz. Es klassifiziert KI-Anwendungen nach ihrem Risikopotential und verbietet bestimmte Verwendungen komplett – etwa KI-Systeme zur sozialen Bewertung von Menschen oder zur Manipulation menschlichen Verhaltens. Die geplante Erweiterung um das Deepfake-Verbot zeigt, wie schnell sich die Technologie entwickelt und wie dynamisch die Regulierung darauf reagieren muss.
Die Europäische Union nimmt mit ihrer KI-Regulierung international eine Vorreiterrolle ein. Während die USA noch auf freiwillige Selbstverpflichtungen der Technologieunternehmen setzen, schafft Europa verbindliche Regeln. China hat zwar ebenfalls KI-Regulierungen eingeführt, diese zielen jedoch primär auf staatliche Kontrolle ab, weniger auf den Schutz individueller Rechte.
In Deutschland haben bereits mehrere Bundesländer spezialisierte Stellen für die Überwachung von KI-Anwendungen eingerichtet. Die Schweiz arbeitet an einer eigenen KI-Strategie, die sich stark an den EU-Vorgaben orientiert. Österreich hingegen hinkt bei der praktischen Umsetzung hinterher, obwohl das Land als EU-Mitglied zur vollständigen Implementierung verpflichtet ist.
Besonders kritisch sieht Zorba die Situation in Österreich: "Österreich hat bis heute keine der im KI-Gesetz vorgesehenen nationalen Behörden bestimmt. Die Frist ist längst abgelaufen." Das KI-Gesetz verpflichtet alle EU-Mitgliedstaaten, bis Februar 2024 nationale Aufsichtsbehörden zu benennen und entsprechende Strukturen aufzubauen.
Diese Behörden sollen die Einhaltung der KI-Vorschriften überwachen, Verstöße ahnden und Unternehmen bei der regelkonformen Entwicklung von KI-Systemen beraten. Ohne diese Strukturen kann das Gesetz nicht wirksam durchgesetzt werden. Unternehmen bleiben im Unklaren über ihre Pflichten, und Verstöße können nicht geahndet werden.
Die Versäumnisse Österreichs sind umso problematischer, als das Land sich als Technologiestandort positionieren will. Wien beherbergt mehrere internationale Technologieunternehmen und Forschungseinrichtungen im Bereich Künstliche Intelligenz. Ohne klare regulatorische Strukturen könnten diese Unternehmen in andere EU-Länder abwandern, die bereits funktionsfähige Aufsichtsstrukturen etabliert haben.
Für die österreichische Bevölkerung bedeutet die schleppende Umsetzung konkrete Nachteile. Opfer von KI-generierten Deepfakes haben derzeit keine klaren Anlaufstellen für Beschwerden. Unternehmen, die KI-Technologien entwickeln oder einsetzen wollen, erhalten keine Rechtssicherheit über die geltenden Bestimmungen.
Besonders betroffen sind Frauen und Jugendliche. Studien zeigen, dass über 90 Prozent aller Deepfake-Videos sexueller Natur Frauen zeigen. In Schulen werden zunehmend Fälle bekannt, wo Schüler Fotos von Mitschülerinnen für die Erstellung kompromittierender Deepfakes missbrauchen. Ohne funktionierende Aufsichtsstrukturen haben Betroffene kaum Möglichkeiten, gegen solche Übergriffe vorzugehen.
Der globale Markt für Künstliche Intelligenz hat ein Volumen von über 400 Milliarden Euro und wächst jährlich um mehr als 20 Prozent. In Österreich beschäftigen sich laut Wirtschaftskammer rund 3.000 Unternehmen mit KI-Technologien, Tendenz stark steigend. Diese Unternehmen benötigen dringend Rechtssicherheit über die geltenden Bestimmungen.
Das KI-Gesetz sieht gestaffelte Bußgelder vor, die bis zu sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens betragen können. Für große Technologiekonzerne können das Milliardenbeträge sein. Gleichzeitig eröffnet die Regulierung neue Geschäftsfelder: Unternehmen, die nachweislich regelkonforme KI-Systeme entwickeln, verschaffen sich Wettbewerbsvorteile.
Kritiker befürchten, dass strenge KI-Regulierung Innovation hemmen könnte. Tatsächlich zeigen Erfahrungen aus anderen Bereichen wie dem Datenschutz jedoch, dass klare Regeln Innovation oft sogar fördern. Unternehmen entwickeln datenschutzfreundliche Technologien, die sich international besser vermarkten lassen.
Österreichische Forschungseinrichtungen wie das Austrian Institute of Technology arbeiten bereits an Technologien zur Erkennung von Deepfakes. Diese "Detection"-Systeme können automatisch erkennen, ob Bild- oder Videomaterial manipuliert wurde. Mit der EU-Regulierung entsteht ein großer Markt für solche Schutztechnologien.
Deutschland hat bereits im September 2024 die "Bundesstelle für KI-Sicherheit" eingerichtet, die als zentrale Anlaufstelle für KI-Regulierung fungiert. Frankreich hat seine bestehende Datenschutzbehörde CNIL mit zusätzlichen Kompetenzen für KI-Überwachung ausgestattet. Die Niederlande haben ein spezielles "AI-Validation Institute" gegründet, das Unternehmen bei der regelkonformen Entwicklung unterstützt.
Diese Länder zeigen, dass schnelle Umsetzung möglich ist, wenn der politische Wille vorhanden ist. Sie profitieren bereits von der Rechtssicherheit und ziehen internationale Unternehmen an, die ihre KI-Systeme europaweit vermarkten wollen.
Das EU-Parlament wird voraussichtlich in der kommenden Woche über die Verschärfungen abstimmen. Anschließend müssen die Verhandlungen zwischen Parlament und den EU-Mitgliedstaaten abgeschlossen werden. Zorba fordert "zügige" Verhandlungen, um das erweiterte Gesetz schnell in Kraft zu setzen.
Für Österreich bedeutet das zusätzlichen Zeitdruck. Das Land muss nicht nur die bereits bestehenden Verpflichtungen aus dem ursprünglichen KI-Gesetz erfüllen, sondern sich auch auf die kommenden Verschärfungen vorbereiten. Experten schätzen, dass der Aufbau funktionsfähiger Aufsichtsstrukturen mindestens sechs Monate dauert.
Um den Anschluss nicht zu verlieren, sollte Österreich schnellstmöglich handeln. Die Einrichtung einer zentralen KI-Aufsichtsbehörde ist ebenso dringend notwendig wie die Schulung entsprechender Fachkräfte. Gleichzeitig müssen Informationskampagnen die Bevölkerung über Risiken und Schutzmaßnahmen aufklären.
Für Unternehmen empfiehlt sich, bereits jetzt ihre KI-Systeme auf Regelkonformität zu überprüfen und entsprechende Compliance-Strukturen aufzubauen. Wer wartet, bis die Aufsichtsbehörden ihre Arbeit aufnehmen, riskiert empfindliche Strafen.
Das geplante Verbot von KI-Deepfakes zeigt eindrücklich, wie wichtig proaktive Regulierung im Technologiebereich ist. Während Europa voranschreitet, darf Österreich nicht den Anschluss verlieren. Die Zeit für halbherzige Maßnahmen ist vorbei – jetzt ist entschlossenes Handeln gefordert, um sowohl die Rechte der Bürgerinnen und Bürger zu schützen als auch den Wirtschaftsstandort zu stärken. Die Frage ist nicht mehr, ob Österreich die KI-Regulierung umsetzt, sondern wie schnell dies geschehen wird.