Am 10. Februar beginnt in Paris der „AI Action Summit“. Erwartet wurden mindestens einhundert Staats- und Regierungschefs, darunter Vertreter der Vereinigten Staaten und Chinas, sowie Mitglieder der Zivilgesellschaft und Führungskräfte von auf KI spezialisierten Hightech-Unternehmen. Zu den prominenten Teilnehmern gehören laut Le Monde Elon Musk, Sam Altman (OpenAI) und Sundar Pichai. Die Umsetzung wird schrittweise erfolgen und von Diskussionen sowie möglichen Einwänden hinsichtlich der konkreten Ausgestaltung begleitet sein.
Am 2. Februar setzte die Europäische Union die KI-Verordnung offiziell in Kraft. Damit wurde die weltweit erste umfassende internationale KI-Gesetzgebung geschaffen, die allgemein als EU AI Act bezeichnet wird.
Die Regulierungsbehörden werden auf dem Gipfel höchstwahrscheinlich erörtern, wie sich die Verordnung auf die Geschäftstätigkeit von Entwicklern und Nutzern von KI auswirkt. Die endgültige Fassung der KI-Verordnung wurde am 13. März 2024 im Europäischen Parlament mit 523 Ja-Stimmen, 46 Nein-Stimmen und 49 Enthaltungen mehrheitlich angenommen. Bereits im Dezember 2023 war das Dokument mit der Europäischen Kommission und den EU-Mitgliedstaaten abgestimmt worden. Laut einer Mitteilung des Europäischen Parlaments soll es „Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit vor Hochrisiko-KI“ schützen, zugleich Innovationen fördern und Europas Führungsrolle in diesem Bereich stärken.
Es handelt sich somit um ein Gesetz und nicht um eine Richtlinie. Das bedeutet, dass es ein Rechtsakt mit unmittelbarer Wirkung innerhalb der Europäischen Union ist. Für alle Akteure, die KI entwickeln oder in ihre Geschäftstätigkeit integrieren, bietet die Agentur Eesti Firma unter anderem folgende Leistungen an: Rechts- und Unternehmensberatung auf den Märkten für Kryptowerte, künstliche Intelligenz und alle Arten anderer digitaler Vermögenswerte.
AI Act: Wichtigste Verbote und Ausnahmen
Einige KI-Anwendungen sind nach dem AI Act ausdrücklich verboten. Zu den bedeutendsten Verboten gehört das Verbot biometrischer Massenüberwachung in Echtzeit. Andere KI-Anwendungen fallen in eine der verschiedenen Risikokategorien von niedrig bis hoch, für die jeweils unterschiedliche Sicherheits- und Transparenzanforderungen gelten.
Seit dem 2. Februar verbieten die EU-Vorschriften KI-Systeme, die „unannehmbare Risiken“ für die Sicherheit und die Rechte von Menschen darstellen. Ausnahmen gelten aus Gründen der nationalen Sicherheit.
Konkret sind Programme verboten, die das Sozialverhalten von Menschen bewerten und ihnen „Punktwerte“ zuweisen. Ein solches Social-Scoring-System, das in China eingesetzt wird, um Bürger abhängig von ihrem Verhalten zu belohnen oder zu bestrafen, ist nun in der EU verboten.
Auch an Arbeitsplätzen und in Bildungseinrichtungen sind KI-gestützte Technologien zur Emotionserkennung verboten. Untersagt sind zudem KI-Systeme, die irreführende Methoden zur Verhaltensmanipulation einsetzen, insbesondere bei Kindern. So sind beispielsweise sprechende Spielzeuge nicht erlaubt, die Kinder zu unsicheren Handlungen auffordern könnten.
Zu den Systemen, die schutzbedürftige Personen ausnutzen, gehören automatisierte Telefonanrufe (Robo-Calls), die potenziell für Betrugsdelikte gegen ältere Menschen eingesetzt werden können.
Im Übrigen ist die Gesichtserkennung im öffentlichen Raum weitgehend verboten. Strafverfolgungsbehörden dürfen solche Systeme jedoch bei der Aufklärung schwerer Straftaten einsetzen, insbesondere bei Menschenhandel und Terrorismus. Nach Ansicht von Caterina Rodelli, EU-Politikanalystin bei der globalen Menschenrechtsorganisation Access Now, lässt diese Ausnahme zu wünschen übrig. Gegenüber Euronews beschrieb sie die Situation mit den Worten: „Wenn es Ausnahmen von einem Verbot gibt, ist es kein Verbot mehr.“
Risikobewertung auf Grundlage der EU-KI-Verordnung
Unternehmen, die KI entwickeln oder einsetzen, müssen die Risikostufen ihrer Systeme bewerten und die erforderlichen Maßnahmen ergreifen, um die Einhaltung der gesetzlichen Vorschriften sicherzustellen. Die Europäische Kommission betont, dass die Regulierung Innovationen nicht behindern, sondern KI sicher und transparent machen soll. Daher müssen KI-Anbieter gewährleisten, dass alle an der Entwicklung und am Betrieb solcher Systeme beteiligten Personen über ausreichende „KI-Kompetenzen“ verfügen.
Verstöße gegen den AI Act werden – abhängig vom jeweiligen Verstoß und der Unternehmensgröße – mit Geldbußen von bis zu 35 Millionen € oder 7 % des weltweiten Jahresumsatzes eines Unternehmens geahndet, je nachdem, welcher Betrag höher ist. Damit liegen sie über den Höchststrafen der Datenschutz-Grundverordnung der EU, die Geldbußen auf 20 Millionen € oder 4 % des weltweiten Jahresumsatzes begrenzt.
Kritik und Warnungen
Tasos Stampelos, Leiter für Public Policy und Beziehungen zu den EU-Institutionen bei Mozilla, erklärte zuvor gegenüber CNBC, das Gesetz sei zwar „nicht perfekt“, aber „dringend notwendig“.
„Es ist wichtig zu verstehen, dass der AI Act in erster Linie eine Gesetzgebung zur Produktsicherheit ist“, sagte Stampelos auf einer von CNBC veranstalteten Konferenz. „Wie bei den Sicherheitsvorschriften bedeutet die Verabschiedung eines Gesetzes nicht, dass der Prozess abgeschlossen ist. Es werden mehrere weitere Maßnahmen und Klarstellungen folgen.“
„Die Einhaltung des Gesetzes wird derzeit von den Standards, Leitlinien, sekundären Rechtsvorschriften und allgemein von ergänzenden Instrumenten abhängen, die künftig festlegen werden, was Compliance tatsächlich bedeutet“, fügte er hinzu.
Kritik kommt auch vom Branchenverband Bitkom: Das neue Gesetz sei nicht eindeutig definiert. Die Gesetzgeber hätten strenge Anforderungen mit knappen Fristen festgelegt, ohne zuvor „ihre Hausaufgaben gemacht“ zu haben. Bei rechtlichen Risiken seien die Unternehmen auf sich allein gestellt, sagte Susanne Demel, Mitglied des Bitkom-Vorstands. Während die USA Hunderte Milliarden in KI investierten und China an leistungsfähigen Sprachmodellen arbeite, ist Demel überzeugt: „Deutschland und die EU legen Entwicklern Steine in den Weg.“
Die Präsidentin der Europäischen Kommission Ursula von der Leyen und die Präsidentin der Europäischen Zentralbank Christine Lagarde verstärkten das Krisengefühl mit einem gemeinsamen Blogbeitrag, in dem sie davor warnten, dass Europas Wettbewerbsfähigkeit im Bereich KI gefährdet sei. „Während die Welt eine KI-Revolution erlebt, droht die EU zurückzufallen“, erklärten sie.
Unterschiedliche Ansätze – EU vs. USA unter Donald Trump
Im Gegensatz zur europäischen Regulierung hat die US-Regierung zu Beginn der zweiten Amtszeit von Donald Trump im Januar 2025 einen völlig anderen Kurs eingeschlagen. Seine Regierung hat die ohnehin lockeren Zügel weiter gelockert, frühere Durchführungsverordnungen aufgehoben und Investitionen des Technologiesektors in Milliardenhöhe angekündigt.
Das Weiße Haus kündigte den Start des Infrastrukturprojekts „Stargate“ mit Gesamtinvestitionen von bis zu 500 Milliarden $ innerhalb von vier Jahren an. Das Geld soll in die Entwicklung von Rechenzentren und anderen Komponenten der KI-Infrastruktur investiert werden. Donald Trump betonte, dass „all dies hier, in Amerika, geschieht“, und versprach, innerhalb der nächsten 180 Tage den detaillierten „AI Action Plan“ vorzulegen.
Analysten weisen darauf hin, dass das Hauptziel der neuen amerikanischen Strategie darin besteht, die Vormachtstellung der USA im Bereich KI zu stärken. Experten gehen davon aus, dass die unterschiedlichen Ansätze der EU und der USA langfristige Folgen für den globalen KI-Wettlauf haben werden. Heute sind die USA bei Forschung und Investitionen führend, angetrieben von Technologiekonzernen wie Google, Meta, Apple und OpenAI. China belegt den zweiten Platz und baut seine KI-Fähigkeiten rasch aus. Während sich die USA auf die Entwicklung des IT-Sektors und nationale Interessen konzentrieren, hält Europa an strengen Vorschriften und am Verbraucherschutz fest.
Somit bleibt die Zukunft der globalen KI-Governance ungewiss. Während die EU Innovationen durch eine detaillierte Risikoregulierung und Transparenz absichern will, verfolgt die USA eine Strategie, die Hürden für Unternehmen zu minimieren. Beobachter betonen, dass das Gleichgewicht zwischen Sicherheit und Innovation in den kommenden Jahren die Rolle der KI in Wirtschaft und Gesellschaft bestimmen wird.
