In der Europäischen Union werden am Sonntag neue Regeln für den Umgang mit Künstlicher Intelligenz (KI) in Kraft gesetzt. Nach dem KI-Gesetz der EU (AI Act) sind von diesem Stichtag an KI-Systeme verboten, die «unannehmbare Risiken» für die Sicherheit, Gesundheit oder Grundrechte darstellen, außer wenn es um die «nationale Sicherheit» geht. 

So untersagt die EU den Einsatz von KI-Programmen, die eine Bewertung nach sozialem Verhalten vornehmen. Bei dem sogenannten Social Scoring werden etwa die Bürger in China in Verhaltenskategorien eingeteilt und belohnt oder bestraft. In der EU soll es auch keine Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen geben.

Lange Verbotsliste

Nicht erlaubt sind weiterhin manipulative KI-Systeme, die betrügerische Techniken anwenden, um das Verhalten von Menschen zu beeinflussen. In diese Gruppe fällt etwa sprachgesteuertes Spielzeug, das Kinder zu einem gefährlichen Verhalten verleitet.

Auf der Verbotsliste der EU stehen auch KI-Systeme, die die Schwäche von Menschen oder Gruppen ausnutzen. Dazu gehören auch automatisierte «Robo-Calls», die zum Betrug älterer Menschen eingesetzt werden können.

Die Gesichtserkennung im öffentlichen Raum – zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll ebenfalls grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung nutzen dürfen, um bestimmte Straftaten wie Menschenhandel und Terrorismus verfolgen zu können.

Stichtag 2. Februar

Mit dem Stichtag 2. Februar 2025 müssen Unternehmen, die KI entwickeln oder einsetzen, ihre Systeme nach dem Grad des Risikos bewerten und geeignete Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Ziel der neuen Verordnung ist nach Darstellung der EU-Kommission nicht nur der Schutz der Rechte der Verbraucherinnen und Verbraucher. Man wolle auch sicherstellen, dass KI verantwortungsvoll eingesetzt werde.

Anbieter und Betreiber von KI-Systemen müssen nun auch sicherstellen, dass alle Personen, die mit der Entwicklung oder dem Betrieb von KI-Systemen befasst sind, über ein ausreichendes Maß an «KI-Kompetenz» verfügen.

Kritik aus der Wirtschaft

Der Branchenverband Bitkom kritisierte das KI-Gesetz, weil es keine Rechtssicherheit biete. Es sei unklar, für welche Anwendungen das gesetzliche Verbot tatsächlich gelte, sagte Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung. «Die Politik hat beim AI Act hohe Anforderungen und enge Fristen für die Unternehmen aufgestellt, hat selbst aber ihre Hausaufgaben nicht gemacht.» Das Risiko würden nun die Unternehmen tragen, die KI entwickeln oder einsetzen. «Während in den USA mit dreistelligen Milliardenbeträgen KI ausgebaut werden soll und in China extrem leistungsfähige Sprachmodelle veröffentlicht werden, werfen wir in Deutschland und Europa den KI-Unternehmen Knüppel zwischen die Beine.»

«Europa droht KI-Abseits»

Die Präsidentin der EU-Kommission, Ursula von der Leyen, und die Präsidentin der Europäischen Zentralbank, Christine Lagarde, räumten in einem gemeinsamen Blogeintrag ein, dass die Wettbewerbsfähigkeit Europas in Gefahr sei. «Während sich eine globale Revolution der künstlichen Intelligenz entfaltet, könnte die EU ins Abseits geraten.» 

Europa verfüge jedoch auch über die notwendigen Voraussetzungen, um im technologischen Wettlauf aufzuholen, schrieben von der Leyen und Lagarde. In der EU gebe es pro eine Million Einwohner fast so viele Absolventen von MINT-Fächern (Mathematik, Informatik, Naturwissenschaften und Technik) wie in den Vereinigten Staaten. «Dieses Talent bringt eine Menge Ideen hervor: Der Anteil Europas an den weltweiten Patentanmeldungen liegt nahe bei dem der Vereinigten Staaten.»