EU verabschiedet AI Act

Hallo und herzlich willkommen zu einem neuen Beitrag auf meinem Blog,

Künstliche Intelligenz dürfte zwangsläufig zu den kommenden größten Herausforderungen der Menschheit zählen und die EU will der Musik dieses Mal nicht hinterherlaufen. Ursprünglich wegen des „Social Scoring“ und der automatisierten Gesichtserkennung in China auf den Weg gebracht, soll die modifizierte Variante nun das Thema AI mit festen Leitlinien versehen.

Zwei Themenfelder

In einer Presseerklärung unterteilt das EU-Parlament das Themenfeld in zwei Bereiche: KI-Nutzung mit inakzeptablen Risiken werden generell verboten. KI-Einsätze mit hohen Risiken für Grundrechte von EU-Bürger sind melde- und genehmigungspflichtig. Die vier Einsatzgebiete mit inakzeptablen Risiken lauten: Verhaltensmanipulation, Social Scoring, biometrische Identifikation und biometrische Echtzeit-Erkennungssysteme (etwa Gesichtserkennung). Der KI-Einsatz in allen vier Bereichen wird grundsätzlich verboten. Ausnahmen gibt es für Strafverfolgungs- und Grenzkontrollbehörden, nur bei ernsthafter Bedrohung sowie schweren Verbrechen und auf richterliche Anordnung.

Die Bereiche mit hohem Risiko umfassen einerseits Produkte wie Spielzeuge, Autos und medizinische Geräte, andererseits geschützte Bereiche, beispielsweise Bildungseinrichtungen oder der Arbeitsplatz. In diesen Hochrisiko-Bereichen muss der Einsatz von Künstlicher Intelligenz beantragt und genehmigt werden. Die Nationalstaaten sind für die Umsetzung verantwortlich.

Durch K.I. generierte Inhalte müssen klar gekennzeichnet werden

Das Betreiben von generativer Künstlicher Intelligenz wie ChatGPT, Midjourney oder Gemini muss man nicht beantragen – aber die Herkunft ihrer Produkte offenlegen: Die Erzeugnisse einer generativen KI unterliegen zukünftig einer Kennzeichnungspflicht. Bei Fotos, Audio-Dateien, Filme und Bilder muss klar erkennbar sein, dass sie von einer KI erstellt werden. Zudem müssen Anbieter sicherstellen, dass ihre K.I.-Modelle keine illegalen Inhalte generieren.

AI Act mit Schwachstellen in der Formulierung

Das News-Portal netzpolitik.org hat die Entwicklung des Gesetzes über die Jahre beobachtet. Bis Anfang 2023 war das KI-Gesetz ein eher unauffälliger Entwurf, der mit dem Hype um ChatGPT und Midjourney massiv an Relevanz gewann: Unternehmen wie OpenAI, Microsoft und Co. investierten Millionen in die Lobby-Arbeit, was sich im Entwurf wohl bemerkbar macht.  Der im Februar veröffentlichte Kompromisstext deckte sich dann nur teilweise mit den Erinnerungen einiger Abgeordneter. Doch überwog bei vielen Parlamentariern am Ende der Gedanke, dass eine unvollständige Regulierung besser sei als gar keine. 523 stimmten für das Gesetz, 46 dagegen, und 49 enthielten sich.

Umsetzung ab 2026

Es handelt sich um einen Gesetzesentwurf, der nun den üblichen Regularien in der EU unterliegt. Im April wird das Gestez offiziell bekanntgegeben, danach folgt die Abstimmung in den Mitgliedsstaaten. Das Verbot von Technologien mit inakzeptablen Risiken soll dann innerhalb von sechs Monaten gelten, also wahrscheinlich noch im Jahr 2024. Die Transparenzrichtlinien, Melde- und Genehmigungspflichten treten nach zwei Jahren, also 2026, in Kraft.

Was sagt Ihr dazu? Wie findet Ihr den Vorstoß der EU in Sachen Künstlicher Intelligenz? Schreibt mir Euer Feedback in die nachfolgenden Kommentare

Macht´s gut und bis zum nächsten Mal hier auf dem appletechnikblog, Euer Patrick a.k.a. Meister des Apfels