Am 14. Juni diesen Jahres wurde der Gesetzesentwurf zum sogenannten AI Act vom Europäischen Parlament und dem Rat der Europäischen Union mehrheitlich angenommen. Erfahren Sie hier alles über das eventuell kommende Gesetz, das in Zukunft den Einsatz von künstlichen Intelligenzen regeln soll.
Was ist der AI Act?
“AI Act” ist eine Abkürzung für “Artificial Intelligence Act” und bedeutet übersetzt “Gesetz über künstliche Intelligenz”. Der Gesetzesvorschlag wurde von der Europäischen Kommission im April 2021 vorgelegt und am 14. Juni 2023 vom Europäischen Parlament und vom Rat der Europäischen Union verabschiedet. Er soll einen einheitlichen Rechtsrahmen für die Entwicklung, Vermarktung und Verwendung künstlicher Intelligenz (KI) in der Europäischen Union schaffen.
Was beinhaltet der Gesetzesentwurf?
Der AI Act basiert auf einem risikobasierten Ansatz. KI-Systeme werden nach ihrem potenziellen Risiko für die Menschen, die Gesellschaft oder die Umwelt eingestuft. Hochrisiko-KI-Systeme, die beispielsweise Menschen schaden, diskriminieren oder die Privatsphäre verletzen könnten, sollen in Zukunft strenger reguliert werden. Der Gesetzesentwurf sieht beispielsweise vor, dass diese Systeme einer Risikobewertung unterzogen werden müssen, bevor sie in Verkehr gebracht werden dürfen.
Welche Risiken bergen KI-Systeme?
Zu den als hochriskant einzustufenden KI-Systemen zählen beispielsweise:
- KI-Systeme, die zur biometrischen Gesichtserkennung im öffentlichen Raum eingesetzt werden
- KI-Systeme, die zur automatisierten Entscheidungsfindung in sensiblen Bereichen wie dem Arbeitsmarkt oder der Bildung eingesetzt werden
- KI-Systeme, die zur Manipulation von Menschen eingesetzt werden
Für KI-Systeme mit geringem oder mittlerem Risiko sollen derweil weniger strenge Vorschriften gelten. Sie müssen vergleichsweise über eine Dokumentation verfügen, welche die Funktionsweise des Systems erklärt. Mehr zu potenziellen Risiken von künstlichen Intelligenzen finden Sie in unserem Beitrag Künstliche Intelligenz Gefahren: Revolutionäre Technologie oder bedrohlicher Fortschritt?
Wo liegt der Nutzen des AI Acts?
Der AI Act soll darüber hinaus die Transparenz und Verantwortlichkeit bei der Entwicklung und Verwendung von KI erhöhen. Er schreibt vor, dass Anbieter von KI-Systemen Informationen über die Funktionsweise, die Risiken und die potenziellen Auswirkungen ihrer Systeme offenlegen müssen. Ausserdem müssen sie sicherstellen, dass KI-Systeme so entwickelt und eingesetzt werden, dass sie die Menschenrechte und die Grundfreiheiten einhalten.
Der AI Act ist ein wichtiger Schritt zur Regulierung von künstlicher Intelligenz in der Europäischen Union. Er soll dazu beitragen, die Sicherheit und Vertrauenswürdigkeit von KI-Systemen zu gewährleisten und die Risiken von KI-Missbrauch zu minimieren.
Worauf müssen sich KI-Anbieter und Entwickler vorbereiten?
Anbieter oder Entwickler von KI-Systemen müssen mit einer Reihe von neuen Vorschriften rechnen, wenn der AI Act tatsächlich eingeführt wird. Die wichtigsten Vorschriften für Anbieter oder Entwickler von KI-Systemen sind:
- Risikobewertung: Hochrisiko-KI-Systeme müssen einer Risikobewertung unterzogen werden, bevor sie in Verkehr gebracht werden. Die Risikobewertung soll die potenziellen Risiken des Systems für Menschen, die Gesellschaft oder die Umwelt identifizieren.
- Transparenz: Anbieter von KI-Systemen müssen Informationen über die Funktionsweise, die Risiken und die potenziellen Auswirkungen ihrer Systeme offenlegen. Diese Informationen müssen für die Nutzer leicht zugänglich sein.
- Verantwortlichkeit: Anbieter von KI-Systemen müssen sicherstellen, dass ihre Systeme so entwickelt und eingesetzt werden, dass sie die Menschenrechte und die Grundfreiheiten einhalten.
Die Einhaltung dieser Vorschriften wird von den Mitgliedstaaten der Europäischen Union überwacht. Bei Verstössen können Sanktionen verhängt werden, beispielsweise Geldbussen oder das Verbot des Inverkehrbringens von KI-Systemen.
Unser Fazit
Die Einführung des AI Act wird die Entwicklung und Verwendung von Systemen der künstlichen Intelligenz in der Europäischen Union grundlegend verändern. Anbieter oder Entwickler von KI-Systemen sollten sich gewissenhaft auf die neuen Vorschriften vorbereiten, um die Sicherheit und Vertrauenswürdigkeit ihrer Systeme zu gewährleisten.
Die Europäische Kommission hat den Mitgliedstaaten der Europäischen Union einen Zeitraum von 18 Monaten eingeräumt, um die Verordnung in nationales Recht umzusetzen. Die Mitgliedstaaten müssen sicherstellen, dass die Vorschriften in ihrem nationalen Recht umgesetzt werden und dass die Einhaltung der Vorschriften überwacht wird.
Die Verordnung über künstliche Intelligenz (AI Act) soll voraussichtlich ab dem 1. Januar 2024 in Kraft treten. Bis dahin haben Anbieter und Entwickler von KI-Systemen Zeit, sich auf die neuen Vorschriften vorzubereiten.