Künstliche Intelligenz ist mittlerweile fester Bestandteil des Alltags von Unternehmen, Fachkräften und öffentlichen Einrichtungen. Von der Erstellung von Dokumenten über die Kundenbetreuung bis hin zur Generierung von Bildern und Inhalten oder der Automatisierung interner Prozesse – der Einsatz von KI-Systemen nimmt stetig zu.
Um die verantwortungsvolle Entwicklung und Nutzung dieser Technologien zu gewährleisten, hat die Europäische Union die Verordnung (EU) über künstliche Intelligenz (AI-Gesetz) verabschiedet, den ersten europäischen Rechtsrahmen zur Regulierung von Systemen der künstlichen Intelligenz.
Ziel der Verordnung ist es, ein Gleichgewicht zwischen Innovation und dem Schutz der Grundrechte des Einzelnen herzustellen, indem klare Verpflichtungen für Anbieter und Nutzer von KI-Systemen festgelegt werden, die sich nach dem von diesen Systemen ausgehenden Risikograd richten.
Die vier Risikostufen
Die Verordnung unterteilt Systeme der künstlichen Intelligenz in vier Risikokategorien, denen jeweils spezifische Verpflichtungen zugeordnet sind.
1. KI-Systeme mit minimalem Risiko
Systeme der künstlichen Intelligenz mit minimalem Risiko, wie beispielsweise KI-basierte Videospiele oder Spamfilter, können ohne besondere Einschränkungen und ohne zusätzliche Compliance-Verpflichtungen genutzt werden.
2. KI-Systeme mit begrenztem Risiko
Zu dieser Kategorie gehören unter anderem Chatbots und KI-Systeme, die Texte, Bilder, Audio- oder Videoinhalte generieren.
Diese Systeme unterliegen Transparenzpflichten; die Nutzer müssen klar darüber informiert werden, dass sie mit einem KI-System interagieren oder dass der betreffende Inhalt mithilfe eines solchen Systems generiert oder verändert wurde. Ziel ist es, dass die Nutzer in voller Kenntnis der Sachlage entscheiden können, ob sie den Dienst weiterhin nutzen möchten.
3. KI-Systeme mit hohem Risiko
KI-Systeme mit hohem Risiko sind in Anhang III der Verordnung aufgeführt und umfassen beispielsweise Systeme, die für folgende Zwecke eingesetzt werden:
- die Diagnose von Erkrankungen;
- das autonome Fahren von Fahrzeugen;
- die biometrische Identifizierung von Personen im Rahmen von Strafverfolgungsmaßnahmen oder Ermittlungen.
Da diese Systeme die Sicherheit von Personen oder die Ausübung von Grundrechten beeinträchtigen können, unterliegen sie strengen Anforderungen hinsichtlich der Gestaltung, Prüfung, Überwachung und Bewertung während ihres gesamten Lebenszyklus.
4. KI-Systeme mit inakzeptablem Risiko
Systeme, die ein inakzeptables Risiko für die Sicherheit, die Rechte oder die Lebensgrundlagen von Personen darstellen, sind in der Europäischen Union verboten.
Nutzen Sie ChatGPT oder andere KI-Tools?
Wenn Sie in Ihrer beruflichen Tätigkeit Systeme wie ChatGPT, Copilot, Gemini oder ähnliche Anwendungen nutzen, ist es wichtig, dass Sie Ihre Pflichten kennen.
Obwohl diese Systeme in der Regel nicht als risikoreich eingestuft werden, kann ihre Nutzung Transparenzpflichten nach sich ziehen.
Wenn Sie also ein KI-System nutzen, um mit natürlichen Personen zu interagieren oder Texte, Bilder, Audio- oder Videomaterial zu erstellen oder zu bearbeiten, müssen Sie die Nutzer über den Einsatz dieser Technologie informieren, unter anderem durch die Anzeige entsprechender Hinweise, sofern dies erforderlich ist.
In der Praxis kann diese Verpflichtung zahlreiche Aktivitäten von Unternehmen betreffen, wie beispielsweise Kundenbeziehungen, Supportdienste, Marketingmaßnahmen, die Erstellung von Online-Inhalten oder andere automatisierte Prozesse, die auf künstlicher Intelligenz basieren.
Wann gelten die neuen Vorschriften?
Die europäische Verordnung über künstliche Intelligenz wird schrittweise umgesetzt.
So gelten die Vorschriften für Systeme der künstlichen Intelligenz mit unzumutbarem Risiko bereits ab dem 2. Februar 2025, während weitere Verpflichtungen gemäß dem in der Verordnung festgelegten Zeitplan schrittweise im Zeitraum vom 2. August 2026 bis 2030 in Kraft treten werden.
Daher sollten Unternehmen und Organisationen, die Systeme der künstlichen Intelligenz nutzen oder deren Einführung planen, bereits jetzt damit beginnen, zu prüfen, inwiefern diese Vorschriften ihre Geschäftstätigkeit betreffen.
Welche Sanktionen drohen?
Die Nichteinhaltung der in der europäischen Verordnung über künstliche Intelligenz festgelegten Verpflichtungen kann erhebliche Sanktionen nach sich ziehen.
Je nach Art des Verstoßes können die zuständigen Behörden Geldbußen verhängen, die als Prozentsatz des weltweiten Jahresumsatzes des Unternehmens berechnet werden, oder Geldbußen in fester Höhe, wobei der jeweils höhere Betrag zugrunde gelegt wird.
Aus diesem Grund sollte die Einhaltung der Vorschriften nicht nur als gesetzliche Verpflichtung betrachtet werden, sondern auch als Maßnahme zur Minderung rechtlicher und rufschädigender Risiken.
Compliance beginnt mit einer rechtlichen Analyse
Die Einführung künstlicher Intelligenz in einem Unternehmen bringt nicht nur operative Vorteile mit sich, sondern auch rechtliche Verpflichtungen. Die Ermittlung der geltenden Verpflichtungen, die Ausarbeitung interner Richtlinien, die Risikobewertung und die Einhaltung der Transparenzanforderungen sind Aspekte, die analysiert werden müssen, bevor mögliche Verstöße zu Sanktionen führen.
Das Team von Nartea Partners bietet Unternehmen und Fachleuten rechtliche Unterstützung bei der Anpassung an die neuen europäischen Anforderungen im Bereich der künstlichen Intelligenz, indem es die Art und Weise der Nutzung von KI-Systemen analysiert, die geltenden Verpflichtungen ermittelt und die erforderlichen Unterlagen erstellt.
Wenn Sie in Ihrem Unternehmen KI-Tools einsetzen oder die Einführung solcher Lösungen planen, kann eine frühzeitige rechtliche Prüfung Ihnen helfen, die Risiken einer Nichteinhaltung und mögliche Sanktionen gemäß dem europäischen Recht zu vermeiden.
Für weitere Informationen stehen wir Ihnen gerne zur Verfügung. Kontaktieren Sie uns unter der Telefonnummer 0720291919 oder per E-Mail unter [email protected].