Transparenzpflichten nach der KI-VO
Transparenzpflichten nach der KI-VO: Was Art. 13 und Art. 50 praktisch verlangen
Von gabor partners //
Einordnung durch gabor partners: Warum Unternehmen jetzt genauer hinschauen sollten
gabor partners begleitet Unternehmen im IT-Recht bei der rechtssicheren Nutzung digitaler Systeme – und damit auch bei den Transparenzpflichten nach der KI-VO. Transparenzpflichten nach der KI-VO sind gesetzliche Vorgaben, die sicherstellen sollen, dass KI-Systeme nachvollziehbar sind und Betroffene erkennen, dass sie mit KI interagieren oder KI-Ergebnissen ausgesetzt sind.
Die KI-VO (AI Act) ist bereits in Kraft. Ihre Anforderungen gelten jedoch zeitlich gestaffelt. Vollständig gilt die Verordnung ab 2.8.2026, einzelne Teile früher, etwa ab 2.2.2025.
Wer KI einsetzt oder bereitstellt, sollte Transparenz nicht als Formalie sehen. Sie ist Kernbaustein verantwortungsvoller Nutzung und kann bei Verstößen rechtliche und finanzielle Risiken auslösen.
Am Ende zählt: Frühzeitige Klarheit spart später Reibung.
Warum gibt es Transparenzpflichten nach der KI-VO überhaupt?
Die KI-VO verfolgt einen Ausgleich. Sie soll Innovation ermöglichen und zugleich Grundrechte, Sicherheit und Vertrauen stärken.
Ein Treiber ist das sogenannte „Blackbox“-Problem. Viele können nicht nachvollziehen, wie KI zu Ergebnissen kommt. Transparenz wirkt dem entgegen. Der Verordnungsrahmen beschreibt Transparenz als angemessene Nachvollziehbarkeit und Erklärbarkeit – und fordert, dass Menschen wissen, wenn sie mit einem KI-System kommunizieren.
Das bedeutet in der Praxis: Nicht jedes Detail muss offengelegt werden. Aber es muss so viel Information vorhanden sein, dass Nutzung, Grenzen und Risiken richtig eingeordnet werden können.
Damit gilt: Transparenz ist nicht Kür, sondern Funktionsbedingung für zulässige KI-Nutzung.
Welche Systeme stehen bei den Transparenzanforderungen der KI-VO besonders im Fokus?
Ein Schwerpunkt liegt auf Hochrisiko-KI-Systemen. Ob ein System als hochriskant gilt, hängt von seiner Zweckbestimmung und den Einsatzbereichen ab.
Hochrisiko kann vorliegen, wenn KI als Sicherheitsbauteil in Produkten unter EU-Harmonisierungsvorschriften eingesetzt wird oder wenn sie in Bereichen verwendet wird, die in Anhang III aufgeführt sind. Dann sind Konformitätsanforderungen und Prüfmechanismen relevant.
Wichtig ist auch der Kreis der Pflichtenadressaten. Bei Hochrisiko-KI nennt die Verordnung u. a. Hersteller, Einführer, Anbieter, Händler und Betreiber als Verantwortliche, die Transparenz sicherstellen müssen.
Unterm Strich: Die Einstufung entscheidet, wie tief Transparenz organisatorisch und dokumentarisch verankert werden muss.
Was verlangen die Transparenzpflichten nach der KI-VO bei Hochrisiko-KI nach Art. 13 konkret?
Art. 13 KI-VO verlangt, dass Hochrisiko-KI so konzipiert und entwickelt wird, dass der Betrieb „hinreichend transparent“ ist. Anwender sollen Ergebnisse interpretieren und angemessen nutzen können.
Kerninstrument sind Informationen, insbesondere in Form von Betriebsanleitungen. Diese sollen Betreibern helfen, das System korrekt auszuwählen und zu verwenden.
Typische Inhalte, die laut Verordnungserwägungen in der Begleitinformation abgebildet sein sollen, sind etwa:
- Merkmale, Fähigkeiten und Leistungsbeschränkungen des Systems
- vorhersehbare Nutzungsumstände und Handlungen des Betreibers, die Verhalten und Leistung beeinflussen können
- Umstände, unter denen Risiken für Gesundheit, Sicherheit oder Grundrechte entstehen können
- vorab festgelegte und geprüfte Änderungen
- Maßnahmen der menschlichen Aufsicht, die die Interpretation von Ausgaben erleichtern
Transparenz ist dabei eng mit menschlicher Aufsicht verknüpft. Sie soll fundierte Entscheidungen und korrekte Nutzung ermöglichen.
Kurz gesagt: Art. 13 macht Transparenz zur Bedienungs- und Sicherheitslogik von Hochrisiko-KI.
Welche zusätzlichen Informationspflichten treffen Betreiber, etwa im Arbeitskontext?
Neben Art. 13 nennt die KI-VO weitere Transparenz- und Informationspflichten. Für Arbeitgeber, die Hochrisiko-KI am Arbeitsplatz einsetzen, sieht Art. 26 Abs. 7 eine Information von Arbeitnehmervertretern und betroffenen Beschäftigten vor.
Art. 26 Abs. 11 verpflichtet Betreiber bestimmter Hochrisiko-Systeme zusätzlich, natürliche Personen zu informieren, wenn KI eingesetzt wird, um Entscheidungen über sie zu treffen oder diese zu unterstützen. Genannt werden als Beispiele u. a. Systeme aus Anhang III wie biometrische Fernidentifizierung oder Emotionserkennung.
In Deutschland steht diese Pflicht nach der Quelle zudem neben bestehenden Informationsrechten aus dem Arbeitsrecht (z. B. BetrVG).
Damit gilt: Wer KI in sensiblen Kontexten betreibt, braucht saubere Informationsprozesse, nicht nur technische Dokumente.
Welche Transparenzpflichten nach der KI-VO gelten auch ohne Hochrisiko-Einstufung?
Art. 50 KI-VO richtet sich an KI-Systeme, die mit Menschen interagieren oder Inhalte generieren. Diese Systeme können Täuschungs- oder Nachahmungsrisiken bergen. Deshalb sieht die KI-VO besondere Transparenzpflichten vor.
Anbieter müssen Systeme, die zur direkten Interaktion bestimmt sind, so gestalten, dass Betroffene darüber informiert werden, dass sie mit einem KI-System interagieren – es sei denn, das ist offensichtlich.
Besondere Vorgaben betreffen zudem schutzbedürftige Gruppen (z. B. Alter oder Behinderungen) und die Bereitstellung in zugänglichen Formaten.
Praxisrelevant sind insbesondere diese Konstellationen:
- Interaktionssysteme: Hinweis „Sie interagieren mit KI“, sofern nicht klar erkennbar
- Emotionserkennung / biometrische Kategorisierung: Informationspflicht über den Betrieb des Systems
- Deepfakes: Offenlegung, dass Bild-, Audio- oder Videoinhalte künstlich erzeugt oder manipuliert sind
Die Quelle betont zugleich, dass Details zur Tiefe der Funktionsbeschreibung in Art. 50 Abs. 3 nicht klar vorgegeben sind und eher eng verstanden werden können.
Das Ergebnis: Art. 50 zwingt zu klarer Kennzeichnung dort, wo Täuschung oder Verwechslung naheliegt.
Gibt es ein Recht auf Erklärung einzelner KI-Entscheidungen?
Art. 86 KI-VO ergänzt den Informationsrahmen um ein „Recht auf Erklärung der Entscheidungsfindung im Einzelfall“. Unter bestimmten Voraussetzungen müssen Betreiber betroffenen Personen eine klare Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der Entscheidung geben.
Die Quelle ordnet dieses Recht in die Nähe von Art. 15 Abs. 1 lit. h DSGVO ein und beschreibt offene Fragen, etwa zur Abgrenzung und zum Umfang.
Damit gilt: Transparenz endet nicht bei Hinweisschildern, sondern kann bis zur erklärenden Einzelfallauskunft reichen.
Welche Vor- und Nachteile bringen Transparenzpflichten nach der KI-VO für Unternehmen?
Die Transparenzpflichten nach der KI-VO können die Akzeptanz von KI erhöhen, weil sie das „Blackbox“-Gefühl mindern und Nutzer in die Lage versetzen sollen, Ergebnisse zu interpretieren, Systeme passend auszuwählen und korrekt zu verwenden.
Gleichzeitig erzeugen Transparenzanforderungen Aufwand. Dokumentation, Betriebsanleitungen und Informationsprozesse kosten Zeit und können – je nach Auslegung durch Behörden oder Leitlinien – in Bürokratie münden, die Kosten von KI-Systemen erhöht.
Hinzu kommt ein Spannungsfeld zu geschützten Interessen. Die Quelle vergleicht die Abwägung mit Konstellationen, in denen Geschäftsgeheimnisse oder Daten Dritter eine Rolle spielen können, und hält gerichtliche bzw. behördliche Abwägungen für möglich.
Unterm Strich: Transparenz stärkt Vertrauen und Steuerbarkeit, verlangt aber belastbare Prozesse, damit Pflichten nicht zum Kostentreiber werden.
Klarheit schaffen, bevor die Pflichten voll greifen
- Die KI-VO setzt früh einen Rahmen, gilt aber vollständig erst ab 2.8.2026.
- Art. 13 adressiert Transparenz bei Hochrisiko-KI über erklärbare Nutzung und belastbare Begleitinformationen.
- Art. 50 verlangt Kennzeichnung und Information dort, wo Interaktion, Inhaltsgenerierung oder Deepfake-Risiken bestehen.
- Das Ergebnis: Wer Transparenzpflichten nach der KI-VO strukturiert vorbereitet, reduziert Rechtsrisiken und operative Reibung.
Sicher durch die Transparenzpflichten nach der KI-VO: IT-rechtliche Umsetzung mit gabor partners
Wenn Sie Transparenzpflichten nach der KI-VO umsetzen müssen, unterstützt gabor partners im Fachbereich IT-Recht bei der Einordnung Ihres Systems, der Ableitung praxisnaher Informations- und Dokumentationsbausteine sowie der rechtssicheren Gestaltung von Hinweisen, Betriebsinformationen und internen Prozessen auf Basis der KI-VO.
Jetzt
Sie
Wie können wir Ihnen helfen?
