Was regelt Artikel 86 AI Act?
Artikel 86 AI Act verleiht betroffenen Personen das Recht auf eine Erklärung, wie eine Entscheidung, die durch ein (bestimmtes) Hochrisiko-KI-System getroffen oder unterstützt wurde, zustande kam. Dieses sogenannte Right to an Explanation bezieht sich dabei insbesondere auf die Rolle, die das KI-System bei der Entscheidungsfindung gespielt hat, sowie auf die wichtigsten Faktoren, die zu dieser Entscheidung führten.
Im Wesentlichen verpflichtet Artikel 86 AI Act die Betreiber von gewissen KI-Systemen, den betroffenen Personen verständlich darzulegen, welche Einflussfaktoren und Prozesse zu der jeweiligen Entscheidung geführt haben. Dies umfasst die wesentlichen Daten, auf deren Grundlage die Entscheidung getroffen wurde, sowie die Art und Weise, wie das KI-System diese Daten verarbeitet hat.
Einschränkungen des Rechts nach Artikel 86 AI Act
Wichtig zu verstehen ist, dass Artikel 86 das einzige Betroffenenrecht im AI Act darstellt. Es räumt jedoch lediglich ein Recht auf Information ein – es ist kein Widerspruchsrecht gegen die Ergebnisse von KI-gestützten Entscheidungen. Das bedeutet: Auch wenn eine betroffene Person eine Erläuterung verlangen kann, hat sie nicht das Recht, den Einsatz eines KI-Systems an sich oder das Ergebnis der Entscheidung zu verhindern.
Dieses Recht auf Information stellt einen Baustein dar, der es den Betroffenen ermöglicht, später weitere Rechte geltend zu machen. In Zusammenschau mit Erwägungsgrund 171 der KI-Verordnung wird deutlich, dass die Bereitstellung von Informationen nach Artikel 86 AI Act essenziell ist, um die Ausübung anderer Rechte – wie etwa eine Beschwerde oder eine Überprüfung – zu ermöglichen.
Beschränkungen in der Anwendung
Artikel 86 AI Act ist allerdings in mehreren Punkten eingeschränkt:
- Anwendbarkeit nur auf Hochrisiko-KI-Systeme: Das Recht auf Erklärung gilt nur für Hochrisiko-KI-Systeme, die im Anhang 3 des AI Acts aufgelistet sind. Es bezieht sich dabei explizit auf Entscheidungen, die durch diese Systeme getroffen oder unterstützt werden.
- Auskunftsanspruch nur gegen den Betreiber, nicht den Anbieter: Das Recht richtet sich ausschließlich gegen den Betreiber eines KI-Systems, nicht gegen den Anbieter. Dies ist logisch, da der Betreiber das System im Rahmen seiner Anwendung beeinflusst und nutzt, während der Anbieter oft nur eingeschränkten Einfluss auf die konkrete Verwendung hat.
In diesem Zusammenhang ist Artikel 26 Absatz 11 AI Act von besonderer Bedeutung. Diese Bestimmung sieht vor, dass Betreiber von Hochrisiko-KI-Systemen betroffene Personen im Voraus darüber informieren müssen, dass sie von einer Entscheidung betroffen sind, die durch ein solches System getroffen oder unterstützt wurde. Diese Transparenzpflicht gibt betroffenen Personen die Möglichkeit, sich auf die Verwendung eines KI-Systems vorzubereiten.
Was beinhaltet die Erklärungspflicht?
Die Auskunft nach Artikel 86 AI Act muss klar und verständlich sein und die wichtigsten Elemente der Entscheidung umfassen. Konkret muss erläutert werden:
- Die Rolle, die das KI-System bei der Entscheidungsfindung gespielt hat.
- Die Elemente und Faktoren, auf denen die Entscheidung basiert.
- Wie diese Elemente vom KI-System bewertet und verarbeitet wurden.
- Der Anteil der Entscheidung, der direkt vom KI-System bestimmt wurde.
- Welchen Spielraum der Betreiber für eine Überprüfung und Korrektur der durch das KI-System unterstützten Entscheidung hatte.
Durch diese Erklärung wird es den betroffenen Personen ermöglicht, den Entscheidungsprozess nachzuvollziehen und gegebenenfalls weitere Maßnahmen zu ergreifen, wie etwa eine Beschwerde bei einer Marktüberwachungsbehörde nach Artikel 85 AI Act.
Fazit
Das Right to an Explanation nach Artikel 86 AI Act ist ein grundlegendes Recht, das betroffenen Personen Zugang zu Informationen darüber gibt, wie Entscheidungen, die durch Hochrisiko-KI-Systeme getroffen wurden, zustande kommen. Es ermöglicht jedoch keine direkte Einflussnahme auf das Ergebnis der Entscheidung oder den Einsatz des KI-Systems. Vielmehr stellt es einen Baustein dar, der es den Betroffenen ermöglicht, später weitere Rechte auszuüben.
Für Unternehmen, die Hochrisiko-KI-Systeme einsetzen, ist es wichtig, dieses Recht bei der Implementierung ihrer Systeme zu berücksichtigen und Mechanismen zur Bereitstellung der erforderlichen Informationen zu schaffen. Nur so kann sichergestellt werden, dass sie im Einklang mit den Anforderungen des AI Acts agieren.
Im dritten Teil dieser Serie wird es um das Recht auf Meldung von Verstößen gehen, das eine weitere wichtige Schutzmaßnahme darstellt.
AI Credits
Bilder: Midjourney
Textunterstützung: ChatGPT
