Risikostufen der KI-VO

Ein zentrales Konzept der KI-Verordnung ist der risikobasierte Ansatz. Das bedeutet, dass KI-Systeme je nach Einsatzgebiet und möglichen Auswirkungen in verschiedene Risikoklassen eingeteilt werden. Je höher das Risiko eines Systems, desto strengere Anforderungen gelten für dessen Nutzung und Entwicklung.

Die Risiken, die mit der Nutzung von KI-Systemen verbunden sind, lassen sich in vier Hauptkategorien einteilen. Diese Einteilung hilft, die potenziellen Auswirkungen auf Menschen und Gesellschaft besser einzuschätzen und angemessene Schutzmaßnahmen zu definieren.

Diese Systeme stellen kaum eine Gefahr für die Nutzer dar und sind daher kaum reguliert. Ein Beispiel sind Spam-Filter in E-Mails, die automatisch unerwünschte Nachrichten aussortieren.

Hierzu gehören Anwendungen wie Chatbots im Kundenservice oder Empfehlungssysteme in Online-Shops. Diese Systeme bergen keine signifikanten Risiken, müssen jedoch Transparenzanforderungen erfüllen. Nutzer müssen beispielsweise darüber informiert werden, dass sie mit einer KI interagieren.

Diese Systeme können die Sicherheit und Grundrechte der Menschen beeinträchtigen und unterliegen daher strengen Vorschriften. Hochrisiko-KI findet sich unter anderem in medizinischen Diagnoseanwendungen, im Finanzwesen oder in der Personalauswahl. Solche Systeme müssen vor dem Einsatz umfangreich getestet, dokumentiert und überwacht werden.

Diese Systeme stellen eine direkte Bedrohung für die Sicherheit und Rechte von Menschen dar und sind deshalb vollständig verboten. Dazu gehören beispielsweise KI-gestützte Social Scoring-Systeme, die Menschen nach bestimmten Kriterien bewerten und ihnen darauf basierend Vorteile oder Nachteile verschaffen.