Prinzipien zum Einsatz von KI

Die KI-VO definiert Grundprinzipien zum Einsatz von KI wie Transparenz, Nachvollziehbarkeit, Ethik & Fairness sowie Sicherheit. Diese sind essenziell für den verantwortungsvollen Einsatz von Künstlicher Intelligenz. Sie dienen als Leitlinien, um sicherzustellen, dass KI-Systeme vertrauenswürdig, diskriminierungsfrei und sicher eingesetzt werden und sowohl rechtlichen als auch gesellschaftlichen Anforderungen entsprechen. Besonders wichtig sind dabei die Anforderungen an hochrisikobehaftete KI-Systeme, die strengen Vorgaben zur Erklärbarkeit, Datengrundlage, Sicherheit und menschlichen Aufsicht unterliegen.

Die Verordnung schreibt vor, dass KI-Systeme nachvollziehbar und erkennbar sein müssen. Dazu gehören:

• Artikel 13: Hochrisiko-KI-Systeme müssen so gestaltet sein, dass ihre Ergebnisse erklärbar und überprüfbar sind.
• Artikel 50: Generative KI-Modelle und Chatbots müssen klar kennzeichnen, dass Nutzer mit einer KI interagieren.
• Artikel 52: KI-generierte Inhalte müssen als solche erkennbar sein (z. B. durch Wasserzeichen oder andere Kennzeichnungsmethoden).

Diese Regelungen sollen verhindern, dass KI-Technologien in einer Weise genutzt werden, die Nutzer täuschen oder ihnen wesentliche Informationen vorenthalten.

Damit Entscheidungen von KI-Systemen überprüfbar bleiben, müssen sie dokumentiert und erklärbar sein:

• Artikel 11: Anbieter von Hochrisiko-KI müssen eine technische Dokumentation führen, die nachvollziehbar macht, wie das System funktioniert.
• Artikel 13: KI-Systeme müssen so entwickelt sein, dass ihre Entscheidungen erklärbar sind und Menschen sie verstehen können.

Diese Vorschriften sollen sicherstellen, dass KI nicht als “Black Box” agiert, sondern dass Unternehmen und Nutzer nachvollziehen können, warum eine bestimmte Entscheidung getroffen wurde.

Die KI-Verordnung enthält Bestimmungen, um diskriminierende oder unfaire KI-Entscheidungen zu verhindern:

• Artikel 10: Trainingsdaten müssen repräsentativ und frei von Verzerrungen (Biases) sein, um faire Entscheidungen zu ermöglichen.
• Artikel 14: Hochrisiko-KI muss von Menschen überwacht und überprüft werden, um sicherzustellen, dass sie keine unethischen oder ungerechten Entscheidungen trifft.

Diese Bestimmungen sollen verhindern, dass KI-Systeme bestehende Vorurteile verstärken oder unfaire Entscheidungen automatisiert treffen.

Die Sicherheit von KI-Systemen ist eine zentrale Anforderung der Verordnung, insbesondere für Hochrisiko-KI:

• Artikel 15: KI-Systeme müssen robust und manipulationssicher sein, sodass sie nicht durch externe Eingriffe verfälscht oder missbraucht werden können.
• Artikel 16: Anbieter von Hochrisiko-KI-Systemen müssen technische und organisatorische Maßnahmen treffen, um Risiken zu minimieren.
• Artikel 17: Hochrisiko-KI-Systeme müssen regelmäßig überprüft, getestet und aktualisiert werden, um ihre Sicherheit und Genauigkeit zu gewährleisten.

Diese Vorschriften sollen sicherstellen, dass KI-Systeme verlässlich und stabil arbeiten, insbesondere wenn sie in sicherheitskritischen Bereichen eingesetzt werden.