Prüfbericht „Nicht-Hochrisiko-KI-System" – nori
Gegenstand: nori (KI-gestützte Compliance-Analyse-Engine) Rechtsgrundlage: Art. 6 Abs. 3 und 4 KI-VO (Verordnung (EU) 2024/1689), ErwGr. 65 Stand: 17.08.2026 · Status: Freigabe
Zweck: Dokumentation der Entscheidung und Begründung, weshalb nori nicht als Hochrisiko-KI-System einzustufen ist (Art. 6 Abs. 4 KI-VO).
1. Ergebnis
nori ist kein Hochrisiko-KI-System im Sinne der KI-VO. Begründung in zwei Stufen:
- Primär: nori fällt weder unter Anhang I noch unter Anhang III der KI-VO.
- Hilfsweise: Selbst bei unterstelltem Anhang-III-Bezug greifen die Ausnahmebedingungen des Art. 6 Abs. 3 (eng begrenzte/vorbereitende Aufgabe, menschliche Aufsicht, kein Profiling).
nori ist auch keine verbotene Praktik nach Art. 5.
2. Systembeschreibung (entscheidungsrelevant)
- Funktion: Statische, KI-gestützte Analyse von Quellcode gegen regulatorische/sicherheitstechnische Frameworks; Ausgabe textueller Findings/Reports.
- Rolle im Entscheidungsprozess: nori liefert Vorschläge/Hinweise. Die regulatorische Bewertung (Bestehen/Nichtbestehen, Freigabe) trifft ein menschlicher Auditor.
- Betroffene: Software-Artefakte und Entwicklungs-/Audit-Teams. Keine automatisierten Entscheidungen über natürliche Personen.
- Kein Profiling natürlicher Personen; keine Verarbeitung personenbezogener Daten als Bewertungsgegenstand (außer ggf. zufällig im Quellcode enthaltener Daten – kein Bewertungszweck).
3. Prüfung Art. 5 (verbotene Praktiken)
Keine der verbotenen Praktiken (u. a. unterschwellige Manipulation, Social Scoring, biometrische Fernidentifizierung, Emotionserkennung am Arbeitsplatz, Ausnutzung von Schutzbedürftigkeit) trifft auf nori zu. → Nicht einschlägig.
4. Prüfung Anhang I (Sicherheitsbauteil geregelter Produkte)
nori ist kein Produkt und kein Sicherheitsbauteil eines unter die Harmonisierungsrechtsvorschriften (Anhang I) fallenden Produkts. Es ist ein eigenständiges Entwicklungs-/Audit-Werkzeug und nicht in ein geregeltes Produkt eingebettet. → Nicht einschlägig.
Hinweis: Dass mit nori u. a. Gesundheits-Software (z. B. DiGA/DiPA) auditiert wird, macht nori nicht selbst zum Medizinprodukt oder dessen Sicherheitsbauteil. nori ist Teil des Entwicklungs-/Prüfprozesses, nicht des geprüften Produkts.
5. Prüfung Anhang III (Hochrisiko-Anwendungsbereiche)
| Anhang-III-Bereich | Trifft auf nori zu? | Begründung |
|---|---|---|
| 1. Biometrie | Nein | Keine biometrische Identifizierung/Kategorisierung/Emotionserkennung. |
| 2. Kritische Infrastruktur | Nein | nori ist keine Sicherheitskomponente im Betrieb/Management kritischer Infrastruktur. |
| 3. Allgemeine/berufliche Bildung | Nein | Keine Bewertung von Lernenden, Zugang/Zuteilung zu Bildung. |
| 4. Beschäftigung/Personalmanagement | Nein | Keine Einstellungs-, Auswahl- oder Leistungsbewertung von Personen. |
| 5. Zugang zu wesentlichen Diensten | Nein | Keine Bonitäts-/Anspruchsbewertung; keine Entscheidung über Zugang zu öffentlichen/privaten Leistungen für Einzelpersonen. |
| 6. Strafverfolgung | Nein | Kein Einsatz durch Strafverfolgungsbehörden, keine Risiko-/Beweisbewertung. |
| 7. Migration/Asyl/Grenzkontrolle | Nein | Kein Bezug. |
| 8. Justiz/demokratische Prozesse | Nein | Keine Unterstützung von Justizbehörden, keine Beeinflussung von Wahlen. |
→ Kein Anhang-III-Bereich ist einschlägig.
6. Hilfsweise: Bewertung nach Art. 6 Abs. 3
Auch wenn (entgegen Abschnitt 5) ein Anhang-III-Bezug unterstellt würde, wäre nori nach Art. 6 Abs. 3 nicht hochriskant, weil es eine der dort genannten Bedingungen erfüllt:
- (a) eng begrenzte Verfahrensaufgabe – nori prüft Code gegen klar umrissene Controls; und
- (d) vorbereitende Aufgabe zu einer von Menschen vorgenommenen Bewertung – Findings bereiten die menschliche Compliance-Prüfung vor, ersetzen sie aber nicht.
Die Ausschlussklausel des Art. 6 Abs. 3 (Profiling natürlicher Personen) greift nicht, da nori kein Profiling vornimmt. Damit wäre die Ausnahme einschlägig.
7. Risikobetrachtung und Minderungsmaßnahmen
| Maßnahme | Umsetzung in nori |
|---|---|
| Menschliche Aufsicht | Findings = Vorschläge; Auditor entscheidet. Feedback-/False-Positive-Annotation im Dashboard. |
| Nachvollziehbarkeit | run.json je Lauf (Modell, Git-Commit/-Branch, Zeitstempel, Score, Token/Kosten); Findings mit Datei/Zeilen-Referenz. |
| Qualitätskontrolle | nori-regression: Precision/Recall/Verdict-Accuracy gegen committete Ground-Truth + Baseline, mit menschlicher Adjudikation. |
| Determinismus/Stabilität | Template-basierte Prompts; deterministische Integritäts-Tests in CI. |
8. Schlussfolgerung, Verantwortliche, Re-Assessment
Schlussfolgerung: nori ist nicht als Hochrisiko-KI-System einzustufen (Art. 6 Abs. 3/4). Diese Einschätzung ist vor Inverkehrbringen/Inbetriebnahme zu registrieren und auf Anfrage bereitzustellen.
Verantwortlich: nori-Produktverantwortliche/r Dr. Matthias Berger
Re-Assessment auslösende Ereignisse:
- wesentliche Funktionsänderung (z. B. autonome Freigabe-Entscheidungen ohne menschliche Aufsicht),
- Einsatz in einem Anhang-III-Kontext,
- Verarbeitung/Profiling natürlicher Personen,
- Änderungen der KI-VO oder einschlägiger Leitlinien.