KI in Maschinen und Produkten: Wann Produktsicherheit zum AI Act Hochrisikofall wird

Direkte Produktlogik für Anhang I Abschnitt A

Für die unmittelbar dem produktbezogenen Hochrisikoregime des AI Act unterliegenden Rechtsakte in Anhang I Abschnitt A setzt Artikel 6 Absatz 1 zwei Elemente voraus. Erstens muss das KI-System selbst ein erfasstes Produkt sein oder als Sicherheitskomponente eines solchen Produkts dienen. Zweitens muss das betroffene Produkt nach dem einschlägigen Harmonisierungsrecht für das Inverkehrbringen oder die Inbetriebnahme einer Konformitätsbewertung durch eine dritte Stelle unterliegen. Ein industrieller Einsatz, ein CE-Zeichen oder die bloße Integration in ein Produkt erfüllt diese Prüfung nicht automatisch.

Unternehmen sollten deshalb beim konkreten Produkt und seiner vorgesehenen Funktion beginnen. Zu dokumentieren sind der einschlägige Rechtsakt und dessen Zuordnung zu Abschnitt A oder B, die Produktkategorie, die Funktion im Gesamtsystem, der Konformitätsweg und die Gründe für oder gegen eine Drittstellenbewertung. Fehlt bei einem Abschnitt-A-Produkt eine Voraussetzung, greift dieser Hochrisikoweg nicht. Für Abschnitt-B-Produkte wie Maschinen ist zusätzlich die sektorale Sonderlogik zu beachten.

• Anhang-I-Abschnitt, Rechtsakt und Produktkategorie bestimmen.
• Sicherheitsfunktion der KI technisch beschreiben.
• Drittstellenpflicht des konkreten Konformitätswegs nachweisen.

Quellen: [1] [2] [3] [4]

Sicherheitsfunktion statt bloßer Leistungssteigerung

Der Digital Omnibus präzisiert, wann eine KI-Funktion als Sicherheitskomponente zählt. Ihr beabsichtigter Zweck muss darin liegen, Risiken für Gesundheit oder Sicherheit von Personen oder Eigentum zu verhindern oder zu mindern; Ausfall oder Fehlfunktion muss diese Schutzgüter gefährden können. Reine Nutzerassistenz, Serviceeffizienz, Komfort, Leistungsoptimierung, Automatisierung oder nicht sicherheitsbezogene Qualitätskontrolle genügt nicht. Die Abgrenzung richtet sich nach Architektur und Zweckbestimmung, nicht nur nach dem Namen eines Softwaremoduls.

Eine kollisionsvermeidende Robotersteuerung oder sicherheitsrelevante Fehlererkennung kann erfasst sein, wenn sie eine entsprechende Schutzfunktion übernimmt. Produktionsplanung, Energieoptimierung, vorausschauende Wartung oder optische Qualitätsprüfung ist nicht automatisch hochriskant. Die Bewertung kann aber kippen, wenn die Funktion verbindlich sicherheitskritische Eingriffe oder Prüfintervalle steuert. Daher sind Fehlerfolgen, unabhängige Schutzebenen, Fail-safe-Zustände, Reaktionszeiten und vorhersehbare Fehlanwendungen bereits in der Systemdefinition nachvollziehbar festzuhalten.

• Sicherheitsziel und gefährdete Schutzgüter benennen.
• Unabhängige Hardware- und Prozessbarrieren erfassen.
• Marketingbegriffe nicht als Klassifikationsnachweis verwenden.

Quellen: [1] [2] [3]

Praxisfälle nicht pauschal kategorisieren

Bei einer optischen Qualitätsprüfung hängt die Einordnung davon ab, ob das System nur Oberflächenfehler für wirtschaftliche Qualität aussortiert oder sicherheitsrelevante Defekte erkennen soll, deren Übersehen Menschen oder Eigentum gefährden kann. Ähnlich ist Predictive Maintenance zu bewerten: Kostenoptimierung und bessere Anlagenverfügbarkeit unterscheiden sich von einer Funktion, die sicherheitsnotwendige Wartung bestimmt. Dieselbe technische Methode kann deshalb je nach Zweck und Integration zu einer anderen rechtlichen Bewertung führen.

Bei autonomen oder adaptiven Maschinen ist zusätzlich zu klären, wie sich das Verhalten nach Updates oder Lernen verändert. Menschliche Kontrolle zählt nur, wenn eine geeignete Person rechtzeitig relevante Informationen erhält und wirksam eingreifen kann. Ein Not-Aus allein beantwortet weder die Frage der Sicherheitsfunktion noch alle Anforderungen an menschliche Aufsicht. Teams sollten konkrete Szenarien für Sensorfehler, Datenverschiebung, Kommunikationsausfall, falsche Erkennung, unerwartete Interaktion und Wiederanlauf testen und die verbleibenden Grenzen offen dokumentieren.

• Jeden Use Case mit konkreten Fehlerfolgen beschreiben.
• Human Override unter realistischen Bedingungen testen.
• Modell- und Datenänderungen in die Risikobeurteilung aufnehmen.

Quellen: [1] [3] [4]

Rollen nach dem AI Act und der Maschinenverordnung sauber trennen

Anbieter des KI-Systems, Maschinen- oder Produkthersteller, Einführer, Händler und Betreiber können verschiedene Unternehmen sein oder in einer Organisation zusammenfallen. Für Abschnitt-A-Produkte greifen die Rollen nach dem AI Act und Hochrisikopflichten unmittelbar nach ihren Voraussetzungen. Bei Maschinen stehen die Pflichten der Maschinenverordnung und die dort vorgesehene Herstellerverantwortung im Vordergrund; Rollen nach dem AI Act dürfen nicht unbesehen auf die sektorale Pflichtenverteilung übertragen werden. Rebranding, Zweckänderung und wesentliche Änderung bleiben in beiden Regimen gesonderte Prüfauslöser.

Für die Lieferkette braucht es eine Verantwortungsmatrix mit eindeutigen Informationspflichten. Modellversion, Datenanforderungen, Genauigkeitsgrenzen, bekannte Fehlermodi, Cybersicherheitsupdates, Unterauftragnehmer und Änderungsankündigungen gehören in technische und vertragliche Schnittstellen. Der Produkthersteller muss genügend Informationen erhalten, um Integration und Konformität zu bewerten. Umgekehrt benötigt der KI-Anbieter genaue Angaben zum vorgesehenen Produktkontext. Unklare Grenzen führen sonst zu Lücken bei Validierung, Vorfallbearbeitung und Beobachtung nach dem Inverkehrbringen.

• AI Act Rolle und produktrechtliche Rolle getrennt mappen.
• Rebranding und wesentliche Änderung als Eskalation behandeln.
• Informationsrechte über den gesamten Lebenszyklus sichern.

Quellen: [1] [3] [4]

Sektorale und horizontale Nachweise richtig zuordnen

Risikobeurteilung, Qualitätsmanagement, technische Dokumentation, Daten-Governance, Protokollierung, menschliche Aufsicht, Genauigkeit, Robustheit, Cybersicherheit und Beobachtung nach dem Inverkehrbringen sollten in einem verbundenen Assurance-System organisiert werden. Bei Abschnitt-A-Produkten sind die unmittelbar geltenden Anforderungen des AI Act mit dem Produktrecht zu verzahnen. Bei Maschinen werden die entsprechenden KI-Anforderungen über die Maschinenverordnung und die bis 2. August 2028 vorgesehenen delegierten Rechtsakte in deren Anhang III integriert. Produktakten und Safety-Nachweise sind deshalb dem jeweils einschlägigen Rechtsregime zuzuordnen.

Ein belastbarer Prozess verbindet Systeminventar, Konfigurationsmanagement, Software Bill of Materials, Modell- und Datenversionen, Prüfprotokolle, Änderungsfreigaben, Beschwerden und Feldbeobachtung. Bei sicherheitsrelevanten Updates ist vorab festzulegen, welche Regressionstests und Bewertungen erforderlich sind. Lieferantenberichte sollten plausibilisiert werden. Unternehmen müssen außerdem gewährleisten, dass Abweichungen aus Produktion und Betrieb in die Risikoanalyse zurückfließen. Ein Zertifikat für eine Komponente ersetzt nicht die Bewertung ihrer konkreten Integration in das Endprodukt.

• Produktakte und KI Nachweise über eindeutige Versionen verknüpfen.
• Änderungen vor Ausbringung risikobasiert testen.
• Feldbeobachtung und Vorfälle in die Entwicklung zurückspielen.

Quellen: [1] [3] [4]

Maschinen-Sonderweg und Produktfrist getrennt steuern

Rechtsstand 16. September 2026: Die Maschinenverordnung (EU) 2023/1230 gilt grundsätzlich ab 20. Januar 2027. Der Digital Omnibus hat sie in Abschnitt B des Anhangs I des AI Act verschoben. Für solche Abschnitt-B-Systeme gelten die materiellen Hochrisikoanforderungen des AI Act überwiegend nicht unmittelbar; stattdessen muss die Kommission Anhang III der Maschinenverordnung durch delegierte Rechtsakte um entsprechende Anforderungen ergänzen, die ab 2. August 2028 gelten sollen.

Davon zu unterscheiden sind Abschnitt-A-Produktfälle, für die die spezifischen Hochrisikoanforderungen des AI Act grundsätzlich ab 2. August 2028 gelten, und gelistete Anhang-III-Verwendungszwecke mit dem Termin 2. Dezember 2027. Bis zum jeweils einschlägigen Termin sollten Produktportfolio, Anhangszuordnung, Sicherheitsfunktionen, Rollen, Konformitätswege, Lieferantennachweise und Änderungsprozesse überprüft werden. Delegierte Rechtsakte zur Maschinenverordnung, sektorale Übergangsregeln und Hochrisikoleitlinien sind vor jeder Konformitätsentscheidung erneut zu prüfen.

• Maschinenverordnung ab 20. Januar 2027 einplanen.
• Maschinenanforderungen nach der sektoralen Umsetzung auf 2. August 2028 ausrichten.
• Altprodukte und wesentliche Änderungen separat bewerten.

Quellen: [1] [2] [3] [5]

Häufige Fragen