Betreiber nach dem AI Act: Pflichten beim Einsatz von KI im Unternehmen

Betreiberrolle am Use Case festmachen

Ordnen Sie jedes eingesetzte System einer konkreten Gesellschaft, einem Prozess und einem fachlichen Owner zu. Betreiber ist grundsätzlich, wer das System in eigener Verantwortung beruflich verwendet. Private, nicht berufliche Nutzung fällt nicht unter diese Definition; eine bloße technische Dienstleistung oder Bereitstellung kann dagegen eine andere Rolle begründen.

Dokumentieren Sie Zweck, Nutzerkreis, Entscheidungseinfluss, betroffene Personen und Datenflüsse. Ein Unternehmen kann zusätzlich Anbieter sein, etwa bei Eigenentwicklung, eigener Marke oder bestimmten Änderungen. Deshalb muss die Rollenprüfung vor Freigabe und erneut bei Fine-Tuning, neuer Zweckbestimmung oder wesentlicher technischer Änderung erfolgen. Als Nachweis dienen eine datierte Bewertung, benannte Verantwortliche, verknüpfte Unterlagen und ein Termin für die nächste Prüfung. Wesentliche Unsicherheit wird nicht stillschweigend akzeptiert, sondern mit Entscheidung, Auflage oder Eskalation sichtbar gemacht.

• Betreiberdefinition nach Art. 3 Nr. 4 erläutern und von bloßer privater Nutzung, Anbieterrolle und technischer Dienstleistung abgrenzen.

Quellen: [1] [2] [3] [4]

Bereits geltende Querschnittspflichten

Verhindern Sie Nutzungen, die anwendbare Tatbestände des Artikels 5 erfüllen. Unterstützen Sie nach dem geänderten Artikel 4 die Entwicklung der KI Kompetenz jener Personen, die mit Betrieb und Nutzung befasst sind. Inhalt und Tiefe richten sich nach Vorwissen, Erfahrung, Nutzungskontext und betroffenen Gruppen; ein Standardkurs für alle genügt nicht automatisch.

Prüfen Sie daneben die Betreiberpflichten des Artikels 50. Bei Emotionserkennung und biometrischer Kategorisierung bestehen unter den gesetzlichen Voraussetzungen Informationspflichten; bei bestimmten Deepfakes und Texten von öffentlichem Interesse können Offenlegungspflichten greifen. Tatbestand, Ausnahme, Kanal und verantwortliche Person werden vor Veröffentlichung dokumentiert. Als Nachweis dienen eine datierte Bewertung, benannte Verantwortliche, verknüpfte Unterlagen und ein Termin für die nächste Prüfung. Wesentliche Unsicherheit wird nicht stillschweigend akzeptiert, sondern mit Entscheidung, Auflage oder Eskalation sichtbar gemacht.

• Bereits geltende Querschnittspflichten behandeln: verbotene Praktiken vermeiden, Maßnahmen zur Unterstützung von KI-Kompetenz setzen und einschlägige Transparenzpflichten erfüllen.

Quellen: [1] [2]

Hochrisiko-Nutzung vorbereiten

Für Hochrisiko-Systeme sieht Artikel 26 unter anderem Nutzung entsprechend der Gebrauchsanweisung, geeignete menschliche Aufsicht, Kontrolle relevanter Eingabedaten, Aufbewahrung verfügbarer Protokolle sowie Monitoring vor. Risiken und schwerwiegende Vorfälle müssen über festgelegte Wege adressiert werden. Diese Funktionen gehören in den Betriebsprozess, nicht nur in eine Rechtscheckliste.

Definieren Sie, welche Entscheidungen Menschen treffen, wann sie Ausgaben verwerfen und wann der Betrieb ausgesetzt wird. Prüfen Sie Eingabedaten im Einflussbereich des Betreibers auf Eignung und Relevanz. Der Owner überwacht Fehlerraten, Beschwerden, Übersteuerungen und Zweckabweichungen und eskaliert Veränderungen, die Anleitung, Freigabe oder Risikoeinstufung infrage stellen. Als Nachweis dienen eine datierte Bewertung, benannte Verantwortliche, verknüpfte Unterlagen und ein Termin für die nächste Prüfung. Wesentliche Unsicherheit wird nicht stillschweigend akzeptiert, sondern mit Entscheidung, Auflage oder Eskalation sichtbar gemacht.

• Für künftige Hochrisiko-Einsätze die Betreiberpflichten aus Art. 26 strukturieren: Nutzung nach Gebrauchsanweisung, menschliche Aufsicht, relevante Eingabedaten, Protokolle, Monitoring und Meldung von Risiken oder Vorfällen.

Quellen: [1] [2]

Beschäftigte und Vertretungen einbinden

Bei Hochrisiko-Systemen am Arbeitsplatz sind vor der Inbetriebnahme die einschlägigen Informationspflichten gegenüber Beschäftigten und Arbeitnehmervertretungen zu berücksichtigen. Daneben können österreichisches Arbeitsrecht, Datenschutzrecht, Gleichbehandlungsrecht und Mitwirkungsrechte weitergehende oder frühere Anforderungen stellen. Die verschobene Hochrisikofrist setzt diese Vorschriften nicht außer Kraft.

HR, Legal und Datenschutz müssen den Einsatz vor dem Pilotbetrieb gemeinsam prüfen. Beschreiben Sie Zweck, Entscheidungseinfluss, Daten, menschliche Kontrolle und Beschwerdeweg verständlich. Geheimhaltung gegenüber dem Anbieter rechtfertigt keine inhaltsleere Information. Beteiligung und Kommunikation werden zeitlich so geplant, dass Rückmeldungen noch in Gestaltung und Freigabe einfließen können. Als Nachweis dienen eine datierte Bewertung, benannte Verantwortliche, verknüpfte Unterlagen und ein Termin für die nächste Prüfung. Wesentliche Unsicherheit wird nicht stillschweigend akzeptiert, sondern mit Entscheidung, Auflage oder Eskalation sichtbar gemacht.

• Informationspflichten gegenüber Beschäftigten und Arbeitnehmervertretungen bei Hochrisiko-Systemen am Arbeitsplatz einordnen.

Quellen: [1] [2]

Folgenabschätzungen richtig abgrenzen

Artikel 27 verlangt eine Grundrechte-Folgenabschätzung nur für den dort bestimmten persönlichen und sachlichen Anwendungsbereich. Sie ist von einer Datenschutz-Folgenabschätzung nach der DSGVO und von allgemeinen internen Risikoanalysen zu unterscheiden. Mehrere Prüfungen können parallel erforderlich sein und sollten auf gemeinsamen Fakten aufbauen, ohne ihre unterschiedlichen Maßstäbe zu vermischen.

Erfassen Sie betroffene Gruppen, erwartete Nutzung, Risiken für Grundrechte, Aufsichtsmaßnahmen, Beschwerdewege und Abhilfe. Prüfen Sie separat, ob eine Datenschutz-Folgenabschätzung erforderlich ist. Verantwortliche, Freigabe und Aktualisierung werden je Instrument festgelegt; eine Folgenabschätzung darf nicht als formale Anlage ohne Einfluss auf Systemgestaltung und Einsatzentscheidung behandelt werden. Als Nachweis dienen eine datierte Bewertung, benannte Verantwortliche, verknüpfte Unterlagen und ein Termin für die nächste Prüfung. Wesentliche Unsicherheit wird nicht stillschweigend akzeptiert, sondern mit Entscheidung, Auflage oder Eskalation sichtbar gemacht.

• Grundrechte-Folgenabschätzung nach Art. 27 von Datenschutz-Folgenabschätzung und allgemeiner interner Risikobewertung abgrenzen; persönlichen und sachlichen Anwendungsbereich genau prüfen.

Quellen: [1] [2]

Monitoring, Meldung und Stopp

Der Betreiber überwacht das System im realen Nutzungskontext. Legen Sie Kennzahlen für Fehler, Benachteiligungen, Sicherheitsereignisse, Beschwerden, menschliche Übersteuerungen und Abweichungen vom freigegebenen Zweck fest. Modell- oder Datenänderungen, neue Nutzergruppen und veränderte Prozessfolgen lösen eine erneute Bewertung aus.

Für Anhang III gelten die besonderen Betreiberpflichten grundsätzlich ab 2. Dezember 2027, für Anhang I ab 2. August 2028. Unabhängig davon braucht jedes wesentliche System jetzt Eskalations- und Abschaltwege. Bei ernsthaften Risiken wird Nutzung eingeschränkt oder ausgesetzt, Beweissicherung vorgenommen und der zuständige Anbieter beziehungsweise die zuständige Stelle nach anwendbarem Recht eingebunden. Als Nachweis dienen eine datierte Bewertung, benannte Verantwortliche, verknüpfte Unterlagen und ein Termin für die nächste Prüfung. Wesentliche Unsicherheit wird nicht stillschweigend akzeptiert, sondern mit Entscheidung, Auflage oder Eskalation sichtbar gemacht.

• Monitoring, Meldewege, Nutzungsunterbrechung und Neubewertung bei Änderungen als zusammenhängenden Betreiberprozess organisieren.

Quellen: [1] [2]

Häufige Fragen