GPAI-Modelle nach dem AI Act: Anbieterpflichten, Systemrisiken und Zeitplan

Modell, System und Rolle auseinanderhalten

Ein GPAI-Modell ist ein KI-Modell, das eine erhebliche Allgemeinheit aufweist, ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen kann und in vielfältige nachgelagerte Systeme oder Anwendungen integrierbar ist. Ein GPAI-System ist demgegenüber ein KI-System, das auf einem solchen Modell beruht und unterschiedliche Zwecke erfüllen kann. Das Modell ist damit nicht automatisch identisch mit dem Chatbot, der API-Oberfläche oder der fertigen Fachanwendung.

Für die Anbieterrolle ist maßgeblich, wer das Modell entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke in Verkehr bringt. Ein Unternehmen, das lediglich eine fremde API nutzt, wird dadurch nicht automatisch Anbieter des zugrunde liegenden GPAI-Modells. Fine-Tuning, Umbenennung, Weitergabe, Veröffentlichung von Gewichten oder wesentliche Änderungen können jedoch eine erneute Rollenprüfung auslösen. Verträge helfen bei der Aufgabenverteilung, können die gesetzliche Rolle aber nicht beliebig umetikettieren.

• Modell und System in der Architektur getrennt erfassen
• Marke, Veröffentlichung und Änderungen dokumentieren
• API-Nutzung nicht mit Modellanbieterschaft gleichsetzen

Quellen: [1] [3]

Pflichten für alle GPAI-Modellanbieter

Anbieter müssen technische Dokumentation über das Modell erstellen und aktuell halten. Sie müssen nachgelagerten Anbietern Informationen und Unterlagen zur Verfügung stellen, damit diese die Fähigkeiten und Grenzen verstehen und ihre eigenen Pflichten erfüllen können. Der Informationsfluss soll ausreichend sein, ohne Rechte des geistigen Eigentums oder Geschäftsgeheimnisse unangemessen preiszugeben. Versionen, Evaluierungen, bekannte Grenzen und zulässige Nutzungsszenarien müssen so beschrieben sein, dass Integratoren belastbar planen können.

Weitere Kernpflichten sind eine Strategie zur Einhaltung des Unionsurheberrechts, insbesondere zur Beachtung von Rechtevorbehalten, sowie die Veröffentlichung einer hinreichend detaillierten Zusammenfassung der für das Training verwendeten Inhalte nach der vom AI Office bereitgestellten Vorlage. Anbieter mit Sitz außerhalb der Union müssen grundsätzlich einen Bevollmächtigten in der Union bestellen, sofern keine gesetzliche Ausnahme greift. Diese Pflichten sind von Transparenzpflichten für konkrete Systemausgaben nach Art. 50 zu unterscheiden.

• Technische Dokumentation versionsbezogen pflegen
• Integratoren rechtzeitig mit Informationen versorgen
• Urheberrechtsstrategie und Trainingszusammenfassung umsetzen

Quellen: [1]

Open Source ist keine pauschale Ausnahme

Für GPAI-Modelle, die unter einer freien und quelloffenen Lizenz zugänglich gemacht werden, sieht der AI Act unter bestimmten Voraussetzungen Erleichterungen bei einzelnen Dokumentations- und Informationspflichten vor. Dafür müssen insbesondere Parameter einschließlich Gewichten, Informationen zur Modellarchitektur und Informationen über die Modellnutzung öffentlich zugänglich sein. Eine bloße Marketingbezeichnung als Open Source oder ein offenes Interface genügt nicht. Die Lizenz und die tatsächlich veröffentlichten Artefakte sind zu prüfen.

Die Erleichterungen gelten nicht grenzenlos und greifen insbesondere nicht in gleicher Weise bei GPAI-Modellen mit systemischem Risiko. Urheberrechtsstrategie und Trainingsinhaltszusammenfassung bleiben ebenfalls im Blick. Unternehmen, die offene Modelle übernehmen, sollten Lizenzpflichten, Herkunft, Modellkarte, Sicherheitsinformationen, Modifikationen und Weitergabe dokumentieren. Ein offenes Modell befreit den Anbieter eines darauf aufgebauten KI-Systems weder von Systempflichten noch den Betreiber von Pflichten des konkreten Einsatzes.

• Lizenz und veröffentlichte Artefakte prüfen
• Systemisches Risiko separat behandeln
• Nachgelagerte Rollen trotz offenem Modell bewerten

Quellen: [1] [3]

Systemisches Risiko löst Zusatzpflichten aus

GPAI-Modelle können als Modelle mit systemischem Risiko eingestuft werden, insbesondere wenn sie Fähigkeiten mit hohem Wirkungsgrad aufweisen. Der Verordnungstext arbeitet mit Kriterien und einer Rechenleistungsvermutung; außerdem sind Einstufungsentscheidungen der Kommission möglich. Anbieter müssen die Schwelle und einschlägige Kriterien überwachen und das AI Office informieren, wenn die gesetzlichen Voraussetzungen erfüllt sind. Eine einzelne Marketingkennzahl ersetzt die rechtliche und technische Bewertung nicht.

Für Anbieter solcher Modelle kommen zusätzliche Pflichten hinzu: standardisierte Modellevaluierungen einschließlich adversarial testing, Bewertung und Minderung möglicher systemischer Risiken auf Unionsebene, Dokumentation und Meldung schwerwiegender Vorfälle sowie angemessene Cybersicherheit für Modell und physische Infrastruktur. Risiken können sich unter anderem aus Missbrauch, Abhängigkeiten, Replikation, autonomen Fähigkeiten oder Auswirkungen auf Sicherheit und Grundrechte ergeben. Maßnahmen müssen dem Stand der Technik angemessen und über den Lebenszyklus aktualisiert werden.

• Schwellen und Einstufungen fortlaufend überwachen
• Evaluierung und systemische Risikobewertung verbinden
• Vorfälle und Cybersicherheit organisatorisch verankern

Quellen: [1] [3]

Praxisleitfaden und Umsetzungshilfen einordnen

Der GPAI-Praxisleitfaden ist ein freiwilliges Instrument, mit dem Anbieter die Einhaltung bestimmter Pflichten nachweisen können. Er ist nicht selbst die gesetzliche Grundlage und ersetzt die Verordnung nicht. Wer ihn nicht unterzeichnet, bleibt an die anwendbaren Pflichten gebunden und muss auf andere Weise zeigen, wie sie erfüllt werden. Unternehmen sollten die einschlägigen Kapitel, Unterzeichnungsstatus, interne Kontrollen und Abweichungen nachvollziehbar dokumentieren.

Für die Zusammenfassung der Trainingsinhalte stellt das AI Office eine Vorlage bereit. Auch sie ist als konkrete Umsetzungshilfe im Rahmen der gesetzlichen Pflicht zu verwenden und sorgfältig mit Urheberrechts-, Datenschutz- und Geheimnisschutzprozessen abzustimmen. Leitlinien der Kommission erläutern unter anderem Anwendungsbereich und Anbieterrolle, sind aber als Auslegungshilfe einzuordnen. Eine Checkliste, die nur den Praxisleitfaden abfragt, kann gesetzliche Pflichten oder besondere Umstände des Modells übersehen.

• Freiwilligkeit des Praxisleitfadens offen ausweisen
• Abweichende Nachweise belastbar dokumentieren
• Vorlage für Trainingsinhalte pro Modellversion pflegen

Quellen: [1] [4] [3]

Zeitplan und Schnittstellen beherrschen

Rechtsstand 16. September 2026: Kapitel V zu GPAI-Modellen gilt grundsätzlich seit 2. August 2025. Anbieter von Modellen, die vor diesem Datum in Verkehr gebracht wurden, müssen die Übergangsregel des Art. 111 Abs. 3 beachten und die einschlägigen Pflichten bis 2. August 2027 erfüllen. Die durch den Digital Omnibus verschobenen Termine für Hochrisiko-KI-Systeme ersetzen oder verlängern diese GPAI-Termine nicht. Seit 2. August 2026 kann die Kommission Verstöße von GPAI-Modellanbietern nach Art. 101 mit Geldbußen ahnden; deren Bemessung und Höchstgrenzen sind von den nationalen Betreiberbußen nach Art. 99 zu trennen.

Zwischen Modellanbieter, nachgelagertem Anbieter, Systemanbieter und Betreiber braucht es eine belastbare Informationskette. Verträge sollten Versionen, zulässige Nutzung, Evaluierungen, Sicherheitsmeldungen, Änderungen, Vorfälle, Dokumentationszugang und Beendigungsfolgen regeln. Nachgelagerte Anbieter müssen Informationen in eigene Risiko-, Transparenz- und Produktprozesse übersetzen. Vor jeder Veröffentlichung sind aktuelle Leitlinien, Praxisleitfaden, Vorlagen, Einstufungsentscheidungen und Durchsetzungspraxis des AI Office zu prüfen; kein Dokumentationspaket garantiert für sich allein vollständige Regelbefolgung.

• Neumodelle seit 2. August 2025 pflichtbezogen behandeln
• Altmodelle bis 2. August 2027 anpassen
• GPAI- und Hochrisikofristen nicht vermischen

Quellen: [1] [2]

Häufige Fragen