Sichere KI Nutzung im Arbeitsalltag: Die Checkliste für Fachabteilungen

Vorher: Werkzeug, Zweck und Freigabe klären

Eine sichere Nutzung beginnt nicht beim Prompt, sondern bei der Frage, ob das konkrete Werkzeug für den beabsichtigten Geschäftszweck freigegeben ist. Ein allgemein zugelassener Schreibassistent darf nicht automatisch für Bewerberauswahl, Leistungsbeurteilung, medizinische Aussagen oder Entscheidungen über wesentliche Leistungen eingesetzt werden. Fachabteilungen sollten den vorgesehenen Zweck, die Nutzerrolle, betroffene Personen und die Folgen eines Fehlers benennen, bevor Daten eingegeben oder Ergebnisse übernommen werden.

Die Einordnung darf nicht nur am Produktnamen hängen. Dasselbe System kann für Rechtschreibkorrektur ein niedriges Risiko haben und bei der Bewertung natürlicher Personen eine wesentlich strengere Prüfung erfordern. Zu klären ist außerdem, ob das Unternehmen das fremde System lediglich betreibt oder durch Eigenentwicklung, Auftreten unter eigenem Namen, Zweckänderung oder wesentliche Änderung Anbieterpflichten auslösen könnte. Die Checkliste stößt diese Prüfung an, ersetzt sie aber nicht.

• Freigabestatus und zulässige Nutzergruppe prüfen
• Geschäftszweck und erwartete Entscheidungsauswirkung festhalten
• Rolle, mögliche Ausnahme und relevante Frist gesondert bestimmen

Quellen: [1] [3]

Eingaben: Daten konsequent minimieren

In ein KI-System gehören nur Informationen, die für den freigegebenen Zweck tatsächlich erforderlich und nach internen Regeln zulässig sind. Namen, Kontaktdaten, Gesundheitsangaben, Beschäftigtendaten, Kundenakten, Vertragsdetails und andere vertrauliche Inhalte sollten entfernt, abstrahiert oder pseudonymisiert werden, soweit die Aufgabe das erlaubt. Passwörter, API Schlüssel, Zugangstoken und Sicherheitsinformationen sind keine normalen Arbeitsdaten und dürfen nicht in frei formulierte Eingaben gelangen.

Datenschutzrechtlich ist vorab zu klären, wer Verantwortlicher und Auftragsverarbeiter ist, auf welcher Grundlage personenbezogene Daten verarbeitet werden und ob Übermittlungen, Speicherfristen sowie Betroffenenrechte beherrscht werden. Eine Einwilligung ist weder automatisch erforderlich noch automatisch ausreichend. Auch bei anonym wirkenden Texten können Kombinationen von Angaben Personen identifizierbar machen. Deshalb muss Datenminimierung durch Verträge, Einstellungen, Zugriffsschutz und klare Löschwege ergänzt werden.

• Nur erforderliche Daten verwenden
• Geheimnisse und Zugangsdaten ausschließen
• Personenbezug, Rechtsgrundlage und Anbieterzugriff prüfen

Quellen: [4] [3]

Während der Nutzung: Grenzen des Systems beachten

Nutzerinnen und Nutzer sollten Systemhinweise, freigegebene Vorlagen und Einschränkungen einhalten, statt Schutzmechanismen zu umgehen. Prompts müssen das Ziel klar beschreiben, dürfen aber keine verbotenen oder intern untersagten Praktiken anfordern. Unerwartete Aufforderungen, externe Links, Datei-Uploads oder Plug-ins verdienen besondere Vorsicht, weil sie Datenflüsse verändern können. Auch komfortable Funktionen wie Verlaufsspeicherung oder automatische Weitergabe sind nur im genehmigten Rahmen zu verwenden.

KI-Ausgaben wirken häufig sprachlich sicher, obwohl Tatsachen, Zitate, Berechnungen oder Quellen falsch sein können. Die Nutzerrolle umfasst daher mehr als das Bedienen einer Oberfläche: Sie verlangt ein Verständnis der bekannten Grenzen im jeweiligen Einsatzkontext. Art. 4 fordert angemessene Maßnahmen zur Unterstützung der Kompetenzentwicklung, aber weder ein einheitliches Schulungsformat noch die Garantie eines bestimmten Wissensstands jeder einzelnen Person. Praxisnahe Einweisung und erreichbare Unterstützung sind mögliche Maßnahmen; die Checkliste ist eine Arbeitshilfe und kein Kompetenznachweis.

• Keine Schutzmaßnahmen umgehen
• Zusatzfunktionen nur nach Freigabe aktivieren
• Bei ungewöhnlichem Systemverhalten Nutzung unterbrechen

Quellen: [2] [3]

Ergebnisprüfung: Plausibilität vor Tempo

Vor der Weiterverwendung sind Tatsachen, Quellen, Rechenwege und wesentliche Schlussfolgerungen gegen verlässliche Unterlagen zu prüfen. Die Prüftiefe richtet sich nach möglichem Schaden, Reichweite und Reversibilität. Ein interner Ideenvorschlag verlangt weniger Kontrolle als eine Kundenmitteilung, Vertragsklausel, Personalentscheidung oder sicherheitsrelevante Anleitung. Wer fachlich nicht beurteilen kann, ob die Ausgabe stimmt, darf die menschliche Kontrolle nicht nur formal bestätigen, sondern muss eine geeignete Fachperson einbeziehen.

Zur Qualitätsprüfung gehören auch Auslassungen, stereotype Annahmen und unterschiedliche Auswirkungen auf Personengruppen. Eine sprachlich neutrale Antwort kann auf ungeeigneten Daten beruhen oder wichtige Gegenargumente verschweigen. Bei Entscheidungen über Menschen sollten Eingabedaten, Kriterien, tatsächlicher Einfluss des Systems und mögliche Übersteuerung nachvollziehbar sein. Menschliche Aufsicht ist nur wirksam, wenn die prüfende Person Zeit, Befugnis, Informationen und eine echte Möglichkeit zur Ablehnung oder Korrektur besitzt.

• Kernaussagen mit Primärquellen abgleichen
• Fehlerfolgen bestimmen und Prüftiefe anpassen
• Bias, Auslassungen und tatsächlichen Entscheidungseinfluss prüfen

Quellen: [1] [3]

Vor Weitergabe: Rechte und Transparenz prüfen

Eine fachlich richtige Ausgabe darf nicht automatisch veröffentlicht oder an Kundinnen und Kunden versandt werden. Vorher sind Urheber-, Marken-, Persönlichkeits- und Geheimhaltungsrechte sowie vertragliche Vorgaben zu prüfen. Bei direkter Interaktion mit natürlichen Personen, Deepfakes oder bestimmten Texten zu Angelegenheiten von öffentlichem Interesse können besondere Transparenzpflichten greifen. Ob eine Information oder Kennzeichnung nötig ist, hängt von Rolle, Inhalt, Veröffentlichungskontext und gesetzlichen Ausnahmen ab.

Für wichtige Arbeitsergebnisse sollte erkennbar bleiben, welches System und welche Version verwendet wurden, wer die Ausgabe geprüft hat und welche Korrekturen erfolgten. Dokumentation ist risikobasiert auszugestalten; nicht jede Formulierungshilfe braucht eine umfangreiche Akte. Sobald Ergebnisse jedoch Entscheidungen, rechtliche Erklärungen oder externe Informationen wesentlich beeinflussen, sollte der Prüfpfad nachvollziehbar sein. Die Dokumentation unterstützt Kontrolle, stellt aber keine Garantie für Rechtmäßigkeit oder Fehlerfreiheit dar.

• Rechte Dritter und Vertraulichkeit prüfen
• Transparenzpflicht nach konkretem Inhalt und Rolle bestimmen
• Wesentliche Prüfung und Freigabe nachvollziehbar festhalten

Quellen: [3] [4]

Unsicherheit und Vorfälle richtig eskalieren

Bei unklarer Freigabe, möglichem Datenabfluss, diskriminierender Ausgabe, erfundenen Quellen oder sicherheitskritischen Fehlern darf das Ergebnis nicht ungeprüft weiterlaufen. Nutzer sollten den Vorgang sichern, ohne unnötig weitere personenbezogene Daten zu kopieren, und die intern benannte Stelle informieren. Je nach Vorfall können Fachverantwortliche, Informationssicherheit, Datenschutz, Legal, Compliance oder die Leitung einzubeziehen sein. Ein klarer Kanal senkt die Hemmschwelle für frühe Meldungen.

Die Organisation sollte Rückmeldungen nicht nur als individuelles Fehlverhalten behandeln. Wiederkehrende Fragen können auf unklare Regeln, schlechte Voreinstellungen, ungeeignete Schulungen oder einen falsch freigegebenen Einsatz hinweisen. Vorfälle und Beinahevorfälle sollten deshalb in Verbesserungen von Checklisten, Zugriffen, Verträgen und Kontrollen einfließen. Die Checkliste bleibt ein lebendes Arbeitsmittel und muss bei neuen Systemversionen, Zwecken, Datenarten oder Rechtsänderungen überprüft werden.

• Ausgabe stoppen und Beweise angemessen sichern
• Zuständige Meldestelle unverzüglich nutzen
• Erkenntnisse in Freigabe, Technik und Einweisung zurückführen

Quellen: [1] [2]

Häufige Fragen