---
id: CP-314
slug: ki-nutzungsrichtlinie-unternehmen
lang: de
title: "KI-Nutzungsrichtlinie: erlauben, regeln, verbieten"
description: Wozu eine KI-Nutzungsrichtlinie dient, was sie enthält und was Sie tun, bevor Sie ein neues Werkzeug für generative KI öffnen.
canonical_url: https://startbrain.io/cyberpedia/de/articles/ki-nutzungsrichtlinie-unternehmen/
markdown_url: https://startbrain.io/cyberpedia/de/articles/ki-nutzungsrichtlinie-unternehmen.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: "Brain, „KI-Nutzungsrichtlinie: erlauben, regeln, verbieten“, Cyberpedia, 2026. https://startbrain.io/cyberpedia/de/articles/ki-nutzungsrichtlinie-unternehmen/ (CC BY 4.0)"
wing: 4
theme: authorized_tools
reflex: air-010
schema: G5
updated: "2026-11-14"
translations:
  de: https://startbrain.io/cyberpedia/de/articles/ki-nutzungsrichtlinie-unternehmen/
  fr: https://startbrain.io/cyberpedia/fr/articles/charte-utilisation-ia-entreprise/
  en: https://startbrain.io/cyberpedia/en/articles/company-ai-use-policy/
  es: https://startbrain.io/cyberpedia/es/articles/politica-interna-uso-ia-empresa/
  it: https://startbrain.io/cyberpedia/it/articles/regolamento-utilizzo-ia-azienda/
  nl: https://startbrain.io/cyberpedia/nl/articles/ai-gebruiksreglement-onderneming/
  pl: https://startbrain.io/cyberpedia/pl/articles/regulamin-korzystania-z-ai-w-firmie/
  pt: https://startbrain.io/cyberpedia/pt/articles/carta-utilizacao-ia-empresa/
  ja: https://startbrain.io/cyberpedia/ja/articles/company-ai-use-policy/
sources:
  - "n": 1
    title: Comment déployer une IA générative ? La CNIL apporte de premières précisions
    publisher: CNIL
    url: https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions
    published: "2024-07-18"
    accessed: "2026-11-14"
  - "n": 2
    title: Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative
    publisher: CNIL
    url: https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative
    published: "2024-07-18"
    accessed: "2026-11-14"
  - "n": 3
    title: Security recommendations for a generative AI system
    publisher: ANSSI
    url: https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf
    published: "2024-04-29"
    accessed: "2026-11-14"
  - "n": 4
    title: AI Literacy - Questions & Answers
    publisher: Commission européenne
    url: https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers
    accessed: "2026-11-14"
  - "n": 5
    title: "ChatGPT and large language models: what's the risk?"
    publisher: NCSC (Royaume-Uni)
    url: https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk
    published: "2023-03-14"
    accessed: "2026-11-14"
  - "n": 6
    title: AI Risk Management Framework
    publisher: NIST
    url: https://www.nist.gov/itl/ai-risk-management-framework
    published: "2023-01-26"
    accessed: "2026-11-14"
  - "n": 7
    title: "AI and cyber security: what you need to know"
    publisher: NCSC (Royaume-Uni)
    url: https://www.ncsc.gov.uk/guidance/ai-and-cyber-security-what-you-need-to-know
    published: "2024-02-13"
    accessed: "2026-11-14"
  - "n": 8
    title: LLM02:2025 Sensitive Information Disclosure
    publisher: OWASP
    url: https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/
    accessed: "2026-11-14"
---

# KI-Nutzungsrichtlinie: erlauben, regeln, verbieten

Eine KI-Nutzungsrichtlinie ist ein internes Dokument, das Beschäftigten sagt, welche Verwendungen generativer KI erlaubt und welche ausgeschlossen sind. Die CNIL empfiehlt, die Nutzung zu regeln, indem eine Liste erlaubter und verbotener Verwendungen festgelegt wird [1].

Dieser Artikel ordnet diese Regeln in drei Spalten: was mit den freigegebenen Werkzeugen erlaubt ist, was eine Genehmigung erfordert und was verboten ist. Er nennt außerdem, was Sie tun, bevor Sie ein neues Werkzeug nutzen, und an wen Sie Ihre Fragen richten.

## In 30 Sekunden

- Wo es vorkommt: sobald Beschäftigte eine generative KI nutzen, um Inhalte zu erzeugen, einen Text zu überarbeiten (Korrektur, Übersetzung) oder Dokumente zu analysieren (Sortieren, Zusammenfassen) [2].
- Das Risiko: Laut ANSSI werden bei der Mehrheit der Online-Dienste die gesendeten Daten vom Anbieter erfasst und genutzt, um seine Modelle zu optimieren [3].
- Der Reflex: die Richtlinie lesen, bevor Sie ein neues Werkzeug nutzen, und keine sensiblen Daten in einen öffentlichen Online-KI-Dienst eingeben [3]; bei einem Problem die Anlaufstelle nutzen, die die Organisation für ethische Schwierigkeiten benannt haben kann [2].

## Direkte Fragen

### Wozu eine Richtlinie?

Laut CNIL haftet im Allgemeinen die nutzende Organisation rechtlich, wenn ihr Personal die KI falsch einsetzt [2]. Sie empfiehlt daher jeder Organisation, die Nutzung durch interne Richtlinien zu regeln, die erlaubte und verbotene Verwendungen klar festlegen [2].

### Was enthält eine Richtlinie?

Als Beispiele für Verbote nennt die CNIL, dem System keine personenbezogenen Daten zu übergeben und ihm keine Entscheidungen zu überlassen [1]. Je nach Betriebsform sollte auch untersagt werden, bestimmte vertrauliche Daten zu übergeben, etwa solche, die dem Betriebs- und Geschäftsgeheimnis unterliegen [2]. Sie empfiehlt, die Nutzer angemessen zu schulen und regelmäßig zu kontrollieren [2].

### Wer wirkt an der Ausarbeitung mit?

Die CNIL empfiehlt, von Anfang an alle Beteiligten einzubeziehen: den Datenschutzbeauftragten (DPO), die IT-Leitung, die Informationssicherheitsleitung und die Fachbereichsleitungen [1]. Der DPO kann sinnvollerweise eine Steuerungsrolle übernehmen, gegebenenfalls gemeinsam mit der Informationssicherheitsleitung, und diese Benennung kann den Nutzern eine Anlaufstelle bieten, um ihre Probleme zu melden [2].

### Verlangt die europäische KI-Verordnung, Beschäftigte zu schulen?

Die Europäische Kommission erklärt, dass Artikel 4 der KI-Verordnung von Anbietern und Betreibern von KI-Systemen verlangt, Maßnahmen zu ergreifen, um die KI-Kompetenz ihres Personals und anderer Personen zu fördern, die diese Systeme in ihrem Auftrag nutzen [4]. Diese Maßnahmen berücksichtigen die technischen Kenntnisse, die Erfahrung, die Bildung und die Ausbildung dieser Personen [4].

Die FAQ stellt klar, dass Artikel 4 weder verlangt, das Wissen der Beschäftigten zu messen, noch jeder Person ein bestimmtes Kompetenzniveau zu garantieren [4]. Sie gibt außerdem an, dass kein Zertifikat nötig ist (die Organisation kann ein internes Schulungsregister führen) und dass keine besondere Governance-Struktur vorgeschrieben wird [4]. Ein verbindliches Schulungsformat legt sie nicht fest, hält es aber für möglicherweise unwirksam, sich auf Gebrauchsanweisungen zu verlassen oder das Personal zu bitten, sie zu lesen [4].

Laut derselben FAQ gilt Artikel 4 seit dem 2. Februar 2025 [4]. Die Regeln zu Aufsicht und Sanktionen gelten seit dem 2. August 2026, und die Aufsicht obliegt den nationalen Marktüberwachungsbehörden [4]. Der Digital Omnibus zur KI, der Mitte Juli 2026 in Kraft getreten ist, hat Artikel 4 geändert: Die Pflicht zur KI-Kompetenz bleibt für Anbieter und Betreiber bestehen, aber es wird kein bestimmtes oder ausreichendes Niveau vorgeschrieben [4].

### Ist ein Unternehmen betroffen, dessen Beschäftigte ChatGPT zum Verfassen oder Übersetzen nutzen?

Die Kommission antwortet mit Ja: Diese Beschäftigten sollten über die Risiken des Werkzeugs informiert werden, etwa über die Halluzination [4].

### Darf ich Unternehmensdaten in einen öffentlichen KI-Dienst eingeben?

Die ANSSI schreibt, dass sensible Daten auf keinen Fall an generative KI-Dienste Dritter wie ChatGPT, Gemini, Copilot, DeepL oder Perplexity gesendet werden dürfen [3]. Zu diesen Daten zählt sie Passwörter und API-Schlüssel, personenbezogene Daten sowie vertragliche, rechtliche und finanzielle Daten des Unternehmens [3]. Das britische NCSC empfiehlt, keine sensiblen Informationen in Anfragen an öffentliche LLM aufzunehmen und keine Anfragen zu stellen, die problematisch wären, wenn sie öffentlich würden [5].

## So funktioniert es

Die CNIL rät, von einem konkreten Bedarf auszugehen, statt eine generative KI ohne klares Ziel einzuführen [1]. Die Betriebsform spielt eine Rolle: Für nicht vertrauliche Verwendungen kann ein Dienst für die breite Öffentlichkeit mit angemessenen Garantien in Betracht kommen. Besteht die Nutzung darin, personenbezogene Daten oder sensible Dokumentation zu übergeben, ist es laut CNIL im Allgemeinen zweckmäßiger und sicherer, eine lokal betriebene Lösung zu bevorzugen, die das Risiko des Datenabflusses an einen Dritten begrenzt [2]. Bei einer API liegt die Kontrolle über das System fast ausschließlich beim Anbieter, daher die Vorgabe, dort so weit wie möglich keine personenbezogenen Daten einzugeben [2].

Rahmenwerke helfen Organisationen, diese Risiken zu bewerten. Das KI-Risikomanagement-Rahmenwerk des NIST ist für die freiwillige Nutzung bestimmt [6]. Sein Profil zur generativen KI, veröffentlicht am 26. Juli 2024, kann Organisationen helfen, die spezifischen Risiken generativer KI zu erkennen [6].

Bei den Bedrohungen beschreibt das britische NCSC die Prompt-Injection, bei der ein Angreifer eine Eingabe so gestaltet, dass sich das Modell unvorhergesehen verhält, etwa indem es vertrauliche Informationen preisgibt [7]. Die OWASP zählt die Offenlegung sensibler Informationen zu den Risiken von LLM: personenbezogene Daten, Finanzdaten, Gesundheitsakten, vertrauliche Unternehmensdaten, Sicherheitszugangsdaten und Rechtsdokumente [8].

## Was Sie tun

### Erlaubt mit freigegebenen Werkzeugen

Das sind die Verwendungen, die die Richtlinie auflistet, auf den Werkzeugen, die die Organisation ausgewählt hat. Die CNIL unterscheidet drei Aufgabenkategorien: Inhalte erzeugen, vorhandene Inhalte überarbeiten (Korrektur, Übersetzung) und Daten analysieren (Sortieren, Zusammenfassen von Dokumenten) [2]. Sie nennt ein Beispiel: Beschäftigten einen Dialogagenten zur Verfügung zu stellen, um das Schreiben zu erleichtern, birgt weniger Risiken, als ein System einzusetzen, das bei Entscheidungen über Kunden, Bewerber oder Bürger helfen soll [2].

In diesem Rahmen sollten die Nutzer laut CNIL nur Informationen eingeben, die sie weitergeben dürfen, und die Ausgaben kritisch prüfen: Richtigkeit, Plagiat, Verzerrungen [2]. Nach ihrer Aussage besteht eine gute Praxis darin, die Ausgaben des Systems nie unverändert zu übernehmen [2].

### Was eine Genehmigung erfordert

Die CNIL zieht einen Dienst für die breite Öffentlichkeit für nicht vertrauliche Verwendungen in Betracht, mit angemessenen Garantien: Konten mit privaten Adressen vermeiden und gegebenenfalls die Möglichkeit abschalten, dass der Anbieter die Nutzungsdaten weiterverwendet [2]. Wenn die Gefahr besteht, dass der Anbieter die Daten weiterverwendet, prüft die Organisation im Einzelfall, ob sie jegliche personenbezogenen Daten oder nur bestimmte Kategorien untersagt [2].

Wenn sich ein Werkzeug mit dem Postfach, den Dokumenten oder den Code-Repositories verbindet, verlangt die ANSSI, seine Zugriffsrechte bei der Aktivierung und danach regelmäßig zu überprüfen (zum Beispiel jeden Monat) [3].

### Verboten

Die Richtlinie kann zum Beispiel verbieten, dem System personenbezogene Daten zu übergeben und ihm eine Entscheidung zu überlassen [1]. Die ANSSI schreibt ihrerseits, dass sensible Daten nicht an generative KI-Dienste Dritter gesendet werden dürfen [3]. Die CNIL nennt unter den zu schützenden Daten solche, die vom Geschäftsgeheimnis oder von berufsethischen Pflichten abgedeckt sind, bei der Nutzung eines Dienstes für die breite Öffentlichkeit [2]. Beim Code empfiehlt die ANSSI nachdrücklich, Codeblöcke für kritische Module nicht von einer KI erzeugen zu lassen: Kryptografie, Verwaltung von Zugriffsrechten, Verarbeitung sensibler Daten [3].

### Bevor Sie ein neues Werkzeug nutzen

- Prüfen, ob es in der Richtlinie steht und die geplante Verwendung dort erlaubt ist.
- Davon ausgehen, dass der Anbieter die eingegebenen Daten weiterverwendet: Laut dem britischen NCSC werden die Anfragen gespeichert und mit an Sicherheit grenzender Wahrscheinlichkeit irgendwann genutzt, um den Dienst oder das Modell weiterzuentwickeln, daher muss man die Nutzungsbedingungen und die Datenschutzrichtlinie verstehen, bevor man eine sensible Frage stellt [5].
- Ein dienstliches Konto statt einer privaten Adresse verwenden [2].
- Bei einer Frage oder einem Problem die Anlaufstelle ansprechen, die die Organisation benannt hat, falls es eine gibt: Die CNIL gibt an, dass die Benennung eines DPO, der sinnvollerweise eine Steuerungsrolle übernehmen kann, gegebenenfalls gemeinsam mit der Informationssicherheitsleitung, den Nutzern eine Anlaufstelle bieten kann, um ihre Probleme zu melden [2].

## Die Fallstricke

Eine plausible Antwort ist nicht zwangsläufig richtig: Die CNIL hält fest, dass diese Systeme unrichtige Ergebnisse erzeugen können, die plausibel wirken, und dass übermäßiges Vertrauen ohne Überprüfung zu falschen Entscheidungen führen kann [2]. Sie warnt außerdem vor der Automatisierungsverzerrung, das heißt dem Verlust von Vertrauen oder Kompetenz durch übermäßige Nutzung [2].

Eine Frage kann wegen der Person sensibel sein, die sie stellt. Das britische NCSC nennt das Beispiel einer Führungskraft, die fragen würde, wie man einen Beschäftigten entlässt, und erinnert daran, dass Anfragen mit demselben Konto zusammengeführt werden können [5].

Eine Anweisung an das Werkzeug ersetzt die Regel nicht. Die OWASP hält fest, dass Einschränkungen im System-Prompt möglicherweise nicht eingehalten und durch Prompt-Injection umgangen werden können [8].

Schließlich sollte die Last nicht allein auf den Nutzern liegen: Das britische NCSC schreibt, dass Kunden im Allgemeinen nicht über die Fachkenntnis verfügen, die mit KI verbundenen Risiken allein zu bewältigen, und dass Entwickler die Verantwortung für die Sicherheit ihrer Kunden übernehmen sollten [7].

## Quellen

1. CNIL, „Comment déployer une IA générative ? La CNIL apporte de premières précisions“, 18. Juli 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (abgerufen am 14. November 2026)
2. CNIL, „Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative“, 18. Juli 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (abgerufen am 14. November 2026)
3. ANSSI, „Security recommendations for a generative AI system“, 29. April 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (abgerufen am 14. November 2026)
4. Commission européenne, „AI Literacy - Questions & Answers“. https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers (abgerufen am 14. November 2026)
5. NCSC (Royaume-Uni), „ChatGPT and large language models: what's the risk?“, 14. März 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (abgerufen am 14. November 2026)
6. NIST, „AI Risk Management Framework“, 26. Januar 2023. https://www.nist.gov/itl/ai-risk-management-framework (abgerufen am 14. November 2026)
7. NCSC (Royaume-Uni), „AI and cyber security: what you need to know“, 13. Februar 2024. https://www.ncsc.gov.uk/guidance/ai-and-cyber-security-what-you-need-to-know (abgerufen am 14. November 2026)
8. OWASP, „LLM02:2025 Sensitive Information Disclosure“. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (abgerufen am 14. November 2026)

---

Originalquelle: Cyberpedia, die öffentliche Enzyklopädie zu Cybersicherheit und KI von Brain. Kanonische Version: https://startbrain.io/cyberpedia/de/articles/ki-nutzungsrichtlinie-unternehmen/
Sie dürfen diesen Text unter der Lizenz CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) frei weiterverwenden, sofern Sie „Brain, Cyberpedia“ mit einem Link auf die obige Adresse nennen.
