Lokale KI auf dem Arbeitsplatzrechner oder KI in der Cloud
KI auf dem Rechner (NPU-Chip) und KI in der Cloud werfen unterschiedliche Fragen auf: ein zugelassenes Tool wählen, was eingeben, wen informieren.
In 30 Sekunden
- Wo es vorkommt
- Assistenten für Übersetzung oder Bilderzeugung auf einem neueren Rechner mit KI-Chip1.
- Was sich ändert
- Eine lokale KI läuft auf dem Gerät, eine KI in der Cloud auf einem gehosteten Dienst. In beiden Fällen müssen die eingegebenen Daten und das Tool selbst unter Kontrolle bleiben.
- Der Reflex
- Der Reflex: Nur vom Unternehmen freigegebene Tools nutzen und vor der Eingabe sensibler Daten oder der Installation eines neuen Tools bei der Sicherheitsabteilung oder der IT nachfragen.
- Wenn es schon passiert ist
- Die IT unverzüglich informieren und dabei das Tool und die eingegebenen Daten nennen.
Worum es geht
Eine „lokale“ KI führt ihre Berechnungen auf dem Computer der Beschäftigten aus. Eine KI „in der Cloud“ führt sie auf Servern aus, die anderswo betrieben werden und mit denen sich das Tool verbindet. Wer eine Frage eintippt oder ein Dokument einfügt, merkt kaum einen Unterschied. Die Risiken für die Daten des Unternehmens sind dennoch nicht dieselben, und die Entscheidung, welches Tool genutzt wird, liegt beim Unternehmen.
Dieser Beitrag erklärt den Unterschied und danach, was Beschäftigte tun können: ein zugelassenes Tool wählen, wissen, was sie darin eingeben dürfen, und im Zweifel nachfragen.
Direkte Fragen
Was ist ein NPU-Chip?
Microsoft beschreibt ihn als Chip, der auf aufwendige KI-Aufgaben wie Echtzeitübersetzung oder Bilderzeugung spezialisiert ist1. Die „Copilot+“-PCs von Microsoft enthalten einen, der mehr als 40 Billionen Operationen pro Sekunde (40 TOPS) schafft1. Die NPU arbeitet mit dem Prozessor und der Grafikkarte zusammen, und Windows 11 verteilt die Aufgaben auf diese Komponenten1. Sie ermöglicht KI-Funktionen, die auf dem Gerät ausgeführt werden1.
Ist eine lokale KI ohne Risiko?
Nein. Nichts in den hier zitierten Quellen besagt, dass ein auf dem Rechner ausgeführtes Modell Vorsichtsmaßnahmen überflüssig macht. Das britische NCSC weist darauf hin, dass KI-Systeme neuen Schwachstellen ausgesetzt sind, die zusätzlich zu den gewöhnlichen IT-Bedrohungen zu berücksichtigen sind2. Die OWASP nennt in ihren zehn Risiken für Anwendungen auf Basis von Sprachmodellen unter anderem die Offenlegung sensibler Informationen, die Lieferkette sowie die Vergiftung von Daten und Modellen3. Keine dieser Quellen beschränkt diese Risiken auf Tools, die anderswo gehostet werden.
Was ändert sich bei KI in der Cloud?
Das NCSC richtet seine Leitlinien vor allem an Anbieter von KI-Systemen, die von einer Organisation gehostete Modelle oder externe Programmierschnittstellen (APIs) nutzen2. Bei einer externen API hängt das Tool von einem Drittdienst ab. Die hier zitierten Quellen legen nicht im Einzelnen dar, was jeder Anbieter mit den eingegebenen Daten macht: Das steht in den Nutzungsbedingungen des Dienstes und lässt sich bei der IT des Unternehmens prüfen.
Was darf ich in ein KI-Tool eingeben?
Die hier zitierten Quellen legen keine Liste zulässiger Daten fest. Maßgeblich ist die Regel des Unternehmens. Die CISA verbindet die Datensicherheit mit der Genauigkeit, Integrität und Verlässlichkeit der Ergebnisse einer KI in allen Phasen ihres Lebenszyklus4. Im Zweifel ist es besser, nichts Vertrauliches und nichts Personenbezogenes einzugeben, bis eine Antwort vorliegt.
An wen wende ich mich im Zweifel?
An die IT oder die Sicherheitsabteilung des Unternehmens und, wenn personenbezogene Daten betroffen sind, an die Datenschutzbeauftragte oder den Datenschutzbeauftragten. Diese Ansprechpartner unterscheiden sich von Unternehmen zu Unternehmen, und keine hier zitierte Quelle nennt sie.
1Wie es funktioniert1 min
Ein KI-Modell wird auf einer Hardware ausgeführt („Inferenz“). Auf einem PC mit NPU empfiehlt Microsoft, KI-Aufgaben über Windows ML auf der NPU laufen zu lassen1. Ist die NPU nicht verfügbar, weicht Windows ML auf die GPU oder den Prozessor aus1. Windows ML stützt sich auf ONNX Runtime, eine quelloffene Inferenz-Engine1.
Modelle werden oft in schweren Formaten veröffentlicht. Viele NPUs akzeptieren nur Ganzzahlberechnungen mit reduzierter Genauigkeit, sodass Modelle vor der Ausführung darauf umgewandelt („quantisiert“) werden müssen1. Es gibt bereits umgewandelte Modelle, und jeder kann ein eigenes Modell zur Umwandlung mitbringen1. Dieser letzte Punkt ist für Beschäftigte wichtig: Ein lokales Modell ist eine Datei, und sie stammt von jemandem.
2Was Sie tun1 min
- Nutzen Sie die vom Unternehmen bereitgestellten oder freigegebenen Tools, ob lokal oder in der Cloud.
- Holen Sie vor der Installation eines Tools oder Modells die Zustimmung der IT ein.
- Fragen Sie vor der Eingabe eines sensiblen Dokuments oder personenbezogener Daten nach, ob das Tool für diesen Zweck zugelassen ist. Die CNIL veröffentlicht Praxisblätter zur Anwendung der DSGVO auf KI, darunter eines zur Sicherheit bei der Entwicklung eines KI-Systems5.
- Wenn Sie bereits Daten in ein nicht freigegebenes Tool eingegeben haben, melden Sie das.
3Die Fallstricke2 min
Glauben, eine lokale KI sei ohne Risiko
Die Berechnung findet auf dem Rechner statt, aber Modell und Anwendung bleiben Software, die aktuell gehalten werden muss. Das NCSC zählt Updates und Protokollierung zu den Maßnahmen in der Betriebs- und Wartungsphase eines KI-Systems2. Die OWASP weist außerdem auf das Risiko der „übermäßigen Handlungsfähigkeit“ („excessive agency“) hin: Ein System auf Basis eines Sprachmodells erhält oft ein gewisses Maß an Autonomie3. Ein lokales Tool, das mit Ihren Dateien oder Postfächern verbunden ist, ist ein Beispiel, das Sie gemeinsam mit der IT prüfen sollten.
Ein nicht freigegebenes Tool nutzen („Shadow AI“)
Ein nicht freigegebenes Tool entgeht den Prüfungen des Unternehmens. Das NCSC empfiehlt, Sicherheit als Grundanforderung über den gesamten Lebenszyklus eines Systems zu behandeln2. Ein Tool, das Beschäftigte allein auswählen, fällt unter keine dieser Kontrollen.
Ein Modell unbekannter Herkunft herunterladen
Ein heruntergeladenes Modell ist ein Teil der Lieferkette, ein Risiko, das die OWASP ausdrücklich nennt3. Der NIST-Bericht zum adversarialen maschinellen Lernen behandelt Angriffe über Hintertüren und „Trojaner“ sowie die Vergiftung von Daten7. Die CNIL wiederum führt ein Werkzeug, mit dem sich die Abstammung quelloffen veröffentlichter KI-Modelle erkunden lässt, zuletzt aktualisiert am 26. August 20266. Holen Sie bei einem Modell unbekannter Herkunft vor der Installation die Zustimmung der IT ein.
Datenzugriffe vernachlässigen
Eine KI, die Dokumente liest, kann deren Inhalt preisgeben. Die OWASP nennt die Offenlegung sensibler Informationen, die sowohl das Modell als auch seine Anwendung betrifft3. Das Risikomanagement-Rahmenwerk des NIST, dessen Anwendung freiwillig ist, soll Vertrauenswürdigkeit in Entwurf, Nutzung und Bewertung von KI-Systemen verankern8.
Merkblatt
- Kennung
- CP-269
- Flügel
- 4. Künstliche Intelligenz
- Brain-Kompetenz
- Zugelassene Tools (authorized_tools)
- Brain-Reflex
- air-021
- Schema
- G3 · Anatomischer Schnitt
- Sprachen
- de, en, fr
- Quellen
- 8 Quellen geprüft am 3. November 2026
Quellen8 Quellen
- Microsoft, „Develop AI applications for Copilot+ PCs“. https://learn.microsoft.com/en-us/windows/ai/npu-devices/ (abgerufen am 3. November 2026)
- NCSC (Royaume-Uni), „Guidelines for secure AI system development“, 27. November 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (abgerufen am 3. November 2026)
- OWASP, „LLMRisks Archive“. https://genai.owasp.org/llm-top-10/ (abgerufen am 3. November 2026)
- CISA, „AI Data Security: Best Practices for Securing Data Used to Train & Operate AI Systems“, 22. Mai 2025. https://www.cisa.gov/resources-tools/resources/ai-data-security-best-practices-securing-data-used-train-operate-ai-systems (abgerufen am 3. November 2026)
- CNIL, „Les fiches pratiques IA“. https://www.cnil.fr/fr/les-fiches-pratiques-ia (abgerufen am 3. November 2026)
- CNIL, „Intelligence artificielle“. https://www.cnil.fr/fr/intelligence-artificielle (abgerufen am 3. November 2026)
- NIST, „Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations“. https://csrc.nist.gov/pubs/ai/100/2/e2023/final (abgerufen am 3. November 2026)
- NIST, „AI Risk Management Framework“. https://www.nist.gov/itl/ai-risk-management-framework (abgerufen am 3. November 2026)
Diesen Artikel zitieren
Brain, „Lokale KI auf dem Arbeitsplatzrechner oder KI in der Cloud“, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp269_de_2026,
author = {Brain},
title = {Lokale KI auf dem Arbeitsplatzrechner oder KI in der Cloud},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/de/articles/lokale-ki-npu-vs-cloud-ki/},
note = {CC BY 4.0}
}