Lokale AI op de pc of AI in de cloud

Een AI-model wordt uitgevoerd ("inferentie") op hardware. Op een pc met NPU raadt Microsoft aan Windows ML te gebruiken om AI-taken op de NPU te draaien¹. Is de NPU niet beschikbaar, dan valt Windows ML terug op de GPU of de processor¹. Windows ML steunt op ONNX Runtime, een vrije inferentie-engine¹.

Modellen worden vaak in zware formaten gepubliceerd. Veel NPU's accepteren alleen berekeningen met gehele getallen in verminderde precisie, waardoor modellen eerst moeten worden omgezet ("gekwantiseerd") voordat ze erop draaien¹. Er bestaan al omgezette modellen, en iedereen kan een eigen model meebrengen om om te zetten¹. Dat laatste punt is belangrijk voor de medewerker: een lokaal model is een bestand, en het komt van iemand.

• Gebruik de tools die het bedrijf levert of heeft goedgekeurd, of ze nu lokaal zijn of in de cloud.
• Vraag de IT-afdeling om toestemming voordat u een tool of een model installeert.
• Vraag voordat u een gevoelig document of gegevens van personen invoert of de tool voor dat gebruik is toegestaan. De CNIL publiceert praktische fiches over de toepassing van de AVG op AI, waaronder een over de beveiliging van de ontwikkeling van een AI-systeem⁵.
• Hebt u al gegevens ingevoerd in een niet-goedgekeurde tool, meld dat dan.

Denken dat een lokale AI zonder risico is

De berekening gebeurt op de pc, maar het model en de toepassing blijven software die up-to-date moet worden gehouden. Het NCSC rekent updates en logging tot de acties van de fase van gebruik en onderhoud van een AI-systeem². OWASP wijst ook op het risico van "buitensporige zelfstandigheid" (excessive agency): een systeem op basis van een taalmodel krijgt vaak enige autonomie³. Een lokale tool die gekoppeld is aan uw bestanden of mailboxen is daar een voorbeeld van dat u samen met de IT-afdeling bekijkt.

Een niet-goedgekeurde tool gebruiken ("shadow AI")

Een niet-goedgekeurde tool ontsnapt aan de controles van het bedrijf. Het NCSC raadt aan beveiliging als basisvereiste te behandelen, over de hele levenscyclus van een systeem². Een tool die een medewerker op eigen houtje kiest, valt onder geen van deze controles.

Een model van onbekende herkomst downloaden

Een gedownload model is een onderdeel van de toeleveringsketen, een risico dat OWASP uitdrukkelijk noemt³. Het NIST-rapport over adversarial machine learning behandelt aanvallen via een achterdeur en via een "Trojaans paard", en ook het vergiftigen van gegevens⁷. De CNIL beheert van haar kant een hulpmiddel om de afstamming van als open source gepubliceerde AI-modellen te verkennen, bijgewerkt op 26 augustus 2026⁶. Vraag voor een model van onbekende herkomst de IT-afdeling om toestemming voordat u het installeert.

Toegang tot gegevens veronachtzamen

Een AI die documenten leest, kan de inhoud ervan onthullen. OWASP noemt het vrijkomen van gevoelige informatie, dat zowel het model als de toepassing treft³. Het risicobeheerkader van NIST, dat vrijwillig wordt toegepast, wil betrouwbaarheid inbouwen in het ontwerp, het gebruik en de evaluatie van AI-systemen⁸.