Cyberpediavon Brain

Überwachtes, unüberwachtes und bestärkendes Lernen

Wie ein KI-System lernt: beschriftete Beispiele, Daten ohne Beschriftung, Versuch und Belohnung. Und warum die Trainingsdaten zählen.

Auf dieser Seite
  1. 1In 30 Sekunden
  2. 2Worum es geht
  3. 3Direkte Fragen
  4. 4Wie es funktioniert
  5. 5Die Fallstricke
  6. 6Quellen
  7. 7Diesen Artikel zitieren

In 30 Sekunden

Wo es vorkommt
In Tools, die Nachrichten sortieren, verdächtige Aktivitäten erkennen oder einen Agenten steuern, also ein Programm, das durch Versuche lernt und eine Rückmeldung zu seinen Aktionen erhält[1][2].
Was der Angreifer will
Das Training verfälschen, indem er Beispiele einfügt oder verändert, was das NIST als Vergiftung der Daten bezeichnet[2].
Der Reflex
Sich fragen, woher die Daten stammen, mit denen ein Tool trainiert wurde, bevor man sich auf sein Ergebnis verlässt, denn ein Modell ist oft nur so gut wie die Daten, die man ihm gibt[1].

Worum es geht

Ein gängiges KI-System wurde nicht Regel für Regel programmiert. Laut Google[1] ermöglicht maschinelles Lernen (Machine Learning), dass ein System von allein lernt und sich verbessert, ohne ausdrücklich programmiert zu werden, indem man ihm große Datenmengen zur Verfügung stellt. Wie man ihm diese Daten liefert, verändert, was es lernt.

Google[1] stellt vier Arten von Modellen vor. Drei werden hier beschrieben: das überwachte Lernen, das unüberwachte Lernen und das bestärkende Lernen. Die vierte, das sogenannte teilüberwachte Lernen, ist ein Mischansatz, bei dem nur ein Teil der Daten beschriftet ist[1]. Für Beschäftigte zählt ein Punkt: Ein Modell hängt von den Daten ab, mit denen es trainiert wurde[1], und ein Angreifer kann versuchen, sie zu verfälschen[2].

Direkte Fragen

Was unterscheidet die drei Lernarten?

Alles hängt davon ab, was das System während des Trainings erhält. Beim überwachten Lernen erhält es beschriftete Beispiele[1]. Beim unüberwachten Lernen erhält es Daten ohne Beschriftung[1]. Beim bestärkenden Lernen interagiert ein Agent mit einer Umgebung und lernt eine Strategie, also eine Handlungsweise, die seine Belohnung maximiert[2].

Lernt ein KI-Tool weiter, wenn es im Einsatz ist?

Das britische NCSC[3] definiert kontinuierliches Lernen als die Gesamtheit der Methoden, die das Training eines Modells nach dem Einsatz anpassen oder fortführen, auf Grundlage von Interaktionen und Rückmeldungen aus der Nutzung. Google[1] gibt seinerseits an, dass ein Modell mit neuen Daten nachtrainiert werden kann und Rückmeldungen echter Nutzer erhalten kann. Das NIST[2] hält fest, dass Detektoren für Angriffe auf Industriesysteme oft mit Daten nachtrainiert werden, die während ihres Betriebs gesammelt werden, was einem Angreifer die Möglichkeit eröffnet, sie zu vergiften.

Was ist Datenvergiftung?

Das NIST[2] definiert Vergiftungsangriffe als Angriffe, die während der Trainingsphase erfolgen. Bei einer Datenvergiftung kontrolliert der Gegner einen Teil der Trainingsdaten, indem er Beispiele einfügt oder verändert[2]. Die ENISA[4] zählt die Datenvergiftung zu den Bedrohungen für Systeme des maschinellen Lernens, neben adversariellen Angriffen und dem Abfluss von Daten.

Wie es funktioniert

Überwachtes Lernen: mit korrigierten Beispielen lernen

Das Modell erhält beschriftete Daten und lernt, ein Merkmal mit einer Beschriftung zu verknüpfen[1]. Google[1] nennt als Beispiel die Erkennung von Äpfeln: Um den Algorithmus zu trainieren, zeigt man ihm Bilder, die als Äpfel beschriftet sind. Die erwartete Antwort ist im Voraus bekannt[1].

Das NIST[2] unterscheidet zwei Familien überwachter Verfahren: die Klassifikation, bei der die vorhergesagten Beschriftungen diskret sind, und die Regression, bei der sie kontinuierlich sind. Microsoft[5] hält fest, dass die Ausgabe eines Modells des maschinellen Lernens meist ein Zahlenwert ist, etwa ein Score oder eine Klassifikation.

Das NIST[2] nennt Spam-Klassifikatoren, die mit Beispielen von E-Mails trainiert wurden. Es beschreibt auch den Fall der Klassifikation von Schadsoftware, bei dem Angreifer Dateien an Plattformen für Bedrohungsinformationen übermitteln können und die Beschriftung mit Antiviren-Signaturen oder anderen externen Methoden erfolgt[2].

Unüberwachtes Lernen: Gruppen ohne Vorgabe finden

Das Modell lernt Muster aus unbeschrifteten Daten[1]. Die „correctness“ (Korrektheit) der Ausgabe ist nicht im Voraus bekannt: Der Algorithmus lernt aus den Daten ohne menschliches Eingreifen und ordnet sie nach ihren Merkmalen in Gruppen[1]. Gibt man ihm Bilder von Äpfeln und Bananen, trennt er sie von selbst[1]. Google[1] hält es für wirksam bei der beschreibenden Modellierung und der Mustersuche und nennt das K-Means-Clustering unter den gängigen Algorithmen.

In der Sicherheit erwähnt das NIST[2] unüberwachte Modelle, die für die Gruppierung von Schadsoftware und für die Erkennung von Anomalien im Netzwerkverkehr eingesetzt werden. Es stellt fest, dass ihre Vergiftung in beiden Anwendungen nachgewiesen wurde[2].

Bestärkendes Lernen: durch Ausprobieren lernen

Google[1] beschreibt es als ein „learn by doing“ (Lernen durch Tun), durch Versuch und Irrtum. Ein Agent lernt eine Aufgabe über eine Rückkopplungsschleife, bis seine Leistung ein gewünschtes Niveau erreicht. Er erhält eine positive Verstärkung, wenn er Erfolg hat, und eine negative, wenn er scheitert[1]. Im Beispiel von Google[1] haben Forschende einem Algorithmus beigebracht, Go zu spielen: Ohne die Regeln zu kennen, bewegte er Spielsteine zufällig und schlug schließlich einen menschlichen Spieler.

Das britische NCSC[3] stellt klar, dass seine Sicherheitsprinzipien das bestärkende Lernen nicht speziell abdecken, weil sich diese Technik anders entwickelt. Sie können als Grundlage dienen, aber zusätzliche Sicherheitsvorkehrungen sind wahrscheinlich nötig[3].

Die Fallstricke

Daten schlechter Qualität

Laut Google[1] wird das Modell genauer, je mehr Beispiele der Algorithmus erhält, sofern man Trainingsdaten guter Qualität voraussetzt. Umgekehrt liefert ein Algorithmus, der mit einem verzerrten Datensatz gespeist wird, verzerrte Ergebnisse[1]. Das Beschaffen und Bereinigen strukturierter Daten ist ein wichtiger erster Schritt für das überwachte Lernen, und es kann schwierig sein, wenn die Daten über mehrere Stellen der Organisation verstreut sind[1].

Vergiftete Daten

Das NIST[2] schreibt, dass eine Vergiftung in großem Maßstab organisiert werden kann: Ein Gegner mit begrenzten finanziellen Mitteln könnte einen Bruchteil der öffentlichen Datensätze kontrollieren, die für das Training verwendet werden. Er kann das Modell bei allen Beispielen verschlechtern oder bei einer kleinen Zahl gezielter Beispiele Fehler auslösen[2]. Eine einfache Methode, das Umdrehen von Beschriftungen, besteht darin, Trainingsbeispiele mit falscher oder veränderter Beschriftung zu liefern[2].

Die Abwehrmöglichkeiten sind ungleich. Angriffe, die das Modell bei allen Beispielen verschlechtern, lassen sich in der Regel erkennen, indem man die üblichen Leistungskennzahlen wie Präzision oder Trefferquote überwacht[2]. Gezielte Angriffe sind dagegen laut NIST[2] „notoriously challenging to defend against“ (bekanntermaßen schwer abzuwehren). Als Maßnahmen nennt das NIST die Zugriffskontrolle auf die Trainingsdaten, die Bereinigung und Validierung der Daten und den Nachweis ihrer Herkunft und Integrität.

Das britische NCSC[3] erinnert daran, dass KI-Systeme und Systeme des maschinellen Lernens neuen Schwachstellen unterliegen, die zusätzlich zu den klassischen Bedrohungen zu berücksichtigen sind, und dass Sicherheit über den gesamten Lebenszyklus des Systems eine Anforderung sein muss.

Ein Modell kann getäuscht werden, ohne dass sein Training angetastet wird

Ein Umgehungsangriff verändert die Beispiele, die einem bereits trainierten Modell vorgelegt werden, um dessen Vorhersage zu ändern[2]. Das NIST[2] nennt die Untersuchung eines kommerziellen Detektors für Phishing-Seiten: Von 4.600 Stichproben, die das System als unsicher einstufte, identifizierten die Autoren 100 adversarielle Beispiele. Die Angreifer nutzten dabei keine Optimierungsverfahren, sondern einfache Techniken wie das Zuschneiden, das Verdecken oder das Verwischen von Bildern[2].

Das NIST[2] fügt hinzu, dass es weiterhin ein offenes Problem ist, Modelle zu entwerfen, die der Umgehung widerstehen und dabei ihre Genauigkeit behalten. Einige Umgehungen gegen Detektoren für Schadsoftware und gegen ein E-Mail-Schutzsystem wurden von Forschenden nachgewiesen, haben aber nicht zu Angriffen in freier Wildbahn geführt[2].

Unterschiedlicher Datenbedarf

Microsoft[5] gibt an, dass maschinelles Lernen mit kleinen Datenmengen funktionieren kann, während Deep Learning große Mengen an Trainingsdaten benötigt.

Quellen

  1. Google, „What is Machine Learning? Types and uses“. https://cloud.google.com/learn/what-is-machine-learning (abgerufen am 14. November 2026)
  2. NIST, „Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations“. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2025.pdf (abgerufen am 14. November 2026)
  3. NCSC (Royaume-Uni), „Principles for security of Machine learning ML“, 22. Mai 2024. https://www.ncsc.gov.uk/collection/machine-learning-principles (abgerufen am 14. November 2026)
  4. ENISA, „Securing Machine Learning Algorithms | ENISA“, 14. Dezember 2021. https://www.enisa.europa.eu/publications/securing-machine-learning-algorithms (abgerufen am 14. November 2026)
  5. Microsoft, „Deep Learning vs. Machine Learning - Azure Machine Learning“. https://learn.microsoft.com/en-us/azure/machine-learning/concept-deep-learning-vs-machine-learning?view=azureml-api-2 (abgerufen am 14. November 2026)