Diffusionsmodelle
Wie eine KI aus zufälligem Rauschen ein Bild erzeugt und was Beschäftigte prüfen können, bevor sie eine Datei weiterleiten oder hochladen.
Auf dieser Seite
In 30 Sekunden
- Wo es vorkommt
- In einem Bild oder Video, das per Nachricht, in einem sozialen Netzwerk oder in einem Dokument ankommt, und in öffentlichen Tools zur Bilderzeugung, in die man Dateien hochladen kann.
- Was auf dem Spiel steht
- Das NIST nennt unter den Risiken die Beeinträchtigung der Integrität von Informationen, Betrug (einschließlich Identitätsdiebstahl) und die Täuschung von Menschen durch synthetische Stimmen, Bilder oder Videos[3].
- Der Reflex
- Vor dem Weiterleiten eines Bildes oder Videos dessen Herkunft prüfen; nie vertrauliche Bilder oder Gesichter von Kolleginnen und Kollegen in ein öffentliches Tool hochladen.
- Wenn es schon passiert ist
- Ohne Verzug das Sicherheitsteam des Unternehmens informieren und angeben, welches Tool benutzt und was hochgeladen wurde.
Worum es geht
Ein Diffusionsmodell erzeugt ein Bild, indem es von zufälligem Rauschen ausgeht und es Schritt für Schritt verfeinert, bis ein Bild entsteht, das zur Vorgabe passt[3]. Um das zu lernen, geht es den umgekehrten Weg: Man verfälscht Bilder, indem man Rauschen hinzufügt, und das Modell lernt, sie wiederherzustellen. Die 2015 veröffentlichte Ausgangsidee besteht darin, die Struktur der Daten durch einen Diffusionsprozess systematisch und langsam zu zerstören und dann den umgekehrten Prozess zu lernen, der sie wiederherstellt[1]. 2020 stellen Forschende mit dieser Modellklasse Ergebnisse der Bildsynthese in hoher Qualität vor[2].
Für Beschäftigte hat das einen praktischen Hintergrund. Diese Modelle dienen dazu, realistische synthetische Bilder zu erzeugen, die man per Nachricht erhalten oder in einem öffentlichen Tool selbst herstellen kann. Das NIST, das amerikanische Normeninstitut, hält fest, dass generative KI realistische Bilder, Texte, Audio und Video erzeugen kann, was neue Risiken für das Vertrauen in digitale Informationen mit sich bringt[3].
Direkte Fragen
Was ist ein Diffusionsmodell?
Es ist ein generatives Modell, das Daten, hier Bilder, erzeugt, indem es eine schrittweise Verfälschung umkehrt. Das Prinzip ist von der statistischen Physik außerhalb des Gleichgewichts inspiriert: Man zerstört die Struktur der Daten durch wiederholte Diffusion und lernt dann, sie wiederherzustellen[1]. DALL-E 2, Imagen und Stable Diffusion sind Diffusionsmodelle für Bilder[9].
Wie lernt ein Modell, Rauschen zu entfernen?
Es lernt, indem es das Gegenteil von dem tut, was es später tun wird. Man fügt Trainingsbildern in kleinen Mengen Rauschen hinzu, bis nur noch Rauschen übrig ist. Das Modell lernt den umgekehrten Prozess, der die Struktur wiederherstellt[1]. Das Autorenteam eines Artikels von 2020 fasst die Idee so zusammen: „Creating noise from data is easy; creating data from noise is generative modeling.“ (Aus Daten Rauschen zu erzeugen ist einfach; aus Rauschen Daten zu erzeugen ist generative Modellierung.)[4] Nach dem Training geht das Modell von zufälligem Rauschen aus und verfeinert es nach und nach[3].
Diese Bereinigung erfordert viele Schritte. Eine Variante namens DDIM erzeugt hochwertige Stichproben bei gleichem Trainingsverfahren in der tatsächlichen Rechenzeit 10- bis 50-mal schneller als die Methode von 2020[5].
Wie steuert ein Text das Bild?
Der Text dient als Vorgabe während der Bereinigung. Latente Diffusionsmodelle fügen dem Modell sogenannte Kreuz-Aufmerksamkeitsschichten hinzu, mit denen es sich durch Eingaben wie Text steuern lässt; sie arbeiten im latenten Raum vortrainierter Autoencoder, was den Rechenbedarf gegenüber Modellen senkt, die direkt auf Pixeln arbeiten[6]. Die sogenannte klassifikatorfreie Steuerung trainiert ein bedingtes und ein unbedingtes Modell gemeinsam und kombiniert dann ihre Schätzungen, um zwischen Qualität und Vielfalt der Stichproben abzuwägen[7]. Das Modell Imagen stützt sich auf große allgemeine Sprachmodelle, um den Text zu kodieren, und sein Autorenteam stellt fest, dass deren Vergrößerung die Bildtreue und die Übereinstimmung mit dem Text stärker verbessert als eine Vergrößerung des Bildmodells[8].
Kann man ein erzeugtes Bild mit bloßem Auge erkennen?
Nicht zuverlässig. Die wahrnehmbaren Hinweise (Spiegelungen oder Schatten, die nicht zur Beleuchtung passen, Mischartefakte mit Hintergründen) helfen vor allem den Erkennungswerkzeugen[3]. Das NIST berichtet auch von einer Studie von 2024 zu den Modalitäten Audio, Bild und Audio-Video, die Leistungen nahe am Zufall feststellt[3]. Das Autorenteam von Imagen spricht von einem „unprecedented degree of photorealism“ (beispiellosen Grad an Fotorealismus)[8]. Das NIST schreibt außerdem, dass die Wirksamkeit vieler Ansätze zur Transparenz von Inhalten noch nicht vollständig untersucht ist[3]. Ein Reflex, der nur auf dem Augenschein beruht, ist also brüchig; die Prüfung der Quelle ist es weniger.
Kann ein Bild eine Herkunftskennzeichnung enthalten?
Manchmal. Das NIST beschreibt zwei Wege, die Herkunft eines Inhalts festzuhalten: das digitale Wasserzeichen, das die Information in den Inhalt selbst einbettet, und die Aufzeichnung von Metadaten, signiert oder nicht[3]. Ein unauffälliges Wasserzeichen ist maschinenlesbar und für Menschen schwer zu erkennen; man braucht ein Erkennungswerkzeug, das mit einer von null verschiedenen Wahrscheinlichkeit falsch positive und falsch negative Ergebnisse liefert[3]. Das Fehlen einer Kennzeichnung beweist also nichts.
Kann ein Modell ein Bild aus seinem Training wieder ausgeben?
Ja. Forschende haben gezeigt, dass Diffusionsmodelle Bilder aus ihren Trainingsdaten speichern und bei der Erzeugung wiedergeben[9].
Wie es funktioniert
Der Ablauf besteht aus zwei Phasen. Im Training lernt das Modell, Bilder wiederherzustellen, die man verfälscht hat[1]. Im Gebrauch geht es von zufälligem Rauschen aus und verfeinert es Schritt für Schritt[3]; der eingegebene Text lenkt das Ergebnis[6][7].
Eine allgemeinere mathematische Formulierung beschreibt die Verfälschung als eine Gleichung, die eine komplexe Datenverteilung durch Einspeisen von Rauschen langsam in eine bekannte Verteilung überführt, und eine umgekehrte Gleichung, die dieses Rauschen entfernt[4]. Dieser Rahmen umfasst frühere Ansätze der Erzeugung über Scores und der probabilistischen Diffusion[4]. Wer nicht vom Fach ist, braucht die Gleichungen nicht: Es genügt zu behalten, dass das Bild aus Rauschen entsteht, das schrittweise entfernt wird.
Das NIST beschreibt den Weg eines synthetischen Inhalts in drei Phasen: Erstellung, Veröffentlichung, dann Konsum, also der Moment, in dem Menschen den Inhalt erhalten, deuten und danach handeln[3]. Beschäftigte greifen an beiden Enden ein: Sie können erstellen, indem sie ein Tool benutzen, und konsumieren, indem sie ein Bild erhalten.
Was Sie tun
- Bevor Sie ein überraschendes Bild oder Video weiterleiten, suchen Sie, woher es stammt: wer es zuerst veröffentlicht hat, in welchem Zusammenhang und ob der Absender es über einen anderen Kanal bestätigen kann.
- Trägt der Inhalt eine Herkunftskennzeichnung oder Metadaten, sehen Sie sie ein, ohne sie für einen vollständigen Beweis zu halten: Das NIST schreibt, dass keine dieser Techniken allein eine vollständige Lösung bietet[3].
- Bei einer dringenden Aufforderung, die durch eine Stimme oder ein Video gestützt wird (Überweisung, Zugang), prüfen Sie auf einem anderen Weg als dem der Aufforderung. Das NIST nennt das Klonen von Stimmen unter den Mitteln, jemanden dazu zu bringen, eine betrügerische Transaktion zu erleichtern[3].
- Laden Sie nie vertrauliche Bilder (Pläne, fotografierte Dokumente, Bildschirme) in ein öffentliches Tool zur Bilderzeugung hoch.
- Laden Sie nie Gesichter von Kolleginnen und Kollegen hoch. Forschende haben aus Diffusionsmodellen Fotografien von Personen extrahiert, die in deren Trainingsdaten enthalten waren[9].
- Bei Zweifeln an einem erhaltenen Inhalt geben Sie ihn an das Sicherheitsteam weiter, statt ihn kursieren zu lassen.
Die Fallstricke
- Der Hyperrealismus. Das Autorenteam von Imagen gibt einen beispiellosen Grad an Fotorealismus an, und menschliche Bewertende beurteilen seine Stichproben bei der Übereinstimmung zwischen Bild und Text als gleichwertig mit den COCO-Daten[8]. Ein überzeugendes Bild ist kein authentisches Bild.
- Das falsche Vertrauen. Das NIST warnt, dass Transparenz ein falsches Gefühl von Vertrauen erzeugen kann, etwa wenn ein Inhalt nach technischen Maßstäben legitim wirkt, aber aus seinem Zusammenhang gerissen ist[3].
- Die Erkennungswerkzeuge. Sie sind noch nicht überall verfügbar: Das NIST schreibt, dass die meisten dieser Ansätze Jahre von einem breiten Einsatz auf Mobilgeräten entfernt sein können[3].
- Die gefälschten Inhalte. Das NIST schreibt, dass synthetische Bilder, Stimmen oder Videos dazu dienen können, biometrische Authentifizierungssysteme oder Menschen zu täuschen[3].
- Die Speicherung von Trainingsdaten. Die Forschenden folgern, dass Diffusionsmodelle die Privatsphäre deutlich weniger wahren als frühere generative Modelle wie die GAN[9]. Was die Trainingsbasis enthält, kann also wieder zum Vorschein kommen.
Reale Fälle
Januar 2023: aus Spitzenmodellen extrahierte Trainingsbilder
Am 30. Januar 2023 veröffentlichen neun Forschende eine Studie zur Extraktion von Trainingsdaten aus Diffusionsmodellen. Mit einer Methode, die Bilder erzeugt und dann diejenigen herausfiltert, die Trainingsdaten entsprechen, extrahieren sie daraus mehr als tausend aus Spitzenmodellen, sowohl Fotografien von Personen als auch Logos eingetragener Marken[9]. Das Autorenteam fügt hinzu, dass die Verringerung dieser Schwachstellen neue Fortschritte beim Training erfordern kann, das die Privatsphäre schützt[9].
Quellen
- arXiv, „Deep Unsupervised Learning using Nonequilibrium Thermodynamics“, 12. März 2015. https://arxiv.org/abs/1503.03585 (abgerufen am 10. November 2026)
- arXiv, „Denoising Diffusion Probabilistic Models“, 19. Juni 2020. https://arxiv.org/abs/2006.11239 (abgerufen am 10. November 2026)
- NIST, „Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency“, 18. November 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-4.pdf (abgerufen am 10. November 2026)
- arXiv, „Score-Based Generative Modeling through Stochastic Differential Equations“, 26. November 2020. https://arxiv.org/abs/2011.13456 (abgerufen am 10. November 2026)
- arXiv, „Denoising Diffusion Implicit Models“, 6. Oktober 2020. https://arxiv.org/abs/2010.02502 (abgerufen am 10. November 2026)
- arXiv, „High-Resolution Image Synthesis with Latent Diffusion Models“, 20. Dezember 2021. https://arxiv.org/abs/2112.10752 (abgerufen am 10. November 2026)
- arXiv, „Classifier-Free Diffusion Guidance“, 26. Juli 2022. https://arxiv.org/abs/2207.12598 (abgerufen am 10. November 2026)
- arXiv, „Photorealistic Text-to-Image Diffusion Models with Deep Language Understanding“, 23. Mai 2022. https://arxiv.org/abs/2205.11487 (abgerufen am 10. November 2026)
- arXiv, „Extracting Training Data from Diffusion Models“, 30. Januar 2023. https://arxiv.org/abs/2301.13188 (abgerufen am 10. November 2026)
Diesen Artikel zitieren
Brain, „Diffusionsmodelle“, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp267_de_2026,
author = {Brain},
title = {Diffusionsmodelle},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/de/articles/diffusionsmodelle-bilder-aus-rauschen/},
note = {CC BY 4.0}
}