Cyberpediaod Brain

Modele dyfuzyjne

Jak AI zaczyna od losowego szumu, by stworzyć obraz, i co pracownik może sprawdzić, zanim przekaże dalej lub wgra plik.

Na tej stronie
  1. 1W 30 sekund
  2. 2O co chodzi
  3. 3Pytania wprost
  4. 4Jak to działa
  5. 5Co robić
  6. 6Pułapki
  7. 7Rzeczywiste przypadki
  8. 8Źródła
  9. 9Zacytuj ten artykuł

W 30 sekund

Gdzie to się zdarza
W obrazie lub filmie otrzymanym w wiadomości, w mediach społecznościowych lub w dokumencie, a także w publicznych narzędziach do generowania obrazów, do których można wgrywać pliki.
Stawka
NIST wymienia wśród zagrożeń naruszenie integralności informacji, oszustwo (w tym podszywanie się) oraz wprowadzanie ludzi w błąd za pomocą syntetycznych głosów, obrazów lub filmów[3].
Odruch
Przed przekazaniem dalej obrazu lub filmu sprawdzić jego pochodzenie; nigdy nie wgrywać poufnych obrazów ani twarzy współpracowników do publicznego narzędzia.
Jeśli już się stało
Niezwłocznie powiadomić zespół bezpieczeństwa firmy, podając użyte narzędzie i to, co zostało wgrane.

O co chodzi

Model dyfuzyjny tworzy obraz, zaczynając od losowego szumu, który doprecyzowuje krok po kroku, aż powstanie obraz zgodny z poleceniem[3]. Aby się tego nauczyć, idzie drogą odwrotną: psuje się obrazy, dodając do nich szum, a model uczy się je odtwarzać. Pierwotny pomysł, opublikowany w 2015 roku, polega na tym, by systematycznie i powoli niszczyć strukturę danych procesem dyfuzji, a następnie nauczyć się procesu odwrotnego, który ją przywraca[1]. W 2020 roku badacze przedstawiają dzięki tej klasie modeli wyniki syntezy obrazów wysokiej jakości[2].

Dla pracownika sprawa ma wymiar praktyczny. Modele te służą do tworzenia realistycznych obrazów syntetycznych, które można otrzymać w wiadomości lub wytworzyć w publicznym narzędziu. NIST, amerykański instytut norm, zauważa, że generatywna AI potrafi tworzyć realistyczne obrazy, tekst, dźwięk i wideo, co rodzi nowe ryzyka dla zaufania do informacji cyfrowej[3].

Pytania wprost

Czym jest model dyfuzyjny?

To model generatywny, który tworzy dane, tu obrazy, odwracając stopniowe zaburzanie. Zasada czerpie z fizyki statystycznej poza stanem równowagi: strukturę danych niszczy się przez wielokrotną dyfuzję, a potem uczy się ją przywracać[1]. DALL-E 2, Imagen i Stable Diffusion to modele dyfuzyjne obrazów[9].

Jak model uczy się usuwać szum?

Uczy się, robiąc odwrotność tego, co będzie robił później. Do obrazów treningowych dodaje się szum, w małych ilościach, aż zostanie tylko szum. Model uczy się procesu odwrotnego, który przywraca strukturę[1]. Autorzy artykułu z 2020 roku streszczają tę ideę tak: „Creating noise from data is easy; creating data from noise is generative modeling.”[4] Po wytrenowaniu model zaczyna od losowego szumu i stopniowo go doprecyzowuje[3].

To oczyszczanie wymaga wielu kroków. Wariant zwany DDIM tworzy próbki wysokiej jakości od 10 do 50 razy szybciej, pod względem rzeczywistego czasu obliczeń, niż metoda z 2020 roku, przy tej samej procedurze treningowej[5].

Jak tekst kieruje obrazem?

Tekst służy jako polecenie w trakcie oczyszczania. Modele dyfuzji latentnej dodają do modelu warstwy zwane uwagą krzyżową, dzięki którym może on być kierowany przez dane wejściowe, takie jak tekst; pracują one w przestrzeni latentnej wstępnie wytrenowanych autoenkoderów, co zmniejsza zapotrzebowanie na moc obliczeniową w porównaniu z modelami działającymi bezpośrednio na pikselach[6]. Metoda zwana prowadzeniem bez klasyfikatora trenuje razem model warunkowy i model bezwarunkowy, a następnie łączy ich oszacowania, by wyważyć jakość i różnorodność próbek[7]. Model Imagen opiera się na dużych ogólnych modelach językowych, które kodują tekst, a jego autorzy stwierdzają, że ich powiększanie poprawia wierność obrazu i jego zgodność z tekstem bardziej niż powiększanie modelu obrazu[8].

Czy obraz wygenerowany przez AI można rozpoznać na oko?

Nie w sposób wiarygodny. Wskazówki dostrzegalne (odbicia lub cienie niezgodne z oświetleniem, artefakty łączenia z tłem) służą głównie detektorom[3]. NIST przytacza też badanie z 2024 roku, dotyczące modalności dźwiękowej, wizualnej i audiowizualnej, które stwierdza wyniki zbliżone do przypadkowych[3]. Autorzy Imagen mówią o „unprecedented degree of photorealism”[8]. NIST pisze ponadto, że skuteczność wielu podejść do przejrzystości treści nie została jeszcze w pełni zbadana[3]. Odruch oparty wyłącznie na rzucie oka jest więc kruchy; weryfikacja źródła jest mniej krucha.

Czy obraz może zawierać znak pochodzenia?

Czasem. NIST opisuje dwie drogi zapisywania pochodzenia treści: znak wodny cyfrowy, który wbudowuje informację w samą treść, oraz zapis metadanych, podpisanych lub nie[3]. Dyskretny znak wodny jest czytelny dla maszyny i trudny do zauważenia dla człowieka; potrzebny jest detektor, który ma niezerowe prawdopodobieństwo wyników fałszywie dodatnich i fałszywie ujemnych[3]. Brak znaku niczego więc nie dowodzi.

Czy model może odtworzyć obraz ze swojego treningu?

Tak. Badacze wykazali, że modele dyfuzyjne zapamiętują obrazy ze swoich danych treningowych i odtwarzają je w trakcie generowania[9].

Jak to działa

Łańcuch składa się z dwóch etapów. Podczas treningu model uczy się odtwarzać obrazy, które zostały zaburzone[1]. W użyciu zaczyna od losowego szumu i doprecyzowuje go krok po kroku[3]; podany tekst kieruje wynikiem[6][7].

Ogólniejsze ujęcie matematyczne opisuje zaburzanie jako równanie, które powoli przekształca złożony rozkład danych w rozkład znany, wstrzykując do niego szum, oraz równanie odwrotne, które ten szum usuwa[4]. Ramy te obejmują wcześniejsze podejścia do generowania opartego na score i do dyfuzji probabilistycznej[4]. Czytelnik niebędący specjalistą nie potrzebuje równań: wystarczy zapamiętać, że obraz powstaje z szumu usuwanego etapami.

NIST opisuje drogę treści syntetycznej w trzech etapach: tworzenie, publikacja, a potem odbiór, czyli chwila, gdy ludzie otrzymują treść, interpretują ją i na jej podstawie działają[3]. Pracownik uczestniczy na obu końcach: może tworzyć, korzystając z narzędzia, i odbierać, otrzymując obraz.

Co robić

  • Przed przekazaniem dalej obrazu lub filmu, który zaskakuje, sprawdzić, skąd pochodzi: kto opublikował go jako pierwszy, w jakim kontekście i czy nadawca może to potwierdzić innym kanałem.
  • Jeśli treść ma znak pochodzenia lub metadane, warto się z nimi zapoznać, nie uznając ich za pełny dowód: NIST pisze, że żadna z tych technik sama nie stanowi kompletnego rozwiązania[3].
  • W razie pilnej prośby popartej głosem lub filmem (przelew, dostęp) sprawdzić ją innym sposobem niż ten, którym ją przesłano. NIST wymienia klonowanie głosu wśród sposobów nakłonienia kogoś do ułatwienia oszukańczej transakcji[3].
  • Nigdy nie wgrywać poufnych obrazów (plany, sfotografowane dokumenty, ekrany) do publicznego narzędzia do generowania obrazów.
  • Nigdy nie wgrywać twarzy współpracowników. Badacze wydobyli z modeli dyfuzyjnych fotografie osób obecnych w ich danych treningowych[9].
  • W razie wątpliwości co do otrzymanej treści przekazać ją zespołowi bezpieczeństwa, zamiast ją rozsyłać.

Pułapki

  • Hiperrealizm. Autorzy Imagen ogłaszają bezprecedensowy stopień fotorealizmu, a ludzcy oceniający uznają jego próbki za równe danym COCO pod względem zgodności obrazu z tekstem[8]. Przekonujący obraz nie jest obrazem autentycznym.
  • Fałszywe zaufanie. NIST ostrzega, że przejrzystość może tworzyć fałszywe poczucie zaufania, na przykład gdy treść wydaje się wiarygodna według miar technicznych, ale została wyjęta z kontekstu[3].
  • Narzędzia wykrywania. Nie ma ich jeszcze wszędzie: NIST pisze, że większość tych podejść może być o lata od szerokiego wdrożenia na urządzeniach mobilnych[3].
  • Treści sfałszowane. NIST pisze, że syntetyczne obrazy, głosy lub filmy mogą służyć do oszukiwania systemów uwierzytelniania biometrycznego lub ludzi[3].
  • Zapamiętywanie. Badacze dochodzą do wniosku, że modele dyfuzyjne znacznie słabiej chronią prywatność niż wcześniejsze modele generatywne, takie jak GAN[9]. To, co zawiera baza treningowa, może więc zostać odtworzone.

Rzeczywiste przypadki

Styczeń 2023: obrazy treningowe wydobyte z najnowocześniejszych modeli

30 stycznia 2023 roku dziewięciu badaczy publikuje badanie o wydobywaniu danych treningowych z modeli dyfuzyjnych. Metodą, która generuje obrazy, a następnie odfiltrowuje te odpowiadające danym treningowym, wydobywają z najnowocześniejszych modeli ponad tysiąc takich obrazów, zarówno fotografie osób, jak i logotypy zarejestrowanych znaków towarowych[9]. Autorzy dodają, że ograniczenie tych podatności może wymagać nowych postępów w treningu chroniącym prywatność[9].

Źródła

  1. arXiv, „Deep Unsupervised Learning using Nonequilibrium Thermodynamics”, 12 marca 2015. https://arxiv.org/abs/1503.03585 (dostęp 10 listopada 2026)
  2. arXiv, „Denoising Diffusion Probabilistic Models”, 19 czerwca 2020. https://arxiv.org/abs/2006.11239 (dostęp 10 listopada 2026)
  3. NIST, „Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency”, 18 listopada 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-4.pdf (dostęp 10 listopada 2026)
  4. arXiv, „Score-Based Generative Modeling through Stochastic Differential Equations”, 26 listopada 2020. https://arxiv.org/abs/2011.13456 (dostęp 10 listopada 2026)
  5. arXiv, „Denoising Diffusion Implicit Models”, 6 października 2020. https://arxiv.org/abs/2010.02502 (dostęp 10 listopada 2026)
  6. arXiv, „High-Resolution Image Synthesis with Latent Diffusion Models”, 20 grudnia 2021. https://arxiv.org/abs/2112.10752 (dostęp 10 listopada 2026)
  7. arXiv, „Classifier-Free Diffusion Guidance”, 26 lipca 2022. https://arxiv.org/abs/2207.12598 (dostęp 10 listopada 2026)
  8. arXiv, „Photorealistic Text-to-Image Diffusion Models with Deep Language Understanding”, 23 maja 2022. https://arxiv.org/abs/2205.11487 (dostęp 10 listopada 2026)
  9. arXiv, „Extracting Training Data from Diffusion Models”, 30 stycznia 2023. https://arxiv.org/abs/2301.13188 (dostęp 10 listopada 2026)