Cyberpediaod Brain

Uczenie nadzorowane, nienadzorowane i przez wzmacnianie

Jak uczy się system AI: przykłady z etykietami, dane bez etykiet, próby i nagrody. I dlaczego dane treningowe mają znaczenie.

Na tej stronie
  1. 1W 30 sekund
  2. 2O co chodzi
  3. 3Pytania wprost
  4. 4Jak to działa
  5. 5Pułapki
  6. 6Źródła
  7. 7Zacytuj ten artykuł

W 30 sekund

Gdzie to się zdarza
W narzędziach, które sortują wiadomości, wychwytują podejrzane działania lub sterują agentem, czyli programem, który uczy się metodą prób i otrzymuje informację zwrotną o swoich działaniach[1][2].
Czego chce atakujący
Zafałszować trening, wstawiając lub zmieniając przykłady, co NIST nazywa zatruwaniem danych[2].
Odruch
Zastanowić się, skąd pochodzą dane, które posłużyły do wytrenowania narzędzia, zanim zaufa się jego wynikowi, bo model jest często tak dobry, jak dane, które mu dostarczono[1].

O co chodzi

Powszechnie stosowany system AI nie został zaprogramowany regułka po regułce. Według Google[1] uczenie maszynowe (machine learning) pozwala systemowi uczyć się i doskonalić samodzielnie, bez wyraźnego programowania, jeśli dostarczy się mu duże ilości danych. Sposób, w jaki się je dostarcza, zmienia to, czego system się uczy.

Google[1] przedstawia cztery typy modeli. Trzy z nich opisano tutaj: uczenie nadzorowane, uczenie nienadzorowane i uczenie przez wzmacnianie. Czwarte, określane jako półnadzorowane, to podejście mieszane, w którym etykiety ma tylko część danych[1]. Dla pracownika ważny jest jeden punkt: model zależy od danych, na których go wytrenowano[1], a atakujący może próbować je zafałszować[2].

Pytania wprost

Czym różnią się te trzy sposoby uczenia się?

Wszystko zależy od tego, co system otrzymuje w trakcie treningu. W uczeniu nadzorowanym otrzymuje przykłady z etykietami[1]. W uczeniu nienadzorowanym otrzymuje dane bez etykiet[1]. W uczeniu przez wzmacnianie agent wchodzi w interakcję ze środowiskiem i uczy się polityki, czyli sposobu działania, który maksymalizuje jego nagrodę[2].

Czy narzędzie AI nadal się uczy, gdy już działa?

NCSC (Wielka Brytania)[3] definiuje uczenie ciągłe jako zbiór metod, które korygują lub wydłużają trening modelu po jego wdrożeniu, na podstawie interakcji i opinii z użytkowania. Google[1] wskazuje ze swojej strony, że model można wytrenować ponownie na nowych danych i że może on otrzymywać opinie od rzeczywistych użytkowników. NIST[2] zauważa, że detektory ataków na systemy przemysłowe są często trenowane ponownie na danych zebranych podczas ich działania, co daje atakującemu możliwość ich zatrucia.

Czym jest zatruwanie danych?

NIST[2] definiuje ataki przez zatruwanie jako ataki przeprowadzane w fazie treningu. W zatruwaniu danych przeciwnik kontroluje część danych treningowych, wstawiając lub zmieniając przykłady[2]. ENISA[4] zalicza zatruwanie danych do zagrożeń, które są wymierzone w systemy uczenia maszynowego, obok ataków adwersarialnych i eksfiltracji danych.

Jak to działa

Uczenie nadzorowane: uczenie się na poprawionych przykładach

Model otrzymuje dane z etykietami i uczy się łączyć cechę z etykietą[1]. Google[1] podaje przykład rozpoznawania jabłek: aby wytrenować algorytm, pokazuje mu się obrazy oznaczone jako jabłka. Oczekiwana odpowiedź jest znana z góry[1].

NIST[2] wyróżnia dwie rodziny technik nadzorowanych: klasyfikację, w której przewidywane etykiety są dyskretne, i regresję, w której są ciągłe. Microsoft[5] zauważa, że wynikiem modelu uczenia maszynowego jest najczęściej wartość liczbowa, taka jak wynik punktowy lub klasyfikacja.

NIST[2] przywołuje klasyfikatory spamu trenowane na przykładowych e-mailach. Opisuje też przypadek klasyfikacji oprogramowania złośliwego, w którym pliki mogą być przesyłane przez atakujących na platformy wywiadu o zagrożeniach, a etykiety nadaje się na podstawie sygnatur antywirusowych lub innych metod zewnętrznych[2].

Uczenie nienadzorowane: znajdowanie grup bez wskazówek

Model uczy się wzorców z danych bez etykiet[1]. „Correctness” wyniku nie jest znana z góry: algorytm uczy się z danych bez udziału człowieka i porządkuje je w grupy według ich atrybutów[1]. Jeśli dostanie obrazy jabłek i bananów, rozdziela je samodzielnie[1]. Google[1] uznaje je za skuteczne w modelowaniu opisowym i wyszukiwaniu wzorców, a wśród powszechnych algorytmów wymienia grupowanie metodą K-means.

W dziedzinie bezpieczeństwa NIST[2] wspomina o modelach nienadzorowanych stosowanych do grupowania oprogramowania złośliwego i do wykrywania anomalii w ruchu sieciowym. Zaznacza, że ich zatrucie wykazano w obu tych zastosowaniach[2].

Uczenie przez wzmacnianie: uczenie się przez próbowanie

Google[1] opisuje je jako uczenie się „learn by doing”, metodą prób i błędów. Agent uczy się zadania w pętli informacji zwrotnej, aż jego skuteczność osiągnie pożądany poziom. Otrzymuje wzmocnienie pozytywne, gdy mu się uda, i negatywne, gdy mu się nie uda[1]. W przykładzie Google[1] badacze nauczyli algorytm grać w go: nie znając zasad, przesuwał pionki na chybił trafił i w końcu pokonał ludzkiego gracza.

NCSC (Wielka Brytania)[3] wyjaśnia, że jego zasady bezpieczeństwa nie obejmują szczególnie uczenia przez wzmacnianie, ponieważ ta technika rozwija się inaczej. Mogą stanowić podstawę, ale prawdopodobnie potrzebne są dodatkowe środki ostrożności[3].

Pułapki

Dane złej jakości

Według Google[1], przy założeniu danych treningowych dobrej jakości, im więcej przykładów otrzymuje algorytm, tym dokładniejszy staje się model. Natomiast algorytm zasilany zbiorem danych obciążonym uprzedzeniami daje wyniki obciążone uprzedzeniami[1]. Pozyskanie i oczyszczenie danych ustrukturyzowanych to ważny pierwszy etap uczenia nadzorowanego i może być trudne, gdy dane są rozproszone w wielu miejscach organizacji[1].

Dane zatrute

NIST[2] pisze, że zatruwanie można zorganizować na dużą skalę: przeciwnik o ograniczonych środkach finansowych mógłby kontrolować część publicznych zbiorów danych używanych do treningu. Może pogorszyć działanie modelu na wszystkich przykładach albo wywołać błędy na niewielkiej liczbie wybranych przykładów[2]. Prosta metoda, odwracanie etykiet, polega na dostarczaniu przykładów treningowych z błędną lub zmienioną etykietą[2].

Obrona jest nierówna. Ataki, które pogarszają działanie modelu na wszystkich przykładach, można zazwyczaj wykryć, śledząc zwykłe miary skuteczności, takie jak precyzja lub czułość[2]. Ataki ukierunkowane są natomiast według NIST[2] „notoriously challenging to defend against”, a jako środki NIST wymienia kontrolę dostępu do danych treningowych, oczyszczanie i walidację danych oraz poświadczanie ich pochodzenia i integralności.

NCSC (Wielka Brytania)[3] przypomina, że systemy AI i uczenia maszynowego podlegają nowym podatnościom, które należy uwzględniać obok zagrożeń klasycznych, i że bezpieczeństwo musi być wymogiem w całym cyklu życia systemu.

Model można oszukać bez ingerencji w jego trening

Atak omijający zmienia przykłady przedstawiane już wytrenowanemu modelowi, aby zmienić jego przewidywanie[2]. NIST[2] przywołuje badanie komercyjnego detektora stron phishingowych: spośród 4 600 próbek, które system uznał za niepewne, autorzy zidentyfikowali 100 przykładów adwersarialnych. Atakujący nie stosowali tam metod optymalizacji, lecz proste techniki, takie jak przycinanie, maskowanie lub rozmycie obrazu[2].

NIST[2] dodaje, że projektowanie modeli odpornych na omijanie przy zachowaniu ich precyzji pozostaje problemem otwartym. Niektóre ataki omijające skierowane przeciwko detektorom oprogramowania złośliwego i systemowi ochrony poczty zostały wykazane przez badaczy, ale nie doprowadziły do ataków w praktyce[2].

Zmienne zapotrzebowanie na dane

Microsoft[5] wskazuje, że uczenie maszynowe może działać na niewielkich ilościach danych, podczas gdy uczenie głębokie potrzebuje dużych ilości danych treningowych.

Źródła

  1. Google, „What is Machine Learning? Types and uses”. https://cloud.google.com/learn/what-is-machine-learning (dostęp 14 listopada 2026)
  2. NIST, „Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations”. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2025.pdf (dostęp 14 listopada 2026)
  3. NCSC (Royaume-Uni), „Principles for security of Machine learning ML”, 22 maja 2024. https://www.ncsc.gov.uk/collection/machine-learning-principles (dostęp 14 listopada 2026)
  4. ENISA, „Securing Machine Learning Algorithms | ENISA”, 14 grudnia 2021. https://www.enisa.europa.eu/publications/securing-machine-learning-algorithms (dostęp 14 listopada 2026)
  5. Microsoft, „Deep Learning vs. Machine Learning - Azure Machine Learning”. https://learn.microsoft.com/en-us/azure/machine-learning/concept-deep-learning-vs-machine-learning?view=azureml-api-2 (dostęp 14 listopada 2026)