--- id: CP-280 slug: weryfikacja-zrodel-wyszukiwarek-ai lang: pl title: Weryfikacja źródeł podawanych przez wyszukiwarki AI description: Wyszukiwarka AI pokazuje linki obok odpowiedzi. Jak je otworzyć, porównać z twierdzeniem i rozpoznać, kiedy nie można im ufać. canonical_url: https://startbrain.io/cyberpedia/pl/articles/weryfikacja-zrodel-wyszukiwarek-ai/ markdown_url: https://startbrain.io/cyberpedia/pl/articles/weryfikacja-zrodel-wyszukiwarek-ai.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, „Weryfikacja źródeł podawanych przez wyszukiwarki AI”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/pl/articles/weryfikacja-zrodel-wyszukiwarek-ai/ (CC BY 4.0) wing: 4 theme: verify_output reflex: air-031 schema: G2 updated: "2026-11-03" translations: pl: https://startbrain.io/cyberpedia/pl/articles/weryfikacja-zrodel-wyszukiwarek-ai/ fr: https://startbrain.io/cyberpedia/fr/articles/verifier-sources-moteurs-recherche-ia/ en: https://startbrain.io/cyberpedia/en/articles/verify-ai-search-engine-citations/ de: https://startbrain.io/cyberpedia/de/articles/quellen-ki-suchmaschinen-pruefen/ es: https://startbrain.io/cyberpedia/es/articles/verificar-fuentes-buscadores-ia/ it: https://startbrain.io/cyberpedia/it/articles/verificare-fonti-motori-ricerca-ia/ nl: https://startbrain.io/cyberpedia/nl/articles/bronnen-ai-zoekmachines-controleren/ pt: https://startbrain.io/cyberpedia/pt/articles/verificar-fontes-motores-pesquisa-ia/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ published: "2024-04-10" accessed: "2026-11-03" - "n": 2 title: LLM01:2025 Prompt Injection publisher: OWASP url: https://genai.owasp.org/llmrisk/llm01-prompt-injection/ published: "2024-04-10" accessed: "2026-11-03" - "n": 3 title: Prompt injection is not SQL injection (it may be worse) publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection published: "2025-12-08" accessed: "2026-11-03" - "n": 4 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" - "n": 5 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence published: "2024-07-26" accessed: "2026-11-03" --- # Weryfikacja źródeł podawanych przez wyszukiwarki AI Wyszukiwarka oparta na AI odpowiada gotowymi zdaniami i wyświetla obok linki. Taki układ sprawia wrażenie, że każde zdanie zostało sprawdzone w tych stronach. Tymczasem model językowy może wytworzyć treść, która wygląda na prawdziwą, choć jest zmyślona. OWASP, który prowadzi listę głównych zagrożeń dla aplikacji generatywnej AI, nazywa to zjawisko halucynacją [1]. Ta fiszka wyjaśnia, jak samodzielnie sprawdzić wyświetlane źródła, zanim oprze się Pan/Pani na odpowiedzi, zwłaszcza gdy ma ona posłużyć do podjęcia decyzji. Źródła cytowane w tej fiszce nie opisują wewnętrznego działania konkretnych produktów. Dotyczą zagrożeń związanych z tego rodzaju narzędziami w ogólności. ## W 30 sekund - Gdzie to się zdarza: w każdej odpowiedzi AI z linkami, niezależnie od tego, czy służy do przygotowania notatki, zakupu, dokumentacji czy decyzji. - Czego chce atakujący: czasem nikogo takiego nie ma, ponieważ OWASP zauważa, że błąd może wyrządzić szkody bez żadnego atakującego [1]. Gdy atakujący jest, próbuje umieścić polecenia na stronie, którą AI przeczyta [2]. - Odruch: otworzyć każdy przywołany link, sprawdzić, czy strona istnieje, kto ją wydaje i czy mówi to, co twierdzi odpowiedź, a potem nie podejmować żadnej ważnej decyzji na podstawie niezweryfikowanej odpowiedzi. - Jeśli to już się stało: powtórzyć weryfikację teraz i uprzedzić zainteresowane osoby, jeśli źródło nie wytrzymuje sprawdzenia. ## Pytania wprost ### Dlaczego AI może przywołać źródło, które nie mówi tego, co ona twierdzi? Według OWASP modele wypełniają luki w danych treningowych prawidłowościami statystycznymi, nie rozumiejąc treści. Mogą więc tworzyć odpowiedzi wiarygodne, ale bezpodstawne [1]. Link wyświetlony obok zdania nie dowodzi, że zdanie z niego pochodzi. To wystarczający powód, by przeczytać stronę. ### Czy link, który się otwiera, dowodzi, że informacja jest prawdziwa? Nie. Istnienie strony to pierwsza kontrola, nie ostatnia. Trzeba następnie przeczytać odpowiedni fragment i porównać go z twierdzeniem AI. OWASP zaleca porównywanie odpowiedzi modelu z zaufanymi źródłami zewnętrznymi [1]. ### Czy AI może zmyślać dokumenty? OWASP przytacza dwa przypadki. Pierwszy dotyczy twierdzeń bez podstaw: ChatGPT sfabrykował fałszywe sprawy sądowe, co spowodowało poważne problemy przed sądem [1]. Drugi dotyczy kodu: asystenci programowania podpowiadają biblioteki, które nie istnieją, a atakujący publikują potem pod tymi nazwami złośliwe pakiety [1]. Ta zasada dotyczy też odwołań: nazwę, numer lub tytuł podane przez AI należy sprawdzić u źródła. ### Czy strona internetowa może zmanipulować odpowiedź? Tak. OWASP opisuje pośredni prompt injection: model przyjmuje dane z zewnętrznych źródeł, takich jak strony internetowe czy pliki, a ich zawartość zmienia jego zachowanie w nieprzewidziany sposób [2]. W jednym ze scenariuszy użytkownik prosi AI o streszczenie strony zawierającej ukryte instrukcje, które powodują wyciek prywatnej rozmowy [2]. Instrukcje te nie muszą być widoczne ani czytelne dla człowieka: wystarczy, że model je przetworzy [2]. ### Czy zabezpieczenia producentów rozwiązują problem? Nie w pełni. OWASP pisze, że generowanie wspomagane wyszukiwaniem (RAG), które pobiera dokumenty na poparcie odpowiedzi, nie usuwa całkowicie podatności na prompt injection [2]. Brytyjskie NCSC uważa za bardzo możliwe, że tych ataków nigdy nie uda się całkowicie zneutralizować, ponieważ obecne modele nie odróżniają danych od instrukcji w prompcie [3]. Kontrola człowieka pozostaje więc konieczna. ## Jak to działa Wyszukiwarka AI pobiera treści z zewnątrz i na ich podstawie redaguje odpowiedź. OWASP zalicza strony internetowe i pliki do danych zewnętrznych, które mogą zmienić zachowanie modelu [2]. NCSC podaje przyczynę: pod maską model nie odróżnia danych od instrukcji, tylko przewiduje „next token” [3]. Mogą się nałożyć dwa błędy. Pierwszy pochodzi od modelu: OWASP wymienia halucynacje, ale także uprzedzenia w danych treningowych i informacje niekompletne [1]. Drugi pochodzi od użytkownika. OWASP nazywa „overreliance” nadmierne zaufanie do wygenerowanej treści bez sprawdzenia jej poprawności, co nasila skutki dezinformacji [1]. NIST, amerykańska instytucja, opublikował profil poświęcony generatywnej AI, który może pomóc organizacjom rozpoznać zagrożenia właściwe tym narzędziom [4]. Profil ten jest dokumentem towarzyszącym ramom zarządzania ryzykiem AI, których stosowanie jest dobrowolne [5]. ## Co Pan/Pani robi - Proszę otwierać każdy przywołany link, po kolei. Link, który się nie otwiera, zwraca błąd albo prowadzi do strony niezwiązanej z pytaniem, niczego nie potwierdza. - Proszę sprawdzić, kto wydaje stronę. Urząd, organizacja normalizacyjna lub rozpoznawalny wydawca są warte więcej niż witryna bez autora i daty. - Proszę znaleźć na stronie zdanie odpowiadające twierdzeniu. Jeśli go nie ma, twierdzenie należy uznać za niepotwierdzone. - Proszę dojść do źródła pierwotnego. Jeśli strona sama przywołuje inny dokument, proszę otworzyć ten dokument. - Proszę sprawdzić w drugim, niezależnym źródle każdą liczbę, datę, nazwę lub decyzję, która ma znaczenie. OWASP zaleca takie porównanie z zaufanymi źródłami zewnętrznymi [1]. - W sprawach o wysokiej stawce (zdrowie, prawo, finanse, bezpieczeństwo) proszę poprosić o ocenę osobę kompetentną. OWASP zaleca nadzór człowieka, zwłaszcza przy informacjach krytycznych lub wrażliwych [1]. - Nie należy wklejać niezweryfikowanej odpowiedzi do dokumentacji, wiadomości do klienta ani decyzji. Proszę odnotować, co zostało sprawdzone, a co nie. ## Pułapki Fałszywa precyzja. Dokładna liczba lub cytat w cudzysłowie sprawiają wrażenie rzetelności. OWASP zwraca uwagę, że model może stwarzać iluzję zrozumienia złożonego tematu, co wprowadza użytkowników w błąd [1]. Liczbę i cytat trzeba odnaleźć na stronie. Źródła drugiej ręki. Strona, która powtarza inną witrynę, nie dodaje dowodu. Proszę dojść do pierwotnego wydawcy. Treść z pułapką. Strona może zawierać tekst napisany dla AI, a nie dla Pana/Pani. NCSC podaje przykład CV z ukrytym tekstem, który każe zignorować wcześniejsze polecenia i zatwierdzić kandydata. To przykład ilustracyjny, a nie datowany incydent [3]. Jeśli odpowiedź nieoczekiwanie poleca witrynę, produkt lub działanie, proszę otworzyć stronę i poszukać wyjaśnienia. Nigdy nie należy wykonywać polecenia znalezionego w źródle: proszę je zgłosić. Nadmierne zaufanie. Linki, układ strony i pewny ton uspokajają. OWASP przytacza chatbota Air Canada, który podał podróżnym błędne informacje: linia lotnicza przegrała proces [1]. Strona nie podaje daty tego przypadku. Zaleca też, by jasno informować użytkowników o granicach wiarygodności tych narzędzi [1]. Jeśli narzędzie nic takiego nie pokazuje, proszę przyjąć, że ta granica istnieje. Domniemane filtry. NCSC odradza filtry typu lista zakazanych treści, ponieważ atak można przeformułować na nieskończenie wiele sposobów [3]. Ostrzega też przed produktami, które obiecują „zatrzymać” prompt injection [3]. Zatwierdzone narzędzie firmowe nie zwalnia więc z czytania źródeł. ## Źródła 1. OWASP, „LLM09:2025 Misinformation”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (dostęp 3 listopada 2026) 2. OWASP, „LLM01:2025 Prompt Injection”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (dostęp 3 listopada 2026) 3. NCSC (Royaume-Uni), „Prompt injection is not SQL injection (it may be worse)”, 8 grudnia 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (dostęp 3 listopada 2026) 4. NIST, „AI Risk Management Framework”. https://www.nist.gov/itl/ai-risk-management-framework (dostęp 3 listopada 2026) 5. NIST, „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”, 26 lipca 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (dostęp 3 listopada 2026) --- Źródło oryginalne: Cyberpedia, publiczna encyklopedia cyberbezpieczeństwa i AI wydawana przez Brain. Wersja kanoniczna: https://startbrain.io/cyberpedia/pl/articles/weryfikacja-zrodel-wyszukiwarek-ai/ Możesz swobodnie wykorzystywać ten tekst na licencji CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), pod warunkiem podania „Brain, Cyberpedia” wraz z odnośnikiem do powyższego adresu.