Otwarte i własnościowe modele AI
Model z opublikowanymi wagami czy usługa online: co to zmienia dla danych firmy oraz co pracownik robi, a czego unika.
W 30 sekund
- Gdzie to występuje
- W każdym narzędziu AI, czy to w usłudze online, czy w modelu pobranym i zainstalowanym na stanowisku pracy.
- Co się zmienia
- W usłudze online Państwa dane trafiają do dostawcy hostingu. W modelu otwartym wszystko zależy od tego, gdzie działa, kto go zainstalował i kto go aktualizuje.
- Ryzyko
- Model „otwarty” nadal podlega licencji i wiąże się z ryzykami, a nie chroni danych, jeśli korzysta się z niego przez usługę zewnętrzną.
- Odruch
- Korzystać wyłącznie z narzędzi AI dopuszczonych przez Brain, nie instalować żadnego pobranego modelu bez zatwierdzenia i nie wpisywać danych wrażliwych do usługi, która nie została zatwierdzona.
- Jeśli już się stało
- Niezwłocznie poinformować zespół bezpieczeństwa Brain i podać, jakie dane wpisano lub jaki model zainstalowano.
O co chodzi
Asystent AI opiera się na modelu językowym. Taki model może być udostępniany w postaci plików, które każdy może pobrać i uruchomić na własnym komputerze: mówi się wtedy o modelu z opublikowanymi wagami, czyli „otwartym”. Może też pozostać u wydawcy, który oferuje go wyłącznie jako usługę online: to model własnościowy.
Dla pracownika różnica sprowadza się mniej do jakości odpowiedzi, a bardziej do prostego pytania: dokąd trafiają wprowadzane dane i kto za nie odpowiada? Ta karta wyjaśnia oba przypadki oraz to, czego Brain oczekuje w każdym z nich.
Pytania wprost
Czym różni się model otwarty od modelu własnościowego?
Model otwarty jest opublikowany, zamiast pozostawać za usługą. Dwa przykłady opisane w cytowanych tu źródłach to LLaMA, przedstawiony w lutym 2023 roku przez zespół badaczy, który pisze „We release all our models to the research community”1, oraz Mistral 7B, opublikowany na licencji Apache 2.02. Model własnościowy jest dostępny tylko przez usługę online: użytkownik wysyła tekst i otrzymuje odpowiedź, nie widząc modelu.
Dokąd trafiają moje dane?
W usłudze online wpisany tekst opuszcza firmę, aby przetworzył go dostawca. Wytyczne brytyjskiego NCSC dotyczą zresztą systemów korzystających z modeli hostowanych przez organizację lub z interfejsów zewnętrznych (API) i oczekują systemów AI, które działają bez ujawniania danych wrażliwych nieupoważnionym osobom trzecim4. W przypadku modelu otwartego zainstalowanego na stanowisku lub na serwerze wewnętrznym przetwarzanie może pozostać na miejscu. Same modele tego nie wymuszają: wszystko zależy od tego, gdzie działają.
Czy model otwarty chroni moje dane?
Nie automatycznie. Jeśli model otwarty jest używany przez usługę zewnętrzną, wpisywane dane przechodzą przez tę usługę, tak jak w modelu własnościowym. Liczy się miejsce, w którym odbywa się przetwarzanie, a nie otwartość modelu.
Kto aktualizuje model i kto za niego odpowiada?
W usłudze online model pozostaje u dostawcy. W przypadku pobranego modelu jest on u osoby, która go zainstalowała, i nikt inny się nim nie zajmuje. Wytyczne NCSC umieszczają zarządzanie aktualizacjami w fazie „eksploatacji i utrzymania” systemu AI, a bezpieczeństwo łańcucha dostaw w fazie rozwoju4. W kwestii danych osobowych CNIL stawia pytanie o podział odpowiedzialności, gdy system AI jest dostarczany przez wydawcę i używany przez osobę trzecią5.
Czy dostawca może ponownie wykorzystać to, co wpisuję?
CNIL wskazuje, że dostawca systemu AI może zgodnie z prawem ponownie wykorzystać dane powierzone przez administratora, jeśli spełnionych jest kilka warunków: zgoda administratora, test zgodności, poinformowanie osób i poszanowanie ich praw oraz zgodność nowego przetwarzania z przepisami5. Stąd korzyść z użycia narzędzia, którego warunki sprawdził Brain.
1Jak to działa1 min
Model językowy jest trenowany na dużej ilości tekstów, a następnie służy do przewidywania ciągu dalszego tekstu w odpowiedzi na polecenie7. Badacze zespołu LLaMA wykazali, że można wytrenować najnowocześniejszy model wyłącznie na danych publicznych, a LLaMA-13B przewyższał GPT-3 (175B) w większości testów1. Mistral 7B, z 7 miliardami parametrów, przewyższa Llama 2 13B we wszystkich ocenianych testach2. Największy model Llama 3 ma 405 miliardów parametrów, a jego autorzy oceniają jego jakość jako porównywalną z GPT-4 w wielu zadaniach3. Opublikowali ten model oraz Llama Guard 3, model kontrolujący dane wejściowe i wyjściowe3.
Po stronie firmy decyzja dotyczy więc trzech kwestii: miejsca hostowania modelu, osoby, która go aktualizuje, i osoby, która odpowiada za incydent. Odpowiedź różni się w zależności od narzędzia. Dlatego regułą jest lista dopuszczonych narzędzi.
2Co Państwo robią1 min
- Proszę korzystać wyłącznie z narzędzi AI dopuszczonych przez Brain, niezależnie od tego, czy opierają się na modelu otwartym, czy własnościowym.
- Proszę nie instalować pobranego modelu na stanowisku pracy bez zatwierdzenia przez zespół bezpieczeństwa.
- Proszę nie wpisywać żadnych danych wrażliwych do usługi, która nie została zatwierdzona: danych klientów, współpracowników, danych o zdrowiu, tajemnic firmy.
- Do testów proszę wybierać dane fikcyjne, czyli o takiej samej strukturze jak prawdziwe, ale niepowiązane z żadną osobą. CNIL wymienia testy na danych fikcyjnych jako sposób ustalenia, jakie dane są potrzebne systemowi AI5.
- W razie wątpliwości co do narzędzia proszę zapytać, zanim się z niego skorzysta.
- Jeśli dane zostały już wpisane do niezatwierdzonej usługi albo model został zainstalowany, proszę zgłosić to od razu.
3Pułapki2 min
„Otwarty” nie znaczy „bez licencji”
Mistral 7B jest opublikowany na licencji Apache 2.02. Model otwarty jest więc publikowany z licencją, która określa warunki jego użycia. Cytowane tu źródła nie opisują licencji pozostałych modeli: nie należy zakładać, że każde użycie jest dozwolone.
Pobrany model może być zatruty lub stronniczy
OWASP zalicza do dziesięciu zagrożeń 2025 dla aplikacji generatywnej AI łańcuch dostaw modeli, narażony na różne podatności, oraz zatruwanie danych i modeli6. Zalicza też dezinformację, tym razem jako główną słabość aplikacji opierających się na modelach6. Plik modelu pobrany z dowolnej strony nie został sprawdzony przez Brain. NCSC zresztą zalicza bezpieczeństwo łańcucha dostaw do kwestii, którymi trzeba zająć się już na etapie rozwoju systemu AI4.
Model mógł zapamiętać dane osobowe
CNIL zauważa, że liczne badania wykazały, iż duże modele językowe miały skłonność do „zapamiętywania” fragmentów danych treningowych: imienia, nazwiska, adresu, numeru telefonu, numeru karty płatniczej5. Skuteczny atak na poufność modelu może stanowić naruszenie ochrony danych5. Dotyczy to zarówno modelu otwartego, jak i własnościowego.
Model, który wciąż się uczy
Niektóre systemy wykorzystują wpisane dane, aby się doskonalić, co NCSC nazywa uczeniem ciągłym7. CNIL zwraca uwagę, że taki tryb działania rodzi pytania o ochronę danych, ponieważ dane służą wtedy dwóm odrębnym celom5. To, co usługa robi z wpisanymi danymi, należy do warunków, które trzeba znać, zanim się ją dopuści.
Ramy, które się zmieniają
Ramy zarządzania ryzykiem AI NIST, stosowane dobrowolnie, opublikowano 26 stycznia 2023 roku, a 26 lipca 2024 roku uzupełniono je o profil poświęcony generatywnej AI8. Strona NIST informuje, że wersja 1.0 jest w trakcie rewizji8. Zalecenia się zmieniają, natomiast zasady Brain pozostają zasadami firmy.
4Przypadki z życia1 min
27 lutego 2023: LLaMA
Zespół badaczy przedstawia LLaMA, zbiór modeli od 7 do 65 miliardów parametrów, trenowanych wyłącznie na publicznych zbiorach danych, i publikuje wszystkie swoje modele dla społeczności badawczej1.
10 października 2023: Mistral 7B
Mistral 7B v0.1, model o 7 miliardach parametrów, zostaje opublikowany na licencji Apache 2.0 wraz z wersją dostrojoną do wykonywania instrukcji2.
31 lipca 2024: Llama 3
Przedstawiono rodzinę Llama 3, z modelem o 405 miliardach parametrów i oknem kontekstu sięgającym 128 000 tokenów. Wersje wstępnie wytrenowana i po dalszym treningu największego modelu zostały opublikowane. Wersje dodające obraz, wideo i mowę nie są szeroko udostępniane, ponieważ według autorów są wciąż w fazie rozwoju3.
Karta
- Identyfikator
- CP-268
- Skrzydło
- 4. Sztuczna inteligencja
- Kompetencja Brain
- Dozwolone narzędzia (authorized_tools)
- Odruch Brain
- air-023
- Schemat
- G3 · Przekrój anatomiczny
- Języki
- de, en, es, fr, it, nl, pl, pt
- Źródła
- Źródła sprawdzone 3 listopada 2026: 8
ŹródłaŹródła: 8
- arXiv, „LLaMA: Open and Efficient Foundation Language Models”, 27 lutego 2023. https://arxiv.org/abs/2302.13971 (dostęp 3 listopada 2026)
- arXiv, „Mistral 7B”, 10 października 2023. https://arxiv.org/abs/2310.06825 (dostęp 3 listopada 2026)
- arXiv, „The Llama 3 Herd of Models”, 31 lipca 2024. https://arxiv.org/abs/2407.21783 (dostęp 3 listopada 2026)
- NCSC (Royaume-Uni), „Guidelines for secure AI system development”, 27 listopada 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (dostęp 3 listopada 2026)
- CNIL, „IA : comment être en conformité avec le RGPD ?”, 5 kwietnia 2022. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (dostęp 3 listopada 2026)
- OWASP, „LLMRisks Archive”. https://genai.owasp.org/llm-top-10/ (dostęp 3 listopada 2026)
- NCSC (Royaume-Uni), „Principles for security of Machine learning ML”, 22 maja 2024. https://www.ncsc.gov.uk/collection/machine-learning-principles (dostęp 3 listopada 2026)
- NIST, „AI Risk Management Framework”. https://www.nist.gov/itl/ai-risk-management-framework (dostęp 3 listopada 2026)
Zacytuj ten artykuł
Brain, „Otwarte i własnościowe modele AI”, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp268_pl_2026,
author = {Brain},
title = {Otwarte i własnościowe modele AI},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/pl/articles/modele-otwarte-vs-wlasnosciowe-ai/},
note = {CC BY 4.0}
}