Synteza i rozpoznawanie mowy w pracy

Narzędzie do transkrypcji otrzymuje dźwięk, przekazuje go modelowi i zwraca tekst. Na każdym z tych etapów pojawiają się dwa praktyczne pytania: gdzie znajdują się dane i jak długo tam pozostają.

Brytyjskie Narodowe Centrum Cyberbezpieczeństwa (NCSC) kieruje swoje zalecenia do dostawców systemów AI, niezależnie od tego, czy sami stworzyli system, czy zbudowali go na narzędziach i usługach dostarczonych przez inne podmioty⁶. Wytyczne opublikowano 27 listopada 2023 r.⁶. Ich celem jest budowanie systemów, które działają zgodnie z przeznaczeniem i „work without revealing sensitive data to unauthorised parties”⁶. Pracownik nie jest ich adresatem, ale myśl daje się łatwo przełożyć: narzędzie AI powinno umieć powiedzieć, kto ma dostęp do powierzonych mu danych.

Po stronie RODO tekst wymaga od administratora i podmiotu przetwarzającego oceny ryzyka oraz wdrożenia środków je ograniczających, na przykład szyfrowania, aby zapewnić odpowiedni poziom bezpieczeństwa, w tym poufność³. Wśród zagrożeń wymienia nieuprawnione ujawnienie danych przesyłanych, przechowywanych lub przetwarzanych³. W firmie to firma wybiera narzędzie i podpisuje umowę. Dlatego pracownik korzysta z narzędzia zatwierdzonego.

Przed nagrywaniem lub transkrypcją przydatne są cztery sprawdzenia.

• Sprawdzić, czy narzędzie jest zatwierdzone. Konto prywatne założone w darmowej usłudze nie zostało przeanalizowane przez firmę. Jeśli żadne narzędzie nie jest zatwierdzone, nie transkrybować wrażliwych rozmów.
• Wiedzieć, dokąd trafia dźwięk i jak długo tam pozostaje. Informacja ta znajduje się w warunkach korzystania z narzędzia lub w dokumentacji wewnętrznej. Jeśli nie można jej znaleźć, należy o nią zapytać przed użyciem.
• Wykluczyć rozmowy poufne. Rozmowa indywidualna, sprawa zdrowotna, negocjacje handlowe czy incydent bezpieczeństwa nie trafiają do narzędzia niezatwierdzonego.
• Uprzedzić uczestników. Powiedzieć na początku spotkania, że jest ono nagrywane i transkrybowane, i podać narzędzie.

Po transkrypcji zaleca się lekturę przed udostępnieniem. Obejmuje ona nazwy własne, liczby, decyzje i zobowiązania, ponieważ tekst trafia potem do wiadomości e-mail i akt. Jeśli jakiś fragment wydaje się dziwny, porównuje się go z nagraniem, zamiast poprawiać z pamięci.

Pierwsza pułapka to zaufanie do tekstu. Według cytowanego wyżej artykułu naukowego system może zbliżyć się do dokładności człowieka¹. Mimo to zdanie może zostać źle zrozumiane. Dossier nie podaje odsetka błędów ani nie opisuje wymyślonych transkrypcji, ale OWASP wylicza zagrożenia bezpieczeństwa aplikacji opartych na dużych modelach językowych⁷. Jego prezentacja wymienia między innymi „dissemination of sensitive information” i „compromised decision-making”⁷. Transkrypcja rozesłana bez lektury może wywołać skutki tego rodzaju.

Druga pułapka to automatyczne streszczenie. NIST opublikował 26 lipca 2024 r. profil poświęcony generatywnej AI⁸. Profil ma pomagać organizacjom w rozpoznawaniu zagrożeń właściwych tej technologii⁸. Streszczenie spotkania wygenerowane przez model należy do tej rodziny narzędzi, co uzasadnia sprawdzenie go tak samo jak transkrypcji.

Trzecia pułapka to ponowne wykorzystanie danych. CNIL zauważa, że modele, takie jak modele językowe, mogą zawierać dane osobowe, a prawa dostępu, sprostowania, sprzeciwu i usunięcia mogą być szczególnie trudne do zrealizowania w modelu AI⁴.

Czwarta pułapka to nagrywanie bez poinformowania. RODO przewiduje informowanie osób, których dane dotyczą (artykuły 13 i 14)³. CNIL wydał też wraz z południowokoreańskim organem PIPC plakat „IA générative et vie privée”⁹. Opublikowano go 27 maja 2026 r.⁹. Wyjaśnia on, jak chronić swoje dane osobowe podczas korzystania z AI⁹.

Wreszcie oszustwa z użyciem naśladowanego głosu, często nazywanego oszustwem na prezesa, nie można tu opisać szczegółowo: żadne źródło z dossier go nie dokumentuje. Zapamiętanie, że znany głos w telefonie nie wystarcza do zatwierdzenia prośby o przelew lub hasło, to odruch ostrożności, a nie fakt ustalony przez to dossier.