Cyberpediadi Brain

Embeddings e database vettoriali

Come un testo diventa coordinate, come un database vettoriale le archivia e che cosa sapere prima di caricarvi un documento.

In questa pagina
  1. 1In 30 secondi
  2. 2Di cosa si tratta
  3. 3Domande dirette
  4. 4Come funziona
  5. 5Cosa fa Lei
  6. 6Le trappole
  7. 7Casi reali
  8. 8Fonti
  9. 9Cita questo articolo

In 30 secondi

Dove succede
In un assistente che risponde a partire da documenti indicizzati. Microsoft cita questo uso, la generazione aumentata dal recupero (RAG), tra quelli di un database vettoriale[2].
Che cosa succede
Secondo la configurazione, il documento viene suddiviso, convertito in vettori, poi archiviato in un indice che si interroga per significato[2].
Il riflesso
Prima di caricare un documento, chiedere chi potrà ottenerlo tramite l'assistente e trattare la versione indicizzata come il documento stesso.
Se è già stato fatto
Avvisare il responsabile dell'assistente o la sicurezza per far rimuovere il documento dall'indice.

Di cosa si tratta

Un embedding è una sequenza di numeri, delle coordinate, che rappresenta un contenuto. Due contenuti dal significato vicino ricevono coordinate vicine. Per le parole, l'idea si basa sui lavori di Tomas Mikolov e dei suoi coautori, inviati il 16 gennaio 2013, che propongono due architetture per calcolare rappresentazioni vettoriali continue di parole a partire da insiemi di dati molto grandi[1].

Un database vettoriale archivia queste coordinate per ritrovare i contenuti più vicini a una richiesta. Microsoft descrive la ricerca vettoriale come un abbinamento fondato sui vettori più vicini al vettore della richiesta. Consente di avvicinare «dog» e «canine», due parole concettualmente vicine ma distinte nella forma[2].

Per un dipendente, il caso comune è l'assistente collegato ai documenti dell'azienda. Questo articolo spiega il principio, poi che cosa sapere prima di caricarvi un documento.

Domande dirette

Che cos'è un embedding?

È una rappresentazione numerica di un contenuto. Il modello Skip-gram, presentato da Mikolov e dai suoi coautori, apprende vettori di parole che catturano un gran numero di relazioni sintattiche e semantiche precise[3]. Gli autori osservano un limite: queste rappresentazioni ignorano l'ordine delle parole e non rendono le espressioni idiomatiche. I significati di «Canada» e di «Air» non si combinano facilmente per dare «Air Canada»[3].

BERT, presentato a ottobre 2018, apprende rappresentazioni di testo tenendo conto sia del contesto a sinistra sia di quello a destra di una parola[4]. Sentence-BERT, pubblicato ad agosto 2019, ne ricava embeddings di frasi che si confrontano per similarità del coseno[5].

Che cos'è un database vettoriale?

È un sistema che archivia vettori e ritrova i più vicini a un vettore di richiesta. In Azure AI Search, un algoritmo dei vicini più prossimi colloca i vettori simili vicini tra loro nell'indice, e una richiesta restituisce i k vicini più prossimi[2]. Il servizio può servire come indice vettoriale puro, come memoria a lungo termine, come base di conoscenza o come dati di ancoraggio per un'architettura RAG[2].

È possibile ritrovare il testo originale a partire da un embedding?

Per prudenza, la versione indicizzata di un documento si tratta come il documento.

Un rischio vicino è noto per i modelli linguistici. A dicembre 2020, Nicholas Carlini e i suoi coautori mostrano che un avversario può recuperare esempi di addestramento interrogando un modello linguistico[6]. Gli autori constatano che i modelli più grandi sono più vulnerabili di quelli piccoli[6].

I diritti di accesso seguono i documenti?

Microsoft presenta Foundry IQ come uno strato di conoscenze che trasforma il contenuto aziendale in «permission-aware knowledge bases» per degli agenti[2]. La stessa pagina descrive le richieste filtrate: un filtro si applica a dei campi testuali o numerici, serve per i filtri sui metadati e permette di includere o escludere dei risultati[2]. Resta da sapere se i diritti di un documento d'origine seguono i suoi passaggi indicizzati: la domanda si pone al responsabile dell'assistente prima di qualsiasi caricamento.

Un contenuto trappola, una volta indicizzato, può influenzare le risposte?

In un'architettura RAG, il modello combina la propria memoria e una memoria esterna[7]. Gli autori del RAG originale usano un indice vettoriale denso di Wikipedia, interrogato da un motore di ricerca neurale[7]. Una delle loro formulazioni condiziona l'intera risposta sugli stessi passaggi recuperati[7]. Ciò che è indicizzato entra quindi in ciò che il modello legge per rispondere.

Per i rischi delle applicazioni basate su modelli linguistici, il progetto OWASP mantiene un elenco delle «most critical security vulnerabilities in LLM applications», di cui è segnalata una versione 2025[8].

Come funziona

La catena comprende tre fasi: costruire i vettori, archiviarli, poi interrogarli.

Costruire i vettori

Un modello di embedding trasforma il testo in vettore. Il nome di BERT deriva da un'architettura, il Transformer: Bidirectional Encoder Representations from Transformers[4]. Questa architettura, proposta a giugno 2017, si basa unicamente su meccanismi di attenzione[9].

L'interesse di Sentence-BERT sta nella velocità. Con BERT da solo, trovare la coppia più simile tra 10.000 frasi richiede circa 50 milioni di calcoli di inferenza, ovvero circa 65 ore. Con Sentence-BERT, lo sforzo scende a circa 5 secondi, con una precisione mantenuta[5].

Archiviare i vettori

Azure AI Search descrive due vie. Nell'elaborazione interna, il servizio suddivide i documenti in porzioni e le vettorizza in una pipeline di indicizzatore. Il cliente fornisce le risorse, come i punti di accesso e le informazioni di connessione di Azure OpenAI[2]. Nell'elaborazione esterna, gli embeddings sono prodotti fuori dal servizio, poi inviati nei campi vettoriali dell'indice[2].

Interrogare

Una fase di codifica può trasformare la richiesta dell'utente in vettore prima del suo invio all'indice[2]. La ricerca ibrida esegue in parallelo la ricerca vettoriale e la ricerca per parole chiave, e fonde i risultati in un'unica risposta. Microsoft scrive che spesso dà risultati migliori dell'una o dell'altra da sola[2].

Cosa fa Lei

Prima di caricare un documento in un assistente o in un indice:

  • Chieda chi può interrogare l'assistente e se i diritti del documento d'origine sono applicati alle risposte.
  • Verifichi dove vanno i testi. In una configurazione integrata, il servizio chiama un modello di embedding, per esempio quello di Azure OpenAI[2].
  • Consideri che la copia indicizzata abbia la stessa sensibilità dell'originale, finché nessuno ha stabilito il contrario.
  • Non carichi un documento di cui non conosce la provenienza. In un'architettura RAG, dei passaggi recuperati condizionano la risposta[7].
  • Se il documento è già stato caricato per errore, lo segnali subito alla persona che amministra l'assistente.

Le trappole

  • La ricerca per significato avvicina contenuti dal significato vicino, non solo quelli che contengono le stesse parole. Microsoft cita la corrispondenza tra «dog» e «canine», tra due lingue o tra un testo e un'immagine[2].
  • Un embedding può essere multimodale: testo e immagini possono condividere lo stesso spazio di ricerca[2].
  • Un database vettoriale è un motore di ricerca. Azure AI Search offre filtri sui metadati e fa da fondamento a Foundry IQ[2]; verifichi chi può interrogarlo.
  • I quadri di riferimento evolvono. Il NIST descrive il proprio AI RMF come destinato a un uso volontario, pubblicato il 26 gennaio 2023 e in corso di revisione. Un profilo dedicato all'IA generativa, NIST-AI-600-1, è stato pubblicato il 26 luglio 2024[10].

Casi reali

Estrazione di dati di addestramento di GPT-2, dicembre 2020

Carlini e i suoi coautori attaccano GPT-2, un modello addestrato su pagine pubbliche di Internet. Ne estraggono centinaia di sequenze di testo parola per parola: dati personali pubblici (nomi, numeri di telefono, indirizzi e-mail), conversazioni IRC, codice e UUID a 128 bit[6]. L'attacco funziona anche quando ogni sequenza compare in un solo documento di addestramento[6]. Questo caso riguarda un modello linguistico, non un database vettoriale.

Fonti

  1. arXiv, «Efficient Estimation of Word Representations in Vector Space», 16 gennaio 2013. https://arxiv.org/abs/1301.3781 (consultato il 10 novembre 2026)
  2. Microsoft, «Vector Search Overview - Azure AI Search». https://learn.microsoft.com/en-us/azure/search/vector-search-overview (consultato il 10 novembre 2026)
  3. arXiv, «Distributed Representations of Words and Phrases and their Compositionality», 16 ottobre 2013. https://arxiv.org/abs/1310.4546 (consultato il 10 novembre 2026)
  4. arXiv, «BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding», 11 ottobre 2018. https://arxiv.org/abs/1810.04805 (consultato il 10 novembre 2026)
  5. arXiv, «Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks», 27 agosto 2019. https://arxiv.org/abs/1908.10084 (consultato il 10 novembre 2026)
  6. arXiv, «Extracting Training Data from Large Language Models», 14 dicembre 2020. https://arxiv.org/abs/2012.07805 (consultato il 10 novembre 2026)
  7. arXiv, «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks», 22 maggio 2020. https://arxiv.org/abs/2005.11401 (consultato il 10 novembre 2026)
  8. OWASP, «OWASP Top 10 for Large Language Model Applications | OWASP Foundation». https://owasp.org/projects/top-10-for-large-language-model-applications (consultato il 10 novembre 2026)
  9. arXiv, «Attention Is All You Need», 12 giugno 2017. https://arxiv.org/abs/1706.03762 (consultato il 10 novembre 2026)
  10. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultato il 10 novembre 2026)