NotebookLM, un LLM normale o i due collegati insieme? Prima capisci cosa ti serve davvero

Ultimamente moltissime persone usano NotebookLM, e spesso mi si chiede: in che cosa si distingue, in fondo, da un LLM normale come ChatGPT, Gemini o Claude?

C’è anche chi pensa: se poi Gemini si può collegare a NotebookLM, non vuol dire forse che è la versione più potente e più completa?

Il mio parere è: no.

Queste tre modalità di strumento non sono una differenza di «livello, più alto o più basso», bensì una differenza nel «modo di lavorare».

1. NotebookLM: un assistente di documentazione con fonti citate

Assomiglia piuttosto a un assistente di documentazione che «allega le fonti citate».

Punto di forza: si buttano dentro documenti, PDF e materiali di riunioni, ed esso può riassumerli, ordinare i punti chiave, individuare i passaggi pertinenti e, per di più, segnalare la fonte di ciascuna risposta. Si presta molto bene a digerire rapidamente grandi volumi di materiale, a costruire una comprensione iniziale e a cercare il contenuto all’interno dei documenti.

Limite: quando il materiale è molto, non necessariamente lo legge ogni volta per intero per poi ragionare sull’insieme. Piuttosto, a partire dalla domanda posta, individua i contenuti che il sistema giudica pertinenti e da lì genera una risposta. Perciò, non appena questo passaggio — il recupero — lascia fuori qualcosa, anche la risposta può lasciarselo sfuggire.

2. Un LLM normale: un consulente forte tanto nel pensiero quanto nell’espressione

Assomiglia piuttosto a un consulente la cui capacità di pensare e di esprimersi sono entrambe assai spiccate.

Punto di forza: è bravo nel ragionare, nel riscrivere, nell’ordinare la struttura, nel comporre testi e nel confrontare punti di vista diversi. Gli si può affidare un groviglio di idee confuse e chiedergli di ordinarle in un’esposizione chiara.

Limite: se non gli si fornisce materiale a sufficienza, può colmare i vuoti con le proprie conoscenze pregresse. La risposta magari si legge in modo molto scorrevole, ma non ogni frase è necessariamente sorretta da una fonte.

3. LLM collegato a NotebookLM: il consulente fa prima cercare i dati all’assistente e poi risponde

Questa modalità assomiglia piuttosto al consulente che prima chiede all’assistente di documentazione di fare una ricerca e poi risponde in base a ciò che è stato trovato.

Punto di forza: rispetto a un LLM puro e semplice, è più facile risalire alle fonti; ed è molto più comodo che ricaricare ogni volta l’intero materiale. Si presta a fare domande e risposte su una base documentale già esistente, oltre che a un’organizzazione preliminare e a confronti riassuntivi.

Limite: non è una «versione potenziata» dei primi due; comporta un rischio tutto suo. Se all’inizio NotebookLM riporta alla luce soltanto alcuni frammenti, la successiva organizzazione dell’LLM si costruirà su quei frammenti; e se poi l’LLM vi mescola anche le proprie conoscenze pregresse, si può finire con una conclusione che «suona del tutto ragionevole, ma che in realtà non è davvero sorretta dalle fonti».

E allora, come distinguo io questi tre?

• NotebookLM: adatto a cercare materiale.
• Un LLM normale: adatto a ragionare sulle cose e a scrivere.
• LLM + NotebookLM: adatto a fare comode domande e risposte preliminari a partire da materiale già esistente, ma non equivale a un ragionamento approfondito sull’intero corpo di materiale.

A proposito di RAG e Long Context: non si tratta che l’uno soppianti l’altro

Colgo l’occasione per spendere due parole su due approcci che vengono spesso messi a confronto:

• RAG (ossia il modo di lavorare di NotebookLM) assomiglia piuttosto al «prima cercare, poi leggere»: adatto ai casi in cui il materiale è molto, la domanda è chiara e occorre individuare rapidamente i passaggi pertinenti.
• Long Context (ossia il modo di lavorare di un LLM normale) assomiglia piuttosto al «mettere tutto dentro e leggerlo»: adatto ai casi in cui la quantità di materiale è gestibile e servono il contesto completo e una comprensione che attraversi più passaggi.

La modalità di lavoro ideale non è necessariamente una determinata combinazione di prodotti, bensì consiste nell’individuare prima il materiale indispensabile e poi nel chiarire il ruolo di quel materiale e i confini delle inferenze, così che il modello possa portare a termine la propria analisi entro un contesto controllato.

Conclusione: il punto non è quale strumento scegliere

Perciò, ciò che conta davvero non è quale strumento si scelga, bensì chiarirsi prima le idee: quello di cui si ha bisogno in questo momento è «cercare materiale», «ragionare sulle cose» oppure «ragionare sulle cose a partire dal materiale»?

Tra gli strumenti non esiste un meglio o un peggio assoluti; esiste soltanto la questione se la modalità di lavoro sia adatta o no. E quando non lo è, come trovare — entro i limiti delle capacità degli strumenti che si hanno — una soluzione ragionevole al problema: questa, appunto, è la chiave della collaborazione con l’IA.