NotebookLM, běžný LLM, nebo oba propojené dohromady? Nejprve si ujasněte, co vlastně potřebujete

V poslední době hodně lidí používá NotebookLM a často se mě ptají: v čem se vlastně liší od běžných LLM, jako je ChatGPT, Gemini nebo Claude?

Někteří si také říkají: když se navíc dá Gemini propojit s NotebookLM, neznamená to snad, že jde o silnější a úplnější verzi?

Můj názor je: není to tak.

Tyto tři režimy nástrojů nejsou rozdílem ve „vyšší, nebo nižší úrovni“, ale rozdílem ve „způsobu práce“.

1. NotebookLM: asistent pro práci s materiály, který uvádí zdroje

Je to spíš asistent pro práci s materiály, který „připojuje citované zdroje“.

Silná stránka: nahrajete do něj dokumenty, PDF a materiály ze schůzek a on je dokáže shrnout, uspořádat klíčové body, najít relevantní pasáže a navíc označit zdroj odpovědi. Skvěle se hodí na rychlé zpracování velkého množství materiálu, budování počátečního porozumění a vyhledávání obsahu v dokumentech.

Omezení: když je materiálu hodně, nemusí ho pokaždé celý přečíst a teprve pak usuzovat na základě celku. Spíš na základě vaší otázky najde obsah, který systém považuje za relevantní, a z něj vygeneruje odpověď. Pokud tedy tento krok – vyhledávání – něco vynechá, může to pak chybět i v odpovědi.

2. Běžný LLM: konzultant silný v myšlení i vyjadřování

Je to spíš konzultant, jehož schopnosti myslet i vyjadřovat se jsou obě velmi silné.

Silná stránka: umí dobře usuzovat, přepisovat, uspořádat strukturu, psát texty a porovnávat různé úhly pohledu. Můžete mu předat spleť chaotických myšlenek a požádat ho, aby je uspořádal do jasného výkladu.

Omezení: pokud mu neposkytnete dostatek materiálu, může mezery zaplnit vlastními všeobecnými znalostmi. Odpověď se možná čte velmi plynule, ale ne každá věta je nutně podložená zdrojem.

3. LLM propojený s NotebookLM: konzultant nechá nejdřív asistenta dohledat materiály a pak odpoví

Tento režim se spíš podobá tomu, že konzultant nejdřív požádá asistenta pro práci s materiály, aby něco dohledal, a pak odpovídá na základě toho, co se našlo.

Silná stránka: ve srovnání s čistým LLM se snáz vrátíte ke zdroji materiálu; a je to mnohem pohodlnější, než pokaždé znovu nahrávat celý materiál. Hodí se na otázky a odpovědi nad existující databází, na předběžné uspořádání a srovnávání shrnutí.

Omezení: není to „vylepšená verze“ prvních dvou – má i vlastní riziko. Pokud NotebookLM na začátku najde jen část fragmentů, pozdější uspořádání ze strany LLM se bude stavět právě na těchto fragmentech; a pokud do toho LLM ještě přimíchá vlastní všeobecné znalosti, může vzniknout závěr, který „zní naprosto rozumně, ale zdroje ho ve skutečnosti nepodporují“.

Jak bych tedy tyto tři rozlišil já?

• NotebookLM: vhodný na hledání materiálů.
• Běžný LLM: vhodný na přemýšlení a psaní.
• LLM + NotebookLM: vhodný na pohodlné předběžné otázky a odpovědi na základě existujících materiálů, ale to není totéž co hloubkové usuzování nad celým materiálem.

O RAG a Long Context: nejde o to, kdo koho nahradí

Mimochodem se ještě zmíním o dvou přístupech, které se často porovnávají:

• RAG (tedy způsob práce NotebookLM) se spíš podobá „nejdřív najít, pak číst“: hodí se pro situace, kdy je materiálu hodně, otázka je jasná a je potřeba rychle najít relevantní pasáže.
• Long Context (tedy způsob práce běžného LLM) se spíš podobá „vložit dovnitř všechno a přečíst“: hodí se pro situace, kdy je množství materiálu zvládnutelné a je potřeba úplný kontext a porozumění napříč pasážemi.

Ideální způsob práce nemusí být nutně konkrétní kombinace produktů – spočívá v tom, že nejdřív určíte potřebný materiál a pak jasně vymezíte roli tohoto materiálu a hranice úsudků, aby model mohl dokončit analýzu v rámci kontrolovaného kontextu.

Závěr: nejde o to, který nástroj vybrat

Takže to, na čem skutečně záleží, není výběr nástroje, ale to, abyste si nejdřív ujasnili: co teď vlastně potřebujete – „najít materiál“, „přemýšlet o věcech“, nebo „přemýšlet o věcech na základě materiálu“.

Nástroje nejsou absolutně lepší ani horší; jde jen o to, zda se daný způsob práce hodí. A pokud se nehodí, jak v rámci možností nástrojů, které máte k dispozici, najít rozumné řešení problému – to je právě klíč ke spolupráci s AI.