Moving Beyond RAG with Precomputed Context
Podcast Archives - Software Engineering Daily

Moving Beyond RAG with Precomputed Context

B2Intermédiaire avancé3 septembre 202655 min
  • Entretien
  • Technologie

Retrieval has become one of the central problems in building useful AI systems. The standard approach to grounding a model in one’s own data has been retrieval augmented generation, or RAG, where an agent searches a vector database for relevant information at query time. That pattern works, but it has limitations, such as retrieving information that’s not truly relevant, repeating the same lookup work on every query, and producing inconsistent answers to the same question. Pinecone is a vector database that’s widely used to power semantic search and RAG at scale. The team recently develo...

Écouter l'épisode

Ouvre le lecteur : la transcription complète, chaque mot cliquable, avec traduction et cartes mémoire.

Essayez : touchez un mot

De vraies phrases du début de cet épisode. Chaque mot est marqué de son niveau.

Phrase 8 sur 12 · 0:41

search and RAG at scale. The team recently developed Nexus, which is a knowledge engine

,

the fly. The approach borrows the database concept of a materialized view and curates

Écouter cette phrase

Touchez un mot pour voir son sens dans votre langue.

Connaissez-vous ces mots ?

8 mots plus difficiles de cet épisode. Touchez-en un pour voir son sens, puis indiquez si vous le connaissiez.

  • B20:41
  • B29:43
  • C115:41
  • C121:10
  • B234:02
  • C138:28
  • C147:18
  • B251:54

Marquez quelques mots et nous vous dirons si cet épisode correspond à votre niveau.

Cet épisode est-il pour vous ?

B2

B2 · Intermédiaire avancé

Confortable si vous suivez déjà le journal télévisé

A1 18 %A2 33 %B1 29 %B2 17 %C1 3 %
  • 80 % des mots sont de niveau B1 ou plus faciles.
  • 168 mots par minute : débit naturel, plutôt rapide.
  • 215 mots plus difficiles (B2 et plus) dans tout l'épisode.

Transcription

Le début de l'épisode. La transcription complète est dans le lecteur.

0:00

Retrieval has become one of the central problems in building useful AI systems. The standard approach to grounding a model in one's own data has been Retrieval Augmented Generation, or RAG, where an agent searches a vector database for relevant information at query time. That pattern works, but it has limitations, such as retrieving information that's not truly

0:23

relevant, repeating the same lookup work on every query, and producing inconsistent answers to the same question. Pinecone is a vector database that's widely used to power semantic search and RAG at scale. The team recently developed Nexus, which is a knowledge engine that reframes context as a first-class, pre-computed asset rather than something reassembled on

0:46

the fly. The approach borrows the database concept of a materialized view and curates context once into a versioned artifact that carries its own schema, metadata, permissions, and lineage. Jorg Schad is the VP of Engineering at Pinecone. In this episode, he joins Kevin Ball for an in-depth conversation about the frontier of retrieval technology. They discuss

C'était le début. La suite de l'épisode (55 min) est dans le lecteur : chaque mot cliquable, avec traduction, mots enregistrés et cartes mémoire.

Continuer dans le lecteur

Générée automatiquement à partir de l'audio. Peut contenir des erreurs. L'audio appartient à son éditeur et est diffusé depuis son flux. Les ayants droit peuvent demander le retrait — politique de droits d'auteur et de retrait