Moving Beyond RAG with Precomputed Context
Podcast Archives - Software Engineering Daily

Moving Beyond RAG with Precomputed Context

B2Obere Mittelstufe3. September 202655 Min.
  • Interview
  • Technologie

Retrieval has become one of the central problems in building useful AI systems. The standard approach to grounding a model in one’s own data has been retrieval augmented generation, or RAG, where an agent searches a vector database for relevant information at query time. That pattern works, but it has limitations, such as retrieving information that’s not truly relevant, repeating the same lookup work on every query, and producing inconsistent answers to the same question. Pinecone is a vector database that’s widely used to power semantic search and RAG at scale. The team recently develo...

Folge abspielen

Öffnet den Player: das vollständige Transkript, jedes Wort anklickbar, mit Übersetzung und Karteikarten.

Probieren Sie es: Tippen Sie auf ein Wort

Echte Sätze vom Anfang dieser Folge. Jedes Wort ist mit seinem Niveau markiert.

Satz 8 von 12 · 0:41

search and RAG at scale. The team recently developed Nexus, which is a knowledge engine

,

the fly. The approach borrows the database concept of a materialized view and curates

Diesen Satz anhören

Tippen Sie auf ein Wort, um seine Bedeutung in Ihrer Sprache zu sehen.

Kennen Sie diese Wörter?

8 schwierigere Wörter aus dieser Folge. Tippen Sie auf eines, um die Bedeutung zu sehen, und markieren Sie es dann.

  • B20:41
  • B29:43
  • C115:41
  • C121:10
  • B234:02
  • C138:28
  • C147:18
  • B251:54

Markieren Sie ein paar Wörter, und wir sagen Ihnen, wie gut diese Folge zu Ihrem Niveau passt.

Passt diese Folge zu Ihnen?

B2

B2 · Obere Mittelstufe

Angenehm, wenn Sie schon Fernsehnachrichten folgen

A1 18 %A2 33 %B1 29 %B2 17 %C1 3 %
  • 80 % der Wörter sind B1 oder leichter.
  • 168 Wörter pro Minute: natürlich und recht schnell.
  • 215 schwierigere Wörter (ab B2) in der ganzen Folge.

Transkript

Der Anfang der Folge. Das ganze Transkript ist im Player.

0:00

Retrieval has become one of the central problems in building useful AI systems. The standard approach to grounding a model in one's own data has been Retrieval Augmented Generation, or RAG, where an agent searches a vector database for relevant information at query time. That pattern works, but it has limitations, such as retrieving information that's not truly

0:23

relevant, repeating the same lookup work on every query, and producing inconsistent answers to the same question. Pinecone is a vector database that's widely used to power semantic search and RAG at scale. The team recently developed Nexus, which is a knowledge engine that reframes context as a first-class, pre-computed asset rather than something reassembled on

0:46

the fly. The approach borrows the database concept of a materialized view and curates context once into a versioned artifact that carries its own schema, metadata, permissions, and lineage. Jorg Schad is the VP of Engineering at Pinecone. In this episode, he joins Kevin Ball for an in-depth conversation about the frontier of retrieval technology. They discuss

Das war der Anfang. Der Rest der Folge (55 Min.) ist im Player: jedes Wort anklickbar, mit Übersetzung, gespeicherten Wörtern und Karteikarten.

Im Player weiterhören

Automatisch aus dem Audio erstellt. Kann Fehler enthalten. Das Audio gehört seinem Herausgeber und wird aus dessen Feed abgespielt. Rechteinhaber können eine Entfernung beantragen — Urheberrechts- und Entfernungsrichtlinie