Moving Beyond RAG with Precomputed Context
Podcast Archives - Software Engineering Daily

Moving Beyond RAG with Precomputed Context

B2Trung cao cấp3 tháng 9, 202655 phút
  • Phỏng vấn
  • Công nghệ

Retrieval has become one of the central problems in building useful AI systems. The standard approach to grounding a model in one’s own data has been retrieval augmented generation, or RAG, where an agent searches a vector database for relevant information at query time. That pattern works, but it has limitations, such as retrieving information that’s not truly relevant, repeating the same lookup work on every query, and producing inconsistent answers to the same question. Pinecone is a vector database that’s widely used to power semantic search and RAG at scale. The team recently develo...

Phát tập này

Mở trình phát: toàn bộ bản ghi, mọi từ đều bấm được, kèm bản dịch và thẻ ghi nhớ.

Thử ngay: chạm vào bất kỳ từ nào

Những câu thật từ đầu tập này. Mỗi từ đều được đánh dấu cấp độ.

Câu 8/12 · 0:41

search and RAG at scale. The team recently developed Nexus, which is a knowledge engine

,

the fly. The approach borrows the database concept of a materialized view and curates

Chạm vào một từ để xem nghĩa bằng ngôn ngữ của bạn.

Bạn có biết những từ này không?

8 từ khó hơn trong tập này. Chạm vào một từ để xem nghĩa, rồi đánh dấu nó.

Đánh dấu vài từ, chúng tôi sẽ cho bạn biết tập này có hợp trình độ của bạn không.

Tập này có hợp với bạn không?

B2

B2 · Trung cao cấp

Thoải mái nếu bạn đã theo dõi được bản tin truyền hình

A1 18%A2 33%B1 29%B2 17%C1 3%
  • 80% số từ ở mức B1 hoặc dễ hơn.
  • 168 từ mỗi phút: tự nhiên, khá nhanh.
  • 215 từ khó hơn (từ B2 trở lên) trong cả tập.

Bản ghi

Phần mở đầu của tập. Toàn bộ bản ghi có trong trình phát.

0:00

Retrieval has become one of the central problems in building useful AI systems. The standard approach to grounding a model in one's own data has been Retrieval Augmented Generation, or RAG, where an agent searches a vector database for relevant information at query time. That pattern works, but it has limitations, such as retrieving information that's not truly

0:23

relevant, repeating the same lookup work on every query, and producing inconsistent answers to the same question. Pinecone is a vector database that's widely used to power semantic search and RAG at scale. The team recently developed Nexus, which is a knowledge engine that reframes context as a first-class, pre-computed asset rather than something reassembled on

0:46

the fly. The approach borrows the database concept of a materialized view and curates context once into a versioned artifact that carries its own schema, metadata, permissions, and lineage. Jorg Schad is the VP of Engineering at Pinecone. In this episode, he joins Kevin Ball for an in-depth conversation about the frontier of retrieval technology. They discuss

Đó là phần mở đầu. Phần còn lại của tập (55 phút) có trong trình phát: mọi từ đều bấm được, kèm bản dịch, từ đã lưu và thẻ ghi nhớ.

Tiếp tục trong trình phát

Được tạo tự động từ âm thanh. Có thể chứa lỗi. Âm thanh thuộc về nhà xuất bản và được phát từ nguồn cấp của họ. Chủ sở hữu quyền có thể yêu cầu gỡ bỏ — chính sách bản quyền và gỡ bỏ