Scaling Agent Workloads at Vercel
Podcast Archives - Software Engineering Daily

Scaling Agent Workloads at Vercel

B2Trung cao cấp17 tháng 9, 202651 phút
  • Phỏng vấn
  • Công nghệ

Most AI agent setups today are built around a single session, where one user interacts with one agent at a time. However, that model breaks down when an agent has to serve a business, where thousands of requests can arrive at once and each session needs to be isolated, durable, and recoverable. Getting agents to run reliably at that scale has meant a lot of hand-rolled infrastructure beneath the agent itself. eve is an open source, cloud-native agent framework from Vercel that removes much of the agent scaling burden. In the eve framework, an agent is defined...

Phát tập này

Mở trình phát: toàn bộ bản ghi, mọi từ đều bấm được, kèm bản dịch và thẻ ghi nhớ.

Thử ngay: chạm vào bất kỳ từ nào

Những câu thật từ đầu tập này. Mỗi từ đều được đánh dấu cấp độ.

Câu 4/12 · 0:26

Getting agents to run reliably at that scale has meant a lot of hand-rolled infrastructure beneath the agent itself.

.

In the Eve framework, an agent is defined declaratively through configuration files,

Chạm vào một từ để xem nghĩa bằng ngôn ngữ của bạn.

Bạn có biết những từ này không?

8 từ khó hơn trong tập này. Chạm vào một từ để xem nghĩa, rồi đánh dấu nó.

Đánh dấu vài từ, chúng tôi sẽ cho bạn biết tập này có hợp trình độ của bạn không.

Tập này có hợp với bạn không?

B2

B2 · Trung cao cấp

Thoải mái nếu bạn đã theo dõi được bản tin truyền hình

A1 28%A2 40%B1 21%B2 10%C1 1%
  • 89% số từ ở mức B1 hoặc dễ hơn.
  • 188 từ mỗi phút: tự nhiên, khá nhanh.
  • 200 từ khó hơn (từ B2 trở lên) trong cả tập.

Bản ghi

Phần mở đầu của tập. Toàn bộ bản ghi có trong trình phát.

0:00

Most AI agent setups today are built around a single session where one user interacts with one agent at a time. However, that model breaks down when an agent has to serve a business where thousands of requests can arrive at once and each session needs to be isolated, durable, and recoverable. Getting agents to run reliably at that scale has meant a lot of hand-rolled infrastructure beneath the agent itself. Eve is an open source cloud-native agent framework from Vercel that removes much of the agent scaling burden.

0:33

In the Eve framework, an agent is defined declaratively through configuration files, and these files compile into infrastructure as code, so the platform provisions only what the agent actually uses. Andrew Barba is a member of technical staff at Vercel, and Shahra Dara is the product lead for Eve at Vercel. In this episode, they join Kevin Ball to discuss what it means for an agent framework to be

0:58

cloud native, why they chose to express agents in plain English, and their view that company building is becoming agent building. Kevin Ball, or K-Ball, is the Vice President of Engineering at Mento and an independent coach for engineers and engineering leaders.

Đó là phần mở đầu. Phần còn lại của tập (50 phút) có trong trình phát: mọi từ đều bấm được, kèm bản dịch, từ đã lưu và thẻ ghi nhớ.

Tiếp tục trong trình phát

Được tạo tự động từ âm thanh. Có thể chứa lỗi. Âm thanh thuộc về nhà xuất bản và được phát từ nguồn cấp của họ. Chủ sở hữu quyền có thể yêu cầu gỡ bỏ — chính sách bản quyền và gỡ bỏ