Scaling Agent Workloads at Vercel
Podcast Archives - Software Engineering Daily

Scaling Agent Workloads at Vercel

B2Intermédiaire avancé17 septembre 202651 min
  • Entretien
  • Technologie

Most AI agent setups today are built around a single session, where one user interacts with one agent at a time. However, that model breaks down when an agent has to serve a business, where thousands of requests can arrive at once and each session needs to be isolated, durable, and recoverable. Getting agents to run reliably at that scale has meant a lot of hand-rolled infrastructure beneath the agent itself. eve is an open source, cloud-native agent framework from Vercel that removes much of the agent scaling burden. In the eve framework, an agent is defined...

Écouter l'épisode

Ouvre le lecteur : la transcription complète, chaque mot cliquable, avec traduction et cartes mémoire.

Essayez : touchez un mot

De vraies phrases du début de cet épisode. Chaque mot est marqué de son niveau.

Phrase 4 sur 12 · 0:26

Getting agents to run reliably at that scale has meant a lot of hand-rolled infrastructure beneath the agent itself.

.

In the Eve framework, an agent is defined declaratively through configuration files,

Écouter cette phrase

Touchez un mot pour voir son sens dans votre langue.

Connaissez-vous ces mots ?

8 mots plus difficiles de cet épisode. Touchez-en un pour voir son sens, puis indiquez si vous le connaissiez.

  • B20:26
  • C18:16
  • B214:13
  • B220:04
  • C130:03
  • B238:02
  • B242:42
  • C149:03

Marquez quelques mots et nous vous dirons si cet épisode correspond à votre niveau.

Cet épisode est-il pour vous ?

B2

B2 · Intermédiaire avancé

Confortable si vous suivez déjà le journal télévisé

A1 28 %A2 40 %B1 21 %B2 10 %C1 1 %
  • 89 % des mots sont de niveau B1 ou plus faciles.
  • 188 mots par minute : débit naturel, plutôt rapide.
  • 200 mots plus difficiles (B2 et plus) dans tout l'épisode.

Transcription

Le début de l'épisode. La transcription complète est dans le lecteur.

0:00

Most AI agent setups today are built around a single session where one user interacts with one agent at a time. However, that model breaks down when an agent has to serve a business where thousands of requests can arrive at once and each session needs to be isolated, durable, and recoverable. Getting agents to run reliably at that scale has meant a lot of hand-rolled infrastructure beneath the agent itself. Eve is an open source cloud-native agent framework from Vercel that removes much of the agent scaling burden.

0:33

In the Eve framework, an agent is defined declaratively through configuration files, and these files compile into infrastructure as code, so the platform provisions only what the agent actually uses. Andrew Barba is a member of technical staff at Vercel, and Shahra Dara is the product lead for Eve at Vercel. In this episode, they join Kevin Ball to discuss what it means for an agent framework to be

0:58

cloud native, why they chose to express agents in plain English, and their view that company building is becoming agent building. Kevin Ball, or K-Ball, is the Vice President of Engineering at Mento and an independent coach for engineers and engineering leaders.

C'était le début. La suite de l'épisode (50 min) est dans le lecteur : chaque mot cliquable, avec traduction, mots enregistrés et cartes mémoire.

Continuer dans le lecteur

Générée automatiquement à partir de l'audio. Peut contenir des erreurs. L'audio appartient à son éditeur et est diffusé depuis son flux. Les ayants droit peuvent demander le retrait — politique de droits d'auteur et de retrait