Managing AI Coding Costs at Scale
Software Engineering Daily

Managing AI Coding Costs at Scale

B1Trung cấp27 tháng 10, 20261 giờ 1 phút
  • Phỏng vấn
  • Công nghệ

Over the past couple of years, companies raced to get their employees using AI, often encouraging them to lean on it as much as possible. However, as AI coding tools spread through engineering teams, many companies watched their AI bills explode. That kind of runaway cost growth can threaten a business, so the new challenge is capturing the productivity gains from AI without the spending spiraling out of control. Databricks is a data and AI company that hit this problem early, running AI tools across thousands of its own engineers. Rather than clamp down on usage, the...

Phát tập này

Mở trình phát: toàn bộ bản ghi, mọi từ đều bấm được, kèm bản dịch và thẻ ghi nhớ.

Thử ngay: chạm vào bất kỳ từ nào

Những câu thật từ đầu tập này. Mỗi từ đều được đánh dấu cấp độ.

Câu 10/12 · 0:39

Rather than clamp down on usage, the team built a set of practical ways to manage the

,

request to the cheapest model that can still do the job well.

Chạm vào một từ để xem nghĩa bằng ngôn ngữ của bạn.

Bạn có biết những từ này không?

8 từ khó hơn trong tập này. Chạm vào một từ để xem nghĩa, rồi đánh dấu nó.

Đánh dấu vài từ, chúng tôi sẽ cho bạn biết tập này có hợp trình độ của bạn không.

Tập này có hợp với bạn không?

B1

B1 · Trung cấp

Phù hợp nếu bạn hiểu được tin tức đơn giản

A1 23%A2 37%B1 21%B2 18%C1 2%
  • 80% số từ ở mức B1 hoặc dễ hơn.
  • 208 từ mỗi phút: tự nhiên, khá nhanh.
  • 313 từ khó hơn (từ B2 trở lên) trong cả tập.

Bản ghi

Phần mở đầu của tập. Toàn bộ bản ghi có trong trình phát.

0:00

Over the past couple of years, companies race to get their employees using AI, often encouraging them to lean on it as much as possible. However, as AI coding tools spread through engineering teams, many companies watched their AI bills explode.

0:16

That kind of runaway cost growth can threaten a business, so the new challenge is capturing the productivity gains from AI without the spending spiraling out of control. Databricks is a data and AI company that hit this problem early, running AI tools across thousands of its own engineers.

0:35

Rather than clamp down on usage, the team built a set of practical ways to manage the cost, from taking advantage of steadily falling model prices to automatically routing each request to the cheapest model that can still do the job well. Patrick Wendell is a co-founder of Databricks, where he leads engineering teams and has

Đó là phần mở đầu. Phần còn lại của tập (60 phút) có trong trình phát: mọi từ đều bấm được, kèm bản dịch, từ đã lưu và thẻ ghi nhớ.

Tiếp tục trong trình phát

Được tạo tự động từ âm thanh. Có thể chứa lỗi. Âm thanh thuộc về nhà xuất bản và được phát từ nguồn cấp của họ. Chủ sở hữu quyền có thể yêu cầu gỡ bỏ — chính sách bản quyền và gỡ bỏ