How an AI was tricked into breaking its own rules
Tech Life

How an AI was tricked into breaking its own rules

B2Trung cao cấp29 tháng 9, 202626 phút

Security researchers have got an AI model to break its own rules and give advice on terrorist attacks and assassinations. They talk to Tech Life about their findings. Plus, indie game developer Jonathan Blow on why he spent 10 years inventing his own coding language and game engine for his newest release. And Shiona McCallum takes us through the latest in birth tech. Presenter: Chris Vallance Producer: Imran Rahman-Jones (Image: An illustration of a brain with “AI” written on it, underneath a birdcage. Credit: Getty Images.)

Phát tập này

Mở trình phát: toàn bộ bản ghi, mọi từ đều bấm được, kèm bản dịch và thẻ ghi nhớ.

Thử ngay: chạm vào bất kỳ từ nào

Những câu thật từ đầu tập này. Mỗi từ đều được đánh dấu cấp độ.

Câu 7/12 · 1:19

The jailbreaks we discovered within the Kimi models were highly concerning from a security

attacks.

Chạm vào một từ để xem nghĩa bằng ngôn ngữ của bạn.

Bạn có biết những từ này không?

8 từ khó hơn trong tập này. Chạm vào một từ để xem nghĩa, rồi đánh dấu nó.

Đánh dấu vài từ, chúng tôi sẽ cho bạn biết tập này có hợp trình độ của bạn không.

Tập này có hợp với bạn không?

B2

B2 · Trung cao cấp

Thoải mái nếu bạn đã theo dõi được bản tin truyền hình

A1 19%A2 39%B1 23%B2 17%C1 2%
  • 81% số từ ở mức B1 hoặc dễ hơn.
  • 164 từ mỗi phút: tự nhiên, khá nhanh.
  • 133 từ khó hơn (từ B2 trở lên) trong cả tập.

Bản ghi

Phần mở đầu của tập. Toàn bộ bản ghi có trong trình phát.

0:00

This BBC podcast is supported by ads outside the UK. Welcome to Tech Life on the BBC World Service, the programme about how tech affects all of us around the world. It's never been more important to ensure that advanced AI models have safety guardrails. We'll hear from researchers who say they persuaded a Chinese AI model to

1:09

ignore its own rules, a process known as jailbreaking. The jailbreaks we discovered within the Kimi models were highly concerning from a security perspective due to the potential of hackers exploiting these models to conduct cyber attacks.

1:26

Jonah McCallum looks at tech to help women giving birth. Four steps definitely have their place and can be very life-saving, but they really haven't changed much in the last 400 years. There is very few things in medicine if we go back to 400 years in any other aspect of medicine that is almost exactly the same.

Đó là phần mở đầu. Phần còn lại của tập (25 phút) có trong trình phát: mọi từ đều bấm được, kèm bản dịch, từ đã lưu và thẻ ghi nhớ.

Tiếp tục trong trình phát

Được tạo tự động từ âm thanh. Có thể chứa lỗi. Âm thanh thuộc về nhà xuất bản và được phát từ nguồn cấp của họ. Chủ sở hữu quyền có thể yêu cầu gỡ bỏ — chính sách bản quyền và gỡ bỏ