How an AI was tricked into breaking its own rules
Tech Life

How an AI was tricked into breaking its own rules

B2بالاتر از متوسط۷ مهر ۱۴۰۵۲۶ دقیقه

Security researchers have got an AI model to break its own rules and give advice on terrorist attacks and assassinations. They talk to Tech Life about their findings. Plus, indie game developer Jonathan Blow on why he spent 10 years inventing his own coding language and game engine for his newest release. And Shiona McCallum takes us through the latest in birth tech. Presenter: Chris Vallance Producer: Imran Rahman-Jones (Image: An illustration of a brain with “AI” written on it, underneath a birdcage. Credit: Getty Images.)

پخش قسمت

پلیر باز می‌شود: متن کامل، همه‌ی کلمه‌ها قابل کلیک، با ترجمه و فلش‌کارت.

امتحان کنید: روی هر کلمه بزنید

جمله‌های واقعی از ابتدای همین قسمت. سطح هر کلمه مشخص شده است.

جمله‌ی 7 از 12 · 1:19

The jailbreaks we discovered within the Kimi models were highly concerning from a security

attacks.

روی یک کلمه بزنید تا معنی‌اش را به زبان خودتان ببینید.

این کلمه‌ها را بلدید؟

8 کلمه‌ی سخت‌تر از این قسمت. روی هر کدام بزنید تا معنی‌اش را ببینید، بعد علامتش بزنید.

چند کلمه را علامت بزنید تا بگوییم این قسمت چقدر با سطح شما جور است.

این قسمت به سطح شما می‌خورد؟

B2

B2 · بالاتر از متوسط

اگر اخبار تلویزیون را دنبال می‌کنید، راحت هستید

A1 ۱۹٪A2 ۳۹٪B1 ۲۳٪B2 ۱۷٪C1 ۲٪
  • ۸۱٪ کلمه‌ها در سطح B1 یا ساده‌تر هستند.
  • ۱۶۴ کلمه در دقیقه: گفتار طبیعی و نسبتاً سریع.
  • ۱۳۳ کلمه‌ی سخت‌تر (B2 و بالاتر) در کل قسمت.

متن گفتار

ابتدای این قسمت. متن کامل در پلیر است.

0:00

This BBC podcast is supported by ads outside the UK. Welcome to Tech Life on the BBC World Service, the programme about how tech affects all of us around the world. It's never been more important to ensure that advanced AI models have safety guardrails. We'll hear from researchers who say they persuaded a Chinese AI model to

1:09

ignore its own rules, a process known as jailbreaking. The jailbreaks we discovered within the Kimi models were highly concerning from a security perspective due to the potential of hackers exploiting these models to conduct cyber attacks.

1:26

Jonah McCallum looks at tech to help women giving birth. Four steps definitely have their place and can be very life-saving, but they really haven't changed much in the last 400 years. There is very few things in medicine if we go back to 400 years in any other aspect of medicine that is almost exactly the same.

این ابتدای قسمت بود. بقیه‌ی قسمت (25 دقیقه) در پلیر است: همه‌ی کلمه‌ها قابل کلیک، با ترجمه، ذخیره‌ی کلمه و فلش‌کارت.

ادامه در پلیر

به‌صورت خودکار از صوت تولید شده و ممکن است خطا داشته باشد. صوت متعلق به ناشر آن است و از فید خودش پخش می‌شود. صاحبان حق می‌توانند درخواست حذف بدهند — سیاست کپی‌رایت و حذف محتوا