How an AI was tricked into breaking its own rules
Tech Life

How an AI was tricked into breaking its own rules

B2उच्च-मध्यम29 सितंबर 202626 मिनट

Security researchers have got an AI model to break its own rules and give advice on terrorist attacks and assassinations. They talk to Tech Life about their findings. Plus, indie game developer Jonathan Blow on why he spent 10 years inventing his own coding language and game engine for his newest release. And Shiona McCallum takes us through the latest in birth tech. Presenter: Chris Vallance Producer: Imran Rahman-Jones (Image: An illustration of a brain with “AI” written on it, underneath a birdcage. Credit: Getty Images.)

एपिसोड चलाएँ

प्लेयर खुलता है: पूरा ट्रांसक्रिप्ट, हर शब्द क्लिक करने योग्य, अनुवाद और फ़्लैशकार्ड के साथ।

आज़माएँ: किसी भी शब्द पर टैप करें

इस एपिसोड की शुरुआत के असली वाक्य। हर शब्द पर उसका स्तर दिखाया गया है।

वाक्य 7 / 12 · 1:19

The jailbreaks we discovered within the Kimi models were highly concerning from a security

attacks.

किसी शब्द पर टैप करें और उसका अर्थ अपनी भाषा में देखें।

क्या आप ये शब्द जानते हैं?

इस एपिसोड के 8 कठिन शब्द। किसी पर टैप करके अर्थ देखें, फिर उसे चिह्नित करें।

कुछ शब्द चिह्नित करें, हम बताएँगे कि यह एपिसोड आपके स्तर से कितना मेल खाता है।

क्या यह एपिसोड आपके लिए सही है?

B2

B2 · उच्च-मध्यम

अगर आप टीवी समाचार पहले से समझते हैं तो आरामदायक

A1 19%A2 39%B1 23%B2 17%C1 2%
  • 81% शब्द B1 या उससे आसान हैं।
  • प्रति मिनट 164 शब्द: स्वाभाविक, काफ़ी तेज़ बोली।
  • पूरे एपिसोड में 133 कठिन शब्द (B2 और ऊपर)।

प्रतिलेख

एपिसोड की शुरुआत। पूरा ट्रांसक्रिप्ट प्लेयर में है।

0:00

This BBC podcast is supported by ads outside the UK. Welcome to Tech Life on the BBC World Service, the programme about how tech affects all of us around the world. It's never been more important to ensure that advanced AI models have safety guardrails. We'll hear from researchers who say they persuaded a Chinese AI model to

1:09

ignore its own rules, a process known as jailbreaking. The jailbreaks we discovered within the Kimi models were highly concerning from a security perspective due to the potential of hackers exploiting these models to conduct cyber attacks.

1:26

Jonah McCallum looks at tech to help women giving birth. Four steps definitely have their place and can be very life-saving, but they really haven't changed much in the last 400 years. There is very few things in medicine if we go back to 400 years in any other aspect of medicine that is almost exactly the same.

यह थी शुरुआत। बाक़ी एपिसोड (25 मिनट) प्लेयर में है: हर शब्द क्लिक करने योग्य, अनुवाद, सहेजे गए शब्दों और फ़्लैशकार्ड के साथ।

प्लेयर में जारी रखें

ऑडियो से स्वचालित रूप से बनाया गया। इसमें त्रुटियाँ हो सकती हैं। ऑडियो उसके प्रकाशक का है और उनकी फ़ीड से चलाया जाता है। अधिकार धारक हटाने का अनुरोध कर सकते हैं — कॉपीराइट और हटाने की नीति