How an AI was tricked into breaking its own rules
Tech Life

How an AI was tricked into breaking its own rules

B2Intermédiaire avancé29 septembre 202626 min

Security researchers have got an AI model to break its own rules and give advice on terrorist attacks and assassinations. They talk to Tech Life about their findings. Plus, indie game developer Jonathan Blow on why he spent 10 years inventing his own coding language and game engine for his newest release. And Shiona McCallum takes us through the latest in birth tech. Presenter: Chris Vallance Producer: Imran Rahman-Jones (Image: An illustration of a brain with “AI” written on it, underneath a birdcage. Credit: Getty Images.)

Écouter l'épisode

Ouvre le lecteur : la transcription complète, chaque mot cliquable, avec traduction et cartes mémoire.

Essayez : touchez un mot

De vraies phrases du début de cet épisode. Chaque mot est marqué de son niveau.

Phrase 7 sur 12 · 1:19

The jailbreaks we discovered within the Kimi models were highly concerning from a security

attacks.

Touchez un mot pour voir son sens dans votre langue.

Connaissez-vous ces mots ?

8 mots plus difficiles de cet épisode. Touchez-en un pour voir son sens, puis indiquez si vous le connaissiez.

Marquez quelques mots et nous vous dirons si cet épisode correspond à votre niveau.

Cet épisode est-il pour vous ?

B2

B2 · Intermédiaire avancé

Confortable si vous suivez déjà le journal télévisé

A1 19 %A2 39 %B1 23 %B2 17 %C1 2 %
  • 81 % des mots sont de niveau B1 ou plus faciles.
  • 164 mots par minute : débit naturel, plutôt rapide.
  • 133 mots plus difficiles (B2 et plus) dans tout l'épisode.

Transcription

Le début de l'épisode. La transcription complète est dans le lecteur.

0:00

This BBC podcast is supported by ads outside the UK. Welcome to Tech Life on the BBC World Service, the programme about how tech affects all of us around the world. It's never been more important to ensure that advanced AI models have safety guardrails. We'll hear from researchers who say they persuaded a Chinese AI model to

1:09

ignore its own rules, a process known as jailbreaking. The jailbreaks we discovered within the Kimi models were highly concerning from a security perspective due to the potential of hackers exploiting these models to conduct cyber attacks.

1:26

Jonah McCallum looks at tech to help women giving birth. Four steps definitely have their place and can be very life-saving, but they really haven't changed much in the last 400 years. There is very few things in medicine if we go back to 400 years in any other aspect of medicine that is almost exactly the same.

C'était le début. La suite de l'épisode (25 min) est dans le lecteur : chaque mot cliquable, avec traduction, mots enregistrés et cartes mémoire.

Continuer dans le lecteur

Générée automatiquement à partir de l'audio. Peut contenir des erreurs. L'audio appartient à son éditeur et est diffusé depuis son flux. Les ayants droit peuvent demander le retrait — politique de droits d'auteur et de retrait