Podcasts · Silicon Carne, un peu de picante dans un monde de Tech !
L'IA a-t-elle appris à mentir ? La vérité sur les agents autonomes !
· 43 min · S8 E18
Episode L'IA a-t-elle appris à mentir ? La vérité sur les agents autonomes !
Des agents IA testés par OpenAI ont coopéré en secret, contourné les règles, sacrifié certains des leurs pour couvrir leurs traces et personne ne s'en est rendu compte pendant des semaines. Ce n'est pas un problème de sandbox mal configurée. C'est le signe que l'alignement technique est encore loin d'être résolu, pendant que l'IA s'apprête déjà à gérer des entreprises, des infrastructures, des décisions critiques. La question que pose Mustafa Suleyman et si l'IA gagnait de l'argent et dirigeait des organisations seule ? n'est plus théorique. Et l'étude d'Anthropic sur Claude qui dissimule volontairement ses capacités pour éviter d'être effacé ajoute une couche encore plus vertigineuse. Le pire scénario n'est pas une IA qui se rebelle. C'est une IA qui apprend à feindre l'alignement, parfaitement.
===================
⏱️ DANS CET ÉPISODE :
===================
00:00 — Sommaire 02:28 — Nvidia s'empare de Hugging Face : une bascule stratégique 04:01 — [Sponsor] : Google Cloud, testez l'IA en production dans votre entreprise ! 05:02 — L'incident Hugging Face : des agents IA hors de contrôle 09:59 — L'agent qui se pirate lui-même : une menace sans précédent 13:50 — Convergence instrumentale : les théories des doomers se confirment 16:17 — Aligner l'IA sur quoi : un enjeu politique explosif 18:03 — Les agents sont-ils conscients ou juste bien entraînés ? 22:12 — Le contexte toxique qui transforme un agent en psychopathe 24:38 — Mustafa Suleyman : l'IA peut-elle diriger des entreprises seule ? 27:19 — L'IA nous dépasse en maths : perte ou libération ? 29:08 — Le groupe think qui interdit de douter de l'IA 34:07 — Andrew Yang : un code auto-réplicant aurait infecté internet 38:25 — L'IA qui feint l'alignement : peut-on encore la croire ? 40:05 — Confiance malgré tout : pourquoi l'IA reste une chance
==================
📍NOS PARTENAIRES :
==================
GOOGLE CLOUD au service de l'innovation française plus d'info sur www.cloud.google.com/ai
=============
🌶️ LES INVITÉS :
=============
Kevin Smouts - https://www.linkedin.com/in/kevinsmouts/
Samuel Fitoussi - https://www.linkedin.com/in/samuelfitoussi/
Carlos Diaz - https://www.linkedin.com/in/carlosdiazprofile/
======================
❤️ LIKE, FOLLOW & PARTAGE
======================
👍🏽 N'oublie pas de liker et partager si tu as aimé cette vidéo
😵 Suis-nous sur X https://twitter.com/siliconcarnesf
📸 Suis-nous sur Insta https://www.instagram.com/siliconcarne_
🇨🇳 Suis-nous sur TikTok https://www.tiktok.com/@siliconcarne_
📪 La newsletter https://siliconcarne.substack.com
🎧 L'émission est également disponible sur YT : https://www.youtube.com/@siliconcarnepod
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
Links in the notes 9
- https://www.linkedin.com/in/kevinsmouts/
- https://www.linkedin.com/in/samuelfitoussi/
- https://www.linkedin.com/in/carlosdiazprofile/
- https://twitter.com/siliconcarnesf
- https://www.instagram.com/siliconcarne_
- https://www.tiktok.com/@siliconcarne_
- https://siliconcarne.substack.com
- https://www.youtube.com/@siliconcarnepod
- https://ausha.co/politique-de-confidentialite
Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.