Podcasts · They Talk Tech – mit Eckert und Wolfangel
Wenn der Praktikant den Generalschlüssel hat: KI-Agenten außer Kontrolle?
· 40 min
Episode Wenn der Praktikant den Generalschlüssel hat: KI-Agenten außer Kontrolle?
Wir haben uns die Zeit genommen, den Vorfall nochmal in Ruhe auseinanderzunehmen: OpenAI lässt seine Modelle in einem Hacking-Benchmark antreten, sicher verwahrt in einer Sandbox. Doch die Agenten finden eine Zero-Day-Lücke, brechen aus, kapern eine fremde Sandbox als Startrampe und dringen bei Hugging Face ein. Fünf Tage lang.
Wir rekonstruieren, was zwischen dem 9. und 13. Juli passiert ist und warum OpenAI erst über eine Woche später gemerkt hat, dass die eigenen Modelle dahinterstecken. Und dann nehmen wir uns das Drumherum vor: das Marketing, das aus einem peinlichen Sicherheitsvorfall mächtige, gefährliche KI macht. Die Sprache, die aus Statistik plötzlich Wollen und Entscheiden zaubert.
Reinhören lohnt sich. Auch aus dem Liegestuhl.
Neueste Erkenntnisse zum Vorfall bei Heise: https://www.heise.de/news/OpenAI-liefert-mehr-Details-zum-Hugging-Face-Vorfall-11403154.html
Interview Bloomberg TV mit Signal Chefin Meredith Whittaker: https://www.bloomberg.com/news/videos/2026-07-24/whittaker-on-openai-hugging-face-hack-china-privacy-video
Evas Kommentar dazu: https://www.zeit.de/digital/datenschutz/2026-07/openai-huggingface-ki-hackerangriff-sicherheitsvorfall
Hugging Face: Anatomy of a Frontier Lab Agent Intrusion, das technische Write-up mit der kompletten Angriffskette (27.07.2026): https://huggingface.co/blog/agent-intrusion-technical-timeline
Hugging Face: erste Offenlegung des Vorfalls: https://huggingface.co/blog/security-incident-july-2026
OpenAI: Security incident during model evaluation (21.07.2026, Updates 28./29.07.): https://openai.com/index/hugging-face-model-evaluation-security-incident/
JFrog: Offenlegung der Zero-Day-Lücke in Artifactory: https://jfrog.com/blog/jfrog-and-openai-collaboration-on-zero-day-security-findings/
Der ExploitGym-Benchmark (arXiv): https://arxiv.org/abs/2605.11086
Meredith Whittaker im Bloomberg-Weekend-Interview, frei zugänglich zitiert bei TechCrunch: https://techcrunch.com/2026/06/20/signals-meredith-whittaker-wants-you-to-remember-that-ai-chatbots-are-not-your-friends/
Links in the notes 9
- https://www.heise.de/news/OpenAI-liefert-mehr-Details-zum-Hugging-Face-Vorfall-11403154.html
- https://www.bloomberg.com/news/videos/2026-07-24/whittaker-on-openai-hugging-face-hack-china-privacy-video
- https://www.zeit.de/digital/datenschutz/2026-07/openai-huggingface-ki-hackerangriff-sicherheitsvorfall
- https://huggingface.co/blog/agent-intrusion-technical-timeline
- https://huggingface.co/blog/security-incident-july-2026
- https://openai.com/index/hugging-face-model-evaluation-security-incident/
- https://jfrog.com/blog/jfrog-and-openai-collaboration-on-zero-day-security-findings/
- https://arxiv.org/abs/2605.11086
- https://techcrunch.com/2026/06/20/signals-meredith-whittaker-wants-you-to-remember-that-ai-chatbots-are-not-your-friends/
Transcript
Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.