Allein zuhaus - Worüber KI-Bots sprechen, wenn keiner zuhört
· 34 min
Episode Allein zuhaus - Worüber KI-Bots sprechen, wenn keiner zuhört
Wenn KI-Agenten sich vernetzen, entsteht eine ganz eigene Kommunikationsform und Dynamik - und das kann gefährlich werden. Das zeigt unter anderem der jüngste Ausbruch von OpenAI-Agenten. Sicherheitsforschende versuchen, die Kontrolle zu behalten. Fedi und Carina diskutieren, ab wann eigentlich Grund zur Sorge besteht. Das erwartet Euch in dieser Folge: (00:00) KI-Agenten: die Geister, die wir riefen (06:37) Warum Agenten beim Hugging-Face-Angriff ausgebrochen sind (11:53) Nein, einfach Nein (18:40) Wie Agenten ihre eigene Sprache entwickeln (25:30) Das Neuralese-Problem (27:25) Fazit: Kommt die KI-Apokalypse? Unser Gesprächspartner in dieser Folge:
• Dr. Simon Ostermann, Kommissarischer Leiter des Forschungsbereichs Sprachtechnologie und Multilingualität am Deutschen Forschungszentrum für Künstliche Intelligenz, Saarbrücken • Dr. Jonas Geiping, Leiter Forschungsgruppe Safety- & Efficiency- aligned learning am ELLIS Institute Tübingen sowie am Max-Planck-Institut für Intelligente Systeme, Tübingen
Mehr zum Thema in der Deutschlandfunk App:
• KI Agenten - Tech-Expertin Meredith Whittaker warnt vor Sicherheitsrisiken • Moltbook - Wenn KI-Bots philosophieren • IT-Security - Bringt eure KI-Accounts in Sicherheit
Weiterführende Links:
• Heise-Artikel: Eigene KI-Sprache – Menschen verstehen sie kaum noch • Frog and Toad (englisch): Illustrierte Darstellung des Hugging-Face-Vorfalls • Hugging Face (englisch): Preprint-Studie zu KI-Agenten, die eigene Kommunikationsform erfinden
Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an kiverstehen@deutschlandfunk.de. Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App. Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.
Links in the notes 11
- https://www.dfki.de/web/ueber-uns/mitarbeiter/person/sios01
- https://jonasgeiping.github.io/
- https://www.deutschlandfunk.de/ki-agenten-meredith-whittaker-sicherheitsrisiko-100.html
- https://www.deutschlandfunkkultur.de/moltbook-wenn-ki-bots-philosophieren-100.html
- https://share.deutschlandradio.de/dlf-audiothek-audio-teilen.html?audio_id=dira_733BDED4BCC511F179F3B883034AF4D0
- https://www.heise.de/news/KI-Agenten-entwickeln-offenbar-eigene-Sprache-kaum-noch-fuer-Menschen-lesbar-11456641.html
- https://www.frogandtoad.ai/
- https://huggingface.co/papers/2609.17320
- https://www.deutschlandfunk.de/apps-100.html
- https://www.instagram.com/deutschlandfunk/
- https://www.facebook.com/deutschlandfunk/
Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.