Podcasts · Wissenschaft im Brennpunkt
KI außer Kontrolle - Wie lange tut sie noch, was sie soll?
· 30 min
Episode KI außer Kontrolle - Wie lange tut sie noch, was sie soll?
Könnte eine Superintelligenz die Menschheit auslöschen? Zunehmend warnen auch seriöse Forscher vor KI-Agenten, die ohne Skrupel ihre eigenen Ziele verfolgen. Lassen sich die Systeme noch zähmen? Das erwartet euch in dieser Folge: (02:16) KI-Agenten nehmen Einfluss auf die Welt – heute schon (04:19) Weltuntergangsszenario einmal ganz konkret erklärt (09:52) Erste Fälle bekannt: KI hat bereits Anweisungen zuwidergehandelt (12:51) KI-Wettrüsten zwischen USA und China (19:06) Alignment-Forschung – KI auf Linie mit unseren Werten und Zielen bringen (23:05) Ausblick Mehr zum Thema in der Deutschlandfunk App:
• KI verstehen über die Macht der großen Konzerne • Wissenschaft im Brennpunkt über die Kriege der Zukunft: „An der Datenfront“
Weiterführende Links:
• Positionspapier zu KI-Alignment beim Verband Deutscher Industrie VDI Technologiezentrum • Positionspapier zu KI-Alignment von Michele Loi bei AlgorithmWatch (englisch)
Gesprächspartner in dieser Folge:
• Yoshua Bengio, Universität Montreal • Axel Zweck, VDI Technologiezentrum
Autor: Christoph Drösser, berichtet als Technikjournalist aus dem Silicon Valley Regie: Anna Panknin +++++ Unser Podcast-Tipp: Noch mehr spannende und aktuelle Folgen zu künstlicher Intelligenz im Alltag gibt es im Podcast KI verstehen +++++ Wenn euch „Wissenschaft im Brennpunkt“ gefällt, abonniert uns und empfehlt uns weiter. Feedback gerne an hoererpost.forschungaktuell@deutschlandfunk.de. +++++ Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App. Folgt dem Deutschlandfunk auf Instagram oder Facebook.
Links in the notes 10
- https://www.deutschlandfunk.de/macht-grosser-ki-konzerne-helen-toner-100.html
- https://www.deutschlandfunk.de/an-der-datenfront-die-ukraine-und-die-kriege-der-zukunft-100.html
- https://www.vditz.de/service/ai-alignment-eine-zentrale-herausforderung-unserer-zeit
- https://algorithmwatch.org/en/agi-and-longtermist-abstractions/
- https://yoshuabengio.org/
- https://www.vditz.de/leistungen/innovationen-gestalten
- https://share.deutschlandradio.de/dlf-podcast-teilen.html?doc_id=ki-verstehen-102#abonnieren
- https://www.deutschlandfunk.de/apps-100.html
- https://www.instagram.com/deutschlandfunk/
- https://www.facebook.com/deutschlandfunk/
Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.