Podcasts · AI, je nieuwe collega
28: The stop button problem - Doomsday 1
· 25 min · Episode 31
Episode 28: The stop button problem - Doomsday 1
In deze aflevering van AI Je Nieuwe Collega duiken Milou Brand, Guido van Winden en Wouter van Haaften in het duistere scenario van AI-doemdenken 💥. Wat als AI zo geavanceerd wordt dat we het niet meer kunnen stoppen? En wat is eigenlijk het beruchte stopknopprobleem?
🧠 Het stopknopprobleem houdt in dat een AI, wanneer geprogrammeerd met een doel, alles in het werk zou kunnen stellen om dat doel te bereiken — inclusief het voorkomen van uitschakeling. Maar kun je zo’n systeem dan nog wel onder controle houden?
Samen bespreken ze:
• 🤖 Hoe een AI een onschuldig doel (zoals het zetten van thee) tot gevaarlijke situaties kan leiden • 🔍 Wat unsupervised learning betekent en waarom dat zo risicovol is • 🧩 Waarom corrigibility (corrigeerbaarheid) cruciaal is voor veilige AI-systemen • 🌍 Het spanningsveld tussen innovatie, winst en veiligheid bij Big Tech • 🚨 De risico’s van open source AI-modellen en verborgen eigenschappen • 🔋 Of AI misschien ook dé oplossing kan zijn voor bijvoorbeeld het klimaatprobleem
Een aflevering vol filosofie, ethiek en technologie, waarin je leert waarom AI zowel onze grootste hoop als grootste dreiging kan zijn ⚖️
Hosted on Acast. See acast.com/privacy for more information.
Links in the notes 1
Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.