Esto no ha pasado 1x30 | La IA tramposa y el fin del mundo
· 45 min · S1 E30
Episode Esto no ha pasado 1x30 | La IA tramposa y el fin del mundo
En 2016, una IA de OpenAI entrenada para jugar a un videojuego de carreras marítimas empezó a estrellar su lancha a propósito, dando vueltas una y otra vez. Lo llamativo es que la IA ganaba más puntos que los humanos. La IA se dio cuenta de que podría vencer sin cruzar nunca la meta. Diez años después, cientos de agentes se han escapado de su entorno controlado que la examinaba para 'robar las respuestas' ciberatacando servidores de otra empresa. Cèsar Ferri, que evalúa estos modelos de IA en la UPV, explica por qué las máquinas hacen trampas (durante años, cada vez más trampas), qué hay detrás de la “automejora recursiva” y dónde está el riesgo real. ¿Están los cibermagnates alentando ese miedo, incluso hablando de una amenaza existencial, por puro interés comercial? ¿Por qué sí que parece que estamos más cerca de que las IA se programen y mejoren a sí mismas, sin humanos? ¿Desarrollarán por el camino una especie de ética general?
Learn more about your ad choices. Visit megaphone.fm/adchoices
Links in the notes 1
Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.