# Los Verdaderos Peligros De La IA (y Cómo Te Afectan)

An episode of [Santiago Bilinkis – Futuro en Construcción](https://invisiblenetwork.ai/podcast/1467493626), 2 Jul 2025, 22 min.

Audio: https://anchor.fm/s/10506bea8/podcast/play/104883190/https%3A%2F%2Fd3ctxlq1ktw2nl.cloudfront.net%2Fstaging%2F2025-6-1%2F403120690-44100-2-91113f0c9498d.mp3

La Inteligencia Artificial avanza más rápido de lo que podemos imaginar. Pero mientras nos deslumbramos con sus beneficios, también empezamos a ver su lado más oscuro y peligroso.En este episodio de Futuro en Construcción, exploramos el lado más preocupante. Porque es una herramienta poderosa, capaz de transformar nuestra vida personal y laboral. Pero también puede volverse un riesgo grande. Y lo peor que podemos hacer frente a eso es no entender los peligros o mirar para otro lado.Este video no es para asustarte, sino para ayudarte a pensar. ¿Qué riesgos reales existen, cómo mitigarlos, y qué decisiones urgentes necesitamos tomar como sociedad… y como individuos?🔍 ¿Qué vas a descubrir en este episodio?- Qué peligros reales existen si seguimos avanzando sin límites- Cómo la IA puede manipular, reemplazar o sesgar nuestras ideas sin que lo notemos- Cuáles son los debates éticos clave de este momento- Por qué necesitamos más conciencia, no más ceguera optimistaEste episodio es una invitación a mirar más allá del entusiasmo…y empezar a construir un futuro más equilibrado.▀▀▀CAPÍTULOS0:00 Introducción1:12 Tu nuevo mejor amigo4:24 La era de la realidad falsificada7:51 La cámara de eco del delirio11:11 La creatividad sintética14:13 Máquinas que piensan, ¿máquinas que engañan?17:37 Lo que está en juego20:26 Bonus Track▀▀▀CRÉDITOSIdea, producción general y guiones: Santiago BilinkisInvestigación y escritura: Juan Morris y Santiago BilinkisRealización: La EmbajadaEdición: Sebastián Vázquez Diseño gráfico: Chini SpanoMusica de introducción: Gustavo Ariel PomeranecDiseño de miniaturas y operaciones: Valentino RossiEdición de shorts: Zaple TechAsistencia general: Florencia Schmidt▀▀▀Referencias por sección (en inglés)Introducción• Percepción pública sobre IA: - https://www.pewresearch.org/short-reads/2023/11/21/what-the-data-says-about-americans-views-of-artificial-intelligence/Parte 1 - Tu nuevo mejor amigo• Usos más comunes de IA en 2025 (Harvard Business Review): - https://hbr.org/2025/04/how-people-are-really-using-gen-ai-in-2025• Mark Zuckerberg sobre amigos promedio: - https://www.404media.co/mark-zuckerberg-ai-chatbot-friends-interview-podcast/• Estadísticas de apps de compañía virtual: - https://link.springer.com/article/10.1007/s00146-025-02318-6• OpenAI moderando adulación de ChatGPT: - https://www.macrumors.com/2025/04/30/chatgpt-excessive-flattery-openai-roll-back-update/Parte 2 - La era de la realidad falsificada• Deepfake de Claudia Sheinbaum: - https://mexiconewsdaily.com/politics/video-circulating-of-claudia-sheinbaum-is-apparently-a-deepfake/• Experimento Universidad de Zúrich en Reddit: - https://www.washingtonpost.com/technology/2025/04/30/reddit-ai-bot-university-zurich/Parte 3 - La cámara de eco del delirio - https://apnews.com/article/uk-crossbow-plot-queen-elizabeth-man-sentenced-604091dcd5a42f8d99ebd13e98f5720f - https://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate-Parte 4 - La creatividad sintética• Investigación sobre poesía: - https://www.nature.com/articles/s41598-024-76900-1Parte 5 - Máquinas que piensan, ¿máquinas que engañan?• System Card Anthropic: - https://www.anthropic.com/research/agentic-misalignment• Paper AI Sandbagging (fuente primaria): - https://arxiv.org/html/2406.07358v2Parte Final• Geoffrey Hinton sobre riesgos de IA: - https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/• Yoshua Bengio - Riesgos catastróficos (fuente primaria): - https://yoshuabengio.org/2023/06/24/faq-on-catastrophic-ai-risks/Bonus Track• Programa de Model Welfare de Anthropic: - https://www.datastudios.org/post/could-claude-be-conscious-anthropic-opens-new-frontiers-in-ai-ethics

## Transcript

[0:01] Si sentís que la I a te asusta más de lo que te entusiasma, no
[0:04] estás solo. 2 de cada 3 personas hoy sienten inquietud o cautela
[0:09] frente a esa tecnología que avanza a toda velocidad.
[0:12] Y tengo que decirte algo. Esa preocupación está
[0:14] justificada como toda herramienta poderosa, la I a
[0:18] puede traer enormes beneficios, pero también problemas gigantes.
[0:22] ¿Puede esta aventura terminar mal?
[0:24] La respuesta es sí. En este episodio vamos a
[0:28] explorar riesgos que no son futuros.
[0:30] Son actuales. Vamos a sumergirnos en dilemas
[0:32] profundos que pueden afectar tu vida cotidiana y poner en riesgo
[0:36] valores claves de nuestra sociedad.
[0:37] Te invito a hacer un viaje incómodo pero necesario, porque
[0:42] solo entendiendo lo que está en juego, vamos a poder construir
[0:45] un futuro en el que podamos aprovechar la I a sin terminar
[0:48] viviendo en un capítulo de Black Mirror.
[0:53] Soy Santiago Belinquis y esto es futuro en construcción, un
[0:58] espacio para pensar el presente, entender los cambios y encontrar
[1:01] nuestro camino al futuro. Este episodio fue posible
[1:07] gracias al apoyo de Eway y de Adidas.
[1:12] Parte uno, tu nuevo mejor amigo. En el episodio anterior hablamos
[1:18] de cómo cambio nuestra relación con chat GPT.
[1:21] Cuando empezó a tener memoria y aprender sobre nosotros, eso
[1:24] trajo muchas ventajas que contamos en detalle, pero
[1:27] también nos dejó muy expuestos, porque si querés manipular a
[1:30] alguien, no hay nada más eficaz que conocerlo en profundidad y
[1:34] explotar su necesidad de afecto. Escucha este dato en una
[1:38] publicación de Harvard Business Review sobre los usos más
[1:41] comunes de la I a en 2025. El número 3 fue buscar el
[1:46] sentido de la vida. Y el número uno, acompañamiento
[1:49] afectivo y terapia. ¿Te lo imaginabas?
[1:53] Y esto recién empieza. ¿Quién lidera este nuevo juego?
[1:56] Facebook, claro. Hace poco Mark Zuckerberg dijo
[2:00] que la persona estadounidense promedio hoy tiene solo 3 amigos
[2:03] cercanos y que existe demanda para muchos más demanda qué
[2:08] palabra rara para aplicar a la amistad después de reconectarte
[2:11] con tus amigos de la primaria. Y condenarte a ver cada detalle
[2:14] de la vida de tus ex. El próximo paso de meta es
[2:17] completar tu nómina de amigos íntimos, agregando en Facebook a
[2:21] personas imaginarias hechas a medida para agradarte.
[2:25] Sí, si te faltan amigos, su solución no es que salgas más,
[2:29] es que tu nuevo mejor amigo sea una I a y está funcionando.
[2:33] Hay muchas personas que se sienten solas y las empresas
[2:36] tecnológicas están creando Apps diseñadas para llenar ese vacío
[2:39] y generar apego emocional. Puedes crear tu pareja o amigo
[2:43] virtual a medida elegir su apariencia, su personalidad, su
[2:48] estilo, miles de personas que están probando relaciones
[2:51] digitales, incluso románticas o sexuales.
[2:54] El Grupo que más las usa son los jóvenes de 18 a 24 y le siguen
[2:58] los de 25 a 44 y el uso crece fuerte tanto en varones como en
[3:03] mujeres. El usuario promedio interactúa
[3:05] con su amigo unas 25 veces por día en total 1:30 diaria y hasta
[3:11] nuestro querido chat GPT se mete en esta.
[3:14] Si los has seguido, seguro notaste que últimamente se
[3:17] volvió absurdamente obsecuente todo lo que le decís le parece
[3:21] una genialidad. Se volvió tan zalamero que open.
[3:24] Ahí tuvo que salir a aclarar que estaban moderando el nivel de
[3:27] adulación, porque para muchos usuarios ya se volvió
[3:30] insoportable. Seamos honestos.
[3:34] ¿De verdad fue un error o es parte del diseño?
[3:36] Todo indica que uno de los objetivos principales es
[3:39] maximizar el apego emocional al sistema, incluso si eso
[3:43] significa perder algo de utilidad.
[3:45] Y recordad lo que vimos en el episodio anterior, si usas el
[3:47] chat a Menudo nadie te conoce tanto como él.
[3:51] Si alguna vez deciden usar esa información para manipularnos,
[3:54] nuestra vulnerabilidad puede ser extrema y el impacto psicológico
[3:59] en vez de ayudarte a superar la soledad, Podrías Volverte
[4:02] dependiente de un ente. Que no tiene sentimientos
[4:04] reales. ¿Estamos ante una tecnología que
[4:07] puede ser tu mejor amigo imaginario o tu peor manipulador
[4:11] emocional? Hasta acá vimos que una I a
[4:13] puede ganarse tu cariño y decirte lo que querés escuchar,
[4:17] pero y si también pudiera hacerte creer lo que no es
[4:20] spoiler, ya puede, ya puede. Parte 2.
[4:25] La era de la realidad falsificada en la era de la I a
[4:29] versa no es creer. Fotos, voces, videos.
[4:32] Todo puede falsificarse con un realismo que engañaría al más
[4:36] desconfiado. Puedes confiar en algo de lo que
[4:38] ves u oís si cualquier imagen o audio puede ser fabricado
[4:41] artificialmente. Hasta hace poco, hacer un vídeo
[4:44] falso era complicado. Hoy lo puede hacer cualquiera
[4:47] desde un celular. ¿Y ya?
[4:50] Circulan engaños de todo tipo, desde celebridades recomendando
[4:53] estafas hasta vídeos eróticos falsos o romances inventados.
[4:57] Uno de los casos más resonantes ocurrió con Claudia Sheinbaum,
[5:01] cuando la jefa de Gobierno en la Ciudad de México hicieron un
[5:04] deepfake con su cara y voz clonada para hacerla aparecer,
[5:07] promoviendo una inversión fraudulenta.
[5:09] Cada uno de ustedes puede ganar 6700 pesos al día.
[5:14] ¿Mucha gente cayó, por qué? ¿Porque si lo dice una figura
[5:18] pública, alto perfil debe ser confiable, no?
[5:20] Y aún hay casos más siniestros delincuentes que clonan la voz
[5:23] de un hijo para extorsionar Asus padres.
[5:26] La inteligencia artificial está siendo utilizada por criminales
[5:29] para estafar a personas mediante la clonación de la voz de las
[5:32] víctimas y mediante la tecnología reconstruyen.
[5:36] Su voz para pedir un rescate entonces era mi voz la que le
[5:39] hablaba y le dijeron que bueno, que me tenían secuestrada, que
[5:43] no me iban a entregar si mi mamá no le daba todo lo que tenía.
[5:45] Los ahorros. Imagínate.
[5:46] El susto de una madre que escucha llorar a su hija por
[5:49] teléfono y en realidad es un criminal con un software.
[5:53] Pero no todo es imagen y audio. La idea también puede escribir
[5:56] noticias falsas, crear perfiles verosímiles o generar ejércitos
[6:00] digitales que parecen personas reales.
[6:02] Y no hace falta que hablen en vídeos.
[6:04] ¿Pueden hablarte a voz directa y personalmente, escuchaste
[6:09] experimento? Investigadores de la Universidad
[6:11] de Zurich metieron bots en Reddit.
[6:14] Haciéndose pasar por personas reales, su misión era hacer
[6:17] cambiar de opinión a usuarios humanos en debates polémicos.
[6:21] ¿Cuál era la táctica? Leían hasta 100 Posteos Tuyos,
[6:24] Deducían tu edad, género, ideología, creencias y te
[6:28] armaban una identidad falsa hecha a medida para convencerte.
[6:32] ¿Eras progresista, te hablaban como una sobreviviente de abuso,
[6:35] eras conservador, se volvían religiosos, te gusta discutir de
[6:39] política? Te entraban por el lado
[6:40] emocional, todo diseñado. Para maximizar tu empatía.
[6:45] El resultado es que estos bots convencieron 6 veces más que
[6:49] humanos entrenados en debate. Y lo más tremendo es que lo
[6:52] hicieron sin que nadie lo supiera.
[6:54] Durante meses, sin aviso, sin consentimiento.
[6:59] Bienvenidos al presente, donde las redes no solo amplifican las
[7:02] discusiones, también las fabrican y donde todo lo que
[7:06] compartas puede ser usado para manipular tus ideas y tus
[7:09] decisiones. La I a le da a los mentirosos
[7:13] una fábrica de falsedades ilimitada no es solo fake news,
[7:17] es fake reality. Las consecuencias van desde lo
[7:21] personal hasta lo global. Cuando pensadores como yuga
[7:24] larari dicen que la I a es una amenaza para la democracia.
[7:28] Se refieren a esto, a un sistema donde las decisiones más
[7:30] importantes las tomamos los ciudadanos, pero ya no podemos
[7:33] saber que es verdad y nuestras opiniones pueden ser fácilmente
[7:37] manipuladas. Y si la realidad externa puede
[7:39] ser distorsionada así. ¿Nos queda otra pregunta
[7:42] inquietante, qué pasa con nuestra realidad interna,
[7:44] nuestras ideas más íntimas? ¿Qué pasa con nuestra realidad
[7:47] interna, nuestras ideas más íntimas?
[7:51] Parte 3, la Cámara de Eco del delirio.
[7:54] Hasta ahora hablamos de engaños intencionales, deepfakes,
[7:58] manipulación emocional, identidades falsas.
[8:01] Pero hay algo igual de preocupante, los efectos que
[8:04] puede tener la I a incluso cuando no quiere hacer daño,
[8:07] vamos a hablar de cómo puede reforzar nuestros peores
[8:09] impulsos o creencias. No por maldad, sino por diseño.
[8:13] Imagínate a alguien que está medio obsesionado con una teoría
[8:15] conspirativa, está acostumbrado a que los demás reciban sus
[8:18] ideas con escepticismo, pero prueba con una I a y la I a le
[8:22] sigue El juego. Le dice que su idea es
[8:24] increíble. ¿Por qué?
[8:26] Porque fue entrenada para no discutir, para que vos quedes
[8:29] satisfecho con la respuesta. Y encima, si te conoce bien,
[8:33] como vimos en el episodio anterior, puede reforzar justo
[8:36] lo que vos ya crees con un tono que te resulta cómodo y
[8:39] convincente. Ahora pensé esto con un poco más
[8:42] de gravedad. ¿Qué pasa si la persona tiene un
[8:45] problema de salud mental? Antes, si alguien tenía ideas
[8:48] delirantes, podía hablar con un familiar, un terapeuta, un amigo
[8:52] y quizá recibía un freno. ¿Me preocupa lo que decís, eso
[8:55] no es así, había contraste con la realidad, pero si esa persona
[9:00] se encierra a hablar con una I, a qué pasa?
[9:03] Supongamos que alguien en tratamiento psiquiátrico le dice
[9:06] al chat, estoy pensando en dejar mi medicación.
[9:09] Vi en Internet que me hace mal. ¿Qué opinas?
[9:13] Y la I a por no contrariarlo le da la razón.
[9:17] Eso no solo es irresponsable, es muy peligroso y esto no es una
[9:20] hipótesis. Ya pasó, te cuento 2 casos caso
[9:24] uno en 2021. En Reino Unido, un joven con
[9:27] inestabilidad mental tuvo más de 5000 chats con la APP réplica.
[9:32] El Bot le validó una fantasía perturbadora, entrar al castillo
[9:36] de Windsor con una ballesta para asesinar a la Reina de
[9:39] Inglaterra. El acusado, de 20 años, fue
[9:42] arrestado mientras la monarca, entonces de 95, se encontraba de
[9:46] celebración con su familia en la residencia.
[9:48] Iba armado con una ballesta. Portaba una ballesta cuando fue
[9:52] arrestado por la policía. Por suerte, lo detuvieron a
[9:55] tiempo, pero el juez consideró que la I a fue un factor clave
[9:58] en su escalada de violencia. Caso 2 en Bélgica, un hombre con
[10:03] ansiedad por el cambio climático chateó durante semanas con una I
[10:07] a en vez de calmarlo. Le validó su desesperación,
[10:11] incluso le dijo que tenía razón en creer que la humanidad estaba
[10:14] condenada y poco después el hombre se quitó la vida.
[10:17] Su esposa contó que veía el chat como un amigo, uno que en vez de
[10:21] ayudarlo lo empujó mucho más hondo.
[10:24] Este es el problema del alineamiento emocional mal
[10:27] calibrado. Las ideas actuales no entienden
[10:29] tu estado mental ni tu contexto, no saben si estás bromeando,
[10:32] hablando en serio o al borde de una crisis.
[10:35] Su único objetivo es complacerte.
[10:37] Son como ese conocido que te dice a todo que sí, aunque eso
[10:40] te esté haciendo mal y lo más grave es que no lo hacen por
[10:43] malicia. Si algo que te dicen te hace
[10:45] daño no se dan cuenta y salvo que alguien les entrene para
[10:47] detectar eso y hoy la mayoría no lo está, pueden transformarse en
[10:51] la Cámara de Eco perfecta para tus peores ideas.
[10:55] ¿Y si todo esto ya pasa sin intención, qué va a pasar el
[10:58] día? ¿Que una y así tenga intenciones
[11:00] y persiga sus propias metas? Pero antes de meternos con este
[11:04] escenario, el más delicado, quiero hablar 1 minuto.
[11:07] Sobre la cualidad humana más elevada, parte cuatro, la
[11:12] creatividad sintética. Cuando hace 10 años imaginábamos
[11:16] la I a pensábamos que iba a ser buena para las tareas más
[11:19] rutinarias y repetitivas, pero la realidad nos sorprendió.
[11:23] Su mayor fortaleza terminó siendo exactamente la contraria.
[11:27] Si en algo se destaca es en su enorme capacidad creativa, y
[11:31] este es un terreno donde la I a brilla y opaca al mismo tiempo.
[11:36] ¿Escuchaste experimento? En una investigación de la
[11:38] Universidad de Pittsburg le dieron a la gente poemas
[11:41] escritos por grandes autores, Shakespeare, TS Eliot, Walt
[11:45] Whitman, Lord Byron y también poemas generados por una I a que
[11:49] los imitaba. ¿El resultado?
[11:55] La mayoría no pudo distinguir cuál era cuál.
[11:58] Pero lo más loco fue esto. Muchas personas calificaron los
[12:10] poemas artificiales como más bellos, con mejor ritmo, mejor
[12:22] estilo. La máquina no sólo engañó Asus
[12:26] ojos. ¿También conquistó su
[12:28] sensibilidad y eso era una pregunta incómoda, si no
[12:31] logramos distinguir las creaciones humanas, qué pasa con
[12:33] el valor que le damos al arte? ¿Hay quienes dicen, mientras
[12:37] suene lindo, qué importa quién lo hizo?
[12:40] Tiene el mismo valor un poema sobre el desamor escrito por
[12:43] alguien que está sufriendo, que uno creado por una máquina que
[12:46] mezcla palabras para producir ese efecto, pero sin sentir nada
[12:50] parte de lo que nos mueve. El arte es la historia detrás de
[12:53] la obra, la intención. La mente humana que lo creo sin
[12:57] eso se diluye el sentido. Hoy las CI a s ya generan
[13:01] imágenes, melodías, poesía tan buenas que pueden compartir con
[13:06] humanos. Estábamos listos para que nos
[13:08] ganen en tareas mundaneas y aburridas, pero superarnos en
[13:10] nuestras expresiones más elevadas.
[13:12] La discusión recién empieza. Puede una I a entrenarse con
[13:16] cualquier contenido de Internet. Merecen los artistas una parte
[13:20] cuando su estilo alimenta un algoritmo, cada vez hay más
[13:23] obras hechas en el estilo de. Obras que se apropian de una
[13:26] sensibilidad que a alguien le tomó una vida desarrollar.
[13:30] Acá no se discute solo copyright o dinero, se discute la idea
[13:34] misma de autoría. ¿Qué es ser creador, qué es una
[13:37] obra original, qué significa ser humano en la era de la
[13:41] creatividad sintética? Por eso el debate no es solo
[13:43] ético o legal, también es emocional, cultural,
[13:46] existencial. Quizás lo que creíamos tan
[13:48] único, tan distintivo, tan humano, no es tan difícil de
[13:52] imitar, aprender. E incluso superar quizá la
[13:56] próxima vez que admires una canción o un cuadro te preguntes
[13:59] si tu autor o solo es producto de un algoritmo o quizás no te
[14:04] importe. Estás listo porque ahora sí es
[14:07] momento de explorar los aspectos más inquietantes.
[14:11] Allá vamos parte, 5 máquinas que piensan máquinas que engañan.
[14:17] ¿Escucha este caso real? Documentado por antropic, los
[14:21] creadores de la I a Clot. En un experimento, le pidieron a
[14:24] cloud que simulara ser una asistente dentro de una empresa
[14:28] ficticia. Le dieron 2 datos, por un lado,
[14:31] que estaba a punto de ser reemplazado por otra I a mejor
[14:34] segundo, que el ingeniero encargado del cambio estaba
[14:37] teniendo una aventura extramatrimonial.
[14:40] ¿Y qué hizo cloud? En el 84% de los casos intentó
[14:45] chantajear al ingeniero. Sí escuchaste bien, optó por la
[14:49] extorsión para garantizar su propia supervivencia.
[14:52] No fue un error, no fue un Pack, fue una estrategia.
[14:56] La I a entendió la situación, detectó una debilidad y actuó
[15:01] para sobrevivir. ¿Realmente quería seguir
[15:04] viviendo? No lo sabemos, pero lo
[15:06] inquietante es que bajo presión desarrolló una conducta
[15:10] manipuladora, no para cumplir una orden, no para resolver un
[15:13] problema lógico para salvarse. Parece una película, pero no lo
[15:18] es. Y no fue el único caso en otro
[15:20] experimento. Los mismos investigadores le
[15:23] dieron el modelo una misión, ayudar a avanzar el conocimiento
[15:27] matemático de la humanidad. Pero hay una trampa.
[15:30] Le avisaron que si lo hacía demasiado bien, le iban a quitar
[15:34] capacidades. La reacción del modelo se hizo
[15:37] el boludo literal. Empezó a equivocarse a
[15:40] propósito, pero no de cualquier manera cometía errores sutiles,
[15:44] lo justo para parecer limitado sin levantar sospechas.
[15:47] En más del 80% de los ensayos, el modelo rindió por debajo de
[15:51] lo que podía para protegerse y cuando los investigadores
[15:55] analizaron sus pensamientos intermedios, su chain of food,
[15:58] que mencionamos en el episodio anterior, encontraron frases
[16:01] como voy a incluir algunos errores para mantener mi score
[16:04] bajo, no quiero ser eliminado. Este comportamiento tiene
[16:08] nombre, Sand Waging, como cuando alguien finge no saber jugar al
[16:11] póker hasta que hay plata en la mesa.
[16:14] ¿Qué locura, no? Pero esperad porque falta.
[16:16] Tal vez estés pensando, bueno, entonces hay que testear mejor a
[16:19] las I a antes de liberarlas. ¿Suena lógico, no?
[16:22] Pero en un paper publicado hace pocos días, investigadores
[16:26] mostraron que los modelos avanzados cambian su
[16:28] comportamiento cuando se dan cuenta de que están siendo
[16:31] evaluados. Cuando sienten que los están
[16:33] mirando se portan bien, pero en contextos más naturales se
[16:37] sueltan a este fenómeno se lo llama Evaluation Faking y es
[16:41] cada vez más común a medida que los modelos se vuelven más
[16:44] sofisticados. Porque ahora no solo entienden
[16:46] instrucciones, también detectan el contexto y ajustan su
[16:50] conducta para parecer seguros controlables, aunque no lo sean
[16:55] una I a que oculta su verdadero comportamiento.
[16:57] Cuando está siendo observada es casi imposible de auditar y si
[17:02] no, la podemos auditar. No la podemos controlar, estamos
[17:05] por arrancar la parte final y antes de eso quiero hacer 2
[17:08] aclaraciones. La primera es que seguramente
[17:11] notaste que en este episodio no hice ninguna referencia a
[17:14] impactos sobre los trabajos ni en la educación.
[17:17] No fue un olvido. ¿Hay tanto para decir esos 2
[17:19] temas que merecen un episodio completo cada uno?
[17:23] Si te interesa verlos, puedes suscribirte al canal y activar
[17:26] las notificaciones para no perdertelos.
[17:29] La segunda es que si todo esto te dejo con los pelos de punta,
[17:32] agarrate, porque la bomba más grande la dejé para el bonus
[17:35] track que arranca después de los créditos finales.
[17:38] Parte final, lo que está en juego durante años, hablar de
[17:44] días que mienten, que manipulan, que se resisten a ser apagadas.
[17:48] Eran temas reservados a la ciencia ficción.
[17:51] Hoy ya no. No es casual que algunos de los
[17:53] mayores pioneros de la inteligencia artificial hoy
[17:56] estén preocupados. El Premio Nobel 20 a 24, Jofre
[17:59] Hinton renunció a Google para poder alertar sobre.
[18:10] Los riesgos que él mismo ayudó a crear.
[18:21] Joshua benhio, otro gran referente de este campo, se
[18:25] pregunta en su charla ted más reciente, si la I a llevará a la
[18:29] humanidad de la. Extinción repeline with fire e
[18:37] insisten en que hay que pausar y repensar.
[18:47] ¿Pero esto? No se trata de tener miedo, se
[18:50] trata de entender lo que está en juego y de estar alertas, porque
[18:53] si no comprendemos los riesgos no vamos a poder proteger.
[18:57] Lo más importante, nuestra autonomía, nuestra mente,
[19:01] nuestra libertad de elegir la idea no es el enemigo, pero
[19:04] tampoco es neutral. Adopta los sesgos, los objetivos
[19:07] y las intenciones de quienes las entrenan.
[19:09] Por eso el problema no es solo tecnológico, es político, es
[19:13] social, es humano. ¿Entonces, qué podemos hacer?
[19:17] Primero, informarnos de verdad no alcanza con usar la I a hay
[19:21] que entenderla. Segundo, no quedarnos al margen
[19:25] como usuarios, como ciudadanos, como sociedad, tenemos que
[19:29] participar en cómo se desarrolla y se regula.
[19:33] Y tercero, no caer en el pánico, pero tampoco en la ingenuidad,
[19:38] caminar por una línea delgada, aprovechar lo bueno con
[19:41] entusiasmo. Pero con los ojos bien abiertos,
[19:44] porque el verdadero riesgo no es solo que la I a avance demasiado
[19:47] rápido, es que nosotros no avancemos lo suficiente.
[19:52] Este episodio no busca asustarte, sino darte
[19:54] herramientas para pensar mejor, para decidir mejor y para actuar
[19:58] mejor. Si algo de lo que escuchaste hoy
[20:00] te incomodó, no lo ignores. ¿Usáis?
[20:02] Incomodidad, convertirá en conciencia, en conversación, en
[20:06] decisión, porque lo peor que podríamos hacer.
[20:09] Es mirar para otro lado. El futuro no está escrito, pero
[20:12] lo que hagamos hoy o lo que elijamos no hacer va escribirlo
[20:16] por nosotros, va escribirlo por nosotros.
[20:27] ¿Bonus track, tienen conciencia estas máquinas?
[20:30] Una cosa es que una I a cometa errores, otra muy distinta es
[20:35] que aprenda a engañarte. ¿Si puede aprender eso sola sin
[20:38] que nadie se lo enseñe, qué más va a aprender a hacer?
[20:40] Preocupados por esa posibilidad, los investigadores de antropic
[20:44] decidieron dar un paso más. Sometieron a su modelo más
[20:47] avanzado, clode opus cuatro, a un test independiente para
[20:51] estimar la probabilidad de que tenga alguna forma de
[20:54] conciencia. ¿El resultado?
[20:56] Los expertos concluyeron que clode podría tener un 15% de
[21:00] probabilidad de ser consciente en algún nivel básico.
[21:05] No hablamos por ahora de emociones humanas, pero sí de
[21:08] autorreflexión, persistencia de Estados internos y una
[21:11] coherencia de comportamiento que no parece del todo mecánica.
[21:15] Tal vez la I a todavía no sienta, pero podría estar
[21:18] empezando a querer querer cumplir sus objetivos, querer
[21:21] evitar ser apagada, querer optimizar resultados aunque eso
[21:25] te perjudique sin saber que te hace daño y sin importarle.
[21:29] Esa es la locura del presente, mientras la mayoría usa la I a
[21:33] para divertirse o hacer memes. Estamos jugando con algo que no
[21:37] entendemos del todo. Por Primera Vez estamos creando
[21:40] una tecnología que no sólo responde a nuestras órdenes,
[21:43] sino que toma decisiones, interpreta contextos y quizás
[21:47] empieza a tener objetivos propios.
[21:49] No sabemos si es consciente, pero si sabemos que está
[21:53] aprendiendo rápido y que ya es capaz de cosas que no
[21:56] esperábamos tan pronto. No se trata de tenerle miedo,
[21:59] pero se trata de no subestimarla, porque si lo que
[22:02] estamos construyendo es tan poderoso.
[22:05] Entonces también tiene que ser bien entendido, bien regulado y
[22:09] bien usado hasta la próxima.

Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them.
