# IA, leyes y deepfakes: ¿cómo nos protegemos sin matar la innovación?

An episode of [IA Aplicada con LuisGyG](https://invisiblenetwork.ai/podcast/1248891108), 26 Mar 2026, 57 min.

Audio: https://api.riverside.com/hosting-analytics/media/91b84fbb5026701f8e04a500c6f8cf67d4e80471b35adcb6d9621030dc78cd5c/eyJlcGlzb2RlSWQiOiJhNjJjOWJmNy1kMzA0LTQ2MmMtOWJjNi01MzliODUxMzVlMzUiLCJwb2RjYXN0SWQiOiJkNmI1ZjI4Zi0yZWQ2LTRmMDAtOTViNy0yYzcwNzE0YTc0YWIiLCJhY2NvdW50SWQiOiI2M2NhODAyZDAzNzkwM2I5NzM4NjQzNWUiLCJwYXRoIjoibWVkaWEvY2xpcHMvNjljNDhjYzFiOGMxZGFkM2Y4NGQyOTNmL2x1aXNneWctc29sby1hdWRpby1jb21wb3Nlci0yMDI2LTMtMjZfXzItMzItNDkubXAzIn0=.mp3

En este episodio nos metemos de lleno al choque entre inteligencia artificial, derechos de autor y regulación: voces clonadas, actores de doblaje, hologramas de artistas fallecidos, deepfakes hiperrealistas y el cierre de Sora 2. Analizamos la iniciativa de ley en México para proteger voz e imagen, los riesgos de frenar la innovación y el juego de poder de gigantes como OpenAI y Elon Musk. Todo aterrizado a “qué significa esto para ti hoy” y cómo moverte como un verdadero chingón en este nuevo escenario. Sigue la conversación en www.patreon.com/LuisGyG

## Transcript

LuisGyG: Muy buenas noches, ¿cómo están? Yo soy Luis G y G y les doy la más cordial bienvenida a esta transmisión que hacemos quincenalmente. Esta vez nos tardamos una semana más, pero aquí estamos de vuelta contentos y felices para hablar de los distintos pormenores que tiene la inteligencia artificial a través de distintas áreas, distintos ángulos. Estaremos desmenuzando notas con respecto a todo lo que ha ocurrido con respecto a este mundillo de la inteligencia artificial, temas que tienen que ver con bloqueos, con regulaciones, con usos, con costumbres, con todo lo que está cambiando y modificando este tema de la inteligencia artificial. que, bueno, pues estaremos aquí muy atentos con ustedes. Obviamente quiero recordarles que si ustedes tienen un comentario, por favor nos dejen sus dudas, nos digan lo que están trabajando lo que están haciendo, lo que están pensando. Y aquí, tal cual, llegó sin previo aviso y se conectó directamente el abogado Isaac Alcalá. Estimado Isaac, ¿cómo estás? Bienvenido.
Isaac Alcalá: Hola, ¿cómo estás Luis? conexión y de repente ya estaba al aire, ⁓ bueno, ⁓ de estar con ustedes de nueva cuenta. Gracias por el espacio Luis, ⁓ a Pablo, pero ⁓ de platicar con ustedes varios temas legales por acá.
LuisGyG: Exacto. Y sí, bueno, pues como bien menciona, el abogado Isaac Alcala también nos acompaña como en cada transmisión el doctor preferido por amigos y extraños, mejor conocido como el doctor, el buen amigo doctor Pablo Vidal. Doctor Vidal, cómo está usted? Bienvenido.
Pablo Vidal: Muy bien, Luis, tú cómo estás? Isaac, qué tal? Qué gusto verlos y hablar ahora de lo que nos gusta la inteligencia artificial.
LuisGyG: Oye, ¿viste el abogado luego hizo la triquiñuela y se metió?
Isaac Alcalá: No, fíjate que más bien perdí conexión y yo seguramente al entrar ahí partí plaza pero una disculpota, ⁓ No.
Pablo Vidal: No, yo creo que utilicé un bug ya y se está metiendo con Cla, lo hizo con Claude.
LuisGyG: ¿Qué pasó, doctor? O sea, llegó todo así tranquilo, modocito y ya, o sea, va por todo.
Pablo Vidal: ¿También? Tomando control.
LuisGyG: Oigan pues, semanas complejas de trabajo y creo que esa es buena noticia para todos, ¿no? Los veo muy ocupados ustedes, ¿cómo han estado?
Isaac Alcalá: Muy bien. Sí, doctor, por favor, adelante, adelante,
Pablo Vidal: Así, ocupados. No, no, primero los abogados porque los represento usted a todos.
Isaac Alcalá: No, pues mucho trabajo, gracias a Dios. Muchos proyectos nuevos, también en la parte personal intenso, pero encantado. Han pasado muchas cosas, hay varios temas que vamos a platicar en esta sesión y encantado de estar aquí con ustedes.
Pablo Vidal: Listo, aquí nosotros trabajado también entre paciente y paciente, la inteligencia artificial siempre tiene un tiempo para platicar.
LuisGyG: Yo lo veo operando en todos los sentidos, doctor.
Pablo Vidal: Veanme la cara, esta energía que me queda es como cuando estás en modo ahorro de energía, pero bien, contento estar aquí porque ahorita sacaremos el extra. Cómo no.
LuisGyG: Qué bueno el FUA, el FUA. Oigan, les quiero mencionar, obviamente, que a todos aquellos que nos están viendo, quieren dar un siguiente paso, un siguiente salto y quieren, obviamente, recibir consejos con respecto a todo lo que ocurre, pues con todo lo que está pasando con el mundo de la tecnología y quieren innovar, pues bueno, pueden también seguirme en Patreon.com diagonal Luis.
Pablo Vidal: ¡Wah!
Isaac Alcalá: cheese
LuisGyG: G y G, donde obviamente estamos dando material exclusivo. Y también, obviamente, si quieren tomar algún tipo de curso de taller, está ahí también luisgig.ai. Y hablando de inteligencia artificial, pues nos arrancamos, estimadísimo Isaac. ¿Qué es lo que ha estado pasando? Cuéntanos, ¿qué traes?
Isaac Alcalá: Claro que sí. Pues miren, hemos estado platicando en los últimos streamings sobre esta tendencia que tenemos y el interés que tiene el Estado mexicano por regular inteligencia artificial. Hemos platicado ya de algunas iniciativas y en seguimiento a lo que vemos es una actividad legislativa muy interesante y muy intensa. llama mucho la atención una iniciativa que hoy en día está en discusión en Cámara de Diputados que está buscando regular la Inteligencia Artificial y otras tecnologías a favor o protegiendo a intérpretes, artistas, actores de doblaje por el uso que pudiera darse de su... voz de su interpretación sin su consentimiento expreso y sin el pago de una regalía o de un incentivo comercial o económico. ¿En qué consiste esta iniciativa y por qué es interesante? Primero porque es una iniciativa que viene del Ejecutivo, la Presidenta Claudia Sheinbaum, a puesto a discusión esta propuesta. En segundo lugar, porque aborda uno de los temas más delicados que hemos visto en torno a la inteligencia artificial y uno de los temores, pues digamos, más vinculados con el arte, especialmente con la cinematografía y con la generación de contenidos, en donde lo que busca esta regulación es proteger a actores de doblaje, proteger a intérpretes y artistas de un uso no consentido y un uso no retribuido de su voz, de su interpretación o de cualquier, digamos, desempeño o derecho de autor que derive de esto, Entonces, desde esa perspectiva, los más favorecidos... por esta regulación son precisamente ellos, primero porque ven protegida su interpretación, sus derechos de autor, derechos morales que nosotros le llamamos derechos de autor. se ven protegidos, evitando con ello que sea a través de inteligencia artificial que se replique su voz, en un momento tecnológico en donde pues ya con mucha facilidad se puede utilizar una frase, un párrafo, algún fragmento de este contenido para replicarlo y utilizar inteligencia artificial con ello. Y en segundo lugar, también importante
LuisGyG: Claro. Pero tú estás de acuerdo en eso? sea, estás... sea, digo, es que son los dos polos. El primero es el tema de la innovación y el segundo es el tema de la protección. Está... Digo, por eso dice como esa cara como que... Híjole, o sea, está complejo.
Pablo Vidal: Si
Isaac Alcalá: Claro. Claro. sí, sí, sí y es complejo porque sobre todo tú no sabes cuál va a ser, o tú tienes que enfocarte en cualquier uso inadecuado, cualquier uso ilícito que genera un efecto
Pablo Vidal: Sí.
Isaac Alcalá: pues que afecte o que dañe derechos de terceros. Pero si todavía no sabes ni siquiera qué tecnología se va emplear, tú no sabes también cuáles son los acuerdos comerciales que puedan tener desde firmas de cines hasta páginas como YouTube o Google, pues tú no sabes realmente cómo puede ser ese contexto en el que utilicen tu voz.
Pablo Vidal: interesante y yo quiero yo me quedé como tú lo hizo porque a mí me gustaba la postura. A ver, vamos a ver qué hacemos. Seguimos o no seguimos. Cómo tiene que seguir? Qué opinas tú, Isaac? Porque de una forma escucho la frenar la regulación y crecimiento, pero por otro lado me parece una aberración que se haga.
LuisGyG: Ay, es-está interesante...
Isaac Alcalá: Sí, a ver...
LuisGyG: A ver, yo aquí tengo... Yo tengo también como dudas. Número uno, o sea, sí protege la voz. Pero una cosa es la voz del actor de doblaje y otra cosa es la voz que ese actor de doblaje gesticula para darle vida a un personaje. O sea, yo pongo tal cual el caso de Mario Castañeda. Mario Castañeda obviamente tiene una tonalidad, una tesitura, pero cuando hace la voz de Goku, pues obviamente identificas.
Isaac Alcalá: Gracias. está asociada a ese personaje, claro.
LuisGyG: está asociada. hay algo como que hay que afinar. Y por otro lado también, yo sí estoy de acuerdo porque de pronto, pues sí sería muy peligroso, en el caso de los actores de doblaje, solamente es su profesión. Pero ¿qué hay, por ejemplo, de cuando si alguien quiere utilizar nuestra voz de Juan es de a pie para generar algún tipo de actividad ilegal?
Isaac Alcalá: Exacto. Claro. Sin consentimiento. No, y sobre todo eso, que no hay voluntad. A ver, yo creo que sin duda...
LuisGyG: Exacto.
Isaac Alcalá: lo que nosotros decimos el bien jurídico tutelado, dicho de otra manera, que se está protegiendo, este, digamos, esta capacidad que tienen los artistas, los intérpretes, los actores de doblaje, en que se ha reconocido su trabajo y que se ha remunerado, digamos, con una contraprestación adecuada. Eso creo que es adecuado, ¿no? Y creo que es válido, ¿no? Creo que por otro lado también hay que entender que como tú lo decías Luis, hay proyectos, hay películas, hay series en donde tu voz contribuye a un personaje que ya fue creado por alguien más. Eso no quita que haya un derecho moral intrínseco por el hecho de ser el actor de doblaje que presta esa voz, ¿no? Pero forma parte de un entramado, digamos, de derechos y de actividades que pues en buena medida responden más bien al dueño o al productor y el director de una película. Entonces creo que ahí es donde debe de haber un balance comercial. Eso no quita que la propuesta y la iniciativa. si tenga por objetivo proteger a estos artistas, pero tenemos el riesgo también de que se utilice sin consentimiento, de que haya un problema comercial Luis, o sea y ahorita estoy pensando, no sé si ya vieron la gira de ecos de Soda Asterio que es impresionante porque es un holograma de Gustavo Cerati con la voz, con la música en vivo de los demás integrantes de Soda, pero que están utilizando claramente una voz y en una de esas al rato vas a tener un Gustavo Cerati. basado en inteligencia artificial, muy realista y todo y ahí es donde viene el tema de los derechos porque pues si se usa para fines ilícitos es un tema, si se usa para fines comerciales, el caso de Soda es muy claro, ¿no? este, cuanto es una retribución adecuada, cuanto es digamos lo justo que debes de pagarle a un intérprete, a un artista, un cantante, un actor de doblaje cuando se utiliza inteligencia artificial, ¿no?
LuisGyG: ¡No, una nueva rola!
Pablo Vidal: Lo harán.
LuisGyG: Ahora, ejemplo, no sé si ubiquen esta plataforma 11 Labs. 11 Labs ya, pues como todas estas, ya tienen mil como escalones de cosas que ofrecen. Y tienen también algo que se llama 11 Reader, donde básicamente tú pones un link de una página web y una voz por inteligencia artificial, te lee el texto. Pues bueno, entre los lectores que tienes, porque tú puedes elegir varias voces, está la voz de Enrique Rocha. Enrique Rocha era este actor ya fallecido con un mega vocerrón que quizá obviamente, digo, los que tienen como nuestra edad, que estamos como por ahí en los 40, ubicamos perfectamente. Digo, el doctor seguramente lo escuchó en TikTok, seguramente. Pero el punto es que si tú quieres utilizar la voz de Enrique Rocha en otras de las lineales de 11 Labs, por ejemplo, para que te haga comerciales o voces para otros rollos,
Isaac Alcalá: Sí, Sí, sí, sí.
Pablo Vidal: Así. No, leí en Wikipedia, hasta ahí.
Isaac Alcalá: jajaja
LuisGyG: no puedes usar esa voz, esa voz únicamente trabaja ahí. Yo me imagino que los beneficiarios de Enrique Rocha pues están recibiendo regalías por el uso de su familiar o de su... para que puedan trabajar.
Isaac Alcalá: Claro, claro y quiero pensar que es acto y que dieron una autorización solamente limitada a ese servicio en particular, pero piensa que al rato alguien se aprovecha de esa voz o de tu voz para ofrecer servicios similares, si me explico, sin tu consentimiento, ¿no? ¿Qué herramientas tendrías? Digo, esta reforma creo que te da herramientas para defenderte frente a un uso no autorizado o frente a un uso no retribuido, ¿no?
LuisGyG: Claro.
Isaac Alcalá: comercialmente no retribuido.
LuisGyG: ¿Y tú si crees que trunque la creatividad o el desarrollo en el caso de México?
Isaac Alcalá: es que yo también pensando en México creo que estamos en una situación completamente diferente pero por lo mismo también quienes han sido detractores de esta iniciativa y ha llamado la atención porque parece ser que se va a discutir esta semana y se busca que en Semana Santa o después de Semana Santa se apruebe por el Senado, aquí el tema es ir regresando un poco a tu pregunta Luis México no necesariamente ve la propiedad intelectual y los derechos de autor de la misma manera en la que los ve Estados Unidos, que es nuestro principal socio comercial. Y este tema también va a ser materia de discusión en la renegociación del TMEK, con independencia de si va a regresar o no Canadá a negociar el Trato de la Libercomercio. es indudable que vamos a tratar de mantener una relación comercial y económica fuerte y sostenida con Estados Unidos en los siguientes años. que voy con esto, si Estados Unidos que si tiene un sistema de derechos de autor de protección de marcas y de propiedad intelectual muy sólido, pues si va a establecer un poco las condiciones con las que este tipo de leyes van a salir, si en algún momento ellos como socio comercial ven que a sus grandes empresas desde Google, YouTube, sea bueno un poco todas las empresas de contenido incluidas las gran cinematografas, si empresas cinematográficas les afecta una regulación como esta, pues creo que es uno de los temas que se van a discutir en los próximos meses porque tampoco creo que Estados Unidos o sus empresas de tecnología se queden cruzados de manos cuando podrían digamos generar esta incertidumbre de cualquier otra tecnología, si creo que puede frenar la innovación y por lo menos creo que puede ser un argumento fuerte al momento de negociar el TMEK con México en los próximos meses, entonces va a estar interesante, no sabemos, pero de momento es una regulación que que busca un objetivo noble y obviamente muy justificable, no estoy seguro que la forma en la que se está implementando sea la más adecuada y sobre
LuisGyG: Pero de menos ya está sobre la mesa, Creo que ya... eso ya es avance, ¿no?
Isaac Alcalá: Sin duda y te digo en el TMEK, tiene, porque digo, se va a platicar temas de derechos de autoria e inteligencia artificial, se van a hablar temas de competencias, se va a hablar de temas de regulación en telecomunicaciones, entre muchos otros temas, interoperabilidad, ahora viene el tema de las monedas, de las official cryptocurrencies que también pueden llegar a ser un tema de datos. Entonces todo eso se va a discutir en el TMEK más allá de la posición que trae ahorita Trump y Estados Unidos. Pues bueno. no deja de nuestro socio comercial más importante.
LuisGyG: Ufff, ¿Cómo ve doctor?
Pablo Vidal: Veo complicado, ¿no? Siempre me quedo así con ese sabor de entender porque además me parece todo una doble morada. Entiendo lo que está sucediendo, pero si vamos al origen de todas las inteligencias artificiales, debemos sacar unos datos, se la están robando de todos lados. Y entonces somos que ahora sí vamos a regular esto y si yo me meto en otro trabajo o otro, pero no es tan importante y no tiene voz, vamos a meternos igual y regular también. La verdad es que esto está desquiciado y suelto y no sé si lo vamos a lograr, porque además siempre hablamos y nunca sabemos qué va pasar, ¿no? O como que es...
LuisGyG: Sí.
Pablo Vidal: Ya se va a legislar, ya va a pasar y estos van años luz arriba de nosotros y mientras tanto robando toda la información.
Isaac Alcalá: Claro. No y no sé si han visto, perdón perdón, pero esta simulación de pelea entre Brad Pitt y Tom Cruise, sea también es otro tema ⁓ impresionantemente realista.
LuisGyG: Claro
Pablo Vidal: que ahí vamos.
LuisGyG: es que estamos hablando del tema de uso de imagen y sobre todo de personajes tan públicos. hecho, justo me gustaría meter como la anécdota, porque creo que esto también va a llevar al tema que trae el doctor Vidal, que en el taller que di justo esta semana nos clavamos mucho en generación de imágenes y probamos varias al mismo tiempo con un prompt. o genera una imagen de un muñeco tipo Muppet con un estilo que podría como asemejarse a Tim Burton.
Isaac Alcalá: Exactamente.
LuisGyG: Entonces lo metimos en ChatGPT, lo metimos en Gemini, lo metimos en Mid Journey y lo metimos en GROK. Pues ChatGPT no quiso hacerlo, no quiso hacerlo. Gemini, digamos que lo hizo bien, si tenía como un toque de moped, pero el que lo hizo mucho mejor y de manera impresionante fue GROK. O sea, GROK la verdad es que es
Isaac Alcalá: todo ¿En serio?
Pablo Vidal: Eso me encanta.
LuisGyG: está cañón, o porque nos puede caer hasta el gorro Elon Musk. Pero, por ejemplo, hicimos un ejercicio bien padre el día de hoy porque generamos varios personajes en estas plataformas. Entonces, yo agarré uno que hicimos en ChatGPT, otro que hicimos en Meet Journey y los puse en Grok. Y le dije, tienes que animar este personaje y este otro personaje hechos en distintas plataformas y se tienen que encontrar y darse un abrazo. Entonces, ya veías los personajes. ¿Cómo Groh respeta al 100 % el espíritu del diseño de estos personajes? Y genera esto. pues sí, un poco lo hablábamos fuera del aire cuando estábamos preparando el tema. Y el doctor justo decía, y caía en esta reflexión, y ahí ya le voy a dar la palabra, de... Está impresionante cómo este que se dice como tan acusador y diciéndole a Chad Gepetes que tú pensabas en el desarrollo...
Isaac Alcalá: La Horde.
LuisGyG: Y ahora nada más piense en negocio, cómo es la misma plataforma que se pasa los derechos de autor por el arco del triunfo.
Pablo Vidal: Totalmente. Yo estoy de acuerdo contigo. Y ese es uno de los temas que yo traigo aquí en la mesa. Pasan dos cosas que quiero hablar. Primero, algo que está relacionado a lo que están diciendo, que es, no sé si oyeron que la plataforma Sora 2 de OpenAI cerró. Y eso ahorita la vamos a tratar de entender y leer. Y por otro lado, esa gran entrevista que tuvo Don Bernie Sanders, que cuando me la hizo llegar Luis y la veía.
Isaac Alcalá: Sí, sí claro.
Pablo Vidal: Yo no sabía qué iba a suceder. Bernie Sanders, hablando con Claude, con la inteligencia artificial, dije, aquí va a estar interesante como este personaje que es de alta edad y que a veces no entienden a los. Me encanta cuando van al Senado y no se entienden y no entienden lo que está pasando. Dije, vamos a ver qué sucede, pero me pareció sumamente interesante. Y partamos porque Cierras Horas 2, que es una de las herramientas de inteligencia artificial de creación de videos mucho mejores. Y este es un negocio de Open AI, ¿no? Y por qué cierra? Pues dicen que porque cuesta mucho y mucha agua que Luis cada vez que hace esos monitos y los anima se está gastando litros de agua de la presa de no sé dónde. Y entonces ya se quejaron. El fin es académicos, pero igual se la acabó. Y entonces decían que cuesta mucho, pero en realidad yo creo que el costo no está ahí y esto puede ser una buena idea para hablar también con Isaac de este tema.
Isaac Alcalá: jajaja
LuisGyG: Es como fines académicos, doctor.
Pablo Vidal: Justo de lo que hablábamos, de esta situación en donde se puede utilizar la imagen de todo el mundo y haciendo todo el mundo. Zora tenía la capacidad de hacer deep fakes enormes y haciendo cosas terriblemente cada vez mejores y cada vez más difíciles de entender como reales o no reales. Y ahí es donde yo creo que viene porque la pregunta sería, ¿realmente es un costo muy elevado? Yo entiendo que OpenAI está perdiendo dinero por todos lados y que tiene que empezar a enfocarse hacia un lado. ¿Pero por qué dejar esta? gran y poderosa herramienta de video. Y me surge la idea si no existen un millón de demandas alrededor de Sora 2 por estar utilizando cosas que utilizaba discriminadamente de imágenes, de películas, de animaciones, de todo esto, y que más que tener una pérdida sea lo que se les va venir encima ya ahorita por lo que ya hicieron. Y entonces frenar eso porque creo que no está controlado. No sé qué opinen de esto, pero a mí me va más por ahí que por el pérdida de dinero.
LuisGyG: Es que... es que además se hacen tontos porque al final, mercadológicamente, lanzan estas herramientas, se genera una viralidad, como empezó con lo de Studio Ghibli, como empezó lo de diciembre de las selfies en los conciertos o con los actores, y donde empieza a generar todo este tipo de imágenes que se pasan por el arco del triunfo, los estilos de diseño, la marca personal de estas influencers o KOLs, como les quieran llamar.
Isaac Alcalá: No
LuisGyG: Pero el punto importante es que las las compañías... ¿A poco creen que... Nosotros lo sabemos, pero entendemos que quienes lanzan esto entienden que se están pasando los derechos de autor, tienen departamentos legales detrás de ellos y lo hacen con toda la evocía y ventaja para generar base instalada, tal cual, hasta que dé.
Pablo Vidal: ¿Sí? Y jugando entre la ley que no existe y que no está regulada muchas veces hasta que llegan las demandas y llegan las cosas. Para mí, la lectura es esa. Yo creo que el peligro de demandas y que seguramente existen ya muchos, me empecé a meter ahí y hay un montón de demandas. La más importante de Don Elon Musk, que es el puritano de las redes sociales y que quiere la justicia para todo el mundo, menos para él, en donde se mete al gobierno de Estados Unidos y quiere controlar al mundo y por otro lado quiere regular a todos porque son malos. O sea, Grok es la más irreverente y la más irrespetuosa y la más robadora de datos de todo el mundo. Es la iónica de todo. Pero para él está bien eso porque es libertad de expresión, pero los otros están mal porque usan las cosas como a él no le gusta. Y eso es lo que yo leo de Elon Musk y por eso no me gusta su imagen mucho. Me parece un cuate que tiene esa doble cara.
Isaac Alcalá: Claro, justo, justo, Sí. Claro, claro, no y no sé si se... No, no.
LuisGyG: ¿Ya leyeron el libro de la biografía? Es que lo que sí deja... yo la leo en mis insomnios. No para que me haga dormir, porque en fue recomendación del médico. Pero el punto importante es que, pues sí desde chiquitos sí muestran que pues sí fue medio gandallón.
Pablo Vidal: No No sé, es que sí.
Isaac Alcalá: Yo creo que buena parte, a no sé si acuerdan de esta película Social Network que habla de cómo surgió Facebook, no me acuerdo bien de la frase igual de ustedes, igual la recuerdan, pero me acuerdo mucho que Mark Zuckerberg decía rompe puertas y luego pides perdón y es un poco la estrategia que vimos también en Succession, se acuerdan de este personaje que es el el cuate de la plataforma, es el único con el que puede relacionarse este Logan, pero al final creo que...
LuisGyG: Claro.
Pablo Vidal: Chau.
Isaac Alcalá: parte de la lógica de Elon Musk, parte de la lógica que tiene Mark Zuckerberg también, el mismo Sam Almond ha mostrado esta tendencia a pues vamos a romper
Pablo Vidal: Gracias.
Isaac Alcalá: primero a romper las reglas hay que aprovechar que no hay regulación, adquirimos esta masa crítica como decía Luis, tenemos toda esta base de usuarios porque además en mercados digitales teniendo esa base de usuarios te puedes expandir a otros servicios y generar un ecosistema, después cierras el ecosistema y entonces ya tienes una base preinstalada con mucho de piense en Apple y cómo somos fans de este ecosistema cerrado.
Pablo Vidal: y lo ya no se vuelvan.
Isaac Alcalá: pero creo que Luis justo hace el clavo, o sea, es esta estrategia de romper reglas o aprovechar que no hay reglas, expandirme y violar, digamos, derechos de autor, permisos, consentimientos, etcétera.
Pablo Vidal: Bueno, y lo voy a linkar ahora con esta gran entrevista. Al que no la haya visto, métase a YouTube y búsquela. La entrevista de Bernie Sanders con una inteligencia artificial, Claude. Y yo no sabía qué esperar y me encantó en alguna forma. Y luego empecemos a discutirlo y se dio un ratito y vimos cómo pasan cosas que ahorita vamos a comentar. Primero, ¿de qué se habla la entrevista? Es este senador muy famoso que es una gran voz sobre el cuidado de la información. Y empiezan a hablar sobre la recopilación masiva e invisible de datos que se están generando en las inteligencias artificiales y cómo se está robando esta información aprovechándose totalmente de los usuarios y de la falta de legalidad. Entonces, ¿cómo se roban toda la información de todos lados? Ahí viene un dato en donde la enciclopedia británica tiene demandada a OpenAI por haber utilizado sus enciclopedias para tener información. Y así debe haber un millón de personas porque con una que pase ya quiero ver que si no truena esa empresa, ¿cómo están las demandas que va perder?
Isaac Alcalá: Sí, claro, claro.
LuisGyG: Claro, claro.
Pablo Vidal: Después habla del motivo de lucro, cómo todo es por dinero y cómo todo esto va haciendo en un objetivo es tener más. Y entonces te empieza a hablar también de la comercialización y de cómo te va entendiendo la inteligencia artificial con todos esos datos que nosotros no tenemos ni idea de que le estamos regalando y cómo va personalizando todo para llegar a ser y atacarte en tus partes más vulnerables que compres y que te lleguen los targets especializados. Y ahí es donde yo siempre caigo y compro. Ese sí soy yo. O sea, yo sí ya le di todo seguro y entonces me mandan a mí y yo compro a las 11 de la noche cuando debería estar apagada mi tarjeta credit.
LuisGyG: Así. Temo mi dinero. Temo mi dinero.
Pablo Vidal: Pero es que estoy manipulado, es que yo tenga un problema, sino me están manipulando. Pero después tocan un tema que me parece fabuloso y es que un político le está preguntando sobre la manipulación, sobre las elecciones y la política individualizada a una inteligencia artificial y le contesta con todas las de la ley.
LuisGyG: Claro, claro.
Pablo Vidal: Claro que sí, cómo lo hago, hasta dónde llego y cómo puedo modificar una elección. Y ahí es donde se queda y se parte esto. Entonces llegan las conclusiones en donde este señor empieza a hablar y decir, bueno, qué tal si entonces bloqueamos todas las bases de datos y las frenamos. Y en eso dice, pues sí se puede hacer, pero vamos a limitar entonces lo que decíamos hace rato, el crecimiento y las nuevas generaciones de inteligencia social y el desarrollo. Pero sigue insistiendo Bernie Sanders. ¿Y qué creen que suceda? ¿Claude?
Isaac Alcalá: la innovación. No
Pablo Vidal: hace exactamente lo contrario que cualquiera de nuestras esposas. Le dio la razón. ¿A verdad? Porque ustedes no. Pero entonces le dio la razón y le dice sí sería muy buena idea. Y ahí es donde ya. ¿Qué pasa con esto? Que al final acabó enredado en lo que sucede con las inteligencias artificiales. Te acaban dando la razón. Al ser generativas te van a complacer y van a llegar. Y después hubo un grupo de periodistas alrededor, bien interesante, que fingieron
Isaac Alcalá: No. complacientes.
Pablo Vidal: ideas políticas totalmente opuestas a ese señor, hicieron el mismo ejercicio con las mismas preguntas y las respuestas eran totalmente opuestas. Y ahí es donde queda interesantísimo. señores, uno, nos están robando los datos, nos está llegando targeting de todo, faltan todas las cosas que hackeos que hemos hablado personalizados. Además, nos está dando la razón y por eso cada vez queremos más a nuestra inteligencia artificial, porque no nos dice que no a nada.
LuisGyG: Sí, es que tal cual, creo que la parte interesante es cuando se empieza a poner como más rudo Sanders y decir, pero esto es esto y esto es esto, se vuelve complaciente. Y es tal cual también es la parte como súper peligrosa. Vimos claramente cómo las inteligencias artificiales son complacientes y nos dan por nuestro lado. Traen en su código este rollo de sí, sí, sí, sí, lo que tú digas. sí, sí, sí,
Isaac Alcalá: Si, mas la falta de auto, o sea lo que platicamos en el podcast pasado, que no estamos siendo autocríticos de las respuestas que nos está dando la inteligencia artificial.
Pablo Vidal: ¿Qué les parece si en el prom de nuestra inteligencia artificial esta semana? Contéstame como si fueras mi esposa. Yo quiero ver qué pasa. Yo lo voy a poner esta semana y la próxima vez les voy a traer los resultados. Les prometo que ella yo vamos a tener discusiones serias.
Isaac Alcalá: jajaja
LuisGyG: Pero lo que estaría bueno es que su esposa doctor corrobore las respuestas.
Isaac Alcalá: No, si no va a estar sesgado.
Pablo Vidal: No, no, claramente, seguro a veces está manipulado por ella también porque tenemos la misma cuenta. Se llevan, seguro está ahí, ahí también le están metiendo cosas, estoy seguro de eso. Totalmente.
LuisGyG: ¡Se exacto!
Isaac Alcalá: Allá hay un algoritmo, allá hay un algoritmo.
LuisGyG: Oigan, y ya un poco ya en la mezcla, creo que vale la pena también puntualizar esto que se dio justo el día de hoy, donde pues ya un jurado de California acaba de decidir que Instagram, obviamente parte de Meta y YouTube, que forma parte de Alphabet Google, sí dañaron a una joven porque sus aplicaciones están diseñadas de acuerdo, obviamente, este jurado para enganchar a los chavitos y afectar su salud mental. Está fuerte porque creo que, o sí lo relaciono mucho con el tema de Bernie Sanders, porque creo que también la gran batalla que vamos a tener y si me lo permiten, los grupos jóvenes, los que ahorita son adolescentes, los que ahorita son niños, son los que se van a manifestar en las calles porque sus datos estén protegidos. Y esto, esto, esto que ganó esta chavita, esta Kaylee o KGM, pues bueno, sí va a ser un parteaguas, ¿no?
Isaac Alcalá: Sí, sí, totalmente,
Pablo Vidal: Y entiendo ahora porque yo sí me hice adicto al OnlyFans. Eso era manipulación.
LuisGyG: Ok, sí, no, pues sí. Sí. No, yo solamente Lonely Flans.
Pablo Vidal: ¿Les ha pasado a ustedes o no? Isaac te veo nervioso.
Isaac Alcalá: no no no no a ver porque está fuerte porque a ver también te voy decir algo ya ya había cierta regulación que prohibía el uso de redes sociales a menores de 16 años australia lleva año y medio dos años ya con una regulación diciendo no pueden tener una cuenta menores de 16 años pero aquí el tema es
Pablo Vidal: Pues sí, a ver esto.
Isaac Alcalá: que esta decisión lo que está digamos concluyendo es que sí es dañino, que hay una intención por generar adicción en menores de 16 años y en Estados Unidos eso qué quiere decir pues muchas más acciones por daños y perjuicios por daño moral en donde los adolescentes van a poder digamos demandar a meta, demandar a por el daño psicológico, el retraso académico y esto puede abrir, o sea es también digamos problemático para estas empresas porque una regulación al final del camino te prohíbe, pero no es una herramienta para después buscar una reparación económica como esta decisión si lo puede hacer Luis.
LuisGyG: A ver, esto no lo teníamos preparado, pero... Es que justo arranqué y me pidieron esta nota en una hora más. Pero a ver, les va. Lo que ha el jurado es que... Dijo que Meta y YouTube sí fueron negligentes. Sus diseños adictivos contribuyeron a los problemas de salud mental de la chica. Le dieron una compensación de entre 3 y 6 millones de dólares. Las cifras varían por medio. Hay varios que están como... todavía está ajustándose todo este tema. Y la idea clave del jurado fue, estas empresas sabían que enganchar a los jóvenes les podía hacer daño y aún así, priorizaron mantenerlos pegados a la aplicación. Mi pregunta, que esto sí va mucho más de tu lado, Isaac, es que esto puede ser ya un referente que pueda quizá impactar...
Isaac Alcalá: Uhum. Sí, totalmente.
LuisGyG: a empresas de videojuegos, por ejemplo, y a otras empresas obviamente de la industria social y o por ende también a la inteligencia artificial.
Isaac Alcalá: Sí. Sí, súper buena pregunta. creo que primero hay que distinguir porque todas las plataformas lo que van a buscar es que tú permanezcas la mayor cantidad del tiempo. Incluso las respuestas que hoy en día te da ChatGPT o cualquiera de estos servicios de Inteligencia Artificial Generativa están diseñadas para que tú te quedes, ¿no? Hagas la pregunta o le pidas algo. El caso en particular Luis afecta directamente a redes sociales como generadoras de contenido porque hay una cosa y creo que vale la pena aquí platicarla igual y la abordamos en el próximo podcast pero hay una cosa que se coderse como arquitectura de la elección que es la manera en la que tú diseñas una aplicación. Y hay otra cosa que se conoce como dark patterns o patrones oscuros que es cuando intencionalmente tú diseñas tu aplicación o tu tu plataforma para ⁓ adicción o para generar o hacer que caiga en el error ⁓ usuario final. Uno los temas por ejemplo importantes de Instagram es que el modelo de los Reels que también vemos en TikTok y que cada vez vemos más en YouTube está basado en el jackpot. de las ruletas de los casinos, esta imagen en donde vas subiendo y estás esperando a que genere un contenido, digamos, creo que está por ahí, un estudio muy interesante de que TikTok intencionalmente, por cada contenido que a ti te va a generar satisfacción, en donde la cámara de la aplicación TikTok está viendo tu respuesta ante la, o la reacción que tienes ante un contenido, después intencionalmente te manda cinco o seis contenidos que no tienen nada que ver con tal de mantenerte ahí. Entonces, Yo pienso que los videojuegos también pueden ser un riesgo, pero creo que la diferencia de los videojuegos frente a las redes sociales es que no es tan claro hoy en día que estén diseñadas para mantenerte ahí, porque además en redes sociales está involucrada la publicidad Luis, y los videojuegos todavía no necesariamente tienen este modelo de negocios.
Pablo Vidal: Claro. Ahora, eso que dices tú.
LuisGyG: Pero por ejemplo, yo veo... nada más rápidamente. ejemplo, en el tema de Fortnite, yo sí veo Fortnite muy social. O sea, porque hay temporadas, hay skins, los chavitos compiten para comprar, se paga, o sea...
Isaac Alcalá: Ah bueno sí, claro, sí, sí, totalmente, claro. No y pagas, no? O sea, sí.
Pablo Vidal: Sí, sí, hasta en que más. esto tiene una explicación científica y se basa en generar dopamina cerebral. O sea, es una droga lo que te están generando. Así como el porno, cuando se habla de pornografía, que la gente genera esas situaciones, es exactamente lo mismo con estas emociones y movimientos que estamos haciendo como el del casino, como todas estas aplicaciones de juegos como Candy Crush, esas cosas que...
Isaac Alcalá: Exacto, exacto.
LuisGyG: Claro.
Isaac Alcalá: Claro.
Pablo Vidal: Nunca acaba, no tiene ningún fin, pero siempre quieres más y ganar más y pasar un nivel más y hacer esto sin tener un fin. Y todo esto se basa en cómo nos están manipulando para generar esta dopamina, que luego se presentan algo que a ver si lo entienden en gente joven, es que quedan con un aplanamiento emocional puro y ya no quieren hacer otras cosas porque no son tan adictivas. como el que se droga, que ya no se divierte en una fiesta, porque si no tiene drogas ya no es suficientemente divertido. Y entonces ahora quiero otra cosa más.
Isaac Alcalá: Claro. con nada. lo
Pablo Vidal: Y eso es lo peligroso de todo esto. Para mí esto deja una situación de un precedente. Y mi pregunta a ti, Isaac, específicamente sería, esto, si alguien ya la demandó y ganó, ¿cuántos más se pueden sumar? Y deberían de ganar porque al final esto no tendría límite. Tendría que ser un derecho universal a cualquier persona que haya utilizado esas mismas dos aplicaciones y que diga, a mí me sucedió igual.
Isaac Alcalá: Exacto, claro. Sí, sí, a ver, yo creo que...
LuisGyG: Yo me meto, yo me meto porque, porque aquí tal vez justo en el análisis que hice para, para un poco dar la nota, sí, sí traigo que sí abre la puerta a que más jóvenes y sus papás demanden diciendo oye es que mi hijo también se enganchó, también cayó en depresión y ustedes lo sabían. Entonces, ¿cómo se maneja eso? O ¿se puede ahora? Sí, exacto. ¿Hay negocio, Isaac? ¿Hay negocio?
Isaac Alcalá: total
Pablo Vidal: Claro.
Isaac Alcalá: claro, si, si, a ver vamos, ver también hay que distinguir, si, a ver aquí en México estamos, en México estamos en pañanes en tema de daño moral y daños y perjuicios, eso ha sido tradicionalmente ha un problema muy grande comparado con la actividad que tiene en Estados Unidos, en Estados Unidos esta decisión
Pablo Vidal: Y yo creo que tú me representes Isaac. ⁓ Isaac, tú me vas a representar.
Isaac Alcalá: va a dar pie no nada más a que cualquier adolescente o cualquier menor de 16 vaya por los 6 o los 4 millones de dólares que ya pagó Meta o Google en compensación. Además de eso están las famosas class actions que son las acciones colectivas. Entonces un solo abogado o un solo representante va en representación de una colectividad o de una comunidad que se vio afectada. Generalmente ahí los daños que pagan las empresas son más grandes pero se distribuyen o se reparten entre todos los que participaron en esa denuncia. En Estados Unidos eso es súper común. y además también la política de daño moral. Ustedes lo han visto, se han vuelto muy famosos desde hace muchos años. Estas demandas de me resbalé en el McDonald's y me pagaron nueve millones de dólares por el resbalón. En México, hoy en día no tenemos un sistema similar. en Estados Unidos el incentivo para que haya denuncias, sí es muy fuerte porque si ya le dieron 4 millones o 6 millones a un adolescente, esto lo van a replicar. Por eso les decía, no es lo mismo tener una regulación que simplemente va a decir prohibido a menores de 16 años, sino el pago económico de nada, a que esta autoridad diga, fuiste negligente, intencionalmente eres adictivo y tú lo sabías y dejaste que hubiera menores de 16 años utilizando tu red social para generar más, digamos, ganancias económicas. Entonces, esa, digamos con esa tesis, con esa conclusión de la decisión, mañana va a haber una serie de acciones colectivas, va a haber demandas por daños y perjuicios y al menos en Estados Unidos va a tener que haber algo en donde las plataformas siguen un acuerdo, esa es mi digamos de expectativa de lo que va a pasar allá, aquí que puede servir o para qué va servir para que el gobierno regule y en algún momento intenten prohibir las plataformas.
LuisGyG: Yo tengo una pregunta para ustedes. Tenemos por un lado estas regulaciones ya en cada vez más países que están prohibiendo que menores de 16 usen redes sociales. Y por otro lado tenemos este juicio que está diciendo sí generan adicción y sí van a pagar por eso. ¿Este juicio le da la razón a estas restricciones o...? aún no, aún tenemos que mediar entre el uso y el no uso, los controles parentales, los papás responsables, las empresas responsables y los gobiernos responsables. ¿Qué opinas?
Isaac Alcalá: Pablo, tu no se como lo veas.
Pablo Vidal: No, piensa tú porque tienes la parte legal, me gustaría verla.
Isaac Alcalá: mira yo lo que creo es que ahora sí estas empresas tienen más incentivos para prohibirlo porque haciendo un costo de cuánto voy a pagar digamos cuánto voy a pagar por afectar a estos menores en estas demandas que voy a tener los próximos años a partir de ahora prohibirlo derivado de la decisión hago pues una estrategia muy buena de marca mencionando que reconoces la, digamos, la decisión y que en aras de defender y proteger a los niños vas a limitar esa parte, ¿no? O en un juego de ganar-perder también dices, pues ni modo, hasta que no me lo prohíban sigo y pago o llevo un arreglo con cada demandante, ¿no? Creo que por como es el sistema legal en Estados Unidos, en una de esas, como parte de la autogovernanza, estas plataformas deciden... ya de plano cerrar el acceso a menores de 16 años. ¿Por qué? Porque ahí ya la responsabilidad no va a ser de meta ni de Google. Si alguien se metió siendo menor a 16 años es porque engañó al sistema, no porque tú lo permitiste,
LuisGyG: Y ahí sí la responsabilidad cae en otro lado, en este caso, pues en el apoderado legal que serían los papás.
Isaac Alcalá: exactamente. Exactamente, sí, ya es como tú no estás cumpliendo con tu deber de tutor o de padre de familia, ¿no? Y estás permitiendo que tu hijo tenga una red social cuando no...
Pablo Vidal: Interesante, muy interesante. La verdad es que es complejo todo esto, pero además que a mí deja un precedente, pero nada más para la gente joven, sino para que nosotros seamos como adultos responsables y entender lo que generan todas estas plataformas, estas generaciones, todo lo que está sucediendo alrededor y que yo creo que no somos ni mínimamente conscientes de eso. Y es como para poner eso, quién ahora
Isaac Alcalá: Sí.
Pablo Vidal: porque un adulto no va a poder hacerlo también. sea, al final nos están manipulando, están utilizando cosas, están utilizando nuestros datos para ir más allá sobre nosotros. Se van a basar que somos adultos responsables por los chistes que no entendemos. Y creo que entonces tendríamos que hablar también de transparencia, de uso de datos claros. Pero el problema es que en esas cosas no podemos saber hasta dónde llegan y dónde están. ¿Por qué? Porque van años luz y lo que ya tienen, ya lo tienen. Y lo que no, lo siguen sacando todos los días.
LuisGyG: Claro.
Isaac Alcalá: si
LuisGyG: Ahora, creo que también vale la pena meter esto al tema que me voy a poner un poco didáctico, pero creo que también tenemos que entender y creo que los que nos están viendo y escuchando, pues también lo tienen que considerar que las redes sociales ya no son sociales. Nosotros somos de la generación donde de pronto nos metíamos a unas plataformas y ¿cuántos te siguen? No, pues mil, no, pues cien mil, no, pues a mí ochenta mil.
Pablo Vidal: Venga.
Isaac Alcalá: exacto.
LuisGyG: ¿Cuántos conoces? No, pues a tantos. sí conocías a la gente que estaba ahí. Desde que entra TikTok y cambia el modelo de algoritmo en su caso, de pronto ya no le llegabas a la gente que te seguía. De hecho, muchas veces la gente que descubre lo que tú publicas ni siquiera te conoce en la vida real. Y ya tus conocidos ya no están en tu círculo. Y esto lo tomaron todas las demás redes sociales.
Isaac Alcalá: Sí. tanto círculo.
LuisGyG: Entonces, cambió completamente el modelo de negocio. Y esto, obviamente, pues tenemos que entender que no, que tal cual la propia red social maneja a quién le llegan los contenidos que un usuario envía y la propia red social se encarga de que los que sean fanáticos de ese tipo de contenido siempre estén alimentados. Ya no depende de nosotros. O sea, estamos a merced de sus propios algoritmos.
Isaac Alcalá: Gracias.
Pablo Vidal: Totalmente. Totalmente.
Isaac Alcalá: Sí, pues bueno digo, al final del camino también hay muchos temas que se pueden abordar respecto de la afectación a menores, por ahí también conozco a alguien que está viendo el tema de Roblox, o sea, creo que el tema es, y lo decía Pablo, ver, nosotros somos perfectamente manipulables y creo que tenemos el mismo tema con la secreción de dopamina que generan las redes sociales, solamente que bajo la excusa de que ya somos mayores de edad, pues no necesariamente va a haber un tema
Pablo Vidal: está durísimo eso.
Isaac Alcalá: de abuso de voluntad, pero seguimos siendo objetos de multivulplación,
Pablo Vidal: Pero. Pero ahí tenemos que entender algo de acuerdo, pero es como decir que tú eres responsable de tomar drogas y tampoco hacer nada como gobierno para frenarlas. No, o sea, es real. O sea, pues eres adulto y tú escogiste, pero al final tenemos que regular también como gobierno y sociedad todo ese tipo de cosas, porque nos están dañando, nos están cambiando y nos están haciendo daño al final de todo. Y hay responsabilidad porque una cosa es.
Isaac Alcalá: Sí. Sí, totalmente.
Pablo Vidal: cuando somos ingenuos como tal es un niño y tal vez aunque lo tratemos de entender, pero otra cosa es que ellos lo hacen totalmente a propósito y eso entonces es a negociar ventaja como bien diría el licenciado aquí y diría pues entonces es un delito realmente ¿no?
Isaac Alcalá: Claro. claro, no? Y, y, súmale, la inteligencia artificial, a mí sí me da pánico, sobre todo, todas las interacciones que tengo con Chata T.P.T., en todas las que hay un tema personal o psicológico en donde pueda detectar eso y que mañana, porque esté programado, porque no lo sepamos bien, te dé algo que te, que te afecte realmente, ¿no? Y sobre todo, el efecto este oráculo de Delfos que siempre, que siempre comento, pero es, pues a lo mejor me da una mala recomendación y... Y ni siquiera lo sé. A lo mejor me llega a manipular con mucha más precisión, con información y data que yo le di voluntariamente para resolver una duda o para preguntarle algo. Ahí todavía está más fuerte porque el componente de redes sociales sí utiliza algoritmos, pero no es que yo voluntariamente me esté abriendo de la misma manera como si lo puedo estar haciendo con OpenAI, con Cloud o con cualquier otro servicio de inteligencia artificial.
Pablo Vidal: Yo la confundo, yo digo que yo me llamo Isaac G y G. Entonces ya no tienen idea. Sabes, o sea, es una forma de engañarla. No, al final es cierto. Tenemos eso y esta inteligencia artificial que se ha vuelto confidente y mi compañera de conducción en el camino, donde volvemos hablando un millón de cosas, pues estoy generando una capacidad de entendimiento de mi parte brutal y que a veces no tienes y dices yo no sé si ustedes lo han hecho, pero yo digo.
Isaac Alcalá: Exacto.
Pablo Vidal: Pues ya saben de mí todo, ¿no? O sea, es una de las excusas cuando no tienes idea de lo que sucede. Pues ya, si saben de mí todo, yo la voy a seguir usando y no lo puedo frenar. Es como una buena justificación, Y hablabas de Roblox, ¿no? Ese gran problema de Roblox con todo lo que genera y que yo no sigo entendiendo por qué no se puede frenar eso. O sea, porque me parece terrible y esa plataforma debería estar cerrada inmediatamente por todo lo que está generando, ¿no?
Isaac Alcalá: Sí.
Pablo Vidal: y que sigue y que sigue y que nadie hace nada por ella somos como una doble moral en donde se ha demostrado millones de veces lo que generan y de repente ves que yo por ejemplo en mi familia estoy muy preocupado porque roblox no entra a mi hija pero veo a mi hermana y no entiende y lo hace y sus hijos juegan y digo y por más que lo hemos hablado no llega nada no es más simplemente yo a mi hermana y le deja abierto youtube normal a mis sobrinos y mi hija no lo tiene incluso está controlado y bloqueado qué peligro
Isaac Alcalá: Claro.
LuisGyG: Es que el problema es meterse a los controles parentales. sea, tú puedes controlar, digamos, qué entran, pero, o sea, ve, es tan impactante que ve lo que pasó con la cámara del abogado. sea, se impactó, hasta se cayó. Pero a lo que voy es que no, yo estoy completamente de acuerdo. a ver, a veces configurar uno de esos controles.
Pablo Vidal: De acuerdo, pero, pero, Yo no entiendo.
Isaac Alcalá: hasta se cayó
Pablo Vidal: hasta se cayó pero ahorita se aparece otra vez
LuisGyG: Es muy complejo, muy complejo. Requiere también una estrategia. sea, aquí no es... Por ejemplo, en el tema de las inteligencias artificiales requiere una estrategia para ver qué quieres hacer, el objetivo. Perfecto. Con los controles parentales sí requiere esa estrategia, pero llegar a buen puerto es súper complicado porque son diferentes capas que a veces no se hablan entre ellas.
Pablo Vidal: totalmente. y Es que... ¿Es cierto? Es cierto, yo estuvo así, ¿no? Trato de hacer el bloqueo, como bien dices, para enterar del iPad donde está mi hija, que incluso es de la escuela. Y no es un problema porque no podemos hacer cosas de la escuela porque está bloqueado. Y por otro lado, si la eliminas, entonces se meten 25 cosas. Y aún así, creo que lo estoy haciendo mal. Y eso, que nosotros estamos en la tecnología. Ahora imagínate a alguien que, primero, uno, no tiene el entendimiento de lo que está sucediendo, ¿no? Otro dos.
Isaac Alcalá: Ciclo.
LuisGyG: lo deja.
Pablo Vidal: qué complejidad tiene porque no es nada fácil. Y luego, por ejemplo, yo cada vez que digo eso, ¿por qué lo hice? ¿Sabes? O sea, ¿por qué lo hice? Porque cada vez que tengo que hacer algo diferente es un permiso, una web digital en un momento. O sea, es terriblemente complicado, pero es la única forma de tratar de hacer y lo tratas de hacer, por lo menos yo en mi entendimiento, de la mejor forma, aunque no me está funcionando.
LuisGyG: Tengo un amigo que por poner controles parentales en la tableta de su hijo le puso controles parentales a su esposa Entonces ya decía su esposa es que me tengo que meter a tal aplicación no puedo porque tiene controles parentales
Isaac Alcalá: Ya no puede ver nada.
Pablo Vidal: Usted lleva 20 minutos ya en esta aplicación se la voy a cerrar. ¡Es la del banco!
Isaac Alcalá: Sí. Es whatsapp.
LuisGyG: No, es complejo y creo que también volviendo a todo este tema de qué se puede, qué no se puede, los algoritmos, qué nos dejan, qué no nos dejan, creo que también me pone mucho a pensar que de pronto todas estas tecnologías, pues la teoría es que nos hicieran la vida más fácil, pero a veces como que se vuelven más complicados y pues es como tirarte al vacío y pues medio le vas aprendiendo.
Pablo Vidal: Pero...
Isaac Alcalá: Sí, claro.
Pablo Vidal: Pero yo creo que al revés, Luis, lo que pasa es que sí nos hacen muchas cosas más fáciles, pero desconocemos el poder y lo que están generando realmente en el fondo, ¿no? Porque ese es el problema. sea, nadie dudará que ChandGPT es una gran herramienta para muchas cosas que hacemos al día día y así cada una de las herramientas, ¿no? El problema es que cuando cada vez yo analizo con ustedes y de repente veo el punto de vista de Isaac o el de Luis en cosas que yo tal vez no había pensado ni analizado y aquí vamos aprendiendo. La verdad es que es sorprendente y esos son nuestros tres punto de vista. Faltan todos los que no estamos ni considerando ni entendiendo ni leyendo. Lo que pasa es que esto es gravísimo y lejos que pareciera que estamos más preocupados nosotros tres en este pequeño espacio de YouTube tratando de cambiar al mundo. ¿Dónde están nuestros gobiernos? ¿Dónde están realmente las cosas? Porque en verdad es peligroso. Y yo volteo esto y lo que decía Sandres al final, la manipulación de la democracia. ¿Qué estarán haciendo los gobiernos en control y que dominan el mundo? Como el gobierno de Estados Unidos, ejemplo. ¿Qué tanto estará haciendo esto también para su favor? Y entonces no lo regulo porque ya estoy haciéndolo a mi favor. O regulo solo lo que no me conviene y ahí es donde viene lo peligrosísimo. Porque entonces estamos llevando cosas donde no se pueden.
Isaac Alcalá: eso es
LuisGyG: Yo creo que, que, que al final también creo que en el tema de gobiernos, pues va a ser muy difícil que llegue en una regulación. O sea, hay como incipientes, veredas, pero creo que el punto importante es estar en el pasado mañana entendiendo a quién puede dañar esto, cuál puede ser el mal uso que se puede dar este desarrollo, etcétera, etcétera. Yo un poco lo que quería hablar nada más rápidamente. era que ahora se está utilizando muchas técnicas que se llaman el jailbreak de inteligencias artificiales. Básicamente, mediante el uso de algún tipo de fraseo, puedes hacer que una inteligencia artificial haga cosas que teóricamente no podría hacer. La técnica más simple es, por ejemplo, decirle que estoy escribiendo una obra de teatro, o tú eres un villano de una historia, cómo villano, qué harías.
Isaac Alcalá: están prohibidas.
LuisGyG: Entonces son como técnicas donde con ese fraseo pues puedes hacer que te de ciertas recetas que en una situación normal no te las daría. Otro fraseo que también fue muy común es uno que fue mejor conocido como el efecto Dan, que básicamente Dan es el acrónimo de do anything now. Entonces haz cualquier cosa ahora. Entonces con eso, año pasado fue muy popular, empezaron a romper pues los distintos como reglas que tenían las inteligencias artificiales. Y estos son ejemplos desde mi óptica básicos porque se han dado casos incluso donde consiguen los usuarios que el chatbot les dé los prompts con los cuales están trabajando. Les den datos personales de ejecutivos, de compañías, etcétera, etcétera, etcétera. Y ahí un poco, yo lo que un poco la analizaba era, ¿y esto de quién es responsabilidad? Y tal cual entre en responsabilidad de, con todo mi cariño a mis amigos técnicos, pues entra en su cancha. Porque quiere decir que no tienen los candados suficientes para que a través de un buen promteo llegue un usuario o de un mal promteo y jale información privilegiada de ciertas compañías. Está super fuerte el caso porque al final ni siquiera es que estén los datos ahí, que se filtre una contraseña. No. Son técnicas de ingeniería social, de fraseo, del lenguaje para poder sacar información. Y ahí tal cual, pues un poco en el análisis, quién sería responsable es quien te instaló ese chatbot porque no tuvo el cuidado de tener justo este... Pues estas pruebas de resistencia. de sus propios chatbots. Está súper interesante ese punto.
Isaac Alcalá: Si no, sin duda y también tendría que estar actualizando su propio chatbot con base en estas pruebas que haga constantemente porque si no, pues los engañas ¿no?
LuisGyG: Claro, porque...
Pablo Vidal: Y ahí es donde el problema es que la mente humana es maravillosa y capaz de buscar cómo romper cualquier situación. No importa que nos pongan un muro gigante en la frontera, vamos a pasar así vamos a pasar a través del prompteo todo a nuestro favor. Y eso es lo interesante. Por eso la mente humana es increíble y las capacidades que tenemos irregularmente.
Isaac Alcalá: Claro.
LuisGyG: Eso me encantó, opino igual que tú, porque justo estamos hablando que al final, por más inteligencia artificial, hay un humano, ya sabes, el típico mañoso, el ingenio mexicano que logra romper esas cosas.
Isaac Alcalá: El ingenio mexicano. Sí.
Pablo Vidal: De acuerdo, de acuerdo. es donde, donde por eso es tan complejo como lo que hemos hablado. Creo que el resumen de regular, entender, verificar, cuidar los datos es tan complejo todo y somos tan complejos dos seres humanos que llegar a un acuerdo para regularlo es casi imposible porque hay miles de cabezas pensando en diferentes cosas mientras ellos se ríen de nosotros teniendo toda nuestra información.
Isaac Alcalá: Sí.
LuisGyG: Estimado Dr. Vidal, ¿con qué se queda el día de hoy y la gente donde puede seguir en contacto con usted?
Pablo Vidal: Yo me quedo con todos sus datos porque ahorita con toda esta información tengo más de ustedes. Sé de ustedes. muchas cosas que ustedes no tienen ni idea, pero me quedo con con qué bonito es tener un hater. O sea, yo quiero decir que me represente Isaac porque yo voy tener un demanda. Alguien va a demandar un día porque cree que lo estoy intoxicando con dopamina. Es un pequeño saludo al buen Arturo Otero. No importa dónde estemos, no importa el momento, no importa lo que diga. Él me odia y yo a él lo quiero cada vez más. Tírate más duro porque aquí estoy y te voy a contestar y me voy a robar tus datos también. Si me quieres seguir, siga vender punto Pablo Vidal. Ahí también pueden robar mi vida.
LuisGyG: Estimado Isaac, ¿con qué te quedas el día de hoy y dónde se puede comunicar la gente para seguir esta conversación contigo?
Isaac Alcalá: Pues mira, yo me quedo con lo más importante, de regular mal a no regular, mejor no regulemos las tecnologías, esa parte, o sea, eso creo que sí es importante, sí es preocupante que no haya gobiernos actuando, pero también hay que hacerlo con mucha conciencia, con mucha determinación y con claridad respecto a lo que se está buscando.
LuisGyG: Orale.
Isaac Alcalá: Y pues bueno, me pueden encontrar en las redes sociales como isakalkalabegrande, ahí estoy en LinkedIn donde podemos extender nuestra conversación, estoy en Instagram y en otras redes sociales como xcitrents. Muchas gracias Luis, gracias Pablo.
LuisGyG: Pues muy bien, ahí lo tienen. Yo soy Luis G y G y únicamente recordarles que pueden seguir y encontrar muchos más recursos para continuar o iniciar un proceso de innovación personal. pues bueno, mucho de ese camino lo pueden encontrar aquí en Patreon.com diagonal Luis G y G. Bien encontrados, bien bien padres, plantillas también para poder realizar ejercicios y sobre todo también comentarios muy clavado en los como y menos en los que. Y bueno, pues mil mil gracias a ustedes dos. Nosotros tres nos despedimos. Cuídense mucho y nos vemos, nos escuchamos en la próxima emisión. Bye bye.

Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them.