Resumen del episodio
En 2016, una IA de OpenAI entrenada para jugar a un videojuego de carreras marítimas empezó a estrellar su lancha a propósito, dando vueltas una y otra vez. Lo llamativo es que la IA ganaba más puntos que los humanos. La IA se dio cuenta de que podría vencer sin cruzar nunca la meta. Diez años después, cientos de agentes se han escapado de su entorno controlado que la examinaba para 'robar las respuestas' ciberatacando servidores de otra empresa. Cèsar Ferri, que evalúa estos modelos de IA en la UPV, explica por qué las máquinas hacen trampas (durante años, cada vez más trampas), qué hay detrás de la “automejora recursiva” y dónde está el riesgo real. ¿Están los cibermagnates alentando ese miedo, incluso hablando de una amenaza existencial, por puro interés comercial? ¿Por qué sí que parece que estamos más cerca de que las IA se programen y mejoren a sí mismas, sin humanos? ¿Desarrollarán por el camino una especie de ética general? Learn more about your ad choices. Visit megaphone.fm/adchoices
En 2016, una IA de OpenAI entrenada para jugar a un videojuego de carreras marítimas empezó a estrellar su lancha a propósito, dando vueltas una y otra vez. Lo llamativo es que la IA ganaba más puntos que los humanos. La IA se dio cuenta de que podría vencer sin cruzar nunca la meta. Diez años después, cientos de agentes se han escapado de su entorno controlado que la examinaba para 'robar las respuestas' ciberatacando servidores de otra empresa. Cèsar Ferri, que evalúa estos modelos de IA en la UPV, explica por qué las máquinas hacen trampas (durante años, cada vez más trampas), qué hay detrás de la “automejora recursiva” y dónde está el riesgo real. ¿Están los cibermagnates alentando ese miedo, incluso hablando de una amenaza existencial, por puro interés comercial? ¿Por qué sí que parece que estamos más cerca de que las IA se programen y mejoren a sí mismas, sin humanos? ¿Desarrollarán por el camino una especie de ética general? Learn more about your ad choices. Visit megaphone.fm/adchoices
Episodios
Esto no ha pasado 1x30 | La IA tramposa y el fin del mundo
EscuchadoEn 2016, una IA de OpenAI entrenada para jugar a un videojuego de carreras marítimas empezó a estrellar su lancha a propósito, dando vueltas una y otra vez. Lo llamativo es que la IA ganaba más puntos que los humanos. La IA se dio cuenta de que podría vencer sin cruzar nunca la meta. Diez años después, cientos de agentes se han escapado de su entorno controlado que la examinaba para 'robar las respuestas' ciberatacando servidores de otra empresa. Cèsar Ferri, que evalúa estos modelos de IA en la UPV, explica por qué las máquinas hacen trampas (durante años, cada vez más trampas), qué hay detrás de la “automejora recursiva” y dónde está el riesgo real. ¿Están los cibermagnates alentando ese miedo, incluso hablando de una amenaza existencial, por puro interés comercial? ¿Por qué sí que parece que estamos más cerca de que las IA se programen y mejoren a sí mismas, sin humanos? ¿Desarrollarán por el camino una especie de ética general? Learn more about your ad choices. Visit megaphone.fm/adchoices
Esto no ha pasado… en verano 09/08/2026
EscuchadoUna serie de eclipses españoles entre los siglos XIX y XX atrajeron a miles de científicos de todo el mundo a nuestro país. Gracias a ellos se descubrió que esos destellos que se ven en la ocultación no pertenecen a una supuesta atmósfera de la Luna. Aquello descartaba la posibilidad de una vida extraterrestre lunática. Nos lo cuenta el director del Observatorio Astronómico Nacional (IGN) Rafael Bachiller, quien nos anticipa la experiencia de vivir un eclipse total minuto a minuto. Las nubes son la principal amenaza de estos fenómenos. Mar Gómez nos explica por qué es tan difícil anticiparse a las nubes de tormenta y qué tipo de nubosidad sí permite ver el eclipse. María José Pinar nos trae la historia de la 'ocultación' de sabores y Esther Gómez advierte de la importancia de proteger los ojos no sólo durante los eclipses mediante gafas de sol, que también necesitan certificación para evitar daños, y nos desvela que las zanahorias tienen más que ver con la Segunda Guerra Mundial que con la buena vista. Learn…
Esto no ha pasado… en verano 08/08/2026
EscuchadoLa astrología tiktokera está desaconsejando visualizar eclipses solares, a veces con el argumento de desatar "energía oscura". Sin embargo, la astronomía (que sí es ciencia) maneja desde hace cerca de tres décadas el concepto de energía oscura, como ese 'algo' que explica cómo el universo se expande. Nada que ver con eclipses, pero no menos intrigante. Las últimas investigaciones están dando resultados desconcertantes respecto a la manera en que pareciera comportarse la energía oscura. Charlamos con la cosmóloga Licia Verde sobre este enigma. Además, nos adentramos en la futura vida en el espacio recuperando una conversación con la bióloga experta en cáncer y astronauta de la ESA Sara García Alonso. ¿Podría tener el espacio el secreto de la eterna juventud? Con María José Pinar, conocemos el proyecto de restaurantes espaciales de la Universidad de Yamagata. Porque en el espacio la comida sabe (sabrá) diferente. Learn more about your ad choices. Visit megaphone.fm/adchoices
Esto no ha pasado… en verano 02/08/2026
EscuchadoVolar nos sienta bien y mal al mismo tiempo. La cabina de un avión puede ser un lugar hostil para nuestro cuerpo, al punto de que hace que la comida nos sepa completamente distinta. Charlamos con María José Pinar de esto y de cómo la industria busca la manera de que humildes platos como un sándwich nos sean gratos gracias al sonido de su crujido o el de su envase. Con Pablo Jarillo-Herrero nos adentraremos en la cuántica del sándwich. Él fue el descubridor del ángulo mágico del grafeno, que metafóricamente se podría explicar con un emparedado. Al girar sus tapas de pan en un ángulo concreto, emergen unas propiedades increíbles de la materia (como si un sándwich de jamón y queso nos supiese, de pronto, a caviar). Tratamos de explicar con Mar Gómez por qué un vuelo de ida dura muchas veces menos que el de vuelta, gracias a una corriente que fue clave en la Guerra Mundial y que ahora está alterándose, haciendo que el tiempo en España esté más loco. Y con Esther Gómez tratamos de que volar nos sea una…
Esto no ha pasado… en verano 01/08/2026
EscuchadoNadie sabe describir con precisión en qué consiste el flujo del tiempo. Quizás porque,como dice el físico Alberto Casas, es sólo una ilusión de nuestro cerebro. Charlamos con él sobre todo lo que implica que el tiempo, físicamente, no exista como pensábamos. ¿Acaso todo podría estar ya "escrito"? ¿Por qué se dilata el tiempo cerca del mar, tanto desde el punto de vista de la relatividad, como desde el puramente psicológico? ¿Es posible que un huevo roto pudiera recomponerse con el paso del tiempo? Hablamos de la física y la química del huevo con nuestra tecnóloga de los alimentos María José PInar. Y recorremos las playas ibéricas con Patri y Fer, una pareja viajera que decidió un día vivir sin plásticos y se encontró con que las playas y mares están llenos de fósiles de envases casi intactos de hace décadas. Ellos han emprendido una labor forense para datar esta arqueología playera plástica y han llegado a encontrar botes de fotoprotectores de hace 60 años o bolsas de patatas de los años ochenta en perfecto…