A podcast conversation (Oso Trava interviewing Adrián Villaseñor) about risks and timelines for advanced AI. The speakers discuss fears of human labor being replaced, economic incentives that will accelerate substitution, and the expectation (expressed here) by many experts that Artificial General Intelligence (AGI) could arrive around 2030 — with attendant dystopian or utopian societal outcomes depending on who controls the technology.
La sustitución de la labor humana, pues es un miedo que poco a poco, pues con esas capacidades, pues se vuelve de un miedo a una potencial realidad.
Hace poco escuché un podcast de Steven Bartlett con Mogaudat, que escribió Soul for Happy y después escribió Scary Smart. Él está hablando de cómo antes creía que podíamos evitar la distopía, que podíamos educar a la inteligencia artificial con nuestras acciones, que todavía estábamos a tiempo de salvarnos de ser conquistados, vamos a decir más recientemente habló de cómo él ya cree que es inevitable una distopía de 15 a 17 años que se va a empezar a manifestar en 2026-2027, En la que estos grandes modelos de inteligencia, no sé si la singularidad o la inteligencia artificial general, están subordinadas a líderes mundiales que no son tan inteligentes y que las usan para fines bélicos o perjudiciales para la sociedad en general, antes de llegar al punto en el que estas inteligencias artificiales básicamente asumen el control y entonces sí detonan una era de abundancia y plenitud para la humanidad y todos los seres que vivimos en este planeta. ¿Cómo piensas tú de eso?
Es una conversación palvar, caray, porque nos podríamos echar como 10 horas y con unos buenos tequilas platicando de esto, pero la opinión generalizada de muchos de las mentes más brillantes, primero en cuanto a tiempos, lo ven que en 2030, que para 2030 este concepto del AGI, que es Artificial General Intelligence, que sin meternos en rollos, es que la inteligencia artificial ya tenga las capacidades de razonamiento humano que tenemos nosotros. La gran mayoría de los expertos dice que es inminente que pase de aquí a 2030. Hay algunos que dicen poquito menos, hay otros que dicen poquito más. Mi opinión es que más, que si se va a dar una distopía como esa. Yo creo que más bien es un volado que creo que no va a un término medio, vamos como sociedad a poder vivir una utopía, una distopía bastante compleja en el sentido de cómo van a estar evolucionando las cosas cuando la inteligencia artificial en efecto empiece a desarrollar esta capacidad de razonamiento humano. Este miedo que hoy en día platicamos mucho de la sustitución de la labor humana, es un miedo que poco a poco con esas capacidades se vuelve de un miedo a una potencial realidad y los intereses económicos que hay detrás de hacerse realidad, pues ese miedo a una realidad, pues van a ser muy fuertes. Quien tenga la capacidad de empezar a sustituir labor y empieza a concentrar riqueza en ese sentido, si lo ves desde una perspectiva meramente de cómo evoluciona el modelo capitalista, yo tengo la capacidad de entregar valor, que solamente yo lo puedo entregar valor y le voy a asignar un precio ese valor y voy a estar displacing, pues lo que mi valor vaya a crear en ese mercado. Creo que es algo que en el corto plazo, en el corto plazo, después de ese 2030 que siempre se ha pasado.
