Francis Fukuyama, Mathilde Ayuno
Por cortesía de nuestros amigos de Civita y de American Purpose, publicamos un extracto de la conversación de Mathilde Fasting con Francis Fukuyama. La transcripción ha sido ligeramente editada y está disponible en YouTube una grabación de la conversación completa en inglés-
Mathilde Fasting: Hace veinte años, usted escribió un libro titulado Nuestro futuro poshumano: consecuencias de la revolución biotecnológica. ¿Cómo ve la capacidad de modificar el comportamiento humano o la biología afectando la democracia liberal?
Francis Fukuyama: A finales de los años noventa, estaba dirigiendo un seminario sobre nuevas tecnologías y su impacto, centrándome tanto en TI como en biotecnología. En ese momento, creía que la revolución biotecnológica podría tener consecuencias más significativas, y sigo pensando que puede ser cierto. Si bien mientras tanto hemos sido testigos de las desventajas de las redes sociales y la tecnología de la información, la revolución biotecnológica tiene el potencial de afectar el comportamiento humano y la biología, e influyen en la democracia liberal.
La razón por la que creo que la biotecnología puede tener efectos políticos significativos es porque proporciona herramientas para que ciertos individuos controlen el comportamiento de otros. El totalitarismo en el siglo XX demostró los intentos de gobiernos altamente centralizados de controlar el comportamiento de sus poblaciones utilizando técnicas como la agitación, la propaganda, la reeducación y el el Estado policial. Sin embargo, estos métodos resultaron insuficientes a largo plazo, como se vio con el colapso de la Unión Soviética y las luchas de China por controlar a su población.
Las tecnologías biomédicas, en particular las intervenciones en la línea germinal que pueden alterar las características humanas hereditarias, podrían tener un profundo impacto en nuestra comprensión de los derechos humanos. Los derechos humanos se basan en nuestra comprensión implícita o explícita de la naturaleza humana, y los derechos más cruciales son aquellos que responden a los aspectos centrales del ser humano. La manipulación de la naturaleza humana a través de la biotecnología podría, en última instancia, cambiar la naturaleza de los derechos.
Es importante señalar que la ingeniería de la línea germinal no es la única tecnología con potencial para controlar el comportamiento. Las intervenciones psicofarmacológicas y el uso de fármacos para regular el estado de ánimo y el comportamiento han revolucionado nuestra capacidad para influir en el comportamiento. Por ejemplo, actualmente utilizamos medicamentos como los inhibidores selectivos de la recaptación de serotonina (ISRS) como Prozac y Xanax y anfetaminas como Ritalin para controlar el comportamiento en los niños. Es probable que estas intervenciones aumenten en el futuro.
Sin embargo, la revolución de las tecnologías de la información ha tenido impactos más notables a corto plazo, particularmente en el ámbito de las redes sociales. Inicialmente, muchos de nosotros creíamos que un mayor acceso a la información sería democratizador y beneficioso para la democracia. Pensamos que sería positivo difundir el poder a través de un mayor acceso a la información. Si bien el poder efectivamente se ha transferido, también hemos sido testigos de la eliminación de las estructuras jerárquicas que certificaban y verificaban la calidad de la información. Como resultado, la falta de confianza impregna las sociedades, y ahora luchamos no solo con desacuerdos sobre valores sino también con la incapacidad de ponernos de acuerdo sobre información fáctica simple.
“Pensamos que sería positivo difundir el poder a través de un mayor acceso a la información. Si bien el poder efectivamente se ha transferido, también hemos sido testigos de la eliminación de las estructuras jerárquicas que certificaban y verificaban la calidad de la información”
Esta falta de confianza ha alimentado la polarización, las diferentes facciones tienen interpretaciones contrastantes de la realidad. En Estados Unidos, por ejemplo, existe una profunda división: un grupo cree que las elecciones de 2020 le fueron robadas a Donald Trump, y ninguna información contraria puede influir en su creencia. Esta polarización basada en interpretaciones divergentes de la realidad plantea un peligro, y la próxima revolución de la IA puede exacerbar este problema. La verificabilidad de los artefactos digitales será cada vez más difícil, lo que dificultará la autenticación de la información.
Por ejemplo, la llegada de deepfakes y técnicas avanzadas de manipulación de imágenes, como programas de relleno generativo como Photoshop, plantean preocupaciones sobre la autenticidad de los documentos digitales. La disminución de la confianza en la evidencia digital se extenderá a las instituciones sociales en general.
En el futuro, esta falta de confianza y la creciente sofisticación de las intervenciones plantearán desafíos en diversos ámbitos, incluidos los procedimientos legales. La autenticación de pruebas, como las pruebas fotográficas en los casos judiciales, puede generar escepticismo y acusaciones de manipulación o invención.
MF: ¿Puedes decirnos algo sobre la biotecnología y el futuro poshumano? Recuerdo que escribiste algo sobre las diferencias entre Occidente y China a la hora de manipular las cosas, y me gustaría que explicaras un poco más sobre eso.
FF: Creo que uno de los problemas está en la regulación. Si nos fijamos en la historia de la tecnología, siempre ha habido esta carrera entre el desarrollo tecnológico y la capacidad de las sociedades para regularlo. Y siempre hace falta mucho tiempo para que suceda. Pensemos en la imprenta, cuando Gutenberg inventó los tipos móviles. Esto tuvo un gran impacto en la Reforma Protestante, por un lado, y en la difusión de diferentes ideas o desafíos a la Iglesia Católica. Eso llevó a 150 años de guerra religiosa y, finalmente, la gente se reconcilió con la imprenta. Piensas en la radio, la televisión, su relación con el ascenso del fascismo y el estalinismo. Se trataba de tecnologías que permitían a los dictadores conectarse con audiencias masivas. Tomó tiempo, pero hemos descubierto cómo regular y lidiar con ese tipo de tecnologías.
Siempre ha habido una carrera entre el desarrollo tecnológico y la capacidad de las sociedades para regularlo. Siempre hace falta mucho tiempo para que suceda, pero la regulación llega, pasó con la imprenta y con la radio la televisión. Aprenderemos a lidiar con esas tecnologías.
Habrá un desfase entre el momento en que se introduzca la tecnología y el momento en que la sociedad pueda ponerse al día con ella. Con la biotecnología, es muy difícil regularlo. Tengo un colega en Stanford que trabaja con estudiantes de secundaria. Existe una especie de laboratorio de biotecnología estandarizado que puede realizar diferentes tipos de intervenciones utilizando la tecnología CRISPR que cabe dentro de un contenedor de envío. Muchas escuelas secundarias están organizando competencias con sus estudiantes que quieren realizar este tipo de manipulación genética. Lo que hace mi colega es crear un conjunto de normas que estos grupos de estudiantes seguirán porque es imposible monitorear lo que hacen.
Entonces, ¿cómo regulamos las armas nucleares y otras tecnologías peligrosas? Bueno, tenemos fotografías satelitales aéreas y tenemos inspectores nucleares y demás. Y debido a la infraestructura que requiere para que un país realmente participe en ese tipo de producción industrial de combustible nuclear, podemos monitorear en gran medida lo que está sucediendo en Corea del Norte, Irán y ese tipo de cosas. Con la biotecnología, es imposible. La tecnología no requiere grandes instalaciones, está muy extendida y la única forma en que se puede regular es mediante algún tipo de intervención normativa que dé a los investigadores los estándares que deben imponerse a sí mismos.
Y gran parte del trabajo que se está haciendo da mucho miedo. Tengo otro colega de Stanford que dirige un laboratorio de investigación biomédica y ha estado muy preocupado. Probablemente esté siguiendo la controversia sobre la filtración del laboratorio de Wuhan, que muchas personas descartaron como propaganda de derecha. Pero ahora hay evidencia que indica que toda la epidemia de la COVID-19 fue el resultado de una seguridad descuidada en el Instituto de Virología de Wuhan. Podemos esperar más cosas.
Este colega mío tiene otro informe aterrador sobre cómo un investigador estadounidense descargó el código genético de un virus de la viruela simica que creó en su laboratorio. No fue un virus creado a partir de otro virus; se trataba simplemente de información digital que estaba disponible para cualquiera en Internet. Y la utilizó para crear una variante completamente nueva de la viruela simica que podría ser mucho más virulenta que la existente. ¿Y qué va a impedir la propagación de esto?
La única manera de controlar si alguien en el mundo está realizando este tipo de investigación es depender de la responsabilidad de las organizaciones y de los científicos individuales que trabajan en este tipo de cosas. Y es muy difícil saber en qué momento alguien va a infringir esas normas y hacer cosas muy peligrosas.
A principios de la primera década de este siglo pasé mucho tiempo pensando en cómo regular la biotecnología. Una cosa que observé y sentí fue que estas cosas peligrosas van a suceder en Asia mucho antes de que sucedan en Europa o Estados Unidos. Es una cuestión cultural. En países con herencia religiosa cristiana existe la creencia en una dicotomía bastante marcada entre la naturaleza humana y no humana.
Existe la creencia de que Dios dotó a los seres humanos de un cierto grado de dignidad que la naturaleza no humana no tiene. Esta creencia forma la base de nuestra comprensión de los derechos humanos o la universalidad de los derechos humanos. Pero también significa una especie de degradación del mundo natural al otro lado de esta dicotomía.
En la mayoría de las tradiciones culturales asiáticas, esta dicotomía no existe. Existe una continuidad entre la naturaleza no humana y la naturaleza humana, y la capacidad de manipular una se extiende a la otra. De hecho, China fue el primer país donde se llevó a cabo un experimento de línea germinal en un embrión humano. Aunque se cerró y el científico involucrado fue castigado, creo que estas inhibiciones culturales serán mucho más fuertes en Europa y América del Norte que en otras partes de Asia.
Entonces, este es el problema más grande de regular en la tecnología de cualquier tipo. Puedes decidir regularlo dentro de tu jurisdicción territorial, pero va a suceder en otro lugar. Es también el problema de la idea de regular la IA. Si lo hacemos en Europa o Estados Unidos, todavía tenemos competencia con China y otros países grandes. Podrían tomar la delantera y nos preguntaremos: «¿Estamos autolimitando esta tecnología crítica que luego será desarrollada por otra persona y utilizada en nuestra contra?». A menos que tengamos un esquema regulatorio global, estaremos atrapados en esta competencia.
MF: Anteriormente, escribió en American Purpose sobre los posibles impactos sociales de la IA. Incluso si usted dice que es una tontería predecir el largo plazo, por ejemplo, de las consecuencias sociales de la IA y la tecnología, ¿puede decirme qué sabemos hasta ahora sobre el efecto general de las redes sociales, Internet y la tecnología en la democracia?
FF: Si se piensa en la transformación que ha ocurrido en los últimos cincuenta años con el surgimiento de toda una clase de tecnologías de la información, los economistas llegan a la conclusión general de que ha aumentado la desigualdad socioeconómica. Hay algo de esto. En la actualidad la principal división social en la mayoría de los países, y ciertamente en la mayoría de las democracias avanzadas, se basa en la educación. Y si tienes una educación superior, si has ido a la Universidad de Oslo o tienes un título, te va bien, tus ingresos son mucho más altos y la brecha entre esas personas y las personas con solo una educación secundaria o menos ha crecido enormemente, en casi todas partes.
No hay duda de que gran parte del populismo que vemos en todo el mundo está alimentado por esa división, que la gente que vota por políticos populistas suele ser gente menos educada. No viven en grandes ciudades, no están conectados a una especie de economía global más grande, y eso está alterando nuestra política democrática. Sin embargo, una consecuencia que no creo que la gente haya reconocido suficientemente es una disminución masiva de la desigualdad provocada por la transición de una economía industrial a una posindustrial, y que afecta a las relaciones de género.
La sustitución del trabajo físico por máquinas y el cambio en la naturaleza del trabajo de una economía industrial a una posindustrial – en la que la mayoría de las personas, en lugar de trabajar en fábricas o levantar objetos pesados, están sentadas frente a pantallas de computadora todo el día en una industria de servicios– ha tenido un enorme impacto en el papel de la mujer en la economía.
Desde finales de la década de los años sesenta, prácticamente todas las sociedades avanzadas comenzaron a ver aumentos significativos en la participación femenina en la fuerza laboral. Ahora, algunas personas podrían decir que esto fue un cambio ideológico o cultural, que hubo un movimiento por la igualdad de las mujeres que apareció en ese momento. Creo que en esas áreas la causa y el efecto son muy difíciles de separar.
Ciertamente, no se podría haber tenido el grado de empoderamiento femenino si no hubiera habido ocupaciones para las mujeres donde pudieran ganar salarios, mantener a sus familias y ser independientes de sus maridos. Y esto empezó a suceder cuando decenas, cientos de millones de mujeres en todo el mundo entraron al mundo laboral a finales del siglo XX. Las consecuencias del cambio tecnológico son complicadas y difíciles de prever. El cambio hacia la digitalización ha tenido impactos tanto positivos como negativos. Pero es muy difícil decir que, en general, se trata simplemente de una mayor desigualdad.
Pregunta desde la audiencia: ¿Cree que la inteligencia artificial acelerará aún más el declive democrático?
FF: Creo que hay dos desafíos claros que la actual generación de inteligencia artificial plantea para la democracia. En primer lugar, la disolución general de nuestra certeza sobre la información que recibimos. Las falsificaciones profundas dificultan determinar la autenticidad de cualquier cosa que veamos en Internet. Sin embargo, existen tecnologías de autenticación basadas en inteligencia artificial que se pueden utilizar para certificar la procedencia de un artefacto digital en particular.
La regulación debe ponerse al día con la tecnología porque una vez que reconocemos el problema general de la desconfianza, necesitamos medios tecnológicos para verificar la autenticidad del contenido digital. La solución no es prohibir la tecnología sino utilizarla para control y verificación.
En X (ex-Twitter) la cobertura de la guerra de Ucrania cambió sutilmente después de que Elon Musk asumió el poder. Muestra menos contenido pro-ucraniano y más contenido comprensivo hacia Rusia. Esta manipulación sutil puede tener efectos acumulativos con el tiempo.
El segundo desafío es una intensificación de lo que ya existe. Las redes sociales han sido eficaces para manipular a las personas a través de publicidad dirigida. Con la inteligencia artificial, la focalización puede volverse más inteligente y adaptable. Una vez que las personas se dan cuenta de que están siendo atacadas, la manipulación puede cambiar automáticamente por parte de las máquinas, lo que plantea dificultades en la detección. He observado que en X (ex-Twitter) la cobertura de la guerra de Ucrania cambió sutilmente después de que Elon Musk asumió el poder. Muestra menos contenido pro-ucraniano y más contenido comprensivo hacia Rusia. Esta manipulación sutil puede tener efectos acumulativos con el tiempo.
En cuanto al control totalitario, el sistema de crédito social de China representa un nuevo nivel de seguimiento individual hecho posible gracias al aprendizaje automático y al análisis de datos a gran escala. Con la integración del monitoreo de COVID y el sistema general de control social, China ahora tiene un amplio conocimiento del paradero, las interacciones sociales y las conversaciones de un individuo. Si bien es una forma poderosa de control, incluso niveles tan altos de monitoreo no siempre han dado el resultado deseado, como se vio cuando la gente protestó contra las medidas cero de COVID.
Es un desafío predecir la eficacia de estas tecnologías para socavar la democracia. En muchos casos, utilizar la tecnología para contrarrestar sus impactos negativos podría ser nuestra mejor solución.
Francis Fukuyama es presidente del consejo editorial de American Purpose y Olivier Nomellini Senior Fellow y director del programa de Maestría Ford Dorsey en Política Internacional en el Instituto Freeman Spogli de Estudios Internacionales de la Universidad de Stanford.
Mathilde Fasting es directora de proyectos y miembro de Civita, un grupo de expertos noruego dedicado a ideas, instituciones y políticas liberales basadas en la libertad individual y la responsabilidad personal.