Para decir ciencia ficción, los italianos usan una palabra relumbrante, fantascienza, que capta muy bien la relación, ignorada por muchos, entre la ciencia y la imaginación.
Muchísimo antes de la serie Star Trek, de los filmes 2001: odisea del espacio y Solaris; de las narraciones de Clarke, Bradbury, Asimov, Ítalo Calvino, o las historietas de extraterrestres cariñosos de Spielberg, una película que pusieron en el cine de mi pueblo hace más de medio siglo me dejó una impresión imborrable.
Se titulaba en español El planeta desconocido, y narraba las peripecias de una expedición que le seguía el rastro a una nave desaparecida en un planeta lejano. Además de encontrar al único explorador sobreviviente, los expedicionarios, entre ellos un robot buena gente llamado Robby, descubrieron el vasto sistema de máquinas inteligentes inventado por los aborígenes del planeta, los krells, una civilización extinguida no se sabía por qué.
Resulta ser que aquellas máquinas podían responder no solo a los mensajes telepáticos de los krells, sino también a sus subconscientes, o sea, a sus sueños. De manera que los engendros del it (Freud dixit), habían terminado campeando por cuenta propia, más allá de la conciencia y la voluntad de los superinteligentes nativos. No voy a contarles el final de la película, solo que el único colonizador terrícola de aquella nave original había generado, sin saberlo, una criatura virtual invisible, que aparecía cada vez que él soñaba, y que no tenía nada de buena gente.
Siempre me han fascinado esas historias, que en vez de ovnis, marcianos letales, superhéroes creados en laboratorios, anticipan los mundos que la ciencia y la tecnología nos abren constantemente, aquí y ahora, con sus luces y sus sombras. Quiero aprovechar para compartir algunos trazos de un paisaje de problemas que, bajo la forma actual o potencial de amenazas, se asocian a la emergencia y el uso vertiginoso de la IA en los últimos años, en el campo de la política.
La razón cibernética en torno a la Inteligencia Artificial (IA), la que caracteriza a los principios éticos, y a la razón jurídica de los tratados y normas internacionales, no alcanzan a contener a la razón geopolítica que alimenta la lógica de la seguridad internacional, las crisis y el manejo de conflictos.
Apenas un botón de muestra de estas percepciones revela cómo la IA ha saltado a tópico sobresaliente entre los problemas políticos hoy. Basta una mirada a vuelo de pájaro durante apenas los últimos dos meses para recoger una ristra incesante de titulares y problemas.
- Dos congresistas de EEUU promueven una Comisión bipartidista, para que controle la IA, y evite que las corporaciones que han creado medios avanzados (como ChatGPT) se desmanden (New York Times, 27.07.23)
- Un analista del think tank conservador American Enterprise argumenta que la IA es una bendición, y que no hay nada que temer (Inter Press Service, 30.06.23)
- Unos expertos señalan que quienes usan la plataforma de comunicación Zoom pueden dejarle inadvertidamente sus datos personales al mecanismo de IA que la plataforma utiliza (CBS, 9.08.23).
- EEUU restringe inversiones en China, según orden ejecutiva de Biden, para las empresas que se ocupan de IA, computación cuántica, y semiconductores avanzados. Congresistas de los dos partidos han criticado la medida por no abarcar a otros sectores. La administración aclara que se enfoca en asuntos de seguridad nacional, no en hacerle una guerra comercial a China (NYT, 9.08.23)
- Multimillonario pekinés fundador de BYT dudoso de la capacidad china para desarrollar tecnología capaz de competir con ChatGPT (South China Morning Post, 6.07.23)
- El comercio-e chino en línea que genera streaming para sus ventas compite en desventaja con las empresas del país que comercializan haciendo uso de la IA (SCMP, 24.07.23)
- Asia necesita programas de adiestramiento laboral para evitar que la IA provoque masivos despidos laborales (SCMP, 30.06.23)
- EEUU frena exportaciones de microchips de Nvidia y AMDB a Medio Oriente. Ya el año pasado se prohibió el suministro de semiconductores de alta tecnología a China (Reuter, 31.08.23)
Por otro lado, el conocimiento acumulado por las ciencias sociales en los años recientes se refleja en la marea de estudios disponibles para contribuir a un mejor entendimiento de los problemas y a cómo manejarlos para una menos peligrosa convivencia internacional. Como veremos, no escasea el conocimiento sobre la IA disponible en revistas especializadas y en recursos educativos y culturales.
Hasta hace unos cinco años, no eran muchas las investigaciones y debates sobre temas internacionales que incluían a la IA como tópico prominente. Pero si ahora usted se pone a rastrear investigaciones relacionadas con IA y gobernanza, basta con las primeras cincuenta páginas de Google Académico para ver pulular los estudios sobre seguridad nacional, estrategia, democracia, poder, educación, derechos humanos, regulación, cooperación, salud pública, etc. Algunos datan del inicio de la segunda década de este siglo (2010), pero su mayor parte se concentra a partir de 2017-2018, con una tendencia creciente.
Si busca ensayos en español, le aparecerán temas como la “asistencia conversacional al público” en gobiernos locales, sus usos en la recuperación post-pandemia, la administración pública, y en cierta medida, como herramienta política, para trabajar la opinión pública en tópicos como la percepción sobre los refugiados, o las desigualdades.
En inglés, como es de esperar, los estudios son legión. Pongo sus fechas solo para darnos cuenta de cuánto proliferan. Poderes emergentes (como los BRICS) y la cooperación interestatal (2014); ética, política y economía de los algoritmos de decisión (2016); relación de poder entre acceso a tecnología y tiranía (2018); seguridad nacional e Implicaciones estratégicas de la apertura de la IA (2018); usos en sistemas penitenciarios (2018); carrera para la ventaja estratégica (2018); cómo remodelar la represión (2019); información-comunicación y transparencia en gobernanza (2019); liderazgo y valores públicos mediante algoritmos y Big Data (2019); estrategia china y seguridad nacional (2019); actitudes y tendencias en EEUU (2019)
La cuestión de ponerle regulaciones a la IA mediante leyes, acuerdos, normas éticas, centra la atención en numerosas regiones y países, mediante el debate sobre sus impactos sociales y éticos en el mundo; o la necesidad de lineamientos que los regulen (2019). Algunos afirman, sin embargo, que no bastan los principios éticos para que la IA pueda autogobernarse (2019).
La llegada de la pandemia tuvo un efecto virulento sobre la IA y su dominio, en 2020. Este no solo se dirigió a enfrentar la Covid 19, la llamada infodemia desencadenada por la plaga, y la conciencia de riesgo compartido; sino que se aceleró de modo exponencial en todos los campos. Además de la extensión de la digitalización en la atención médica, los planes estratégico-militares, el papel de los valores culturales y la confianza en políticas públicas en países europeos, los procesos de desarrollo, y la educación; se multiplicaron los estudios sobre el efecto disruptivo de la tecnología en la regulación y la transformación económica, la construcción de ciudades y la aplicación de tutores inteligentes, el levantamiento de las barreras para la cooperación intercultural, la protección de los derechos humanos, su liberación y supervisión. En ese mismo año aparecieron propuestas para definir objetivos de la IA respaldadas por la ONU.
A partir de 2021, junto a las Recomendaciones formuladas por el organismo internacional para recoger un consenso sobre principios éticos que limiten sus usos, la cuestión de la confianza/desconfianza sobre la AI se extendió, incluyendo áreas como control de la contaminación, requisitos regulatorios, ciberseguridad, peligros de la nueva carrera espacial. Asuntos como el internet de las cosas y el aprendizaje de máquinas para enfrentar la Covid 19 y determinar criterios de justicia en política de refugiados, o el efecto de la IA en la competencia entre carreras y la reducción de los empleos, se hicieron frecuentes.
No todo lo que brilla es oro
Con la aparición de la energía atómica, la exploración del espacio exterior, la biología molecular, la nanotecnología, la computarización, se crearon poderosos medios científico-técnicos que revolucionaron la generación de energía, la medicina, las comunicaciones, la informática, el manejo masivo de datos, el control y la prevención de enfermedades, la aeronáutica, el transporte global de bienes y personas.
Pero también incidieron en el auge de la carrera armamentista, la militarización del espacio exterior, la proliferación de las armas de destrucción masiva, el ciberespionaje, la violación de los derechos humanos, el control y la invasión de la privacidad ciudadana, y repercutieron en la destrucción del medio ambiente, la modernización de las intervenciones y otras agresiones a gran escala contra la soberanía de numerosas naciones.
En este nuevo paisaje, se renovó y ensanchó la superficie de contacto entre los Estados y sus bloques supranacionales, de un lado; y del otro, el poder trasnacional industrial-militar, junto a algunos conglomerados hegemónicos. Con la IA está pasando lo mismo.
La replicación de los conflictos nacidos en la Guerra fría, y su interacción con todos esos campos de innovación tecnológica, ha sido un factor principal en la velocidad del auge y la diseminación de la IA.
Entre los grandes problemas apuntados antes en torno a la lógica de los marcos regulatorios y los acuerdos internacionales para moderar los usos y abusos de las tecnologías de punta (y la IA), se me ocurre empezar al menos por tres lecciones. Para ahorrar tiempo, las voy a enunciar de carretilla.
La primera es que para regular y conseguir acuerdos sobre aplicación de tecnologías de punta (incluida la IA) se requiere nada menos que ejercer control sobre la conducta de grandes potencias, potencias medias, y “poderes no estatales,” que las instrumentalizan para sus propios fines.
El segundo es que el acceso a procesos, productos y medios de la alta tecnología tiene un carácter desigual en términos de flujos de capital para Investigación-Desarrollo, innovación y aplicación científico-técnica. Esta asimetría también se expresa en la capacidad para construir una imagen informada, analítica y crítica sobre esas tecnologías en la esfera pública.
Por último, una visión realista exige haber aprendido al menos que ninguno de los grandes problemas en la era pre-Inteligencia artificial ha podido acorralarse, reducirse ni mucho menos resolverse contando con los recursos de la cooperación creados en el sistema internacional emergente después de la Guerra Mundial II, en el llamado Nuevo Orden Mundial surgido en la post-guerra fría, o en lo que vino después, como sea que se le llame.
Las lecciones derivadas de estas experiencias enseñan que la acción de los estados y las organizaciones supranacionales es muy importante y necesaria, pero no suficiente. O sea, que imaginar estrategias para abordar esta problemática exige entender su horizonte político y cultural real. Para hacerlo, no bastan buenas intenciones, principios éticos y dispositivos jurídicos formalmente respaldados por los actores del sistema internacional.
Entre los requisitos para construir y hacer avanzar una estrategia viable y eficaz acerca de la IA deberían incluirse al menos los tres siguientes.
El número uno podría ser la expansión de los actuales límites para el fomento del capital humano, el conocimiento científico, la cooperación y la colaboración entre actores del eje Norte-Sur, así como Sur-Sur, que permitiera redes alternativas, propiciadas por una nueva concepción de la colaboración internacional, más efectivas y eficientes que las actuales.
El segundo sería concebir acciones para fomentar conciencia sobre las oportunidades y ventajas, así como los peligros, que envuelven a la IA. Hacerlo conllevaría trabajar contra un patrón establecido, que separa la producción de las ciencias naturales, básicas y aplicadas, de las ciencias sociales, de los medios de difusión, del arte y la literatura, de la enseñanza superior, en compartimentos estancos.Un fenómeno que abarca, por cierto, a sistemas sociales y ordenamientos políticos muy diferentes.
Por último, como especie de corolario del anterior, se trataría de superar en la práctica las barreras institucionales y mentales, orgánicas y culturales, que separan estos campos entre sí. Esta meta no sería solo necesaria para los estados, las organizaciones regionales y organismos internacionales, sino también para conectarse con la dinámica de los movimientos sociales y actores de la sociedad civil ligados a agendas ciudadanas, la protección del medio ambiente, los derechos de grupos subalternos o marginados, para acceder a la salud, la educación, el empleo, etc., al punto de desarrollar usos alternativos y formas de control eficaces sobre la propia IA.
Para cerrar estos comentarios, quiero sugerir, basándome en las lecciones de la historia, que la IA no es precisamente como un cuchillo de cocina, que sirve para cortar cebollas, y también para matar. Se parece más, diría yo, a la fisión nuclear. A diferencia de los cuchillos, no todo el mundo tiene los recursos necesarios para fomentar la energía atómica y la IA, para impulsarla en la dirección de un mundo mejor, para repartirla equitativa y democráticamente. En cambio, la lucha por regular la energía atómica sí nos enseña numerosas lecciones, que pudieran aplicarse a la IA.
Las políticas dirigidas a promover los usos pacíficos del átomo no ha impedido la acumulación de las armas de destrucción masiva. Pero sí ilustra cómo nuestras propias ideas y acciones concertadas respecto a esos usos pacíficos (muy cambiadas, por cierto, desde 1945) han . propiciado la emergencia de movimientos sociales que les han puesto límites. Algo así pudiera contribuir a un mundo mejor para la IA, sin despegar los pies de la tierra.
El fomento y la diseminación del conocimiento científico-técnico sobre la IA necesita acompañarse por una economía política, una sociología, una antropología, una psicología social, unos estudios culturales que examinen y analicen críticamente sus usos, los buenos y los malos. Pero también, como algunos adelantados ya se han puesto a hacer, requiere conectarse con las agendas de sindicatos, ambientalistas, organizaciones sociales, gremios, luchadores por la justicia social, artistas, educadores, que tejan alianzas vaso-comunicantes trasnacionales, y que rediman temprana y preventivamente a la IA de sus usos y abusos. Digamos, una redención preventiva que contribuya a una conciencia y un campo de interacción paralelo, al margen de los poderes establecidos.
Para encaminarse en esa dirección, no hay que confiar en la inteligencia o el aprendizaje de las máquinas. Más bien hay que empujarla, poniendo en juego toda la inteligencia humana, más allá de credos y preferencias, desde una capacidad de acción concertada que nos devuelva a todos la confianza perdida en nosotros mismos.
*Este texto es un extracto de la ponencia presentada en la conferencia internacional sobre la IA auspiciada por la UNESCO en Quito, los días 6 y 7 de septiembre.