En medio de una frenética carrera por controlar el mercado de la inteligencia artificial, la Organización de Naciones Unidas (ONU) pidió este lunes a las empresas tecnológicas y desarrolladores de ese sector garantizar transparencia en sus programas.
“Nadie debería estar a merced de un algoritmo que no controla, que no fue diseñado para salvaguardar sus intereses y que rastrea su comportamiento para recopilar datos personales y mantenerlo enganchado”, aseguró el secretario general António Guterres al presentar los Principios Mundiales para la Integridad de la Información.
La iniciativa presenta un marco de seguridad para los espacios informativos, al reconocer el incremento de riesgos como la desinformación y la incitación al odio, recoge un despacho de la agencia Prensa Latina.
Cinco principios
La propuesta incluye cinco principios que van desde la confianza y resistencia de la sociedad, medios de comunicación independientes, libres y plurales hasta incentivos saludables, transparencia e investigación y capacitación del público, como una visión primordial de un ecosistema informativo más humano, detalló PL.
Los cinco principios son el resultado de amplias consultas con los 193 estados miembros de la ONU, el sector privado, los líderes juveniles, los medios de comunicación, el mundo académico y la sociedad civil.
“Algoritmos opacos empujan a las personas a burbujas de información y refuerzan prejuicios como el racismo, la misoginia y la discriminación de todo tipo. Las mujeres, los refugiados, los inmigrantes y las minorías son objetivos habituales”, denunció Guterres.
Las empresas tecnológicas deben priorizar “la integridad de la información, y no un modelo de negocio para hacer más dinero”, y los gobiernos deben regular de forma que se “respeten los derechos humanos y la libertad de expresión y la protección de los periodistas”, resumió el dirigente portugués.
Quejas discográficas
Los sellos discográficos Sony Music, Universal Music Group y Warner Records demandaron este lunes a las empresas de inteligencia artificial Suno y Udio. Las acusaron de cometer una infracción masiva de derechos de autor al utilizar grabaciones para entrenar sistemas de IA, reportó un despacho de la agencia Reuters.
Las compañías estadounidenses copiaron música sin permiso para enseñar a sus sistemas a crear música que “competirá directamente con el trabajo de los artistas humanos, lo abaratará y, en última instancia, lo ahogará”, según demandas federales presentadas contra Udio en Nueva York y Suno en Massachusetts.
Innovaciones vertiginosas
Según The New York Times, el sector de la IA este año se va a definir por una característica principal: una mejora extraordinariamente rápida de la tecnología a medida que los avances se acumulen, permitiendo a la IA generar nuevos tipos de medios, imitar el razonamiento humano de nuevas maneras y filtrarse en el mundo físico a través de un nuevo tipo de robots.
En los próximos meses, los generadores de imágenes basados en IA, como DALL-E y Midjourney, ofrecerán al instante videos e imágenes fijas. Además, se fusionarán gradualmente con chatbots como ChatGPT.
Threats to information integrity are not new, but they are proliferating & expanding in digital spaces, supercharged by AI technologies.
I urge governments, the tech sector, advertisers & other actors to listen to your people & to users – and take action.
— António Guterres (@antonioguterres) June 24, 2024
Esto significa que los chatbots irán mucho más allá del texto digital y manejarán fotos, videos, diagramas, gráficos y otros medios.
Estados Unidos lidera como fuente de los principales modelos de IA, con 61 modelos notables originados en instituciones estadounidenses, superando con creces los 21 de la Unión Europea y los 15 de China. Gigantes tecnológicos como OpenAI, Google y Anthropic están a la vanguardia de este vertiginoso progreso.