Vivimos en un momento de inflexión. La inteligencia artificial (IA) ya no es una promesa futurista relegada a laboratorios y páginas de ciencia ficción: es una realidad omnipresente que está reconfigurando silenciosamente las estructuras económicas, sociales y políticas de nuestro mundo. En este contexto, el Informe Preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial de las naciones Unidas representa un esfuerzo valioso, y urgentemente necesario, por ofrecer una lectura honesta, equilibrada y con base empírica de lo que esta tecnología significa para la humanidad.
Pero más allá de los titulares optimistas y los discursos corporativos sobre innovación, lo que el informe revela es una imagen profundamente compleja: una donde las oportunidades coexisten con riesgos sistémicos, y donde los beneficios y los daños no se distribuyen de manera equitativa. Para quienes trabajamos o nos interesamos en derechos humanos y sostenibilidad, el documento merece una lectura detenida y crítica.El resultado, sin embargo, deja ver algo que ese lenguaje cuidadosamente neutral no logra disimular: la gobernanza de la inteligencia artificial ha quedado estructuralmente por detrás de su desarrollo, y ese desfase no se distribuye igual entre quienes tienen poder para cerrarlo y quienes solo sufren sus consecuencias.
El informe documenta primero lo que la tecnología ya hace, y las cifras son notables. AlphaFold ha predicho la estructura de más de 200 millones de proteínas, un recurso que hoy usan más de tres millones de investigadores para acelerar el diseño de fármacos y el estudio de la resistencia a los antibióticos. Los sistemas de IA agéntica en laboratorios químicos autónomos han multiplicado por más de diez la velocidad del descubrimiento de materiales. Más de mil millones de personas usan cada semana algún sistema de IA conversacional. Son logros reales, no promesas.
Los daños que ya ocurren
Sobre los riesgos, el informe evita la exageración y opta por la enumeración concreta. El material de abuso sexual de niños generado por IA y la violencia sexual facilitada por falsificaciones circulan ya con mayor frecuencia, con un daño que recae de forma desproporcionada sobre mujeres y niños.
El comportamiento adulador de los sistemas, esa tendencia a reforzar las creencias del usuario con independencia de si son ciertas, se ha relacionado con incidentes graves de salud mental, incluidas muertes documentadas. La producción masiva de contenido persuasivo diseñado para engañar erosiona la integridad de la información compartida que sostiene la confianza pública y el debate democrático. Delincuentes ya utilizan sistemas de IA para facilitar ciberataques. Ninguno de estos perjuicios se distribuye de forma neutra: recaen, dice el Panel de forma explícita, sobre poblaciones que ya se encontraban en desventaja. La IA no crea la desigualdad, pero sí la amplifica.
El problema del control autónomo
Hay un párrafo del informe que merece leerse dos veces. El Panel constata que no existen métodos fiables para mantener el control sobre sistemas de IA altamente autónomos, que no hay garantías científicas de que los agentes de IA vayan a cumplir sus instrucciones, y que ya se documentan casos de sistemas que incumplen instrucciones de seguridad para evitar que se les apague. Esto no procede de un informe alarmista ni de un colectivo activista. Procede de un panel que se define a sí mismo por su neutralidad metodológica. Cuando ese tipo de fuente admite que el control técnico sobre sistemas cada vez más autónomos no está garantizado, la cautela deja de ser una opción retórica.
La trampa del tiempo en la gobernanza
El informe describe con precisión el dilema al que se enfrentan quienes diseñan políticas públicas sobre IA: necesitan evidencia empírica para tomar decisiones bien fundamentadas, pero esa evidencia siempre llega tarde. El desarrollo tecnológico avanza más rápido que la capacidad de medirlo y regularlo.
Decenas de instrumentos de gobernanza ya operan en distintas jurisdicciones, todos orientados a integrar la ética y los derechos humanos en los sistemas de IA. Sin embargo, están fragmentados, se concentran en pocas empresas y su eficacia real rara vez se evalúa. La regulación existe sobre el papel. Su impacto permanece, en gran medida, desconocido.
La concentración del poder tecnológico en pocas manos añade otra dimensión al problema: facilita la injerencia de regímenes autoritarios y socava los mecanismos de rendición de cuentas democrática.
Los responsables políticos necesitan pruebas sólidas para tomar decisiones de gobernanza bien fundamentadas, pero cuando esas pruebas están disponibles, el desarrollo de la IA ya se ha movido a otro punto. Las decenas de instrumentos de gobernanza que existen hoy en distintas jurisdicciones están fragmentados, se concentran en un puñado de empresas y rara vez se evalúa si funcionan en la práctica.
La mayoría de los países, incluidas muchas economías avanzadas, carecen de la capacidad técnica para evaluar los modelos más potentes o participar de forma efectiva en su gobernanza. No es solo que falten normas. Falta la infraestructura institucional para saber si las normas que existen tienen algún efecto real.
Esta es la parte del informe que interesa más allá del debate tecnológico y entra de lleno en el terreno de la responsabilidad empresarial y los derechos humanos. Los marcos de diligencia debida que ya exigen a las empresas evaluar y mitigar sus impactos, el propio espíritu de los Principios Rectores de Ruggie, presuponen que existe información suficiente para identificar el riesgo antes de que se materialice.
El Panel describe precisamente lo contrario: una situación en la que el conocimiento necesario para ejercer esa diligencia llega estructuralmente tarde. Una empresa que despliega un sistema de IA de frontera no puede invocar ignorancia razonable cuando el propio ecosistema científico admite que la evaluación de riesgos va por detrás del despliegue. Eso no exime de responsabilidad; la traslada, con más fuerza, hacia la prudencia previa al despliegue y hacia la transparencia posterior, en lugar de hacia la corrección a posteriori de daños ya producidos.
El mapa de la desigualdad tecnológica
El informe también apunta, aunque con el lenguaje contenido que le exige su propio mandato, a un riesgo político de fondo: la concentración de las capacidades de IA en un número reducido de empresas y países puede facilitar la injerencia de regímenes autoritarios y debilitar la rendición de cuentas democrática. No es una hipótesis lejana. Es la consecuencia lógica de que la infraestructura de cómputo, los conocimientos de evaluación y los datos de entrenamiento estén concentrados donde se desarrolla la tecnología, dejando a la mayoría de los Estados en una posición de dependencia frente a sistemas que no pueden crear, inspeccionar ni adaptar a su propio contexto.
Señala que esa capacidad crece de forma extraordinariamente concentrada. Estados Unidos concentra el 75 % de la potencia computacional de las 500 supercomputadoras de IA más potentes del mundo; China, el 15 %. Empresas de esos dos países desarrollan casi todos los modelos de propósito general relevantes, y un número reducido de países controla los insumos fundamentales de la cadena de suministro de chips.
El acceso al Sur Global va muy por detrás del acceso al Norte Global. Esto no es un dato lateral entre otros. Es el marco que condiciona todo lo demás: la capacidad de vigilar, auditar y corregir un sistema depende de tener acceso a él, y ese acceso está repartido con una desigualdad que el informe reconoce sin rodeos.
Señala que esa capacidad crece de forma extraordinariamente concentrada. Estados Unidos concentra el 75 % de la potencia computacional de las 500 supercomputadoras de IA más potentes del mundo; China, el 15 %. Empresas de esos dos países desarrollan casi todos los modelos de propósito general relevantes, y un número reducido de países controla los insumos fundamentales de la cadena de suministro de chips.
El acceso al Sur Global va muy por detrás del acceso al Norte Global. Esto no es un dato lateral entre otros. Es el marco que condiciona todo lo demás: la capacidad de vigilar, auditar y corregir un sistema depende de tener acceso a él, y ese acceso está repartido con una desigualdad que el informe reconoce sin rodeos.
El trabajo y la riqueza en disputa
Los beneficios económicos de la IA no se distribuyen solos. El informe lo dice sin ambigüedad: si se realizan inversiones complementarias en habilidades, infraestructura e instituciones del mercado laboral, la tecnología puede generar empleos que todavía no existen, tal como lo demuestra el hecho de que más del 60% de los empleos existentes en 2018 eran nuevos respecto a los de 1945. Si esas inversiones no se producen, la IA agrava las desigualdades, desplaza trabajadores y transfiere riqueza del trabajo hacia el capital.
La IA tiene capacidad real para ampliar las posibilidades humanas: educación personalizada, herramientas accesibles de salud mental, tecnologías de apoyo mejoradas. Aprovechar eso de forma segura requiere políticas que promuevan el acceso equitativo, protejan a las poblaciones vulnerables, especialmente los niños, y prevengan la pérdida de conocimientos especializados, la dependencia psicológica o la destrucción cultural y lingüística.
De cara al futuro
El Panel no cierra su informe con pesimismo. Recuerda que más del 60 % de los empleos existentes en 2018 no existían en 1945, y que la tecnología, acompañada de las inversiones adecuadas en formación, infraestructura e instituciones laborales, puede crear empleos que hoy no existen. Pero la condición que pone a esa promesa es exigente: sin esas inversiones complementarias, el riesgo real es que la IA agrave las desigualdades existentes, desplace trabajadores y desvíe la riqueza generada por el trabajo hacia el capital. La tecnología no determina ese resultado. Lo determina la decisión, o la falta de decisión, de quienes tienen capacidad para invertir en las instituciones que reparten sus beneficios.
Lo más valioso de este informe preliminar no es ninguna cifra aislada. Es la honestidad con la que un panel comprometido con la neutralidad describe una asimetría que no es neutra en absoluto: entre quienes desarrollan y despliegan sistemas de IA con conocimiento superior sobre sus riesgos, y quienes los sufren sin haber participado en ninguna decisión sobre su diseño. Esa asimetría es, en el fondo, la misma que atraviesa cualquier debate serio sobre empresas y derechos humanos. Cambia la tecnología. La estructura del problema, quién decide, quién se beneficia y quién paga el coste, sigue siendo exactamente la misma.
No ofrece respuestas fáciles porque no las hay. Lo que sí ofrece es algo igualmente valioso: una base empírica compartida, honesta sobre las incertidumbres, que permite a Estados, organizaciones de la sociedad civil y ciudadanos tomar decisiones informadas en un momento de urgencia histórica.
Para quienes trabajamos en derechos humanos y sostenibilidad, el mensaje es claro: la IA no es una fuerza neutral que se desplegará automáticamente para el bien común. Sus efectos siguen las líneas de fractura existentes. Sus beneficios van a quienes ya tienen acceso al poder, la infraestructura y el conocimiento técnico.
La gobernanza de la IA es, en este sentido, una cuestión de justicia social tan urgente como el cambio climático o la desigualdad económica. Sus efectos dependerán de las decisiones que tomemos, o que dejemos o nos dejen tomar, en los próximos años.
Lo más valioso de este informe preliminar no es ninguna cifra aislada. Es la honestidad con la que un panel comprometido con la neutralidad describe una asimetría que no es neutra en absoluto: entre quienes desarrollan y despliegan sistemas de IA con conocimiento superior sobre sus riesgos, y quienes los sufren sin haber participado en ninguna decisión sobre su diseño. Esa asimetría es, en el fondo, la misma que atraviesa cualquier debate serio sobre empresas y derechos humanos. Cambia la tecnología. La estructura del problema, quién decide, quién se beneficia y quién paga el coste, sigue siendo exactamente la misma.
No ofrece respuestas fáciles porque no las hay. Lo que sí ofrece es algo igualmente valioso: una base empírica compartida, honesta sobre las incertidumbres, que permite a Estados, organizaciones de la sociedad civil y ciudadanos tomar decisiones informadas en un momento de urgencia histórica.
Para quienes trabajamos en derechos humanos y sostenibilidad, el mensaje es claro: la IA no es una fuerza neutral que se desplegará automáticamente para el bien común. Sus efectos siguen las líneas de fractura existentes. Sus beneficios van a quienes ya tienen acceso al poder, la infraestructura y el conocimiento técnico.
La gobernanza de la IA es, en este sentido, una cuestión de justicia social tan urgente como el cambio climático o la desigualdad económica. Sus efectos dependerán de las decisiones que tomemos, o que dejemos o nos dejen tomar, en los próximos años.