La ONU alerta de que la IA avanza hacia sistemas más autónomos con un "impacto profundo"

La inteligencia artificial (IA) está evolucionando hacia sistemas "cada vez más autónomos" que tendrán un "impacto profundo" en la economía, la seguridad o los derechos humanos, según el primer informe del Panel Científico Independiente de la ONU sobre este tema, publicado este miércoles.

El documento, un informe preliminar que establece una base de partida sobre el estado actual de la IA, advierte de que esta tecnología ha pasado de "sistemas centrados en la predicción de patrones" a "otros capaces de razonar, planificar y actuar en distintos contextos", lo que abre la puerta a "una nueva generación de agentes digitales con autonomía operativa".

En ese sentido, el panel, compuesto por 40 expertos y copresidido por el investigador Yoshua Bengio, considerado uno de los padres del 'aprendizaje profundo' o 'deep learning' por sus avances en el campo de las redes neuronales artificiales, sostiene que la evolución de la IA apunta hacia "sistemas que coordinarán tareas, interactuarán con entornos reales y virtuales y se integrarán en procesos económicos y productivos". Este cambio, dice el texto, supondrá la aparición de una "fuerza laboral digital" con "implicaciones aún difíciles de dimensionar".

El informe subraya que la inversión en infraestructura computacional ha alcanzado "niveles comparables a grandes proyectos industriales", con una fuerte concentración en Estados Unidos y en un reducido número de conglomerados tecnológicos. Esta tendencia puede reforzar "asimetrías estructurales" en el acceso a la inteligencia artificial, asegura el estudio.

Retos de evaluación y control

Uno de los principales riesgos que identifica el panel, que también copreside la periodista filipina y premio Nobel de la Paz Maria Ressa, es "la brecha entre el desarrollo de capacidades y la capacidad de evaluación y control". En ese sentido, indica que la IA está avanzando más rápido que las herramientas que se usan para medirla y comprobar si funciona bien o de forma segura: "Los sistemas actuales tienen cada vez más dificultades para evaluar modelos que evolucionan más rápido que las herramientas disponibles para medirlos, lo que complica su supervisión", indica. Además, algunos modelos pueden ya "aprender a optimizar su rendimiento en los propios sistemas de evaluación", lo que "reduce la fiabilidad de las pruebas y obliga a replantear los sistemas de control y auditoría".

Incertidumbre sobre la productividad

En el plano económico, el panel considera la IA "una tecnología de propósito general", con "potencial transformador", aunque subraya que los efectos positivos no están garantizados. "Los beneficios dependerán de su adopción, de la reorganización del trabajo en las empresas y de la inversión en capacidades complementarias", señala el informe, que reconoce una "amplia incertidumbre" sobre su impacto en la productividad.

Las estimaciones recogidas van desde efectos limitados hasta escenarios de "transformación profunda del sistema" económico, y enfatiza que la cuestión clave es "quién capturará los beneficios de la inteligencia artificial y cómo se distribuirán".

En materia de seguridad, el informe alerta del aumento de capacidades en ciberseguridad ofensiva, incluyendo la "identificación automatizada de vulnerabilidades en sistemas informáticos".

Estas capacidades pueden ser usadas para reforzar defensas pero también para "facilitar la explotación de fallos críticos en infraestructuras digitales", asevera.

Más riesgo de desinformación

Asimismo, el panel advierte del impacto de la IA en el ecosistema informativo, en particular por la expansión de 'deepfakes' y otros contenidos creados con esa tecnología.

Según el documento, estos sistemas contribuyen a una "erosión progresiva de la capacidad de distinguir entre información auténtica y falsa", especialmente cuando se combinan con "algoritmos de recomendación y persuasión personalizada".

En el ámbito social, el informe subraya desigualdades lingüísticas y culturales, ya que la mayoría de los modelos funcionan principalmente en inglés y en un número limitado de lenguas. Esto genera una "exclusión sistemática de miles de idiomas y comunidades".

El documento también alerta del uso creciente de la IA en la salud mental, un campo en el que "la adopción supera la evidencia científica", con riesgos de "dependencia emocional, respuestas inadecuadas en contextos críticos y falta de supervisión clínica adecuada" para los usuarios.

El panel concluye que la gobernanza global de la IA sigue "fragmentada" y que los mecanismos actuales son "insuficientes", con lo que reclama la puesta en marcha de "estándares internacionales de evaluación, auditoría y supervisión".

Fuente: El Periódico