Se publica la primera actualización clave del Informe internacional sobre la seguridad de la IA
El Informe Internacional sobre la Seguridad de la IA es la primera revisión exhaustiva del mundo de los últimos avances científicos sobre las capacidades y los riesgos de los sistemas de IA de propósito general. Redactado por más de 100 expertos independientes y dirigido por el ganador del Premio Turing, Yoshua Bengio, representa la mayor colaboración internacional en investigación sobre seguridad de la IA hasta la fecha.
El Informe ofrece a los responsables de la toma de decisiones una visión global compartida de los riesgos e impactos de la IA, sirviendo como referencia autorizada para gobiernos y organizaciones que desarrollan políticas de IA en todo el mundo. Ya está influyendo en los debates y fundamentando decisiones basadas en la evidencia en las comunidades de investigación y políticas.
Primera actualización clave: capacidades e implicaciones de riesgo
Esta Actualización Clave abarca los principales avances en las capacidades de IA desde la publicación del último Informe en enero de 2025 y algunas implicaciones para los riesgos principales.
Las nuevas técnicas de entrenamiento que permiten a los sistemas de IA utilizar mayor potencia de cálculo les han ayudado a resolver problemas más complejos, especialmente en matemáticas, programación y otras disciplinas científicas. Estas mejoras en las capacidades también tienen implicaciones para múltiples riesgos, incluidos los riesgos de armas biológicas y ciberataques, y plantean nuevos desafíos para la monitorización y la controlabilidad.
Sobre el informe
- Este es el primer Informe Internacional sobre la Seguridad de la IA. Tras una publicación provisional en mayo de 2024, un grupo diverso de 96 expertos en Inteligencia Artificial (IA) contribuyó a este primer informe completo, incluyendo un Panel Asesor de Expertos internacional designado por 30 países, la Organización para la Cooperación y el Desarrollo Económicos (OCDE), la Unión Europea (UE) y las Naciones Unidas (ONU). El informe busca proporcionar información científica que respalde la formulación de políticas informadas. No recomienda políticas específicas.
- El informe es obra de expertos independientes. Liderados por el Presidente, los expertos independientes que lo redactaron colectivamente tuvieron plena discreción sobre su contenido.
- Si bien este informe se centra en los riesgos y la seguridad de la IA, esta también ofrece numerosos beneficios potenciales para las personas, las empresas y la sociedad. Existen numerosos tipos de IA, cada uno con diferentes beneficios y riesgos. En la mayoría de las aplicaciones, la IA ayuda a las personas y a las organizaciones a ser más eficaces. Sin embargo, las personas de todo el mundo solo podrán disfrutar plenamente de sus numerosos beneficios potenciales de forma segura si sus riesgos se gestionan adecuadamente. Este informe se centra en identificar estos riesgos y evaluar métodos para mitigarlos. No pretende evaluar exhaustivamente todos los posibles impactos sociales de la IA, incluidos sus numerosos beneficios potenciales.
- El informe se centra en la IA de propósito general. Se centra en un tipo de IA que ha avanzado con especial rapidez en los últimos años y cuyos riesgos asociados se han estudiado y comprendido menos: la IA de propósito general, o IA que puede realizar una amplia variedad de tareas. El análisis de este informe se centra en los sistemas de IA de propósito general más avanzados en el momento de su redacción, así como en sistemas futuros que podrían ser aún más capaces.
- El informe resume la evidencia científica en torno a tres preguntas fundamentales: ¿Qué puede hacer la IA de propósito general? ¿Cuáles son los riesgos asociados a la IA de propósito general? ¿Y qué técnicas de mitigación existen para combatir estos riesgos?
- Hay mucho en juego. Nosotros, los expertos que contribuimos a este informe, seguimos discrepando en varias cuestiones, tanto menores como mayores, sobre las capacidades, los riesgos y la mitigación de riesgos de la IA de propósito general. Sin embargo, consideramos que este informe es esencial para mejorar nuestra comprensión colectiva de esta tecnología y sus riesgos potenciales. Esperamos que el informe ayude a la comunidad internacional a avanzar hacia un mayor consenso sobre la IA de propósito general y a mitigar sus riesgos de forma más eficaz, para que las personas puedan disfrutar de forma segura de sus numerosos beneficios potenciales. Hay mucho en juego. Esperamos continuar este esfuerzo.