Tecnología e Innovación
OpenAI propone estándares globales para evaluar la IA de frontera
La empresa plantea criterios comunes para medir capacidades, gestionar riesgos y definir niveles de supervisión humana, sin convertirlos en licencias obligatorias para lanzar modelos.
Por Redacción
Crédito fotográfico: Ruta Política Digital / IA
OpenAI propuso avanzar hacia estándares técnicos internacionales para evaluar las capacidades y los riesgos de los sistemas de inteligencia artificial más avanzados.
La iniciativa plantea crear criterios comunes para medir capacidades, evaluar salvaguardas, clasificar incidentes y establecer niveles de supervisión humana en sistemas de IA de frontera.
Uno de los puntos centrales es definir hasta qué grado los sistemas avanzados pueden operar de manera autónoma, especialmente cuando participan en tareas de investigación, programación o desarrollo de nuevas tecnologías de inteligencia artificial.
OpenAI también aborda el concepto de mejora recursiva, en el que sistemas de IA podrían intervenir de forma creciente en el desarrollo de generaciones posteriores. La compañía señala que una mejora recursiva completamente autónoma no ocurre actualmente y sostiene que no debería perseguirse sin mecanismos suficientes de control humano.
Estándares, no licencias
La empresa distingue entre crear estándares técnicos comunes y establecer sistemas obligatorios de autorización.
Según OpenAI, estos estándares deberían servir para comparar capacidades y riesgos entre modelos, pero no funcionar como licencias internacionales ni como revisiones obligatorias antes de que un sistema pueda salir al mercado.
Cada gobierno decidiría si incorpora esas referencias técnicas a su propia regulación.
La propuesta también contempla la participación de organismos públicos y redes internacionales que ya trabajan en evaluación y seguridad de inteligencia artificial.
Por qué importa
La discusión surge mientras los modelos de IA realizan tareas cada vez más complejas y prolongadas con menor intervención humana.
Contar con criterios comunes podría facilitar la comparación entre sistemas, el reporte de incidentes y la identificación de riesgos emergentes.
Qué observar
El siguiente paso será conocer si estas propuestas se convierten en estándares técnicos concretos y qué gobiernos u organismos deciden adoptarlos.
La discusión también permitirá observar cómo se define, en la práctica, el equilibrio entre autonomía de los sistemas y supervisión humana.
Fuente: OpenAI
Contenido exclusivo de Ruta Política Digital. Reproducción no autorizada.