Microsoft refuerza sus reglas de inteligencia artificial para supervisar a los agentes autónomos

La compañía actualizó su Estándar de IA Responsable e incorporó nuevos controles para evaluar los riesgos antes y después de implementar sistemas capaces de realizar tareas de forma autónoma.

Microsoft actualizó su Estándar de IA Responsable con nuevas medidas dirigidas especialmente a los llamados agentes autónomos, sistemas de inteligencia artificial capaces de utilizar herramientas, datos y servicios para completar tareas de varios pasos sin requerir una intervención humana constante.

La compañía presentó su Informe de Transparencia sobre IA Responsable 2026, en el que detalla los cambios realizados durante el último año ante el desarrollo de tecnologías con mayores capacidades de autonomía.

La actualización busca que la gestión de riesgos no se limite a la etapa de desarrollo de los modelos, sino que también continúe durante la implementación y supervisión de estas herramientas en entornos reales.

A diferencia de un chatbot tradicional, los agentes de inteligencia artificial pueden conectarse con diferentes herramientas y fuentes de información para ejecutar acciones y completar procesos.

Esta autonomía también genera nuevos riesgos relacionados con los permisos que reciben, los datos a los que pueden acceder, los sistemas que utilizan, su memoria y el nivel de control que mantienen los usuarios.

Ante este escenario, Microsoft estableció responsabilidades específicas para desarrolladores de modelos, proveedores de plataformas y organizaciones que implementan aplicaciones basadas en inteligencia artificial.

La compañía también incorporó técnicas de modelado de amenazas para sistemas agenciales, además de defensas contra ataques de inyección de instrucciones y herramientas destinadas a identificar comportamientos considerados de riesgo.

Con las modificaciones, Microsoft busca que sus controles acompañen el ciclo completo de los sistemas de IA: desde su diseño y evaluación hasta su funcionamiento en entornos reales, especialmente cuando cuentan con capacidad para actuar de manera autónoma.