Nadella propone tratar a los modelos de IA como riesgo interno y limitar su autoridad

Resumen

• Según Nadella, en su publicación en X, ya no se puede aceptar una IA tratada como un conjunto de "cajas negras anidadas" cuyos consejos y acciones simplemente se aceptan o rechazan.
• Propone modelos que puedan ser contenidos y observados, y que dejen "evidencia legible por humanos e infalsificable".
• Entre sus recomendaciones figuran la divulgación oportuna de incidentes, auditorías independientes, datos verificables y contención; según The Verge, varias de ellas coinciden con lo que han planteado otros actores de la industria.
• Su propuesta es tratar a los modelos como a un empleado con muchos permisos: la menor autoridad posible, registro de todo lo que hacen y capacidad para detenerlos, sin presuponer que sean necesariamente maliciosos.
• Nadella afirma que las garantías del proveedor del modelo no eximen a las empresas de responsabilidad por lo que la IA hace en su nombre.
• Según Xataka, la idea de base es que con software tradicional un comportamiento podía rastrearse hasta una línea de código, algo que con los modelos actuales no es posible.