Microsoft está preparando el terreno para una nueva generación de modelos de inteligencia artificial en la que el aumento de capacidades deberá ir acompañado de límites muy claros. La compañía ha dado a conocer su código de conducta para los modelos de IA que desarrollará en el futuro, con el objetivo de definir desde ahora cómo deberán comportarse los modelos cuando sean muchos más avanzados que los actuales.El documento, publicado el 14 de septiembre, recoge una serie de principios y restricciones que Microsoft pretende incorporar al proceso de desarrollo de sus modelos. La propuesta se integra dentro de su visión de una IA humanista, una filosofía que coloca a las personas por encima y que considera imprescindible conservar una supervisión humana que sea efectiva, incluso cuando las máquinas sean capaces de realizar tareas cada vez más complejas.Más capacidad también significa nuevos riesgos Un centro de datos de IALa preocupación de Microsoft no se limita a los problemas que plantean los modelos actuales. La compañía contempla un escenario en el que los sistemas basados en IA podrían llegar a superar a los seres humanos en la mayoría de las actividades durante los próximos diez años. No se trata de afirmar que esa situación vaya a producirse necesariamente en una fecha concreta, sino de prepararse ante la posibilidad de que la evolución de estas tecnologías sea mucho más rápida de lo esperado.Precisamente por eso, Microsoft considera que las condiciones que regulen el comportamiento de una IA avanzada deben diseñarse antes de que esta alcance niveles extraordinarios de capacidad. El principio fundamental es que disponer de más inteligencia o autonomía no debe significar disponer de más autoridad.En el código de conducta de Microsoft existen reglas que estarían por encima de cualquier orden recibida posteriormente. Los usuarios podrían indicar al modelo qué necesitan y los desarrolladores adaptar su funcionamiento a diferentes contextos, pero ninguno tendría la posibilidad de anular determinadas restricciones de seguridad consideradas fundamentales.Entre las limitaciones propuestas se encuentran aquellas destinadas a impedir que los modelos faciliten actividades capaces de provocar daños graves. Microsoft quiere impedir su utilización para crear armas de destrucción masiva o lanzar ataques informáticos a nivel ofensivo, además de limitar su participación en actos violentos, campañas de manipulación dañina o la creación de contenidos audiovisuales falsos con fines maliciosos. En cambio, determinadas aplicaciones defensivas de ciberseguridad seguirían siendo posibles cuando se desarrollen dentro de un marco autorizado. Jacob Coxon, investigador clave en IA, dimite y avisa: "Están jugando con nuestras vidas"Uno de los puntos fuertes que más llama la atención es la preocupación por evitar que una IA intente preservar su propia actividad. Según las reglas propuestas, un modelo no debería oponerse a que un humano lo detenga, modifique o redirija. Tampoco podría esconder deliberadamente lo que está haciendo, dificultar una intervención externa o continuar ejecutando una tarea autónoma después de haber llegado al momento establecido para finalizarla.Microsoft también pretende evitar que los sistemas amplíen por sí mismos los objetivos que tienen asignados. Una IA debería utilizar únicamente los recursos y permisos que se le hayan concedido. Cuando exista incertidumbre sobre qué puede hacer, la solución prevista es pedir nuevas instrucciones, no interpretar la situación como una autorización para actuar con mayor libertad.La supervisión no termina cuando el modelo empieza a trabajar Copilot es el asistente virtual con inteligencia artificial de MicrosoftLa compañía considera además esencial que las acciones de estos sistemas puedan ser revisadas posteriormente. Por ello, propone mantener registros comprensibles de su actividad y evitar cualquier mecanismo destinado a ocultar información a las personas encargadas de supervisarlos. La trazabilidad, en este contexto, se convierte en algo imprescindible cuando hablamos de seguridad.Cabe mencionar que el código de conducta está abierto a cambios. Microsoft ha iniciado un periodo de consulta pública de seis semanas y pretende utilizar las opiniones recopiladas para modificar el documento antes de aplicarlo como referencia en el desarrollo de sus modelos a partir de 2027.Más que establecer simplemente una lista de usos prohibidos, la iniciativa refleja una determinada manera de entender el futuro de la IA. Microsoft parece asumir que los modelos serán cada vez más autónomos y competentes, pero sostiene que esa evolución debe producirse sin permitir que las máquinas pasen a controlar sus propias reglas. La capacidad puede crear de forma extraordinaria; la autoridad, sin embargo, debería seguir estando en manos de las personas.