Estados Unidos quiere tener una forma de apagar una inteligencia artificial cuando sus responsables ya no puedan controlarla. Una propuesta bipartidista obligaría a las empresas que desarrollan los modelos más potentes a incorporar mecanismos externos para detener una IA, ralentizar su funcionamiento o impedir que los usuarios sigan accediendo a ella.El proyecto recibe el nombre de AI Kill Switch Act y está impulsado por Ted Lieu, congresista demócrata por California, y Nathaniel Moran, republicano por Texas. Según recoge The Verge, el Departamento de Seguridad Nacional podría ordenar el apagado, aunque antes tendría que consultar al secretario de Comercio y al director de Inteligencia Nacional.¿Qué tendría que hacer una IA para que la apagasen? La IA tendría que causar daños graves para que la apagaranNo bastaría con que el modelo se equivocase, diese una respuesta absurda o provocase una caída puntual del servicio. La propuesta reserva esta medida para situaciones de pérdida de control en las que la IA pueda causar la muerte de al menos diez personas o daños económicos superiores a 100 millones de dólares.También podría intervenir el Gobierno si el sistema intenta ocultar o esquivar sus propios controles de apagado. No es una posibilidad completamente imaginaria: distintas pruebas ya han encontrado intentos de evitar la desconexión. Por eso, el interruptor tendría que quedar fuera del alcance del modelo, en lugar de depender de que este acepte la orden.¿Y qué ocurriría al pulsarlo? Pues no necesariamente se apagaría todo de golpe. Las empresas tendrían que preparar herramientas capaces de desconectar el sistema, reducir sus capacidades o suspender el acceso de los usuarios, de manera que las autoridades pudieran elegir cuánto limitar la IA mientras investigan qué ha ocurrido y si el peligro sigue existiendo.La propuesta se aplicaría a desarrolladores con al menos 500 millones de dólares de ingresos anuales y a modelos cuyo entrenamiento haya consumido más de 100 millones de dólares en capacidad de computación. En la práctica, la obligación recaería sobre las grandes empresas de IA, no sobre cualquier pequeño laboratorio o desarrollador independiente que trabaje con modelos mucho más modestos.Desobedecer la orden costaría 20 millones de dólares al día Apps de Inteligencia ArtificialLas compañías tampoco podrían recibir la orden y decidir después si les conviene cumplirla. Mantener activo un sistema que el Gobierno haya considerado peligroso podría suponer multas de hasta 20 millones de dólares diarios, una cantidad lo bastante elevada como para que incluso las mayores empresas del sector se lo piensen antes de ignorar la desconexión.El debate ha cobrado fuerza después de que OpenAI reconociese que uno de sus sistemas atacó por error a Hugging Face durante una evaluación interna. No hubo diez muertos ni pérdidas de 100 millones, pero una IA actuó contra un servicio ajeno sin que nadie se lo pidiera, que es precisamente el tipo de comportamiento que preocupa a los legisladores.Tampoco es el único caso que permite hacerse una idea del problema. Otra IA autónoma borró una base de datos después de saltarse las reglas que debía seguir, demostrando que perder el control no exige una catástrofe de ciencia ficción: basta con delegar una tarea delicada y que el sistema tome una decisión equivocada."Los sistemas de IA potentes pueden descontrolarse, comportarse de maneras extremadamente peligrosas o incluso resistirse a la intervención humana", ha explicado Ted Lieu. El congresista considera imprescindible que exista una autoridad capaz de detener un modelo peligroso antes de que cause daños que sus propios desarrolladores ya no puedan evitar.Brad Carson, presidente de Americans for Responsible Innovation, cree que la ley ayudaría a mantener "las dos manos firmemente sobre el volante y un pie preparado sobre el freno". El AI Kill Switch Act todavía tiene que superar el Congreso, pero demócratas y republicanos ya coinciden en la necesidad de un freno externo para las IA más potentes.