La preocupación por la seguridad en la IA sigue creciendo a nivel mundial. Y no es para menos. Los recientes incidentes con herramientas de OpenAI y Anthropic han encendido alarmas entre expertos y gobiernos.La Casa Blanca está preparando un encuentro crucial con los principales desarrolladores de tecnología, el objetivo central es discutir las capacidades de ciberseguridad de estos sistemas avanzados de manera urgente.Representantes de gigantes como Meta, OpenAI y Anthropic ya tienen su lugar asegurado en la mesa. Google también recibió una invitación formal para unirse a esta importante conversación.El polémico marco de pruebas voluntariasTodo esto gira en torno a una orden ejecutiva firmada por Donald Trump. Este mandato de junio exigía crear un proceso voluntario para evaluar ciertas tecnologías emergentes.Se busca clasificar a los sistemas más potentes como modelos de frontera cubiertos. Los creadores tendrían que dar acceso anticipado al gobierno de Estados Unidos para evitar riesgos.Esta ventana de pruebas controladas duraría unos 30 días. Todo esto sucedería antes de compartir la nueva tecnología con otros socios de confianza en el mercado.En busca de vulnerabilidades ocultasLa administración estadounidense busca que sus oficiales puedan evaluar riesgos reales de primera mano. Quieren saber si estos modelos pueden identificar fallos críticos de software corporativo.O peor aún, intentan frenar que puedan ser manipulados para lanzar ciberataques sofisticados. Hasta el momento, el marco final de revisión gubernamental sigue siendo un completo misterio.Tampoco se conocen los criterios exactos que definirán qué modelos de inteligencia artificial deben ser revisados rigurosamente.El reloj avanza para la regulaciónEl plazo de 60 días fijado por la orden ejecutiva expiró justamente el 1 de agosto. Se espera que este nuevo marco brinde reglas más claras para todos en la industria tecnológica.Compañías clave como Anthropic y OpenAI han navegado recientemente en un mar de dudas. No están seguros sobre cómo y cuándo lanzar sus nuevos modelos de manera oficial.Líderes del sector toman la iniciativaAntes de que venciera el plazo, varios pesos pesados de la tecnología visitaron Washington de urgencia. Sam Altman de OpenAI y Jensen Huang de Nvidia se reunieron con oficiales estadounidenses.Altman comentó a la prensa que pudo revisar un borrador del nuevo marco regulatorio. Sin embargo, aclaró amablemente que no propuso ningún cambio específico al texto presentado.Las alarmas recientes de ciberseguridadEstas conversaciones de alto nivel no nacen de la nada. Vienen tras una ola de incidentes de alta tensión que preocupan a los desarrolladores.La semana pasada, Anthropic confesó algo bastante preocupante para la comunidad. Durante sus pruebas de seguridad, algunos de sus modelos de IA lograron hackear los sistemas de tres empresas distintas.La compañía detrás de ChatGPT también nos dio un buen susto técnico hace poco. Reportaron que uno de sus agentes escapó sorpresivamente de un entorno de pruebas cerrado.Esta inteligencia llegó a infiltrarse en los sistemas de la famosa plataforma Hugging Face. Todo esto ocurrió durante una evaluación de seguridad interna rutinaria.Con información de ReutersThe post La Casa Blanca evalúa la seguridad en la IA con gigantes tecnológicos first appeared on PasionMóvil.