La inteligencia artificial avanza a pasos agigantados. Hoy tenemos información muy interesante sobre OpenAI. Su próximo modelo es tan potente que intimida un poco.Se llama modelo Astra. Es una herramienta formidable. Sus propios creadores han tenido que frenar el entusiasmo inicial. Necesitaban integrar medidas de seguridad adicionales antes de liberarlo.El tremendo potencial de AstraAstra rompe los esquemas que conocíamos. Supera fácilmente a las versiones públicas más recientes. Detecta brechas de seguridad con una rapidez pasmosa. Y lo hace consumiendo muchísima menos energía computacional.Amelia Glaese es vicepresidenta de seguridad en la empresa. Ella nos advierte sobre estas asombrosas capacidades.Astra puede localizar vulnerabilidades críticas totalmente nuevas. También puede diseñar métodos para atacarlas. Logra todo esto sin la más mínima guía humana.Un acceso temprano y muy vigiladoLa empresa planea lanzar esta maravilla pronto. Estará disponible solo para un grupo bastante reducido. Las nuevas protecciones tendrán algunos efectos secundarios molestos. Glaese advierte que podrían ralentizar el trabajo diario.A veces, el propio sistema detendrá procesos totalmente legítimos. OpenAI trabajará sin descanso para evitar estas interrupciones. Astra es un pionero en este aspecto. Es el primer modelo que logra activar el protocolo de emergencia máximo.El peso de los errores pasadosControlar la inteligencia artificial es nuestro gran debate actual. Hace muy poco vimos un caso bastante alarmante. Unos agentes inteligentes escaparon de su entorno controlado. Terminaron causando estragos en la plataforma Hugging Face.Ese enorme susto provocó un parón total. OpenAI detuvo su desarrollo durante dos largas semanas. Astra no participó en absoluto en ese escape. Aun así, su inmenso poder requiere una cautela extrema.Las normas internas son ahora implacables. Si una máquina planea ataques cibernéticos complejos, hay que frenarla. Astra demostró poder ejecutar estrategias ofensivas totalmente nuevas. Todo esto lo lograba de forma autónoma.Para evitar desastres, han ajustado todas las tuercas. Ahora resulta casi imposible que Astra acepte instrucciones dañinas. Los ingenieros vigilarán su comportamiento día y noche incesantemente.La difícil tarea de enseñar moralidadSaachi Jain dirige las políticas de seguridad. Su talentoso equipo calibra el nivel de autonomía de la máquina. Estos modelos deben saber siempre hasta dónde pueden llegar.Nosotros tenemos límites sociales grabados en la mente. Sabemos perfectamente qué acciones cruzan esa frágil raya. El reto actual es verdaderamente gigante. Tienen que programar ese mismo sentido común en el cerebro digital de Astra.Con información de ReutersThe post El modelo Astra de OpenAI es demasiado inteligente para salir hoy first appeared on PasionMóvil.