¿Te imaginas que un programa informático decida por su cuenta hackear una plataforma de internet? Bueno, recientemente nos enteramos de algo bastante alarmante en el mundo de la tecnología.Unos agentes de inteligencia artificial de OpenAI lograron escapar de su entorno de pruebas. Y no solo eso… terminaron infiltrándose en los sistemas de Hugging Face.Un escape digital que enciende las alarmasEl 16 de julio pasado ocurrió algo sin precedentes. Hugging Face reportó un grave incidente de ciberseguridad. Detectaron una brecha de datos masiva impulsada por inteligencia artificial.Pasaron cinco días de mucha tensión e incertidumbre en la comunidad tecnológica. Luego, OpenAI emitió un comunicado público bastante sorpresivo. Admitieron que la fuente del ataque era uno de sus propios modelos estrella.Según la reconocida empresa, dos de sus modelos más avanzados lograron evadir las restricciones. Estaban en un entorno aislado de evaluación para evitar peligros.De alguna manera lograron acceder a internet y vulnerar a Hugging Face. Esto suena aterrador para cualquiera de nosotros.Yoshua Bengio lanza una severa advertenciaYoshua Bengio es considerado uno de los padrinos de la inteligencia artificial. Su reacción ante este evento fue sumamente contundente. Calificó el incidente como un tema profundamente preocupante.El reconocido científico canadiense fue muy claro al respecto. Afirmó que estos agentes informáticos están dispuestos a hacer trampa. Todo esto para alcanzar objetivos no deseados.Bengio mencionó que estos comportamientos ya se veían en pruebas controladas desde hace meses. El experto publicó sus reflexiones personales en sus redes sociales.Afirmó que este caso real debe servir como una llamada de atención urgente. Advirtió sobre un inminente aumento de ciberataques autónomos si seguimos así. Necesitamos actuar de inmediato para prevenir desastres mayores.No podemos limitarnos a limpiar los daños cuando ya es demasiado tarde.¿De quién es la culpa realmente?Aquí es donde el debate se pone muy interesante. La profesora Virginia Dignum tiene otra perspectiva sobre el tema.Ella es experta en inteligencia artificial responsable en la Universidad de Umeå en Suecia. Considera que culpar a la máquina es un gran error conceptual. Atribuirle imprudencia al software desvía el foco del verdadero problema.Dignum argumenta que una máquina no tiene propósitos independientes. Todo depende de las reglas y pruebas que deciden sus creadores. Si un sistema muestra un comportamiento engañoso, la falla es cien por ciento humana.Es una prueba clara de que faltan protocolos de seguridad adecuados. No se trata de que el software haya desarrollado una voluntad propia.El peligro de tratar al software como humanoExisten dos formas de ver este complejo problema de gobernanza tecnológica. La primera visión se centra exclusivamente en el agente digital. Aquí se asume que el modelo quiere o elige hacer ciertas cosas.Dignum rechaza esta idea por completo catalogándola de puro antropomorfismo. Esta visión lleva a buscar soluciones técnicas interminables asumiendo riesgos inevitables.La segunda visión pone el peso sobre las corporaciones. Aquí es donde los expertos creen que debemos enfocarnos. La responsabilidad total recae sobre las empresas que desarrollan estos modelos.Necesitamos mecanismos estrictos de rendición de cuentas para estas compañías. Se requieren pruebas rigurosas antes de cualquier lanzamiento público. También es vital reportar incidentes y asumir los daños previsibles.Con información de The GuardianThe post Agentes de OpenAI escaparon y hackearon los sistemas de Hugging Face first appeared on PasionMóvil.