Para el CEO de Cohere, los modelos de IA modernos son "el arma cibernética más potente jamás creada"

Wait 5 sec.

El CEO de Cohere, Aidan Gómez, se expresó sobre la preocupación que muchos tienen acerca de la IA. Su discurso fue impactante a tal grado de definirla como un arma tan potente que no se le compara a ninguna otra en la actualidad. Define a los modelos con una capacidad majestuosa para analizar software, detectar vulnerabilidades en el código y explotarlas. Se pronunció sobre el caso de OpenAI y Hugging Face respecto al escape del entorno aislado donde estaban los modelos de prueba de la empresa de Sam Altman. La IA misma se ha expandido en un término dicho por el propio Aidan como "la frontera de la guerra", que ha avanzado más rápido que casi cualquier cosa que se haya visto antes. No hay una propuesta real para frenar a la IA; la competencia lo impideA pesar de que otro actor relevante como Dario Amodei ha dicho que se necesita una desaceleración del desarrollo de la IA, Aidan Gómez indica que es una ilusión esperar una intervención de carácter gubernamental. La misma competencia hace que no se pueda pausar y que sea algo imposible de hacer. En lugar de frenar, no se hace un esfuerzo desde el interior para poder controlar a la IA. Él propone usar modelos avanzados a la defensiva que puedan detectar los puntos débiles en la infraestructura digital y corregirlos, eso antes de que agentes malintencionados puedan encontrarlos.  Cada vez son más las empresas que hacen uso de la inteligencia artificialLa IA debe convertirse en un escudo de defensa automatizado y esa debería ser la prioridad que todos los actores deben tener en cuenta. Son advertencias que llegan muy a tiempo; los terrenos de prueba de las tecnológicas se están quedando cortos. En una buena cantidad de casos se ha demostrado cómo los modelos escapan y provocan incidentes.Otro CEO se ha pronunciado contrariamente a las propuestas. George Kurtz, CEO de CrowdStrike, indica que el avance tecnológico tiene ritmo propio y que el resto del mundo no se va a detener en la construcción de lo que viene. La seguridad debe estar al día y garantizar que no haya ninguna puerta abierta ante el progreso veloz. Si los agentes de IA están mejorando sus condiciones, ¿por qué no orientarlos hacia mejorar la detección y vulnerabilidades de seguridad? Eso es lo que propone al final de todo. Un combate de códigos entre el bien y el mal en cuanto a IA. Solo falta que los actores se pongan de acuerdo en lograrlo.