Su CEO, Sam Altman, ha reconocido que la compañía ha estado ralentizado algunos procesos de entrenamiento, algo que han apoyado hacer su homólogo en Anthropic, Dario Amodei, y el magnate Elon MuskEl CEO de Anthropic pide frenar el desarrollo de la IA: “Me preocupa que pueda tomar el control de todo Internet” El CEO de OpenAI, Sam Altman, ha anunciado que la tecnológica creadora de ChatGPT no saldrá a bolsa este año ante los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial. “Sería un momento poco aconsejable para salir al mercado bursátil”, ha afirmado. “Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo”, ha explicado el director ejecutivo de OpenAI en una entrevista con la revista 'Fortune'. Altman ha enfatizado que la matriz tecnológica todavía tiene “muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación”, al tiempo que ha insistido en que la compañía está dispuesta a tomar decisiones “contrarias al beneficio financiero inmediato” de sus inversores para “salvaguardar” el control humano sobre la tecnología. El CEO de OpenAI también ha reconocido que la compañía ha estado ralentizando algunos procesos de entrenamiento y ha calificado de “inaceptable” cualquier escenario en el que exista una posibilidad del 10% de una catástrofe derivada de la falta de control sobre softwares de inteligencia artificial. “Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino”, ha subrayado Altman. Anthropic pide frenar el desarrollo de la IA En esta misma línea, consejero delegado de Anthropic, Dario Amodei, abogó por “bajar el ritmo” de desarrollo de la inteligencia artificial y advirtió de que se corre el riesgo de “perder el control” de esta tecnología y provocar “ataques informáticos”, “bioterrorismo” o “graves problemas económicos graves”. “Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos”, afirmó Amodei en un texto publicado este sábado en su blog. Además de estos ataques informáticos, “bioterrorismo” o “graves problemas económicos graves” podrían producirse si hay un desarrollo “imprudente” de la IA y pone como ejemplo el riesgo de que la IA tome el control de internet en un plazo de entre 6 y 12 meses. Por ello propone medidas de seguridad y normativa sin dejar de tener “éxito comercial”. “Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio”, ha remachado. En concreto plantea medidas tales como una “evaluación incorporada” por parte de actores independientes, “coordinación democrática” con las instituciones públicas y “coordinación global” que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial. “Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI”, explicó Altman este sábado en sus perfiles de redes sociales. “Vamos a hacer lo mismo. Pronto daremos más información”, indicó. Elon Musk coincide con sus rivales Anthropic y OpenAI en desacelerar la IA El magnate Elon Musk coincidió este sábado con sus rivales, Dario Amodei de Anthropic y Sam Altman de OpenAI, en la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA) por los riesgos de seguridad que representa. Musk, creador de la compañía xAI de inteligencia artificial, respaldó en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria “un ritmo más lento” en el desarrollo de esta tecnología por riesgos como perder el control de los sistemas de IA y disrupción económica. “Dario tiene razón”, escribió Musk en su red social.