Las declaraciones de Sam Altman rara vez pasan desapercibidas. De hecho, en más de una ocasión no solo ha hablado sobre la potencia de cómputo o sobre el rendimiento de sus modelos de IA, sino también sobre la huella que va a dejar dicha tecnología en nuestra civilización. Pues bien, recientemente ha lanzado una advertencia sobre los peligros que acechan si se distancia de los intereses de la humanidad.Durante una entrevista en el podcast de David Senra, Sam Altman desgranó las incertidumbres que marcan su visión del futuro. Su primera gran inquietud apunta a la posibilidad tangible de que los modelos evolucionen hacia un nivel de autonomía y sofisticación que desborde por completo los mecanismos humanos de supervisión. El dilema no está únicamente en la aparición de fallos imprevistos, sino en la gestación de sistemas sintéticos tan formidables y complejos que cualquier tentativa de intervención, corrección o contención por parte de los desarrolladores se complica debido a su velocidad y dinamismo a nivel operativo.La concentración del poder tecnológico como una amenaza No obstante, la mirada del máximo responsable de OpenAI no se limita a ese escenario; existe una amenaza sociopolítica de igual magnitud vinculada a la distribución del poder. Sam Altman advierte sobre el peligro de que las riendas de esta tecnología queden concentradas en un círculo hermético de empresas, un puñado de directivos o unos pocos modelos predominantes. Según él, arrebatarle a la ciudadanía la capacidad de moldear su propio porvenir para transferir esa soberanía a una oligarquía tecnológica puede resultar "muy antihumano", en tanto reduce la agencia de las personas y las relega a meras espectadoras del destino digital.Desde su óptica, el desafío reside en consolidar una dinámica donde la innovación empodere al ciudadano de a pie y democratice el debate sobre los límites aceptables. Además, insiste en que "sociedad y modelos van a evolucionar juntos", rechazando de plano que grandes empresas tecnológicas deban monopolizar el arbitraje ético del sector. Aquí hay una diferencia apreciable con la postura de otros líderes del sector, como Dario Amodei al frente de Anthropic, quien abandera enfoques regulatorios considerablemente más estrictos; para Sam Altman, sin embargo, centralizar la custodia de la inteligencia artificial en los propios desarrolladores constituiría algo tan negativo como el descontrol absoluto. ¿Qué es la AGI y por qué algunos expertos creen que podría convertirse en el mayor desafío de la humanidad tras GPT-6 Astra?A esto hay que sumar lo dicho por Geoffrey Hinton, padre de la inteligencia artificial, quien dijo que hay entre un 10 % y un 20 % de posibilidades de que la IA pueda provocar la extinción de la humanidad. La verdad es que son muchas las voces que, para bien o para mal, están dando su opinión últimamente. Es más, hace unos días que un investigador clave en inteligencia artificial dimitió y dijo que están jugando con nuestras vidas, en relación a que la seguridad no es algo que sea prioritario.