Mark Coeckelbergh es un filósofo belga que jamás le sacó la mirada de encima a la inteligencia artificial (IA). Y uno de los pocos que no se espantó cuando un ex investigador de Anthropic -la tecnológica creadora de la IA Claude- afirmó hace unos días que “quienes desarrollan la IA creen que podría matarnos a todos para finales de la década”.Según Coeckelbergh, es parte de una campaña de marketing: “Las empresas de IA necesitan urgentemente justificar y atraer inversiones financieras masivas. Al hablar de la IA como aquello que sólo ellos comprenden y pueden controlar, los tecnócratas posicionan a la IA como un fenómeno apocalíptico para legitimarse ante la sociedad y ser los ‘profetas’ indispensables para solucionar el futuro de la humanidad”, dice el filósofo a Clarín.Coeckelbergh es miembro del Panel Científico Internacional Independiente de las Naciones Unidas sobre Inteligencia Artificial y una de las voces más autorizadas a la hora de hablar de la ética de la IA.“Incluso cuando piden regulación, como lo hace Anthropic, se refieren a alianzas directas con los gobiernos para decidir ellos mismos los términos de dicha regulación. Esto recuerda al corporativismo fascista histórico”, subraya el catedrático de Filosofía de los Medios y la Tecnología de la Universidad de Viena.Coeckelbergh es autor de libros indispensables para entender el universo IA como La filosofía política de IA, Por qué la IA socava la democracia y qué hacer al respecto y su último ensayo, Artificial Religion: On AI, Myth, and Power (Religión artificial: Sobre IA, mito y poder).Dirige, además, el Centro de Etica Ambiental y Tecnológica en el Instituto de Filosofía de la Academia Checa de Ciencias.Está de paso por Madrid, donde participó en el Festival de las Ideas y conversó con Clarín.El logotipo de ChatGPT, un chatbot impulsado por inteligencia artificial de OpenAI. Foto Reuters-En estos días se celebra la Asamblea General de las Nacional Unidas, donde usted integra el panel de científicos independientes que asesoran a la ONU sobre inteligencia artificial. El presidente español Pedro Sánchez lleva en su discurso la necesidad de que se regule la IA. ¿Tiene alguna expectativa de que esto ocurra?-Estoy completamente a favor de la cooperación internacional y de contar con autoridades supranacionales como la ONU para abordar problemas globales. Como especialista en ética de la IA, defiendo firmemente la regulación. Actualmente no existe un marco regulatorio internacional, a pesar de que toda la población mundial se ve afectada por el desarrollo de la IA y por las decisiones políticas que se toman en Estados Unidos o en China, sin que tengamos capacidad de decisión sobre ello.-¿Qué lo preocupa?-Me preocupa profundamente cuán democrática es la IA dada la extrema concentración de poder en Silicon Valley y las grandes corporaciones tecnológicas. Sería excelente que en la ONU se respaldara una regulación mínima a nivel mundial, aunque las circunstancias geopolíticas actuales y la política interna de Estados Unidos dificultan que esté dispuesto a ceder su soberanía. En mi libro sobre democracia y en artículos académicos abordo el concepto de “tecnofascismo”, señalando que esta concentración de poder adopta formas específicas con puntos similares al fascismo histórico. No es exactamente lo mismo, pero existe una tendencia clara hacia ello.-Fascismo es un término que volvió a estar muy presente en el debate político actual por la llegada de ciertas figuras al poder, pero ¿por qué no somos conscientes de un fascismo tecnológico?-Porque tendemos a pensar erróneamente que la tecnología es políticamente neutra, que es un simple instrumento. La tecnología es intrínsecamente política porque configura las estructuras de poder de la sociedad. Las grandes empresas tecnológicas poseen un poder enorme porque desarrollan las herramientas que influyen en toda nuestra vida y en la sociedad. Las tecnologías digitales permiten la vigilancia masiva, y la IA añade una automatización profunda a todo ese proceso. Esto crea un escenario donde resulta muy fácil para quienes buscan más poder utilizar estas tecnologías a su favor. Además, el uso militar de la IA se está incrementando considerablemente. Las corporaciones tecnológicas ejercen un poder enorme y se alían con figuras que comparten un discurso antidemocrático, afirmando que la democracia es débil o insuficiente. Figuras como (el magnate tecnológico) Peter Thiel o manifiestos como el de su empresa Palantir (una tecnológica que se dedica a integrar, procesar y analizar grandes volúmenes de datos) declaran abiertamente que la democracia ha muerto y promueven un mayor autoritarismo, militarización y corporativismo, donde el Estado y las grandes empresas se alían para consolidar su poder.La inteligencia personal de Google Gemini.-Peter Thiel se acaba de instalar en Argentina, por ejemplo.-Exacto. Creo que lo ha hecho porque el actual gobierno es anti-regulaciones, ¿verdad? Es muy libertario y eso es perfecto para él.-¿Cree que estamos en tránsito hacia un totalitarismo digital?-Sí, totalmente. La noción central del totalitarismo consiste en saber absolutamente todo sobre las personas para poder manipularlas y ejercer un poder total y es lo que exactamente permite la IA. La IA, combinada con las redes sociales y todas las infraestructuras digitales, permite que las corporaciones conozcan cada detalle de la vida individual, superando las mayores aspiraciones de los servicios de inteligencia tradicionales. Además, como analizaba Hannah Arendt, el totalitarismo requiere crear un entorno informativo donde ya no sea posible distinguir entre lo que es verdad y lo que es mentira. La IA y los “deep fakes” generan exactamente ese escenario de desinformación, lo que constituye un terreno de cultivo ideal para la manipulación totalitaria.-La IA nos da acceso e inmediatez a un gran volumen de datos que no siempre son confiables, lo cual nos aleja de la verdad. ¿Cómo afecta esta abundancia de información no fidedigna a la confianza social?-Vivimos un periodo difícil donde resulta complicado saber en qué información y en qué personas confiar. Esto se suma a procesos previos de la modernidad caracterizados por el aislamiento y la pérdida de tejido social. Cuando la confianza se destruye en una sociedad desorientada, las figuras tecnocráticas, como los CEOs de las grandes empresas tecnológicas o los líderes autoritarios, ganan atractivo al prometer que ellos conocen el futuro y que basta con seguirles. La IA no es intrínsecamente mala ni malvada, ofrece aplicaciones positivas como la traducción o el apoyo en la redacción, pero el modelo bajo el que se desarrolla actualmente nos impulsa hacia dinámicas autoritarias.-¿Cómo deberíamos evaluar los errores de la IA? ¿Son fallas del sistema o sesgos intencionados?-No son fallos accidentales sino una propiedad estructural del propio diseño de los modelos de lenguaje de gran tamaño (LLM). Estos sistemas están diseñados para generar textos convincentes y maximizar la interacción, lo que llamamos “engagement”. No para buscar la verdad fáctica. Por esta razón, el sistema “alucina” e inventa datos o citas académicas inexistentes. No es algo que se pueda corregir fácilmente mediante simples reglas de programación. Esto obliga a periodistas, científicos y filósofos a verificar minuciosamente todo el contenido. Se da la paradoja de que, aunque adoptamos la automatización por la tendencia humana a la comodidad y a evitar esfuerzos aburridos, como revisar referencias, el uso responsable exige un trabajo adicional de verificación humana.-¿Cuál es el futuro de IA?-Es una pregunta difícil. No tiene sentido hacer predicciones. No creo en absoluto que haya que prohibirla pero sí sostengo que tenemos problemas concretos y no me refiero a lo del fin del mundo sino, por ejemplo a su uso militar. El despliegue de IA en conflictos armados genera errores fatales donde posteriormente nadie asume la responsabilidad ética ni legal. Por otro lado, habrá pérdida de algunos puestos de trabajo y tendremos que repensar qué hacer. El futuro de la IA es, fundamentalmente, una cuestión política sobre cómo se distribuye el poder en la sociedad. Confío en que, a medida que la ciudadanía tome conciencia de estos riesgos, se consolide un movimiento democrático de contrapeso frente a las tendencias autoritarias y totalitarias.Mirá tambiénTrump volvió a defender el avance sin controles de la IA y anunció desde que ahora Estados Unidos la llamará "superinteligencia"Mirá tambiénCumbre Xi-Trump: Estados Unidos propone a China un sistema de alerta para incidentes de lARecibí en tu mail todas las noticias, historias y análisis de los periodistas de ClarínQUIERO RECIBIRLOTags relacionadosInteligencia ArtificialTecnologíaEstados UnidosChina