Una vaca puede ver al ganadero que la vende, pero no entiende qué significa que alguien ingrese dinero por ella en una cuenta bancaria. Yuval Noah Harari ha utilizado esta comparación para explicar el futuro que podría esperar a los seres humanos con la inteligencia artificial: vivir bajo unas reglas que ya no seríamos capaces de comprender.El historiador y filósofo israelí ha concedido una entrevista a la televisión pública checa, recogida por Y Net Global, en la que advierte de que la IA podría acabar haciéndose con el control de los sistemas financieros y burocráticos. Y no está hablando de robots asesinos ni de máquinas que decidan exterminarnos, sino de algo bastante menos evidente.La IA podría convertirnos en espectadores de nuestra propia economía Harari utiliza el mercado de bonos para explicar su argumento. Las operaciones de compraventa de deuda pueden tener consecuencias sobre la economía y, por extensión, sobre nuestras vidas, aunque no participemos directamente en ellas. Una vaca tampoco puede entender el mercado financiero que determina su destino, pero eso no impide que las decisiones tomadas en él le afecten.El historiador cree que las inteligencias artificiales podrían desarrollar sistemas financieros demasiado complejos para el entendimiento humano, incluso para quienes trabajan con ellos. No sería necesario que una máquina decidiese rebelarse contra sus creadores. Bastaría con que empezase a tomar decisiones económicas que sus propios responsables tuviesen dificultades para explicar o supervisar.Y no es la primera vez que Harari habla de esta posibilidad. Ya había advertido sobre la capacidad de crear instrumentos financieros por parte de agentes de IA autónomos, sin necesidad de intervención humana en cada operación. El problema que plantea ahora es qué sucedería si dejásemos de entender las decisiones de esos sistemas, a pesar de depender de ellas.Para las máquinas, la burocracia es su entorno natural Hay una cuestión que Harari considera especialmente relevante: las inteligencias artificiales tienen ventaja a la hora de gestionar información. Para explicarlo utiliza el ejemplo de un empleado bancario, que sería incapaz de recordar todas las transacciones realizadas por su entidad. Una IA, en cambio, podría almacenar y consultar todos esos registros sin demasiadas dificultades.“Nosotros nacimos en el bosque, no en la oficina”, afirma el historiador, que considera que los seres humanos no estamos especialmente preparados para gestionar burocracias complejas. Para las máquinas, sin embargo, los procedimientos administrativos son mucho más fáciles de manejar. Harari llega a definirlas como nativas de la burocracia, frente a unos humanos que hemos tenido que aprender a convivir con ella.A esto se suma que la inteligencia artificial ya no tiene por qué limitarse a seguir instrucciones concretas. Harari habló precisamente de la diferencia entre herramienta y agente autónomo durante su intervención en Davos. Mientras que una herramienta tradicional necesita que alguien decida cómo utilizarla, un agente de IA puede actuar y tomar ciertas decisiones por su cuenta.Ahora bien, que los bancos utilicen algoritmos no significa que hayan perdido el control sobre ellos. La inteligencia artificial ya se emplea para analizar riesgos y detectar operaciones sospechosas, pero de ahí a que pueda gestionar por sí sola un sistema financiero incomprensible para sus responsables hay bastante distancia. Harari está planteando una hipótesis sobre el futuro, no describiendo una situación que ya se haya producido.El historiador sitúa ese posible escenario dentro de diez o veinte años, cuando cree que podríamos depender de un sistema financiero que ninguna persona entendería completamente. Y vuelve entonces a la comparación con los animales de granja, que desconocen las operaciones económicas de sus propietarios aunque estas determinen sus vidas. “Somos las vacas del futuro”, concluye Harari.