Me empieza a llamar mucho la atención cómo el activismo interno en las compañías de inteligencia artificial, con cada vez más empleados manifestando públicamente sus preocupaciones o incluso dimitiendo de sus cargos y compartiendo por qué lo hicieron, se está convirtiendo en un auténtico problema de control democrático cuando las compañías intentan comprar el silencio de aquellos que conocen sus riesgos por dentro, y que pueden demostrar cierta autoridad al comentarlo.Los trabajadores de DeepMind reclaman que se eliminen las restricciones que pesan sobre ellos y que incluyen las llamadas non-disparagement clauses (que restringen las críticas o comentarios perjudiciales para la reputación de la compañía) establecidas de manera vitalicia. Google asegura que no las aplica a antiguos empleados, pero los trabajadores, con mucha lógica, reclaman su eliminación contractual. La cuestión resulta bastante peculiar, dado que, al menos en principio, una compañía que pide confianza afirmando que va a desarrollar su inteligencia artificial de manera responsable y segura, debería facilitar que sus propios investigadores, los que realmente conocen esa tecnología desde dentro, pudieran cuestionarla y advertir al público cuando detectan posibles problemas.Ya en el año 2018, hablando del activismo interno en las compañías y del proyecto Dragonfly de Google, explicaba la importancia de que los empleados de las compañías pudieran tener visibilidad sobre el destino de su trabajo, y pudieran objetar, por ejemplo, a que ese trabajo fuese utilizado para cuestiones a las que personalmente objetarían, como posibles colaboraciones con regímenes no democráticos, usos militares de la tecnología, etc. El principio que me guiaba en aquel momento era que la responsabilidad corporativa de las compañías debería empezar dentro de las mismas, ofreciendo un tratamiento razonable a sus trabajadores. Porque ¿qué valor tienen unos principios éticos si la posibilidad de cuestionar su cumplimiento se convierte automáticamente en una amenaza para tu carrera? En 2022, al hilo de la posibilidad de consolidar el trabajo distribuido, hablé de los desarrolladores como avanzadilla de los derechos laborales: dado que el mercado de trabajo del desarrollo de software estaba entonces muy tensionado y, básicamente, un buen desarrollador podía encontrar trabajo fácilmente, muchos se dedicaban a exigir el trabajo distribuido como condición inexcusable en sus contratos, con la amenaza de irse a otra compañía, del mismo modo que algunos investigadores de inteligencia artificial utilizan hoy su capacidad de cambiar de empresa para rechazar decisiones con las que discrepan éticamente. El problema de estas situaciones, claro, es que cambiar de empleo resuelve el conflicto individual, pero no informa a la sociedad del origen del problema, que queda confinado dentro de la compañía. En ese sentido, es importante entender la diferencia entre el activismo interno, que puede generar discusiones internas pero por lo general no trasciende, las dimisiones silenciosas (me voy porque no me gusta lo que veo, pero no hablo de ello), o las denuncias públicas (me voy a una red social, a mi página o a un medio de comunicación y hago públicas mis preocupaciones y las evidencias que las sustentan) que estamos viendo recientemente por parte de trabajadores de compañías de inteligencia artificial. Las compañías poseen mecanismos económicos para desalentar la crítica: hay investigaciones que documentan acuerdos de salida de trabajadores en OpenAI que, por ejemplo, tenían cláusulas que podían, en caso de determinados comportamientos, poner en peligro participaciones accionariales ya adquiridas, y por tanto, hablar podía costarles un buen montón de dinero. Ante la escandalosa práctica, la compañía anunció que no ejercitaría esas cláusulas y liberó a sus empleados de esas restricciones, pero el hecho de que estuvieran ahí ya resulta suficientemente indicativo. En muchas ocasiones, el incentivo al silencio puede funcionar aunque las amenazas no lleguen a ejecutarse. Hay casos concretos: en Meta, las revelaciones de Frances Haugen retratadas en la película «The Social Reckoning« o las actuaciones de Meta contra Sarah Wynn-Williams, que obtuvo una orden arbitral provisional que le impedía promocionar «Careless People« (aunque el libro siguió distribuyéndose porque la editorial no estaba sujeta a su acuerdo con la compañía), son evidencias de que las compañías intentan, en muchos casos, evitar cualquier tipo de actividad que pueda convertirse en denuncia, aunque esté muy lejos de ser difamatoria y pueda ser la pura verdad de lo que ocurre en su interior. Pero la asimetría jurídica (la compañía puede pagar a los mejores abogados, mientras que al trabajador le cuesta dinero de su propio bolsillo) hace que esta práctica efectiva de censura se convierta en real. En el caso de la inteligencia artificial, poder contar con advertencias antes de que se produzca un daño potencialmente grave parece importante. La carta abierta «A Right to Warn about Advanced Artificial Intelligence« firmada por algunos investigadores y empleados de compañías que trabajan en ese ámbito, sostiene que proteger únicamente las denuncias de actividad estrictamente ilegal resulta insuficiente ante riesgos que todavía no están regulados. Como afirman los firmantes, una tecnología puede generar peligros que merecen escrutinio antes de que exista una prohibición expresa para ellos. Mi preocupación tiene que ver con la impunidad de las compañías cuando las cosas salen mal: obligar a los trabajadores que se preocupan por una situación o que consideran que deben denunciar un comportamiento de su compañía a convertirse en héroes y a sacrificarse públicamente resulta un desincentivo demasiado fuerte. La carta abierta antes citada propone medidas como vías independientes para la denuncia, posibilidad de actuar de manera razonablemente anónima y protección frente a posibles represalias, incluida la judicialización. La seguridad pública y de toda la sociedad frente a posibles problemas graves no puede estar sujeta a que aparezca una persona dispuesta a arriesgar su carrera o su patrimonio para contar lo que sabe.