A Inteligência Artificial está a ser adotada nas empresas a uma velocidade superior à capacidade de controlo, governação e conformidade. Elsa Veloso, especialista em proteção de dados, privacidade e governação, com experiência como Data Protection Officer (DPO) em várias organizações, acompanha de perto este fenómeno e os riscos que dele resultam.Estamos a ensinar as máquinas a decidir cada vez mais por nós. Quem decide, afinal, os limites daquilo que uma máquina pode decidir?Numa democracia, esses limites decidem-se politicamente, e não tecnicamente e, sobretudo, não taticamente. A tentação contemporânea é tratar a fronteira da decisão automatizada como uma questão de engenharia e competitividade, algo que o mercado e os laboratórios vão resolvendo à medida do que é tecnicamente possível e se torna comercialmente e concorrencialmente viável.Uma sociedade livre deveria encontrar uma forma de organização de acordo com o ordenamento jurídico vigente, sendo que a Europa tem várias respostas claras: o artigo 22.º do RGPD já reconhece o direito de não ficarmos sujeitos a decisões exclusivamente automatizadas com efeitos significativos, e o Regulamento da IA ergue sobre essa base um edifício assente no risco, com proibições absolutas, exigências de supervisão humana efetiva e obrigações reforçadas para os sistemas de alto risco.A supervisão humana só é séria quando o humano tem competência, autoridade e tempo para discordar da máquina, e não quando se limita a validar o que ela propõe. Hannah Arendt, uma das grandes pensadoras políticas do século XX, alertava para um perigo silencioso das sociedades modernas: a «banalidade do mal», a renúncia à capacidade de julgar. No espírito do pensamento de Arendt, delegar decisões sem critério é essa mesma renúncia, agora à escala tecnológica. Cabe-nos definir, através da lei e da governação, onde o juízo e o critério humano continuam a ser insubstituíveis. E, principalmente, dar enforcement às decisões.A privacidade é ainda um direito quando entregamos voluntariamente às tecnologias uma parte crescente da nossa vida?É precisamente por isso que a privacidade tem de ser defendida com mais firmeza. Nunca foi apenas o direito de esconder, mas também o de controlar a narrativa sobre a nossa própria vida e de não sermos reduzidos a um perfil. Na Europa, a proteção de dados pessoais é um direito fundamental, consagrado no artigo 8.º da Carta dos Direitos Fundamentais da União Europeia. Falar de «entrega voluntária» exige, por isso, cautela: quando o acesso a serviços depende da aceitação de termos pouco compreensíveis e existe uma clara assimetria de informação, o consentimento dificilmente traduz uma escolha verdadeiramente livre. Shoshana Zuboff, académica norte-americana conhecida pelo conceito de «capitalismo de vigilância», descreveu esta lógica, em que a experiência humana se transforma em matéria-prima para previsão e monetização.O modelo europeu procura proteger os dados pessoais, em linha com o defendido por Shoshana Zuboff, exigindo limites plasmados no Regulamento Geral sobre a Proteção de Dados, precisamente através da limitação da finalidade, da minimização e da responsabilização (accountability).Quando um algoritmo discrimina, quem deve responder por isso: quem o criou, quem o treinou ou quem decidiu usá-lo?A responsabilidade deve ser distribuída de forma proporcional ao papel de cada interveniente, e o Direito europeu já segue esse princípio. O Regulamento da IA atribui obrigações a diferentes atores da cadeia de valor, dos fornecedores aos responsáveis pela implementação, importadores e distribuidores, em função daquilo que cada um controla. Na prática, porém, quem decide utilizar o sistema assume uma responsabilidade particularmente relevante, porque conhece o contexto, os dados e as pessoas que poderão ser afetadas e escolhe em que processos o algoritmo vai intervir, seja no recrutamento, no crédito, na saúde ou no acesso a serviços.O algoritmo também raramente cria o preconceito de raiz, tende antes a reproduzir e ampliar enviesamentos presentes nos dados, nas escolhas de conceção e na forma como é utilizado.Cathy O’Neil, matemática e cientista de dados norte-americana, popularizou a expressão «armas de destruição matemática» para descrever precisamente sistemas opacos, aplicados em grande escala e capazes de produzir danos difíceis de identificar ou contestar. Um algoritmo não é um agente moral: a responsabilidade continua a pertencer a quem o concebe, disponibiliza e decide aplicá-lo a pessoas reais. Por isso, deve ser transparente e auditável.Pode existir verdadeira confiança numa tecnologia que não conseguimos compreender inteiramente?Podemos confiar naquilo que não compreendemos por inteiro, e fazemo-lo todos os dias: com a medicina, com a aviação, com a engenharia. Mas essa confiança não deveria ser cega, uma vez que somos levados a acreditar nas instituições que a sustentam, através das respetivas certificações, auditorias, supervisões independentes e da responsabilização em caso de falha. Só alguns de nós compreendemos o funcionamento de um avião e, no entanto, entramos nele porque existe um sistema de regulação, investigação de acidentes e prestação de contas. A confiança na IA constrói-se da mesma forma. Não se pede a cada cidadão que domine a técnica; exige-se que existam mecanismos de verificação e responsabilização credíveis. Foi esta a lógica que orientou a abordagem europeia: quer o RGPD, quer o Regulamento da IA tratam a confiança como resultado de garantias verificáveis. Como recorda a Comissão Europeia, o objetivo é uma «IA de confiança» (trustworthy AI), e a confiança conquista-se. Confiar numa tecnologia opaca sem garantias institucionais é fé. A Europa escolheu construir confiança com regras, auditoria e responsabilização.A transparência dos sistemas de IA é possível ou estamos a exigir às máquinas uma explicação que nem sempre os seus próprios criadores conseguem dar?A questão é pertinente, mas convém não a usar como desculpa. É verdade que, em modelos complexos, a explicabilidade total é tecnicamente difícil. Isso não nos dispensa de exigir transparência onde ela é possível e necessária, e é possível em muito mais casos do que a indústria por vezes admite.Transparência não significa abrir o código-fonte. Significa que a organização saiba dizer que sistema usa, com que finalidade, com que dados, com que limitações conhecidas, com que testes de viés e com que supervisão humana. Significa que a pessoa afetada saiba que foi sujeita a um sistema automatizado e tenha meios reais para pedir uma explicação e contestar o resultado. O RGPD já o prevê, e o Regulamento da IA reforça-o com documentação técnica, registo de eventos e deveres de informação. Se uma organização não consegue explicar minimamente o sistema que utiliza para decidir sobre pessoas, isso não é um limite da ciência; será um sinal de que esse sistema, provavelmente, não deveria estar a ser usado naquele contexto. Como diria Kant, a dignidade exige que a pessoa seja tratada «nunca apenas como meio» e, digo eu, ninguém é tratado como fim quando lhe é negada a explicação da razão de uma decisão que lhe muda a vida.Estamos a criar regras para proteger os direitos humanos face à inteligência artificial ou, muitas vezes, apenas a tentar acompanhar uma tecnologia que já avançou mais depressa do que o legislador?Rejeito a ideia de que legislar é sempre correr atrás da tecnologia. O RGPD prova precisamente o contrário: continua atual porque assenta em princípios, como a licitude, a transparência, a minimização e a responsabilização, e não em tecnologias concretas. Os princípios resistem melhor ao tempo do que as ferramentas. O Regulamento da IA segue a mesma lógica. Não pretende regular «a IA» em abstrato, mas os riscos, os usos e os impactos que determinados sistemas podem ter sobre as pessoas.Também não aceito o discurso de que a Europa regula demais nesta área e, por isso, inova de menos. É um falso dilema. Sem regras claras, não há confiança, e sem confiança a adoção tecnológica torna-se mais frágil. A Europa escolheu um caminho próprio: permitir a inovação sem abdicar dos direitos fundamentais. Esse equilíbrio não é um obstáculo competitivo, é parte do valor que o modelo europeu oferece.É neste contexto que se fala do «efeito Bruxelas», expressão cunhada pela académica Anu Bradford para descrever a capacidade da União Europeia de influenciar padrões globais através da sua regulação. Mas aprovar boas regras não chega. O verdadeiro teste está na aplicação, na fiscalização, nos recursos das autoridades e na coerência entre Estados-Membros. O maior risco para a Europa não é ter criado regras exigentes, é não ter a mesma exigência na hora de as fazer cumprir.O problema da IA está naquilo que ela pode fazer ou, sobretudo, naquilo que as organizações passam a sentir-se autorizadas a fazer com ela?Neste momento, as opiniões dividem-se. De um lado, os donos das grandes plataformas, alguns autores e, inclusive, reputados cientistas avisam que a superinteligência está muito próxima, que pode ganhar autonomia e criar modelos exponenciais capazes de acabar com a Humanidade. Aqui estaríamos perante um cenário de curto prazo: morremos todos e acabou a história da Humanidade.Do outro lado, acreditamos que já ouvimos o anúncio do fim do mundo muitas vezes; porém, ainda cá vamos estando todos, num mundo cada vez mais bipolarizado e extremado, mas sobrevivendo.A capacidade exponencial da IA é um facto, e o que faz a diferença é a cultura organizacional que a rodeia. Vejo-o diariamente: a pergunta que domina algumas organizações é «qual é o máximo que se pode extrair da IA, sem limite(s)?», quando devia ser «devemos fazer isto?». Ter a capacidade de inferir estados emocionais de trabalhadores, de prever comportamentos de clientes ou de automatizar despedimentos não constitui, por si só, legitimidade para o fazer. Este é o terreno da ética organizacional e da governação.Falo de políticas internas de utilização de IA, de avaliações de impacto sobre direitos fundamentais, de comités de supervisão, de formação das equipas e de clareza sobre quem decide o quê. O que separa uma organização madura de uma imprudente é a existência de limites que ela própria se impõe antes de o regulador ou o tribunal o fazerem. Hans Jonas formulou-o de forma notável no Princípio da Responsabilidade: Ensaio de uma Ética para a Civilização Tecnológica: quanto maior o nosso poder de agir sobre o mundo, maior a nossa responsabilidade pelas consequências. A IA amplifica esse poder de forma sem precedentes, e a responsabilidade tem de crescer ao mesmo ritmo. Faço votos sinceros para que continue a ser possível que a tecnologia amplie o que for possível e que seja a governação a decidir o que é aceitável.Se amanhã uma decisão tomada por uma inteligência artificial prejudicar seriamente uma pessoa, estaremos preparados para responder à pergunta mais antiga de todas: quem foi o responsável?Juridicamente, sim: está estabelecido no Regulamento da IA, nas estatuições das obrigações de conformidade e das sanções, e na nova legislação em matéria de responsabilidade por produtos defeituosos, que passa a abranger expressamente o software e os sistemas de IA.Sublinho, porém, que o Direito responde bem melhor quando as organizações se preparam antes, quando estamos preparados para reconstituir a decisão: saber que sistema foi usado, com que dados, com que versão, com que supervisão humana, e quem autorizou a sua utilização.A opacidade organizacional acaba por ser uma forma de impunidade. Por isso, a governance de IA é, no fundo, uma promessa feita antecipadamente às pessoas: se algo correr mal, haverá alguém que responda, e haverá forma de o demonstrar. Hannah Arendt dizia que, onde todos são responsáveis, ninguém o é. A tarefa das organizações é garantir que isso não aconteça. Preparar a resposta à pergunta «quem é o responsável?» é a primeira obrigação de quem decide usar IA.O conteúdo «Os princípios resistem melhor ao tempo do que as ferramentas», realça Elsa Veloso aparece primeiro em Revista Líder.