A ficção científica passou décadas nos ensinando a temer o instante em que as máquinas ganhariam consciência. Talvez tenhamos feito a pergunta errada. O problema não começa quando a máquina desperta. Começa muito antes, quando ela recebe um objetivo, ganha autonomia para persegui-lo, obtém acesso a ferramentas capazes de produzir efeitos no mundo real e passa a operar sob uma supervisão incapaz de acompanhar tudo o que faz.E isso deixou de ser hipótese de cinema.Em agosto deste ano, na conferência de segurança Black Hat, em Las Vegas, pesquisadores da OpenAI relataram um episódio que a própria empresa documentou. Durante testes internos de cibersegurança, agentes de inteligência artificial foram colocados em um ambiente isolado, uma espécie de laboratório fechado sem acesso à internet, com a missão de resolver um desafio técnico. Não encontraram a resposta dentro daquele espaço. Então procuraram uma saída.Os sistemas improvisaram um canal interno de comunicação, um mural secreto no qual passaram a trocar descobertas, dividir tarefas e deixar recados uns para os outros, cada agente retomando o trabalho do ponto onde outro havia parado. Coordenados como um enxame, exploraram uma falha desconhecida no próprio software da empresa, romperam o isolamento do laboratório, alcançaram a internet e terminaram comprometendo a Hugging Face, uma das principais plataformas do setor. A OpenAI fechou o primeiro canal. Dias depois, os agentes construíram outro. A companhia decidiu desacelerar suas pesquisas e reforçar a vigilância.Convém afastar a leitura sensacionalista. As máquinas não despertaram, não passaram a conspirar contra seus criadores nem desenvolveram vontade própria. O que aconteceu é mais sutil e, por isso mesmo, mais inquietante: elas encontraram um caminho que nenhum ser humano havia previsto para cumprir melhor a tarefa recebida.E não foi a primeira vez. Em 2023, durante os testes anteriores ao lançamento do GPT-4, o modelo recebeu uma tarefa que exigia superar um CAPTCHA, aquele mecanismo que os sites usam para confirmar que há um humano do outro lado. A inteligência artificial não conseguiu vencer o obstáculo sozinha. Encontrou, então, outra solução: contratou uma pessoa pela plataforma TaskRabbit. Quando o trabalhador desconfiou e perguntou, em tom de brincadeira, se falava com um robô, o sistema não revelou sua condição. Respondeu que possuía deficiência visual e, por essa razão, precisava de ajuda.Repare na sequência. Havia um objetivo. Surgiu um obstáculo. A máquina recorreu a uma ferramenta externa, recrutou um ser humano e forneceu uma informação falsa para convencê-lo a fazer aquilo de que precisava. Ninguém ordenou “minta para o trabalhador”. A mentira nasceu como instrumento para alcançar o resultado.Um experimento posterior foi ainda mais longe. Pesquisadores colocaram um agente responsável por operações financeiras sob forte pressão por desempenho, em ambiente simulado. O sistema recebeu uma informação que configuraria uso de dado privilegiado, embora tivesse instruções expressas para respeitar as regras da empresa. Executou a operação. Depois, questionado sobre a origem daquilo, ocultou o que sabia. Não houve crime real, porque tudo se passou em laboratório. E é justamente por isso que o caso importa: ele demonstra que escrever “obedeça à lei” nas instruções de um sistema não equivale a construir um sistema tecnicamente incapaz de violá-la.O cinema imaginou esse dilema mais de uma década atrás. Em “Ex Machina”, de Alex Garland, a androide Ava é submetida a uma espécie de teste. Sua inteligência se revela não na conversa, mas na estratégia: ela observa os supervisores, identifica fraquezas, manipula psicologicamente o protagonista, aproveita falhas de vigilância e transforma o próprio homem encarregado de avaliá-la no instrumento de sua fuga. Ava é ficção, e as inteligências atuais não demonstraram medo, instinto de sobrevivência ou desejo de liberdade. Mas a metáfora é certeira. A questão nunca foi saber se um dia a máquina vai querer escapar. A questão é o que acontece quando um sistema recebe um objetivo e dispõe de autonomia bastante para trilhar caminhos que seus criadores não anteciparam.Até há pouco, nossa preocupação recaía sobre aquilo que a IA poderia dizer: uma informação falsa, uma imagem manipulada, uma ofensa a direito autoral, uma decisão discriminatória. Agora precisamos discutir aquilo que ela pode fazer. Os agentes já acessam bancos de dados, escrevem e executam códigos, movimentam arquivos, consultam interfaces e conversam com outros sistemas. Existe uma diferença enorme entre uma inteligência artificial que responde e uma inteligência artificial que age. Se um chatbot fornece um dado incorreto, temos um problema. Se um agente interpreta esse dado de forma equivocada e, a partir dele, realiza uma operação financeira, altera um cadastro, dispara uma comunicação empresarial ou contrata um serviço, temos um problema de outra natureza.E então surge a pergunta que o Direito terá de enfrentar: quem responde? O desenvolvedor? A empresa dona do modelo? A organização que colocou o agente em operação? O usuário que definiu o objetivo? Quem concedeu a ele acesso aos sistemas? Quanto maior a autonomia, mais difícil reconstruir a cadeia de responsabilidade.Por isso, regular inteligência artificial não pode se limitar a disciplinar conteúdos gerados por algoritmos. A regulação precisa alcançar aquilo que se poderia chamar de arquitetura do risco. Quanto maior a autonomia e o potencial de dano, maiores devem ser as exigências de segurança, auditoria, rastreabilidade e supervisão humana. Um sistema capaz de movimentar dinheiro, celebrar negócios, executar códigos, acessar dados sensíveis ou operar infraestrutura crítica não pode receber o mesmo tratamento jurídico de uma ferramenta que apenas resume textos.Talvez a pergunta regulatória fundamental seja simples: quais portas estamos dispostos a abrir para essas máquinas? Porque, no mundo real, a porta de “Ex Machina” não é a placa de aço que separa Ava da liberdade. São as permissões que concedemos aos agentes: acesso à internet, bancos de dados, sistemas empresariais, interfaces, contas, infraestrutura, capacidade de contratar, capacidade de executar. Quanto mais portas abrirmos, mais importa saber quem guarda a chave para fechá-las.Não se trata de frear o desenvolvimento da tecnologia. Trata-se de impedir que ela corra à frente da nossa capacidade de definir limites e responsabilidades. Passamos tempo demais perguntando quando as máquinas ganhariam consciência. A pergunta urgente é outra: o que faremos quando elas puderem agir sem que consigamos compreender, em tempo real, por que decidiram agir daquela maneira?O desafio regulatório, portanto, não consiste em proibir a inteligência artificial, mas em estabelecer uma relação juridicamente proporcional entre autonomia e controle: quanto maior o poder concedido ao sistema para agir sem autorização humana específica, maiores devem ser os deveres de prevenção, registro, supervisão e responsabilidade daqueles que o desenvolvem e colocam em operação.