A empresa Anthropic está sugerindo para o Congresso dos Estados Unidos uma lei nacional para supervisionar e ter o poder de bloquear uma inteligência artificial (IA) possivelmente violenta. Um esboço do texto foi obtido pelo site Politico.Apesar de não ter publicamente divulgado a proposta, a dona do chatbot Claude já teria falado com parlamentares sobre a ideia e até citou esses riscos na documentação da própria IPO. A regulamentação de IAs, segundo a companhia, seria uma forma de garantir a segurança da humanidade no uso dessas ferramentas.Caso vire de fato um projeto de lei, o material daria ao governo dos EUA maior poder para fiscalizar e monitorar modelos potencialmente danosos, que é uma preocupação crescente no setor após vários incidentes de cibersegurança.A lei “anti-IAs do mal” da AnthropicDe acordo com a versão do projeto de lei obtida pelo Politico, o texto permite que o governo dos EUA bloqueie o lançamento ou a utilização de um modelo de linguagem de ponta. Isso poderia acontecer em dois casos:Se ele se mostrar um risco iminente capaz de causar mais de US$ 1 bilhão em danos;Ou se ele tiver a possibilidade real de matar ou ferir gravemente mais de 50 pessoas.Os tais riscos envolveriam casos como “criação ou liberação de uma arma biológica, a fuga do modelo ao controle de seus desenvolvedores ou um ataque cibernético”. O primeiro desses exemplos já foi identificado e barrado pela própria Anthropic, enquanto ciberataques de agentes de IA fora de controle tem sido cada vez mais frequentes em relatos.O monitoramento das IAs seria de responsabilidade de um comitê independente de avaliadores registrados junto ao Departamento do Comércio, encarregado de analisar laboratórios e modelos de ponta do mercado.Caso o grupo aponte o risco, esse relato deve ser entregue ao órgão público em até 72 horas, para que um juiz receba a ordem de pausar o uso ou lançamento da IA. Ver esse post no Instagram Um post compartilhado por TecMundo (@tecmundo)Além disso, as companhias teriam uma série de novas responsabilidades, como criar estruturas de segurança, proteger denunciantes, publicar relatórios de transparência sobre novos casos e comunicar obrigatoriamente novos incidentes críticos de segurança.Apesar de ser a preferência de parte da indústria, a lei pode gerar algum atrito entre estados, pois locais como a Califórnia já possuem as próprias legislações sobre riscos de IA. Caso aprovada, ela se sobreporia a essas determinações.Como a IA passou a ser usada na segurança pública de grandes eventos? Saiba mais sobre o tema aqui! /Com informações de Politico.