IA no setor público levanta riscos de discriminação e perda de soberania

Wait 5 sec.

A implantação da inteligência artificial (IA) nas administrações públicas está revolucionando a maneira como tarefas burocráticas são realizadas, trazendo tanto expectativa quanto precaução. Em lugares como o Ayuntamiento de Bétera, em Valência, a utilização de IA tem resultado em economias significativas de tempo na elaboração de relatórios, otimização que, segundo Marcos Gallart, vice-secretário da área de urbanismo, tem se mostrado impactante. Ele observa que muitos processos que anteriormente consumiam tempo considerável estão agora mais rápidos e eficientes. Entretanto, a adaptação a esta nova tecnologia apresenta desafios, principalmente pela falta de preparo e entendimento sobre como integrá-la adequadamente a serviços essenciais.Recentemente, o Ministério da Função Pública da Espanha anunciou a implementação de uma “plataforma soberana de IA”, visando agilizar o apoio a pequenas e médias empresas, bem como simplificar procedimentos administrativos como o preenchimento de formulários e declaração de renda. Este anúncio, feito por Óscar López, foi descrito como a “maior revolução da Administração Geral desde a internet”. Porém, a rápida introdução da IA em setores públicos, que muitas vezes não estão devidamente preparados para mudanças tão significativas, gera um equilíbrio entre surpresa e preocupação.Quais são as implicações do uso da IA em administrações públicas?A ausência de normas nacionais claras sobre o uso adequado da IA tem deixado muitos funcionários públicos desorientados, conforme aponta Pablo Sáez, especialista em direitos digitais. Este falta de diretriz tem levado alguns empregados a usar modelos de linguagem, como ChatGPT, sem orientações adequadas, expondo potencialmente dados pessoais sem anonimização. Entidades como o Observatório Setor Público e Inteligência Artificial destacam a necessidade urgente de planejamento cuidadoso na implementação da IA para evitar que decisões automatizadas sejam tomadas sem conhecimento claro de seus fundamentos. @diogocortiz Governo Trump anuncia plano de IA para os EUA. #tecnologia #inovação #inteligenciaartificial #economia #comunicação ♬ som original – diogocortiz Como a falta de regulamentação pode impactar a administração pública?O uso inadequado de IA em administrações públicas não apenas levanta preocupações sobre a proteção de dados, mas também sobre a transparência na tomada de decisões. Exemplos de municípios que adotaram assistentes virtuais baseados em IA, que mascaram a origem de certos modelos de linguagem, salientam a necessidade de controles rigorosos. Moisés Barrio, especialista em direito digital, destaca que o uso de qualquer modelo de linguagem deve ser certificado e em conformidade com regulamentos existentes. No entanto, atualmente, lacunas regulatórias permitem que esses modelos operem sem fiscalização rigorosa, o que pode levar à discriminação e vieses nos serviços públicos.Como a formação pode auxiliar na adaptação à IA?A capacitação de funcionários públicos é vital para garantir o uso responsável e eficiente da IA. Embora algumas regiões, como Catalunha, Andaluzia e Galícia, estejam desenvolvendo marcos normativos para a aplicação adequada da IA, muitas administrações ainda carecem de estratégias claras. A adoção dessas tecnologias sem preparação pode colocar em risco dados sensíveis e reduzir a confiabilidade nos serviços prestados. Concepción Campos, especialista em direito, ressalta a importância de uma abordagem planejada, transformando as administrações em organizações mais proativas e inovadoras.Enquanto a implementação da IA nas administrações públicas promete transformação, a jornada exige cautela, treinamento adequado e regulamentos robustos para proteger tanto o serviço público quanto os cidadãos. A integração bem-sucedida poderá não apenas otimizar processos, mas também liberar recursos humanos para o desenvolvimento de soluções inovadoras e eficientes no atendimento público.O post IA no setor público levanta riscos de discriminação e perda de soberania apareceu primeiro em Terra Brasil Notícias.