O chefe de Direitos Humanos da ONU, Volker Turk, alertou que a inteligência artificial avançada pode se tornar poderosa o suficiente para ameaçar a humanidade. O aviso foi feito nesta segunda-feira, durante discurso no Conselho de Direitos Humanos da ONU, em Genebra.Turk defendeu garantias rígidas de segurança para a tecnologia e pediu que países envolvidos no desenvolvimento e nas cadeias de fornecimento de IA estabeleçam limites claros antes que seja tarde demais.A ONU quer que países ligados ao desenvolvimento e às cadeias de fornecimento de IA estabeleçam limites em conjunto. – Imagem: mr_tigga/ShutterstockAlerta forte em GenebraO discurso ocorreu antes do início do segundo mandato de Turk, previsto para o próximo mês. Ele afirmou compartilhar as preocupações manifestadas por integrantes da própria indústria sobre os possíveis riscos de sistemas avançados de inteligência artificial.Compartilho as preocupações de integrantes da indústria de que uma IA avançada possa representar um risco existencial para a humanidade.Volker Turk, chefe de Direitos Humanos da ONU, durante discurso.Nos próximos dias, segundo o representante da ONU, empresas do setor devem ser pressionadas a reduzir os riscos associados à tecnologia.Poucos homens concentram o poderSem citar empresas, Turk também chamou atenção para a concentração de poder no setor. Segundo ele, apenas um pequeno grupo de homens detém um poder “quase ilimitado” sobre a inteligência artificial.Entre as principais empresas do setor estão Meta, Anthropic, OpenAI e Google.Turk defendeu a criação de garantias de segurança antes que os sistemas avancem ainda mais:“Estou pedindo aqui, hoje, um esforço total para estabelecer garantias rígidas em torno da segurança e proteção da IA, antes que seja tarde demais.”ONU quer linhas claras para a IAPara o chefe de Direitos Humanos da ONU, países que hospedam operações de inteligência artificial e aqueles envolvidos em suas cadeias de fornecimento precisam trabalhar juntos para estabelecer limites previamente acordados.Entre os pontos defendidos por Turk estão:Garantias rígidas de segurança para a inteligência artificial;Cooperação entre países ligados à tecnologia e suas cadeias de fornecimento;Estabelecimento de limites previamente acordados;Ações para reduzir os riscos associados à IA avançada.A ONU chamou atenção para o fato de que poucas pessoas e corporações retêm poder quase ilimitado sobre os rumos da tecnologia. – Imagem: Primakov/ShutterstockAlerta acompanha debate da indústriaAs declarações de Turk ecoam alertas anteriores feitos por executivos da própria indústria sobre os riscos de extinção associados à inteligência artificial, incluindo Sam Altman, CEO da OpenAI.Leia mais:Robôs da OpenAI sequestram site e criam fórum secreto na webOpenAI anuncia R$ 5,2 bilhões para reforçar cibersegurança com IAEUA alertam para riscos imprevisíveis e de alto impacto ligados à IAA ONU também vem defendendo regras harmonizadas para reduzir os riscos da tecnologia. Em julho, a organização realizou sua primeira reunião global sobre governança da inteligência artificial.O alerta reforça que a discussão sobre IA já ultrapassou o campo tecnológico. Para a ONU, governos e empresas precisam definir mecanismos de segurança e limites claros enquanto a tecnologia continua avançando.O post IA pode ameaçar a humanidade, alerta chefe de Direitos Humanos da ONU apareceu primeiro em Olhar Digital.