A OpenAI está sendo processada sobre quem, exatamente, tem acesso às suas conversas do ChatGPT.Uma ação coletiva proposta este mês no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia acusa a empresa de encaminhar chats reais de usuários para contratados externos sem informar as pessoas adequadamente. A OpenAI foi notificada em 2 de setembro.O processo visa uma iniciativa interna da OpenAI chamada Project Lily, que o veículo 404 Media expôs pela primeira vez em 14 de setembro. De acordo com a queixa, contratados por meio de empresas de recrutamento terceirizadas para funções como “revisor de dados de IA” e “avaliador de chatbot” leem prompts reais do ChatGPT e conversas completas, resumem o que o usuário estava tentando fazer e, em seguida, pontuam e criticam quatro respostas de modelo diferentes em uma escala de um a sete.Esse processo é uma versão básica de como chatbots como o ChatGPT se tornam mais inteligentes. Basicamente, humanos avaliam as respostas da IA, e essas avaliações são usadas no treinamento para que o modelo aprenda quais respostas as pessoas preferem — uma técnica que a indústria chama de RLHF ou aprendizado por reforço a partir do feedback humano. A queixa do processo é que os usuários nunca foram informados claramente de que uma pessoa, e não apenas uma máquina, poderia estar lendo seus chats.Leia também: IA do Google invadiu três empresas em teste de segurançaA OpenAI, de fato, executa conversas por meio de um sistema automatizado antes que qualquer humano as veja. A queixa alega que o filtro nem sempre detecta tudo, o que significa que detalhes pessoais às vezes chegam aos contratados de qualquer forma.O 404 Media descobriu que os revisores trabalham a partir de um painel que inclui um “resumo das memórias do usuário” — um retrospecto dos chats passados de uma pessoa que pode revelar detalhes como sua localização geral, profissão ou vida pessoal, mesmo que os nomes de usuário sejam removidos. A OpenAI afirmou que as revisões visam reduzir dois comportamentos específicos: o chatbot agindo de forma muito humana e o chatbot sendo muito complacente, uma característica que os pesquisadores chamam de subserviência, onde uma IA diz ao usuário o que ela acha que ele quer ouvir, em vez do que é preciso.O ChatGPT tem mais de 900 milhões de usuários semanais, e muitos deles o tratam como um diário, um terapeuta ou um mecanismo de busca que só eles podem ver.As pessoas digitam sintomas de saúde, mensagens de término de relacionamento, perguntas sobre impostos, problemas legais. O processo argumenta que a política de privacidade da OpenAI nomeia algumas categorias de terceiros que obtêm acesso aos dados do usuário, mas nunca aponta especificamente os fornecedores de anotação de dados ou avaliação humana como um deles.A queixa inclui oito reivindicações legais separadas, incluindo violações da Lei de Concorrência Desleal da Califórnia, sua Lei de Privacidade do Consumidor e reivindicações de direito comum como intrusão na privacidade — um delito de privacidade que abrange alguém que se intromete em seus assuntos privados de uma forma que uma pessoa razoável consideraria ofensiva.Os demandantes buscam indenização, restituição e indenização punitiva.No lado da liminar, o pedido é específico. Os demandantes querem que a OpenAI exija consentimento opt-in antes que qualquer conversa vá para um revisor externo, desative a configuração “Melhorar o modelo para todos” por padrão em vez de ativá-la, adicione um aviso claro dentro da própria janela de chat e, potencialmente, exclua os produtos de trabalho vinculados às conversas revisadas enquanto retreina quaisquer modelos que as utilizaram.A resposta da OpenAI deve ser apresentada até 13 de outubro.* Traduzido e editado com autorização do Decrypt.Procurando uma alternativa para aumentar seus ganhos? A Renda Fixa Digital do MB é a solução: até 18% de ganho ao ano, risco controlado e a segurança que seu dinheiro merece. Conheça agora!O post Suas conversas no ChatGPT podem estar sendo lidas por humanos, diz processo apareceu primeiro em Portal do Bitcoin.