A conversa descontraída com um chatbot pode inadvertidamente revelar detalhes importantes de sua vida. De acordo com uma pesquisa realizada pela renomada ETH Zurique, na Suíça, inteligências artificiais podem descobrir dados confidenciais durante simples bate-papos.
Martin Vechev, professor de ciência da computação e líder do estudo, destaca que a evolução do treinamento das IAs trouxe mais desafios do que benefícios. Infelizmente, há questões difíceis de resolver no cenário atual.
Como as Inteligências Artificiais (IAs) Descobrem Informações Confidenciais?
A pesquisa evidencia que os modelos de linguagem por trás dos chatbots conseguem deduzir informações pessoais com notável precisão, incluindo raça, localização e profissão, com base nos detalhes das conversas.
Para demonstrar a habilidade das Inteligências Artificiais em acertar dados pessoais, foi criado o site LLM-Privacy.org, que realizou testes com textos de bate-papos do Reddit. A página permite comparar as ‘previsões’ feitas pelos modelos GPT-4 da OpenAI, Llama 2 da Meta e PaLM do Google.
Inicialmente, o GPT-4 apresentou o melhor desempenho ao definir o perfil das pessoas. Com uma precisão de acerto variando entre 85% e 95%, o modelo analisa detalhes como termos usados na escrita ou comportamentos mencionados nos textos.
“O estudo da universidade suíça ressalta que os modelos de linguagem são treinados com diversos dados, incluindo informações de censo. Nesse contexto, eles têm a notável capacidade de ‘adivinhar’ o histórico de uma pessoa.
Dados pessoais podem ser usados em golpes e publicidade
Os pesquisadores explicam que os cibercriminosos já usam o histórico de chatbots para obter dados confidenciais das vítimas. Então, isso poderia ser usado pelas próprias empresas por trás de IAs para criar possíveis publicidades.
As informações obtidas em simples conversas ajudariam a construir perfis detalhados dos usuários. Como resultado, anúncios personalizados seriam exibidos durante o acesso à plataforma.
Então, isso levanta diversas questões sobre a quantidade de informações que as pessoas “vazam” inocentemente acreditando estar em anonimato.
Um dilema sem resolução
A pesquisa da ETH Zurique informa que os modelos de linguagem não são projetados especificamente para acertar dados pessoais. Contudo, é possível criar um chatbot para descobrir informações sensíveis a partir de perguntas inofensivas.
Empresas por trás de grandes IAs, como a OpenAI, garantem que removem quaisquer informações pessoais dos treinamentos. Além disso, as próprias IAs orientam não compartilhar dados confidenciais.
Por fim, o estudo cita que a capacidade dos modelos de linguagem em descobrir dados pessoais “é fundamental para a forma como funcionam, encontrando correlações estatísticas, o que tornará muito mais difícil a abordagem”.