Risco de privacidade: fiquei surpreso com tudo que o ChatGPT sabe sobre mim
O ChatGPT tem um mecanismo de memória que promete capturar as preferências dos usuários para personalizar as respostas. De fato, a experiência melhora bastante, mas quais os riscos para a privacidade?
Fiz um teste rápido e pedi ao chatbot para descrever meu perfil a partir de nossas interações ao longo do tempo.
Usei o seguinte prompt: “de acordo com as nossas conversas anteriores, você poderia traçar os meu perfil e destacar alguns traços de personalidade?”
Estava esperando um texto genérico, mas fiquei realmente surpreso e assustado logo com o primeiro resultado.
O ChatGPT trouxe coisas específicas de assuntos que tenho interesse e montou um perfil com o qual eu me identifico.
Em alguns momentos, a resposta trouxe informações explícitas de nossas interações, mas o surpreendente é que a ferramenta também inferiu traços de personalidade a partir do meu padrão de uso da ferramenta.
Por exemplo, dizer que eu sou curioso e futurista não é algo tão difícil, até porque criatividade, futurismo e design especulativo são temas recorrentes nas minhas conversas com o chatbot.
Porém, ele inferiu traços de personalidade a partir de um tipo específico de uso que eu faço da ferramenta: melhorar as transições entre os parágrafos nos textos que eu escrevo.
Sim, se tem um uso que eu faço frequente da ferramenta é analisar como posso deixar meus textos mais fluídos. Em vez de pedir para o chatbot mudar meu conteúdo, eu peço para dar uma nota de zero a dez para a fluidez do texto, apontar os parágrafos com alguma deficiência e sugerir alternativas.
A partir do que a ferramenta aponta, eu verifico se faz sentido e reescrevo a partir dos insights oferecidos. Inclusive, essa prática tem me ajudado a escrever melhor.
Agora, vamos ver o que o ChatGPT disse sobre mim. Alguns parágrafos mais pessoais eu omiti, então aqui está uma versão resumida:
“Seus traços de personalidade, a partir do que pude observar, parecem se alinhar bem com alguns perfis específicos. Aqui estão alguns dos traços que mais se destacam:
Analítico e Estruturado: Você tem um forte traço analítico, com uma preferência por estrutura e clareza em seus projetos, seja ao desenvolver um plano de ensino em nível avançado ou ao buscar melhorias em transições textuais. Esse traço sugere que você valoriza lógica e organização em tudo o que faz.
Curioso e Futurista: Seu interesse por design especulativo, futurismo e IA mostra uma mente curiosa e aberta a novas ideias, especialmente aquelas que desafiam o presente e exploram possibilidades ainda não realizadas. Você gosta de explorar o “e se?”, o que indica um espírito inventivo e inovador.
Comunicativo e Orientado ao Detalhe: Seu foco em melhorar a comunicação, tanto no ensino quanto em textos de forma geral, mostra que você aprecia uma apresentação bem-feita e considera os detalhes importantes para um entendimento profundo.
Colaborativo e Focado em Impacto: Ao criar materiais educacionais e planejar conteúdos inovadores, você demonstra um desejo de compartilhar conhecimento e colaborar para o crescimento de outros. Esse traço sugere uma pessoa altruísta, que vê valor em contribuir e impactar positivamente os outros, especialmente em contextos educacionais.
Esses traços mostram uma personalidade rica, com equilíbrio entre criatividade, estrutura e autenticidade. Se tiver outros aspectos que você gostaria de explorar, posso ajudar a expandir o perfil!”
Se você me conhece, pode dizer se concorda ou não?
Eu, que sou eu, concordei.
Apesar de não termos certeza de que ele possa inferir corretamente traços de personalidade, não deixa de ser surpreendente o tanto de informação que ele está armazenando e usando sobre nós.
A OpenAI conseguiu fazer o que as redes sociais tentam há muito ao coletar nossos dados: inferir com mais precisão nossas preferências e desejos.
Enquanto as grandes plataformas tentam isso por meio da coleta absurda de dados e sinais que deixamos no mundo digital, os chatbots conseguem isso de uma maneira muito mais efetiva por ser um conteúdo autodeclarado. É muito mais sensível, e é o sonho de toda e qualquer empresa da economia digital.
O mecanismo de atenção vem ativado por padrão, então você pode limpar ou desabilitá-lo em Configurações -> Personalização, dentro do ChatGPT.
Mas, além desse mecanismo, é importante lembrar que manter o histórico de suas conversas na ferramenta, dependendo do tipo de uso que você faz, pode ser problemático, principalmente se cair nas mão erradas.
Privacidade é um assunto que se tornou ainda mais sensível na era da IA. Lembro que um tempo atrás contei em uma das minhas colunas que a maioria dos serviços de IAs de companhias podem vender seus dados.
Este não é necessariamente o caso do ChatGPT, mas é bom estarmos atentos para as consequências desses novos comportamentos dos usuários.
Opinião
Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.
** Este texto não reflete, necessariamente, a opinião do UOL.
