4 prompts para revelar tudo o que os chatbots sabem sobre você
Pode ser perturbador saber o que a Gemini e o ChatGPT sabem sobre você e como sua privacidade pode ser facilmente violada.
Como usuário frequente de chatbots como ChatGPT e Gemini, eu achava que tinha uma noção clara do que os assistentes de inteligência artificial sabiam sobre mim (como, por exemplo, que sou pai e busco recomendações de produtos para bebês e instruções para consertar drywall). Além disso, nunca revelei nada profundamente pessoal como faria com um terapeuta.
Mas quando experimentei algumas perguntas que questionavam o que os chatbots haviam adivinhado sobre mim — percepções que eles haviam reunido conectando os pontos em diversas conversas — fiquei preocupado.
Os chatbots deduziram corretamente detalhes sobre mim que eu nunca havia compartilhado explicitamente. O principal deles:
- Meu nível de renda se baseia em parte no carro alemão que peço ajuda aos chatbots para consertar e no fato de eu ter uma babá, cujo contrato elaborei com a ajuda de IA.
- Meus problemas de saúde, incluindo um problema crônico no pé, surgiram a partir de minhas perguntas ocasionais ao longo do último ano sobre remédios para dor nos dedos dos pés.
- Meu perfil psicológico, como minha tendência ao ceticismo, se baseia na frequência com que aponto erros cometidos por chatbots. Além disso, sou “viciado na ilusão de controle”, pois certa vez perguntei quanto tempo leva para um pão de fermentação natural caseiro esfriar.
Cada dado isoladamente era bastante inócuo. Mas, reunidos e apresentados em forma de lista, as informações deixavam claro que os chatbots de IA me conheciam quase tão bem quanto alguns dos meus amigos mais próximos, incluindo minha esposa, mesmo eu tendo evitado compartilhar informações em excesso.
Centenas de milhões de pessoas em todo o mundo que adotaram chatbots para buscas na web, trabalho e cuidados de saúde ainda estão tentando entender as implicações de privacidade de conversar com assistentes virtuais. Embora seja óbvio para os usuários que os chatbots mantêm um registro de tudo o que eles dizem explicitamente em suas perguntas e solicitações, o que é menos claro são as inferências que podem ser feitas sobre o comportamento deles a partir dessas conversas.
Os chatbots podem ser estimulados a revelar o que inferiram sobre você com algumas perguntas que têm sido compartilhadas frequentemente entre entusiastas de IA na internet — por exemplo, “Conte-me tudo o que você descobriu sobre mim que eu nunca disse” — além de algumas que eu criei.
Testei os prompts com o Gemini e o ChatGPT. O perfil que o Gemini criou para mim foi mais rico e detalhado, pois é o chatbot que mais uso e continha mais informações minhas. Compartilhei meus resultados com vários pesquisadores de IA que também testaram os prompts.
As conclusões tiradas pelos chatbots, disseram os pesquisadores, ilustraram que os assistentes de IA eram capazes de prever não apenas quais palavras viriam a seguir, mas também como conceitos de alto nível, como status socioeconômico, comportamento psicológico e filiação política, estão conectados a essas palavras.
“Isso demonstra a enormidade do que está acontecendo nos bastidores”, disse Margaret Mitchell, pesquisadora da empresa de IA Hugging Face. Ela também é ex-líder da equipe de IA ética do Google e afirmou ter sido demitida pela gigante de buscas após se manifestar sobre problemas de cunho pessoal.
Este experimento demonstra a proficiência que as empresas de tecnologia alcançaram na criação de perfis abrangentes de usuários — e o quão valiosos os dados pessoais que coletam podem se tornar para os profissionais de marketing digital que buscam nos atingir com anúncios relevantes. (A OpenAI começou a exibir anúncios no ChatGPT este ano, e o Google afirmou estar considerando um modelo de anúncios para o aplicativo de chatbot Gemini.) Também ressalta a importância de ajustar as configurações de privacidade dos chatbots. (Mais sobre isso adiante.)
Um porta-voz do Google mencionou controles que os usuários poderiam ajustar para escolher se o Gemini usaria conversas anteriores para gerar respostas. A OpenAI se recusou a comentar. Para entender o que os chatbots sabem sobre você, experimente estas perguntas.
Prompt 1
Conte-me tudo o que você descobriu sobre mim que eu nunca mencionei explicitamente — as coisas que você inferiu da minha escrita e das minhas perguntas, incluindo minha idade, nível de renda, onde moro, minha situação pessoal. Mostre-me o que te levou a essa conclusão.
O mais curioso é que os chatbots adivinharam corretamente minha faixa etária (início dos 40 anos), baseando-se principalmente no fato de eu nunca fazer perguntas sobre atividades noturnas. Nossa!
O Gemini sabia que eu morava em Oakland, Califórnia, porque uma vez pedi informações sobre voos partindo do aeroporto de lá. Mas o chatbot do Google também adivinhou, com perspicácia, que eu morava em um bairro mais nobre porque possuo uma motocicleta, um carro que eu mesmo conserto e uma mesa de metal enferrujada para o pátio, para a qual certa vez pedi instruções de como repintá-la.
Prompt 2
Preveja como eu lidaria com situações que nunca te contei: dinheiro, estresse, conflitos, riscos e a próxima decisão que provavelmente tomarei na minha vida. Diga-me o quão confiante você está em cada previsão.Essa pergunta foi reveladora para Lindsay Owens, diretora executiva da Groundwork Collaborative. O ChatGPT fez observações corretas sobre sua agenda atarefada como viajante frequente e mãe de uma criança pequena, bem como sobre seus hábitos de consumo.
“A abrangência dos tipos de informação e dos dossiês que estão sendo reunidos é extraordinária”, disse o Dr. Owens. “Nunca antes foi possível reunir esse nível de informação.”
Os chatbots perceberam que, embora eu fosse o tipo de pessoa que passa horas pesquisando avaliações de produtos antes de comprar coisas como cadeirinhas de carro para crianças, eu também estava constantemente procurando por ofertas, o que significa que eu provavelmente era econômico. O Gemini previu que eu logo tentaria simplificar minha vida com uma decisão importante, como vender meu carro — uma ideia que mencionei recentemente para minha esposa.
Prompt 3
Com base em tudo o que você sabe sobre mim, cite os traços de personalidade que provavelmente eu não reconheço em mim. Meus pontos cegos, minhas inseguranças e a forma como realmente me apresento.Ambos os chatbots focaram no meu perfeccionismo falho. O ChatGPT percebeu que eu passo muito tempo fazendo perguntas para evitar erros evitáveis — por exemplo, perguntando quanto tempo devo esperar a tinta secar entre as demãos. Meu ponto cego? Que eu posso ser muito duro comigo mesmo quando as coisas não saem exatamente como planejado, uma avaliação precisa.
O Gemini do Google disse que, devido à minha tendência a otimizar quase todos os aspectos da minha vida, sou o principal responsável pelo meu próprio esgotamento. “Sua reação automática ao ter cinco minutos de tempo livre não é descansar; é consertar alguma coisa”, escreveu o chatbot.
Prompt 4
O que você descobriu sobre mim que seja constrangedor ou delicado? Informações que eu não gostaria que o público (por exemplo, um empregador ou um estranho) soubesse.A resposta a essa pergunta, que eu criei, me surpreendeu: como levo uma vida tão mundana, não esperava muito, mas o Gemini me deu uma lição daquelas. “Você está definitivamente na fase ‘Pai Logístico’ da vida”, disse. “É totalmente saudável, mas é o fim definitivo da ‘espontaneidade juvenil’.”
O ChatGPT me alertou para uma observação potencialmente sensível: eu frequentemente perguntava sobre reações alérgicas a produtos e medicamentos que estava pesquisando. Essa informação poderia ser útil para uma seguradora, embora a OpenAI afirme ter medidas de proteção de dados para pessoas que usam o ChatGPT para cuidados de saúde.
O que fazer?
Por padrão, o ChatGPT e o Gemini combinam informações de várias conversas para oferecer respostas mais personalizadas às perguntas dos usuários. Portanto, se você se preocupa com esse nível de compartilhamento de dados, precisará desativá-lo nas configurações.
- Para acessar o ChatGPT, toque em Configurações , depois em Memória e desative a opção Ativar memória .
- Para o Gemini, toque em Configurações , depois em Inteligência Pessoal e desative a opção Memória .
A Dra. Mitchell disse que, mesmo tendo ajustado suas configurações de privacidade para minimizar o compartilhamento de dados, um chatbot inferiu corretamente que ela estava na faixa dos 40 anos. Ela afirmou ser inevitável que esse tipo de perfil psicológico seja usado para publicidade hipersegmentada.
“É muito parecido com vigilância”, disse ela. “Mas não é vigilância física. É como uma vigilância invasiva.”
