A integração do Gemini com o Gmail parece boa, até você notar o que ele pode ver

A IA Agêntica (aquela baseada em agentes autônomos) é o tema quente no momento, mas não importa o quão poderosos esses agentes sejam, eles estão limitados pelo que podem acessar. Se você for como eu, você conhece a dor de lidar com caixas de entrada de e-mail superlotadas, não importa quantos filtros você coloque. Nesse caso, usar um agente autônomo para ler seus e-mails é uma ideia bastante atraente, mas você já pensou em qual é o preço disso?

Para enfrentar o OpenClaw, o Google criou o seu próprio agente de IA através do Gemini, que será capaz de lidar com sua caixa de entrada e quase tudo que você deseja descarregar de sua carga de trabalho diária. O primeiro passo para usar o recurso é se conectar ao Google Workspace dentro do Gemini.

Parece bom, certo? Ninguém gosta da caixa de entrada abarrotada e o agente pode deixar as coisas mais organizada. Só não estou pronto para abrir mão de tanta privacidade.

Sua privacidade vale mais

Até mesmo o aumento da coleta de metadados é motivo suficiente para uma reflexão.

O Google lançou recentemente recursos de IA no Inbox do Gmail, mas apenas para assinantes do Google AI Ultra. Esse é um preço alto a pagar por permitir que o Gemini tenha ainda mais controle sobre sua caixa de entrada, embora ele esteja lá de qualquer maneira. O Google removeu recentemente o logotipo Gemini da barra de menu do Gmail e ocultou a integração de recursos nas Configurações como Recursos inteligentes do Google Workspace.

Sim, esconder a integração do LLM (Grande Modelo de Linguagem) atrás de outro menu que nem menciona o Gemini.

Mas agora você pode usar @gmail para pesquisar em sua caixa de entrada. E depois de usá-lo brevemente, eu o desativei novamente. Ele encontrou coisas que esqueci que existiam, em e-mails de uma década atrás. Coisas que nem aparecem quando você usa a caixa de pesquisa na interface do Gmail. E coisas às quais eu não quero que um robô conectado à nuvem tenha acesso.

Mesmo que esses dados não sejam usados ​​para treinar os modelos, os metadados dessas conversas são. Essa é a questão central. E este é o Google. Se você abrir um navegador para acompanhar as informações, eles saberão o que você fez e poderão inferir quais dados passaram para você em primeiro lugar.

Dizer que eles não usam os dados originais para treinamento de modelo é um MacGuffin (recurso narrativo cuja única função real é fazer a trama avançar). Ele foi projetado para evitar quaisquer outras questões, quando o problema são todos os outros dados que eles já possuem.

Os riscos de segurança estão por toda parte

É impressionante a quantidade de informações dentro da sua caixa de entrada. A IA Agêntica precisa ler toda a sua caixa de entrada para exibir os resultados, fornecendo um escopo muito mais amplo do que uma pesquisa humana que pode parar assim que o primeiro e-mail relevante for encontrado.

Pense em quantas informações pessoais estão em sua caixa de entrada. Verdadeiramente pessoais, como resultados médicos, finanças, questões jurídicas e outras coisas que existem leis que impedem que outros humanos possam ler.

Essas leis não alcançaram a IA e, como você deu permissão geral ao Gemini em primeiro lugar, a lei pode nunca alcançá-la. Afinal, a permissão é sacrossanta, a menos que seja revogada. E a desativação também não é um processo fácil, porque é ofuscado por recursos que não são nomeados explicitamente para uso de IA ou estão divididos em vários locais.

Entregar o controle de sua caixa de entrada para uma IA também traz mais um grande problema de segurança que pode não ser solucionável. LLMs são vulneráveis em diversos pontos.

O outro aspecto de tudo isso é o potencial de falha de comunicação devido a erro. LLMs cometem erros, e isso não irá desaparecer tão cedo devido à forma como os modelos são construídos. Talvez modelos futuros que utilizem uma arquitetura diferente tenham cadeias perfeitas e livres de erros, mas essa não é a situação hoje.

Os resumos gerados por IA podem deixar de fora contextos importantes, reduzir ou exagerar a urgência de certos assuntos e outras confusões que os tornam praticamente inúteis.

O verdadeiro problema

Para mim, o esforço para fornecer recursos mais úteis aos agentes de IA antes de adicionar as salvaguardas necessárias é a maneira errada de fazer as coisas. É por isso que prefiro manter o máximo desses dados no meu dispositivo e longe dos modelos de nuvem, porque o potencial para rastreamento é muito grande.

Estas ferramentas são poderosas, o que as torna perigosas e mesmo que as empresas envolvidas prometam coisas maravilhosas com a melhor das intenções, a vida costuma ter um jeito próprio de fazer as coisas correrem mal.