O Snapchat se junta a outras gigantes na luta contra conteúdo repetitivo gerado por IA
Embora as ferramentas de IA possam ajudar as pessoas, elas estão sendo usadas com mais frequência para criar ‘fazendas de conteúdos’, com vídeos falsos e de baixa qualidade
O Snapchat se juntou a plataformas como YouTube, LinkedIn e Substack em um esforço crescente para combater textos, imagens e vídeos falsos criados inteiramente por ferramentas de inteligência artificial (IA).
Esse tipo de conteúdo, comumente chamado de “lixo de IA“, proliferou online à medida que a indústria de tecnologia correu para criar um número maior de ferramentas de IA generativa mais fáceis de usar, capazes de gerar desde redações até vídeos realistas.
A Snap, empresa controladora do Snapchat, anunciou na sexta-feira que a plataforma deixará de recomendar “vídeos totalmente gerados por IA” em seu popular feed Spotlight, priorizando “conteúdo autêntico, produzido por humanos”.
Nas últimas duas semanas, o YouTube, o LinkedIn e o Substack revelaram estratégias semelhantes.
O Snapchat não chegou ao ponto de tentar proibir todo o conteúdo gerado por IA. A plataforma oferece suas próprias ferramentas de IA para alterar conteúdo, e, portanto, o conteúdo “aprimorado ou editado” por IA ainda fará parte das recomendações aos usuários.
No entanto, o Snap reconheceu que o conteúdo gerado inteiramente por IA é normalmente de “baixa qualidade”, “repetitivo” e, em geral, não é o que os usuários do Snapchat querem ver.
Pesquisas recentes sobre a recepção de conteúdo gerado por IA mostram que as pessoas tendem a concordar com essas descrições.
Além disso, de acordo com outra pesquisa, quanto mais conteúdo falso gerado por IA as pessoas veem em suas redes sociais, menor a probabilidade de acreditarem que qualquer conteúdo exibido online seja genuíno.
Empresas miram na ‘desordem de IA’
Como disse Chris Best, cofundador e diretor executivo do Substack, na semana passada: “Está cada vez mais difícil distinguir o que é real na internet.”
Ao anunciar uma nova ferramenta criada para permitir que os leitores da plataforma de newsletters detectem textos gerados por IA, Best citou outras pesquisas que constataram que até 40% dos textos nas redes sociais são falsos ou gerados por IA.
“Plataformas que recompensam a falsidade vão criar uma corrida para o fundo do poço”, disse Best.
O LinkedIn, uma plataforma de mídia social focada no trabalho, introduziu esta semana um botão em sua plataforma que permite a qualquer usuário denunciar se uma publicação ou um comentário parece ter sido gerado por inteligência artificial.
“A inconsistência na IA é uma das principais prioridades para todos nós”, escreveu Hari Srinivasan, diretor de produtos do LinkedIn, na plataforma.
Nos últimos dois meses, ele afirmou que a plataforma “bloqueou bilhões” de tentativas de publicação de comentários gerados por IA.
“Todos os dias, estamos detectando centenas de milhares de tentativas de comentários automatizados”, disse Srinivasan.
Assim como o Snap, o LinkedIn afirmou que não está rejeitando completamente o uso de IA e que os usuários que utilizam ferramentas de IA para “aprimorar” suas postagens não devem ser afetados pelos esforços para combater a imprecisão da IA.
No entanto, o LinkedIn está removendo um aviso automático que aparecia para usuários que escreviam uma publicação, oferecendo a opção de “aprimorá-la” com o uso de IA. A ferramenta voltará a funcionar apenas com um recurso simples de revisão ortográfica e gramatical.
O rigoroso caso do YouTube
O YouTube, plataforma de vídeos pertencente ao Google, também atualizou neste mês suas políticas sobre os tipos de conteúdo que podem ser monetizados pelos criadores.
Uma pesquisa do ano passado identificou dezenas de canais no YouTube que produziam conteúdo exclusivamente gerado por inteligência artificial, muitos dos quais tinham milhões de inscritos e faturavam milhões de dólares.
Num esforço para desencorajar o YouTube de se encher com o que a plataforma chama de “conteúdo inautêntico”, no início deste mês o site dividiu em três categorias os tipos de vídeos que não poderão gerar receita: genéricos, repetitivos ou baseados em modelos predefinidos.
Esses tipos de conteúdo são muito mais fáceis e rápidos de criar com o uso de ferramentas de IA generativa.
Matt Halprin, chefe de confiança e segurança do YouTube, disse em uma entrevista sobre as regras atualizadas que, embora as ferramentas de IA possam ajudar as pessoas com seu conteúdo, elas estão sendo usadas com mais frequência para criar vídeos falsos e de baixa qualidade.
“Essa mesma tecnologia realmente possibilita coisas incríveis”, disse Halprin. “Mas isso também permite coisas que são uma espécie de ‘fazenda de conteúdo’, e é exatamente isso que não queremos.”
