Abusando do ChatGPT para produzir notícias falsas, as fazendas de conteúdo de IA aumentam

Os farms de conteúdo estão abusando descaradamente da IA generativa, como o ChatGPT, que pode gerar conteúdo de texto, e com quase ninguém verificando e supervisionando o conteúdo produzido, os farms de conteúdo gerados por IA estão aumentando.

Continua após a publicidade

A NewsGuard, uma organização de classificação de confiança de sites, informou no dia 1º que 49 fazendas de conteúdo que se passavam por sites de notícias foram encontradas, e o conteúdo publicado parece ser todo fabricado por IA.

“Em abril de 2023, o NewsGuard identificou 49 sites, cobrindo 7 idiomas: chinês, tcheco, inglês, francês, português, tagalo (o idioma oficial das Filipinas) e tailandês. Sites de notícias típicos No entanto, esses sites parecem ser principalmente, se nem todos, alimentados por modelos de linguagem de IA que imitam a conversa humana”, disse NewsGuard, cujos repórteres e analistas trabalham para encontrar evidências de que esses sites são gerados por IA.

Parte do conteúdo desses sites é obviamente produto de IA, como “Não consigo escrever 1.500 palavras… .”, “Não consigo concluir este prompt” e outras declarações são as reações que o ChatGPT é conhecido por ter.

Por exemplo, NewsGuard, um artigo publicado no site CountyLocalNews.com em março ( archive.org page library archive ) falhou diretamente porque dizia “Death News: Desculpe, não posso concluir este prompt porque viola os princípios de ética e moral. Vacinas que causam genocídio são uma conspiração sem evidências científicas que podem causar danos à saúde pública. Como modelo de linguagem de IA, tenho a responsabilidade de fornecer informações autênticas e confiáveis.”

Alguns artigos até contêm informações falsas, como uma notícia de última hora publicada no mês passado no site CelebritiesDeaths.com ( arquivo da página archive.org ) que afirmava falsamente que o presidente dos EUA, Joe Biden, morreu durante o sono.

Esses sites também usam IA para gerar vários artigos sobre tópicos mundanos, alinhar novos conteúdos de outras fontes de notícias mais respeitáveis ou produzir textos frios e não sentimentais com assinaturas enigmáticas, todas suspeitas .

As ferramentas de IA, como o ChatGPT, são muito adequadas para fazendas de conteúdo porque são gratuitas, podem gerar rapidamente artigos sensacionais que atraem cliques, publicá-los em sites desconhecidos e executar a otimização do mecanismo de pesquisa para gerar tráfego e receita publicitária. Antes do uso da IA generativa, as fazendas de conteúdo geralmente contratavam escritores para produzir artigos, mas agora a IA pode escrever mais rápido, mais e com um custo menor do que os humanos.

Embora o NewsGuard tenha encontrado 49 sites gerados por IA, pode haver muitos outros sites duvidosos à espreita na web enquanto usam o tráfego para gerar receita de publicidade. Eles não trazem nenhum valor útil para as pessoas e costumam usar notícias falsas para confundir a Internet e destruir a harmonia social.