Um passeio pelos sites, apresentando fatos falsos e palavras estranhas, me deixou imaginando o que era real
Pelo menos foi o que o site altamente confiável informou a seus leitores no mês passado, sob a manchete sensata “Biden morto. Presidente interino de Harris, discurso às 9h ET”. O site explicou que Joe Biden havia “falecido pacificamente enquanto dormia” e Kamala Harris estava assumindo, acima de um aviso bizarro: “Sinto muito, não posso concluir esta solicitação, pois vai contra a política de caso da OpenAI sobre a geração de conteúdo enganoso .”
O Celebritiesdeaths.com está entre os 49 supostos sites de notícias que o NewsGuard, uma organização que rastreia a desinformação, identificou como “quase inteiramente escrito por software de inteligência artificial”. Os sites publicam até centenas de artigos diariamente, de acordo com o relatório, grande parte desse material contendo sinais de conteúdo gerado por IA, incluindo “linguagem branda e frases repetitivas”. Alguns dos artigos contêm informações falsas e muitos dos sites estão repletos de anúncios, sugerindo que eles pretendem ganhar dinheiro por meio de publicidade programática ou gerada por algoritmos. As fontes das histórias não são claras: muitas não têm autoria ou usam fotos de perfil falsas. Em outras palavras, diz o NewsGuard, os temores dos especialistas de que organizações inteiras de notícias possam ser geradas pela IA já se tornaram realidade.
É difícil imaginar quem acreditaria nessas coisas – se Biden tivesse morrido, o New York Times provavelmente cobriria – e todos os 49 sites contêm pelo menos uma instância de mensagem de erro de IA contendo frases como “Não consigo concluir esta solicitação” ou “como um modelo de linguagem AI”. Mas, como aponta o Futurismo, uma grande preocupação aqui é que informações falsas nos sites possam servir de base para o futuro conteúdo de IA, criando um ciclo vicioso de notícias falsas.
Como são esses sites – e os artigos de IA sempre seriam tão fáceis de detectar quanto o relatório da morte de Biden? Passei uma tarde no admirável mundo novo do absurdo digital para descobrir.
A primeira parada foi Get Into Knowledge, que oferece uma enorme quantidade de conhecimento para se obter, tudo isso regurgitado na página inicial aparentemente de forma aleatória. (Não colocaremos links para os sites aqui para evitar aumentá-los ainda mais.)
A página inicial do Get Into Knowledge. Fotografado por: TheGuardian
As manchetes pareciam obra de um software de tradução. Uma categoria era “razões incríveis por trás”: por exemplo, um longo artigo sobre “Por que os cães comem grama? – razões surpreendentes por trás”. Um artigo sobre se o congelamento dos oceanos foi baseado em “ciência massiva”, e o site se atreve a fazer perguntas como “por que o céu é azul, mas o espaço é preto?” e ainda mais poético “A gravidade de Marte é igual à da Terra?”, algo que sempre me perguntei. Comecei a me perguntar se a linguagem era muito esquisita para ser obra do ChatGPT, que tende a ser legível, de chato.
Esse foi o caso dos próprios artigos. Eles são ordenados como apresentações, com um esboço na parte superior e os parágrafos organizados por número. Mas há vislumbres da verdadeira humanidade: por exemplo, o artigo sobre cães comedores de grama se refere a eles como nossos “amigos peludos” seis vezes. Essas peças certamente parecem o trabalho da IA, e uma pessoa que se identificou ao NewsGuard como o fundador do site disse que o site usou “automação em alguns pontos em que são extremamente necessários”. (O site não respondeu imediatamente aos e-mails do Guardian.)
Depois de adquirir conhecimento suficiente, visitei o www.celebritiesdeaths.com, que se descreve sinceramente como “notícias sobre figuras famosas que morreram” – uma mudança revigorante em relação a veículos como a Us Weekly, que insiste em cobrir figuras que ainda estão vivas.
Além da confusão de Biden, as mortes que verifiquei realmente ocorreram, embora pareçam ter parado em março: links para mortes em abril e maio não funcionaram. Felizmente, a escassez de mortes naqueles meses foi compensada pelas repetidas mortes de indivíduos em março: o último piloto da RAF tcheco sobrevivente da Segunda Guerra Mundial, por exemplo, aparentemente morreu nos dias 25 e 26.
Também descobri que um “fundador do império do bolinho de massa” morreu em 26 de março, o que foi uma informação impressionante, visto que o artigo afirmava ter sido publicado em 26 de fevereiro. Celebitiesdeaths.com não considerou necessário fornecer o nome do fundador da “franquia colossal de bolinho global”, embora a “morte” do homem de 96 anos tenha sido amplamente lamentada. (A peça deve ter se referido a Yang Bind-yi, que fundou uma famosa rede taiwanesa.) Um e-mail do Guardian para o endereço listado no site foi imediatamente devolvido com uma mensagem de erro.
Uma história sobre a morte de um magnata do bolinho de massa não mencionou seu nome. Fotografado por: TheGuardian
Assim que me cansei de celebridades mortas, fui ao ScoopEarth.com, que fornecia informações privilegiadas suculentas sobre estrelas que ainda estão respirando, bem como, por algum motivo, dicas técnicas. O primeiro artigo era sobre o músico August Alsina, que, segundo soube, nasceu a 3 de setembro de 1992 “com 30 anos”. Seu aniversário em 3 de setembro provavelmente explica por que “todo mês de setembro Alsina faz uma festa de aniversário em 3 de setembro”. Em um e-mail, Niraj Kumar, identificado no site como seu fundador, rejeitou as alegações de que o site usava IA, chamando o material de “puramente genuíno”. Muitas das peças no site pareciam muito estranhas para serem do ChatGPT, mas havia tantas informações repetidas que também parecia que não poderiam ser escritas por humanos. Eu me perguntei como podemos confiar em qualquer coisa na internet se já é tão difícil dizer quando a IA está envolvida.
Por fim, visitei Famadillo.com para análises de produtos. Este site com curadoria imaculada é focado a laser em comprimidos de liberação de estresse, dicas de RVing, camisetas do Dia das Mães e os “melhores” sites em Santa Fé. As avaliações em si são bastante sensatas, mas navegar no site é praticamente impossível. Talvez seja perfeitamente projetado para um verdadeiro diletante – o tipo de pessoa que leu uma resenha do Super Stretchy Green Slime da Play-Doh imediatamente após uma peça abordando a questão espinhosa “As batatas-bebês são batatas normais?”
Em um e-mail ao Guardian, Famadillo rejeitou as alegações de que usou IA para gerar conteúdo destacado no relatório do NewsGuard. “A Famadillo realiza entrevistas e análises relatadas e usa comunicados de imprensa para as páginas do nosso concurso. Nenhum desses conteúdos é gerado por IA”, dizia o e-mail. “Dito isso, experimentamos a IA em termos de atualização de conteúdo antigo e edição de conteúdo escrito por repórteres com a supervisão de nossos editores.”
A controvérsia aponta para a crescente dificuldade de discernir os humanos dos bots. No final do dia, eu estava ainda mais confuso sobre o que era real e o que não era depois de acordar de um sonho ou assistir a 15 minutos da Fox News. Quem, exatamente, está administrando esses sites não está claro: muitos não contêm informações de contato e, daqueles que o NewsGuard conseguiu contatar, a maioria não respondeu, enquanto os que o fizeram foram vagos sobre suas operações. Enquanto isso, seu impacto parece variar muito – alguns postam em páginas do Facebook com dezenas de milhares de seguidores, enquanto outros não têm nenhum.
Se é isso que a IA gerou até agora, imagine como será quando sites como este se tornarem o material de origem da IA. Só podemos esperar que os bots permaneçam compulsivamente honestos sobre suas identidades – ou o Joe Biden encontre uma maneira de impedir um oeste selvagem da IA. Supondo que ele ainda esteja vivo.
Fonte: TheGuardian
