O AI Overview, recurso do Google que mostra um resumo da busca usando IA, sugeriu que cola branca pode ser usada na massa de pizza. No prompt usado para essa resposta, um usuário buscava uma solução para o queijo que não grudava na pizza. A fonte da IA foi um comentário jocoso feito no Reddit em 2013.
Contudo, esta não foi a única alucinação de IA que viralizou nos últimos dias. Nas redes sociais, tanto no X/Twitter quanto no Threads, usuários divulgaram relatos de sugestões malucas ou completamente errôneas da ferramenta. Por exemplo, a IA afirmou que a píton (uma espécie de cobra) é o mamífero com mais ossos e que é recomendado comer uma pedra por dia — ou quatro meias.
O AI Overview foi liberado para todos os usuários nos Estados Unidos no dia 14 de maio. Antes disso, usuários tinha a opção de ativar ou não o recurso. Os resultados sugerem que o Google ainda tem um longo passo para melhorar a qualidade das respostas.
AI Overview tem problema de ranqueamento
No caso da cola na pizza, a IA ranqueia essa informação em primeiro lugar. Na sequência, ela lista mais duas dicas de como resolver o problema do queijo não grudar na massa: esperar a pizza esfriar para que o queijo “se assente” ou deixar no forno até que ele derreta.
Em uma pesquisa sobre gatos lambendo a mão dos humanos, a jornalista Mia Sato, do The Verge, destaca a falta de clareza a IA em ranquear os resultados. Em uma das possíveis causas, a AI Overview diz que uma das razões para gatos fazerem isso é sentir o gosto para saber se o humano é apto para o consumo.
Em nota enviada ao The Verge, o Google disse que esses erros costumam acontecer com prompts muito incomuns e que não representam a experiência da maioria das pessoas. O que não justifica porque o AI Overview diz que pítons são mamíferos e usou o The Onion (uma espécie de O Sensacionalista dos Estados Unidos) para dizer que podemos comer uma pedra por dia — e o Copilot já sabe do caso da rival.
Sundar Pichai, CEO do Google, afirmou para o The Verge que resolver os problemas de alucinações da IA não está no roadmap da big tech. A empresa trabalha nessa situação de forma mais generalista, conforme vai desenvolvendo a tecnologia.
ChatGPT pagará para usar conteúdo do Reddit
Na última sexta-feira (17), a OpenAI e a plataforma anunciaram uma parceria, na qual o Reddit receberá um valor para usar o conteúdo da rede no treinamento do ChatGPT.
O fato do AI Overview do Google ter tirado piadas do Reddit como informações mostra que a rede social não é a melhor fonte para IAs — além de que o recurso ainda precisa melhorar. Apesar do Reddit conter informações úteis para sanar dúvidas em alguns casos, a plataforma é muito mais uma rede social.
Com informações: The Verge (1, 2 e 3)
Maluquices da IA: Google sugere passar cola em pizza
