IA do Google confunde criatura fictícia da internet com entidade real
Um novo problema envolvendo inteligência artificial veio à tona esta semana: o resumo gerado automaticamente do Google está apresentando o SCP-565, uma criatura totalmente fictícia criada pela comunidade online, como se fosse uma entidade real e documentada.
O SCP Foundation é um projeto colaborativo de ficção científica baseado na web, onde fãs criam e descrevem entidades paranormais, anomalias e criaturas sobrenaturais em um formato de documentário. O SCP-565, apelidado de “Cabeça de Ed”, é um desses personagens fictícios: uma cabeça humana animada que se comporta como um caranguejo-coral e se move pelo fundo do oceano manipulando matéria cerebral exposta.
A ferramenta de resumo automático do Google, conhecida como “Visão Geral criada por IA”, descreveu essa criatura de forma totalmente factual, sem mencionar em nenhum momento que se trata de pura ficção. A descrição inclui detalhes como registros de DNA e informações sobre um suposto “Edward Belltram”, tudo apresentado como fatos reais.
Esse incidente levanta questões importantes sobre como os sistemas de IA interpretam conteúdo da internet. O site Futurism reportou o problema e entrou em contato com o Google para esclarecimentos, mas ainda não recebeu uma resposta oficial sobre o erro.
O caso ilustra um desafio crescente da era moderna: a dificuldade que algoritmos de machine learning enfrentam ao diferenciar ficção de realidade. Com bilhões de usuários confiando em assistentes de IA para obter informações rápidas, erros como esse podem disseminar desinformação involuntariamente.
A comunidade do SCP Foundation provavelmente acharia irônico que uma de suas criações fictícias tenha sido “validada” como real pela inteligência artificial mais poderosa do planeta. Enquanto isso, o Google continua investigando como melhorar seus sistemas de reconhecimento de conteúdo.
Fonte: Voxel
