Em live do FolcloreBR, Anderson Awvas, Andriolli Costa, Otoniel Oliveira e Mikael Quites discutem desinformação, autoria e os efeitos dos geradores de texto e imagem sobre a memória coletiva

Em fevereiro de 2023, Andriolli Costa perguntou ao ChatGPT qual era o mito da Mula sem Cabeça. A resposta não mencionava a mulher amaldiçoada, o padre ou a transgressão de um interdito. Segundo o programa, tratava-se de uma mula que puxava trens no século XIX e havia perdido a cabeça ao ser atropelada em uma ferrovia.

Quando o pesquisador questionou a relação da personagem com um padre, a pergunta foi marcada como potencialmente ofensiva. O sistema respondeu que essa relação não existia. Para evitar uma narrativa que interpretou como misógina, a ferramenta havia apagado justamente o conflito que permite discutir como o mito foi usado para controlar a sexualidade feminina — e também como pode ser recontado a partir de outras perspectivas.

O caso foi apresentado na live Como uma IA pensa na cultura popular?, transmitida em 2 de agosto de 2023 pelo FolcloreBR. Primeiro encontro da sétima edição do Somando Visões, a conversa foi conduzida por Anderson Awvas e reuniu Andriolli, o quadrinista e animador Otoniel Oliveira e o artista de games Mikael Quites.

Realizado no ano em que o FolcloreBR completava uma década, o debate partiu de uma pergunta que se tornou ainda mais urgente com a popularização das ferramentas generativas: o que acontece quando sistemas treinados com conteúdos disponíveis na internet passam a responder por culturas construídas na oralidade, marcadas por versões locais e ainda pouco documentadas?

Histórias erradas que parecem verdadeiras

Durante alguns meses, Andriolli acompanhou as respostas do ChatGPT sobre personagens do imaginário brasileiro. Com a intervenção de usuários, a ferramenta acabou recuperando a versão mais conhecida da Mula sem Cabeça. A correção, porém, não eliminou o problema exposto pelo primeiro resultado: decisões tomadas dentro do sistema podem higienizar narrativas sem que o público saiba quais critérios foram aplicados.

“Quem tem que decidir se conta e como conta é a sociedade, e não o algoritmo”, afirmou. O pesquisador ressaltou que recontar a história da Mula com foco na maldição sofrida pela mulher produz um sentido diferente de uma versão interessada em descobrir como desencantá-la. A escolha não é apenas técnica. Ela envolve disputas morais, históricas e políticas.

Outros testes apresentados na live mostraram que as respostas falsas não surgiam como disparates facilmente reconhecíveis. Ao ser perguntado sobre o Arranca-Língua, o programa inventou uma criatura que perseguia pessoas fofoqueiras e devorava a língua de quem falasse mal dos outros. A explicação parecia coerente com o nome, mas ignorava os relatos sobre o ser peludo associado à morte de gado em Goiás.

Com a Mão de Cabelo, a ferramenta criou a história genérica de um fazendeiro ou minerador cuja mão teria voltado para assombrar uma região depois de um acidente ou assassinato. Em testes anteriores com o Saci, chegou a representá-lo com capa e tridente, aproximando-o da iconografia do diabo. A máquina combinava palavras, imagens e estruturas narrativas até produzir uma resposta verossímil, ainda que sem correspondência com as histórias efetivamente contadas.

É justamente essa aparência de segurança que torna o erro perigoso. “A gente é condicionado a pensar que a tecnologia vai nos dar respostas mais precisas, mais eficientes e mais corretas do que a cultura popular e do que as pessoas que estão no nosso entorno”, observou Andriolli. Uma história de lobisomem contada pela avó pode ser recebida com desconfiança, enquanto uma invenção escrita por um sistema ganha autoridade porque parece organizada e objetiva.

A oralidade que não cabe no banco de dados

Anderson Awvas chamou atenção para a distância entre a diversidade da cultura popular e os registros usados para treinar esses sistemas. Grande parte das narrativas circula de boca em boca, muda conforme o território e nunca chegou à internet. Mesmo o que está disponível pode vir de páginas sem autoria identificada, textos repetidos ou conteúdos que apresentam uma versão como origem definitiva.

As ferramentas não resolvem essa escassez. Elas aprendem com ela. Por isso, podem reproduzir preconceitos presentes nas fontes, apagar variações locais e reforçar confusões já comuns entre folclore brasileiro e culturas indígenas. Quando a base é limitada, o resultado não representa todo o país: apenas reorganiza o fragmento que conseguiu ser digitalizado.

Para Mikael Quites, é mais preciso chamar essas tecnologias de “geradores” do que de inteligência artificial. Na produção visual, ele reconhece que elas podem ajudar a vencer um bloqueio criativo e apresentar rapidamente caminhos para um personagem ou cenário. O risco aparece quando a primeira resposta também se torna a última.

Uma imagem visualmente impressionante pode dispensar a pesquisa sobre a cosmologia, a história e as práticas do povo que supostamente inspirou sua criação. Compartilhada nas redes como “os deuses brasileiros” ou “cada estado como um deus”, ela se espalha pela força do impacto, mesmo quando mistura referências sem critério. “Por que vou gerar mais alguma ideia, por que vou pensar na mitologia, na cosmogonia ou na tradição de um povo, quando isso que me gerou já me basta?”, provocou Mikael.

Quando o barato se torna suficiente

A velocidade dos geradores também foi discutida como parte de um modelo econômico. No início da live, Andriolli contou que preparava um jogo de cartas sobre o folclore brasileiro com 27 ilustradores remunerados. Um projeto semelhante poderia ser feito por uma única pessoa, com dezenas de imagens produzidas em poucos minutos e sem contratar artistas.

“Não vai ser bom, não vai ser bonito, mas vai ser barato”, resumiu. Se o mercado considerar o resultado suficiente, a economia pode pesar mais do que a pesquisa, a qualidade e a responsabilidade de quem produz. Em um país no qual projetos culturais já trabalham com orçamentos reduzidos, a ferramenta tende a aparecer como solução tentadora — e até como sinal de inovação em propostas apresentadas a editais.

Mikael observou que o impacto começava a atingir sobretudo quem ingressava no mercado de arte para games. Tarefas exploratórias, usadas para desenvolver ideias e formar novos profissionais, estavam entre as primeiras a serem testadas por empresas. Dublagem, ilustração e roteiro apareciam no mesmo horizonte, em meio à expectativa de automatizar etapas inteiras da produção.

Otoniel Oliveira relacionou esse processo à perda da genealogia da obra. Um artista cria a partir de um território, de relações sociais, de experiências e de referências que podem ser reconhecidas e discutidas. Já uma imagem gerada a partir de bases formadas sem autorização apaga o percurso das pessoas cujos trabalhos tornaram o resultado possível.

“A arte e a cultura não podem ser apenas derivativas. Elas precisam ter um aspecto genealógico: o autor, de onde veio e para onde foi”, defendeu. A preocupação alcança tanto os direitos dos criadores quanto a identidade coletiva. Para Otoniel, não se pode entregar a empresas e critérios mercadológicos a definição das imagens pelas quais um povo passará a se reconhecer.

A tecnologia também pode servir à pesquisa

A conversa não tratou a recusa da tecnologia como resposta única. Mikael citou a possibilidade de um artista treinar, em ambiente controlado, um modelo alimentado apenas por sua própria produção. Um artesão que fotografou milhares de peças ao longo da vida, por exemplo, poderia usar esse acervo para experimentar variações sem recorrer ao trabalho alheio.

Outro caminho estaria na leitura de grandes conjuntos de dados. Anderson imaginou um levantamento nacional capaz de registrar histórias orais e mapear como criaturas, nomes e enredos se transformam entre diferentes regiões. Uma ferramenta poderia ajudar a organizar o material e localizar recorrências que levariam anos para ser identificadas manualmente.

Mas a tecnologia não substituiria o trabalho de campo. Antes de processar os relatos, alguém ainda precisaria “entrevistar o Brasil”, ouvir as comunidades, registrar as condições em que cada narrativa circula e definir um método de comparação. Sem essa etapa humana, até um mapa aparentemente objetivo pode inventar fronteiras e reduzir a variedade das experiências a três ou quatro alternativas prontas.

O uso responsável, portanto, dependeria menos do encantamento com a resposta automática e mais da clareza sobre a finalidade da ferramenta. Ela pode auxiliar na catalogação, no cruzamento de dados e em tarefas específicas. Não deve ocupar o lugar de fontes, pesquisadores, artistas e comunidades — sobretudo quando o assunto é um conhecimento que permanece vivo porque as pessoas continuam contando, corrigindo e transformando suas histórias.

Pesquisa e pensamento crítico diante da resposta pronta

Ao final da live, os participantes defenderam regulação, transparência sobre as bases de treinamento e proteção ao trabalho humano. Também insistiram em uma atitude que nenhuma ferramenta oferece por conta própria: desconfiar, conferir fontes, conversar com quem conhece o tema e reconhecer que uma resposta bem escrita ainda pode estar completamente errada.

“A cultura é feita de pessoas que compartilham uma visão de mundo”, afirmou Otoniel. Para ele, discutir os geradores permite retirar o tema da névoa da novidade tecnológica e recolocá-lo entre os problemas da vida coletiva: quem trabalha, quem recebe, quem aparece nas bases e quem pode decidir quais imagens serão preservadas.

Mais do que responder se a inteligência artificial ajuda ou atrapalha a cultura popular, o encontro mostrou que essa relação será definida pelos usos, interesses e limites construídos socialmente. Se os sistemas aprendem com os registros disponíveis, ampliar e qualificar esses registros continua sendo uma tarefa humana. E, quando uma máquina inventar outra mula ferroviária, será preciso saber que a história não termina na resposta apresentada na tela.

Assista à íntegra de Como uma IA pensa na cultura popular? | Papo 01 #Somando2023, no canal do FolcloreBR no YouTube.