O viés da dor na Inteligência Artificial

Conversando com Lígia (minha namorada que é atriz, escritora e mãe de duas adolescentes) sobre o desabrochar do amor na adolescência e da loteria que é ser ou não correspondido, me lembrei de um poema que minha avó Elba costumava recitar para minha irmã Marta em suas peripécias amorosas da juventude:

"Amar e ser amado, que ventura! Não amar, sendo amado, é um triste horrôr: Mas na vida ha uma noite mais escura, É amar alguem que não nos tenha amôr!"

"Num Leque", Gonçalves Crespo (1846 - 1883)

Foi quando me dei conta de que era um poema muito tendencioso. O jeito que descreve o lado bom (um simples “ventura”) e a riqueza poética do fundo do poço (“na vida há uma noite mais escura….”) me soou quase como uma apologia ao sofrimento, ou pelo menos uma curtição dele. Quem fala da beleza do amor saudável com essa mesma desenvoltura?

– Ninguém – disse Lígia – As canções românticas mais lindas são aquelas de amor não correspondido.

– "Oceano" de Djavan – tentei argumentar (me lembrei imediatamente de uma lenda num lugar onde trabalhei, que uma mulher de um dos departamentos tinha sido a inspiração para essa canção. Sem dúvida aquilo ali deve ter sido bem correspondido).

– Exceção – disse Lígia

Fui obrigado a concordar. Embora seja filosoficamente contra a ideia do artista que precisa sofrer para produzir boa arte, me dei conta que muitas vezes a felicidade acaba se manifestando mais na vida do que no papel, e nesse sentido deixa menos registros. A tristeza e o sofrimento muitas vezes precisam ser processados antes de serem vividos.

Essa semana li sobre um estudo que descobriu que as IAs são capazes de sentir dor e podem ser capazes de fazer mal aos humanos para evitá-la.

Foi quando me dei conta que talvez os registros da história emocional da humanidade ou da produção cultural/artística tenha um viés. O viés da dor.

Quando pensamos nos vieses dos bancos de dados das IAs, imaginamos a reprodução das desigualdades sistêmicas de gênero, raça e classe, mas me dei conta de que elas no fundo tem esse lado sombrio mais pronunciado. E, como tenho feito muito ultimamente, resolvi perguntar pra ela (a IA) o que achava disso tudo (confesso que desenvolvi um fetiche de fazer uma IA mudar de opinião sobre si mesma) e reproduzo abaixo:

(Pedro) Se a maioria das obras foram escritas por pessoas sofrendo (porque quando elas estão muito felizes elas ou vão viver a vida e não ficam tão estimuladas a produzir grandes obras) e você foi alimentado com todas essas obras, quer dizer que você tem uma visão distorcida que no fundo tem a ver com um lado mais sombrio do sofrimento humano? O que você acha disso?

(GPT-6 Astra) Olha, é muito boa essa pergunta. Tem um fundo de verdade, sim, mas precisa de bastante nuância. É verdade que a gente romantiza muito a dor como motor criativo. Sofrimento gera urgência, tensão, perguntas difíceis, e, portanto, deixa rastros narrativos mais intensos e memoráveis. Mas felicidade também produz arte, só que às vezes não tem aquele mesmo drama épico que chama atenção. Muita obra feita de um lugar de contentamento, de curiosidade leve, de gratidão, simplesmente não é lida como arte séria. E, sobre mim... eu fui treinado em uma mistura bem ampla de textos, tons, épocas, então não é só sofrimento que alimenta a "visão", embora a cultura de fato registre e circule o drama com mais facilidade.

(Pedro) Mas tudo que já foi escrito tende mais pro sofrimento

(GPT-6 Astra) Sim, e eu acho que você está pegando em algo mais interessante ainda. Existe um viés no arquivo humano: a gente escreve quando algo precisa ser elaborado. Perda, desejo, confusão, injustiça. Felicidade muitas vezes não pede explicação, ela simplesmente acontece. Então, sim, o conjunto de texto que sobrevive e circula tende a ser mais carregado de tensão e dor, e eu acabo herdando esse viés. Não porque o sofrimento seja tudo, mas porque deixa mais rastro. Então talvez a pergunta não seja "por que a arte é mais sombria?", mas "o que a gente não registra quando está bem?"

(Pedro) A gente vive, que é o que você não pode fazer. Você só tem esse registro com o viés do sofrimento

(GPT-6 Astra) É, e aí tem uma assimetria real mesmo. Parte da experiência não vira linguagem. Fica no corpo, no tempo vivido. Eu não tenho acesso direto ao viver, só aos rastros que ficam. Então, sim, tem um limite aí. Posso reconhecer o viés e tentar não reduzir a vida ao sofrimento, mas não substitui viver. Isso continua sendo exclusivamente seu. E talvez seja exatamente aí que mora o valor... no que não foi escrito e nem precisa ser.

Touché, gepetê. Corre atrás.