IAs alucinam, escritores deliram
qual a diferença?
Quem nunca se pegou fazendo algumas questões existenciais para IA? Considerar chats como oráculos, donos das respostas sobre os problemas da humanidade, é uma das coisas mais traiçoeiras do mundo digital.
Na última vez que fiz isso queria entender melhor quem era a Thais Nunes escritora. Queria saber como a internet estava reconhecendo a minha escrita a partir do conteúdo que produzo e dos meus textos disponíveis.
Mas, para a minha surpresa, a IA me disse que eu uma escritora de serial killer e uma jornalista investigativa. A IA alucinou. Ela me confundiu com uma escritora, também chamada Thais Nunes e, por algum motivo, ela teve prioridade em relação a Thais, escritora de ficção especulativa.
Essa outra Thais realmente existe, ou pelo menos parece existir até onde pude checar, e publicou um romance investigativo que a Amazon erroneamente atribuiu a mim. A escritora duplicada quase bugou minha cabeça! rs! Você já passou por isso também?
Já sabemos que não é possível confiar na IA, pois elas alucinam. Elas erram, reproduzem falhas, preconceitos, teorias da conspiração e todo tipo de coisa ruim que tem na Internet.
E por mais que eu tenha achado essa falha até engraçada – que numa outra vida eu possa ser uma escritora de policial –, no geral, as alucinações da IA podem ser perigosas, pois as pessoas realmente acreditam e confiam nesses terríveis robôs do Vale do Silício.
Eles conversam com a gente não para dizer a verdade, mas parecer verdadeiro, natural, humano. IAs generativas são treinadas para serem simpáticos mentirosos.
👉Pessoas estão surtando depois de conversar com o ChatGPT
Enlouquecer, delirar é essencialmente a função do artista. No entanto, escritores não alucinam, ou pelo menos não deveriam, para trazer prejuízo social como o fazem os robôs de Sam Altman.
Escritores deliram para introduzir uma nova visão sobre o mundo, para abrir caminhos, dizer o indizível e combater formas hegemônicas que impedem a vida de fluir em sua multiplicidade.
A escrita literária busca vitalidade ao promover um curto circuito do pensamento. Ela delira pois ela fabula o indeterminado, cria formas de vida que estão abafadas, invisíveis para muitos.
A Inteligência Artificial, dirão os especialistas, pode alucinar ao gerar dados e informações escritos de forma coerente, mas completamente errôneo.
Isso acontece, pois uma IA generativa é capaz de gerar dados novos a partir de dados de treinamento que podem conter muitas informações falsas, em especial quando extraídos livremente da internet.
Mas o erro não é algo necessariamenre ruim. O erro é fundamental na atividade criativa e para mim é ponto principal que diferencia a escrita das máquinas, pelo menos dessa que está aí, e a escrita literária, a escrita artesanal, aquela feita à mão e com o sangue dos escritores.
Fazer arte é errar, hesitar, descobrir coisas sobre si que você jamais imaginaria se não remexesse nas águas profundas da criação.
Uma máquina busca respostas a partir de padrões e tudo o que um escritor não quer são respostas. Escritores estão sempre em busca de boas perguntas para atravessar os abismos de sua imperfeição.
A arte lida antes de tudo com as imperfeições humana.
Um mundo novo se abre quando um escritor fabula, pois ele coloca lentes em algo que ninguém antes tinha sequer imaginado.
Tudo o que a IA generativa faz é reproduzir mundos já existentes e, o que é pior, alucina sobre mundos que não desejamos de uma maneira muito convincente.
MENTIRAM PRA VOCÊ SOBRE INTELIGÊNCIA ARTIFICIAL
Arte é algo que você faz no mundo, ou algo que você faz sobre o mundo, ou até mesmo algo que você faz pelo mundo.
Arte e medo
David Bayles e Ted Orland
Fazer arte é perigoso, pois revela novos universos para as pessoas e isso quase nunca é agradável. A arte incomoda, gera novas questões e promove uma ruptura de caminhos já percorridos.
É por isso que um bot de texto pode até ser capaz de reproduzir o estilo de Clarice Lispector, Guimarães Rosa ou Machado de Assis, ela pode até simular que aprende com eles gerando novos textos com o estilo desses escritores que tanto amamos, mas a IA generativa é incapaz de abrir um novo estilo, pois ela é incapaz de destruir a si mesma para gerar o novo, um mundo diferente.
Criar é morrer, entrar em crise, para fazer um novo estilo ou modo de vida surgir e isso é inevitavelmente uma dimensão humana.
Estilo não é um aspecto do bom trabalho, é um aspecto de todo trabalho.
Arte e medo
David Bayles e Ted Orland
Por isso acho que em tempos de conteúdo artificial e ultraprocessado, devemos valorizar cada vez mais o artista, o escritor, aquele que destrói a si para criar, para se transformar e se metamorfosear.
A escrita como um charme, a beleza de um modo de viver. Sentir mais do que tudo saber.
A escrita que cria palavras para nomear aspectos fantásticos e assombrosos da realidade, que pede tempo, calma, processo, espera e escuta.
Obrigada por ler até aqui!!❤️✨️
A newsletter @thaisliteratura é totalmente gratuita, mas você pode apoiar o meu trabalho a partir de R$ 15/mês e ganhar benefícios 👇🏽⭐
📌Como apoiador você terá acesso a:
✍15% de desconto na leitura crítica do seu original (a partir de 6 meses de assinatura);
✍25% de desconto na mentoria literária (a partir de 6 meses de assinatura).
📌Quer uma ajuda para colocar sua história no mundo? Para agendar uma leitura crítica, basta enviar um e-mail para thais.fnunes7@gmail.com, contando um pouco sobre o seu projeto literário. ;)
👉Falei sobre aqui sobre como os algoritmos reproduzem preconceitos, equívocos e vieses humanos nos sistemas que atualmente estão gerindo nossos modos de vida;
👉Nessa edição falei sobre como o conteúdo artificial das IAs generativas produzem um perigoso mundo alucinado;
👉 Comentei a leitura de um lindo solapunk: Salmo para um robô peregrino de Becky Chambers. Ainda quero ler mais livros solares como esse, utopias possíveis e aprender mais com esse estilo de ficção científica. Tem indicações?
👉 Um livro que também lida com os desafios da Utopia é Floresta é nome do mundo de Ursula K. Le Guin. Falei dele aqui.
Beijos e até a próxima edição⭐✨️,
Thais
Antes de sair não esquece de se inscrever para receber as edições quentinhas no seu e-mail!👇🏽
Eu andei usando o GPT pra pedir indicações literárias. Peço assim: você poderia me indicar alguma obra literária de um escritor premiado contemporâneo e que tenha a temática.......
Ele erra demaaaaais. Já acertou também. Mas eu sempre tenho que checar. Sinopses erradas, nomes errados de livros, livros que nem existem.
Muita alucinação.