Por que o Vale do Silício deveria reler Mary Shelley?
Pensando o Complexo de Frankenstein em tempos de Big Techs
Frankenstein ou o Prometeu moderno, o celebrado romance de Mary Shelley, é constantemente citado entre cientistas do Vale como uma fábula de advertência sobre os perigos da criação.
Técnologos e engenheiros do Vale do Silício o consideram como uma narrativa capaz de fornecer um modelo ético para processos de inovação, design de robôs e desenvolvimento de inteligências artificiais, a exemplo do Frankenstein Bicentennial Project da Universidade Estadual do Arizona que visa refletir sobre a história da criação científica a partir da obra de Shelley.
Essa preocupação ética soa esquisita quando percebemos a agressividade das gigantes do Vale quando a questão é regulação.
Nos últimos dias empresas como Google, Meta e Spotify veicularam de forma abusiva anúncios contra o PL das Fake News no Brasil.
O Google, burlando seus próprios termos de uso, utilizou de sua plataforma para induzir os usuários a desacreditarem o PL das fakes news apontando o projeto como prejudicial à liberdade de expressão.
Google coloca mensagem contra o PL na sua tela inicial, alertando todos os usuários que o PL iria “aumentar a confusão entre o que é verdade e mentira no Brasil”.
No excelente relatório do Laboratório de Estudos de Internet e Mídias Sociais da UFRJ é possível ententender como as Bigs Techs utilizam de seus privilégios e dominação de mercado para propagarem ideias, influenciando negativamente os usuários em prol de seus próprios interesses comerciais.
Há quem acredite na tese do Google e de outras gigantes, acusando o PL de uma suposta tecnofobia ou falta de entusiasmo em relação à inovação ou à tecnologia, concordando com as empresas de que a regulação irá prejudicar o progresso e os processos de inovação.
Na literatura de ficção científica é muito comum nos depararmos com histórias que retratam a questão do controle de robôs e dos poderes das inteligências artificiais.
Isaac Azimov criou a designação Complexo de Frankenstein para esse sentimento que os humanos têm de querer controlar robôs, afinal uma das características mais assustadoras desses seres artificiais é sua autonomia, a capacidade de ter vontade própria.
Esse tratamento de ficção científica contribuiu para exacerbar uma variedade especial de tecnofobia: o medo do progresso tecnológico em relação aos robôs como “sacrílego”, e o consequente receio de tudo o que for autômato, que supera e ultrapassa o de todos os outros produtos da tecnologia. E por isso que em minhas histórias qualifico esse medo de “complexo de Frankenstein”.
Isaac Asimov, Histórias de robôs
Para Azimov os homens (o sentido aqui seria de humanidade) têm medo de serem superados pelas máquinas e, por isso, possuem uma forte necessidade de querer controlá-las, especialmente em virtude de vivências históricas desastrosas da ciência como a Bomba Atômica — Frankenstein is Oppenheimer dirá o MIT Press no Frankenstein anotado.
Cientistas arrependidos. Eles também existem no Google. Aqui o artigo sobre o ‘padrinho’ da IA que se demitiu do Google:
Segundo Azimov, essa ideia de que “o homem cria o robô, o robô mata homem” surge do imaginário criado por Frankenstein e se disseminou em diversas histórias de ficção científica. Para aplacar esse medo ele cria suas famosas leis da robótica.
Mas Frankenstein como o grande clássico que é merece uma releitura.
O mundo contemporâneo e a crítica feminista nos provocam a atualizar essa obra tão essencial para entender o nosso tempo: na famosa relação entre criador e criatura precisamos resgatar o aspecto da maternidade.
Será que Victor Frankenstein deve ser culpado por criar um monstro - usurpar o poder de Deus e das mulheres - ou por não amá-lo, cuidar dele e educá-lo?
Na edição passada falei sobre como Frankenstein é uma história sobre concepção e cuidado e uma crítica às fraquezas e egocentricidades masculinas expresa no terrível abandono da criatura.
Visto como uma história escrita por uma mulher, por uma mãe, podemos nos questionar que o problema pode não estar necessariamente na criação, na gestação, afinal criar é uma potência, mas na responsabilidade que é ser um progenitor.
A criatura de Victor Frankenstein é um monstro ou tornou-se monstruosa por ter sido abandonada? Quem é o monstro afinal?
Frankenstein nos provoca a um exercício intenso de alteridade quando a questão é ciência e tecnologia.
Em artigo provocador Ted Chiang nos ajuda a pensar que a IA não necessariamente é um perigo para a humanidade. Depende de quem a cria, com qual finalidade e para quem.
Mesmo em sua forma rudimentar atual, a IA tornou-se uma forma de uma empresa fugir da responsabilidade, dizendo que está apenas fazendo o que “o algoritmo” diz, mesmo que tenha sido a empresa que encomendou o algoritmo em primeiro lugar.
Ted Chiang
A responsabilidade não está apenas em criar uma IA mas também em cuidar, a intensa relação com o Outro, e esse ponto é essencial para repensarmos a tecnologia não apenas como sinônimo de capitalismo e progresso.
Existe uma maneira de a IA fazer algo além de afiar a lâmina da faca do capitalismo?
Ted Chiang
Em Vale da Estranheza Anna Wiener traz a visão de uma mulher sobre o que é o Vale do Silício: um lugar dominado pelo machismo e com uma obsessão perigosa pelo progresso.
Em uma conversa com um típico CEO do Vale, jovem, branco e do sexo masculino, ela o questiona sobre a noção de progresso:
“Se eu preferiria um Vale do Silício hipotético, que só gerasse empresas significativas? É claro que sim. Mas acho que startups genômicas e as startups de merda são resultados do mesmo processo, os pontos fracos e as tendências autodestrutivas, isso tudo. Se pudéssemos ter um Vale do Silício são, criterioso, equilibrado, prudente, centrado, produzindo as mesmas empresas, seria ótimo, mas não sei se é possível”, responde Patrick, nome fictício de um bem-sucedido CEO de uma startup do Vale.
A regulamentação das plataformas digitais é apenas o primeiro passo para conter os usos nocivos da tecnologia e das IAs até que sejamos capazes de pensar, criar e disseminar inovações que de fato estejam focadas no cuidado e no bem-estar das pessoas.
Não preciso nem dizer o quanto a ficção científica, em especial a escrita por mulheres, é valiosa para nos ajudar a imaginar soluções para tantos desafios.
Falando em potência da ficção especulativa feminista, chegou por aqui esse livro lindo da Aleph! Quero ainda falar bastante dele por aqui!
Obrigada por ler até aqui!
Quer receber uma curadoria especial de ficção especulativa (livros, séries, filmes e curiosidades de mundos distópicos!) diretamente no seu e-mail? É só assinar a news.❤️✉️
As obras dessa edição:
👁️ Histórias de robôs, Isaac Azimov
👁️ Vale da estranheza, Anna Wiener
👁️ Frankenstein ou o Prometeu Moderno, Mary Shelley
👁️ Para conhecer Ted Chiang, História da sua vida e outros contos
Bjs e até a próxima edição ;)
Thais
Curtiu o conteúdo? Torne-se um assinante gratuitamente e apoie o meu trabalho❤
fiquei com muita vontade de ler esse do vale da estranheza. obrigada pela news!
Maravilhoso, Thais!