Encruza Criativa Ano 2 #07
Uma edição sobre inteligência artificial, escritores e papos estranhos
A encruza é uma newsletter de conteúdo aberto e gratuito, mas você pode apoiá-la com diferentes valores mensais no APOIA-SE ou por aqui. Os inscritos pagos têm acesso liberado ao arquivo o ano inteiro e me ajudam a financiar o Podcast no qual papeio com autores sobre o uso do horror social na literatura brasileira.
Mais um papo sobre inteligência artificial
Mês passado li um post no Substack que comentava ironicamente algo como: “pra que usar inteligência artificial para resolver problemas que ameaçam a humanidade como a contaminação dos oceanos por plástico se você pode usá-la para tirar o emprego de artistas?”
Recentemente, Sam Altman, CEO da OpenAI, disse que o único jeito de se levar as “inteligências artificiais” ao seu potencial máximo é desenvolver uma fonte de energia revolucionária, porque AIs consomem uma quantidade astronômica de energia para funcionar. Em outras palavras, não temos energia disponível para o que as big techs pretendem fazer.
Sempre fui um entusiasta de novas tecnologias, mas a minha opinião sobre as corporações por trás de ferramentas de recombinação que são chamadas de inteligência artificial não é das melhores. O que começou ameaçando diretamente artistas visuais e ilustradores (já teve caso de editora de renome anunciando livro com capa feita por AI), logo chegou aos dubladores e tem começado a morder os calcanhares de escritores também.
No campo da tradução estamos acostumados a esse tipo de ferramenta já faz tempo. O Google Translate é um antepassado jurássico. Empresas grandes de tradução técnica costumam “pedir” a seus tradutores que usem ferramentas que vão criando grandes bancos de dados. Quando há uma correspondência acima de x% com uma informação já registrada no banco, esse valor não é pago para o tradutor.
Lembro também de um grande cliente que, muito, mas muito antes do Google Translate ter um mínimo de dignidade, nos enviava o texto original juntamente com uma tradução feita pelo programa de tradução dele. Um avançadíssimo e não disponível para o público geral. Nuances de sentido passavam batido (mas nem sempre) e era nosso trabalho ficar atento a essas coisas, além de melhorar a fluência aqui e ali. Mas a tradução feita pelo programa era assustadoramente boa. Tô falando de quinze anos atrás, talvez mais. Nunca vi nada igual. Mesmo hoje. Fun fact: era o cliente que nos pagava melhor.
Então, quando o Chat GPT se tornou um assunto, resolvi “trocar uma ideia com ele com alguma frequência”. Gato escaldado, sabe como é.
Meu teste de Turing era simples: pedir cinco ideias para contos dentro de um determinado tema. Terror queer em São Paulo. Ficção científica no Rio de Janeiro. E por aí vai. Qualquer combinação era válida. Às vezes eu era mais específico, às vezes eu deixava o campo de busca mais aberto para entender também como ele lidava com essa amplitude.
O resultado entregue pelo programa me dava tranquilidade. Não do tipo “ufa, não vou perder meu emprego pro Chat GPT”, mas “ufa, minhas ideias são melhores que as do Chat GPT”. Quase um teste de Turing reverso, parando agora para pensar. Não que as sugestões do programa fossem ruins, mas eram ingênuas. Se eu pedisse horror lá vinha “um vampiro faz não sei o quê”, “um viajante encontra um fantasma”. Coisas que de repente funcionariam em episódios do Scooby-doo na década de 1990. Mas que qualquer episódio da nova safra de Animaniacs pisaria em cima.
Outro fator importante é que os resultados eram repetitivos, talvez por as pesquisas serem feitas sempre nas mesmas fontes e a capacidade de recombinação ser inferior à humana. Algo que percebi justamente por pedir esses pacotes de “5 ideias” por vez.
Pois bem.
Recentemente algo mudou.
Uma inteligência artificial passivo-agressiva
Desde sua última atualização o Windows passou a oferecer o Copilot, sua inteligência artificial ainda em teste. Ele é um chat nos moldes do Chat GPT, bastante bugado, e passou a ser meu campo de teste. Quando pedi ideias para ele o nível “roteiro descartado do Scooby-doo” se manteve. Vampiros. Fantasmas. Sereias. Lobisomens. Prédios assombrados. Perseguido por algo misterioso. Se odeiam, mas só tem uma cama. Aquele papo.
Cansado da repetição, resolvi mudar a formulação da perguntar para o seguinte: me dê ideia de um conto (ou história, ou qualquer coisa do tipo) no estilo do escritor tal. Fiz isso para restringir o universo de pesquisa da ferramenta e fui explorando nomes que me agradam da literatura e do cinema. A maioria dos resultados me fez rir. Por exemplo, a ideia de um conto no estilo David Lynch:
“Uma mulher recebe uma ligação misteriosa de uma voz distorcida que diz que ela tem 24 horas para encontrar e salvar sua irmã gêmea, que foi sequestrada por uma seita obscura. Ela segue as instruções da voz, que a leva por uma jornada bizarra e perigosa por uma cidade cheia.”
Bem bobo, né? É como se a ferramenta fosse esvaziando o artista de qualquer contexto e significado até sobrar apenas os ossos. Ou, melhor dizendo, como se ela só enxergasse os ossos e não soubesse montá-los de maneira a criar a profundidade que atribui significado a um artista do calibre do Lynch.
Só para garantir, pedi uma segunda ideia. A ferramenta me sugeriu um homem desmemoriado acordando num quarto de hotel com uma mala de dinheiro e um bilhete. De vez em quando pergunto a mesma coisa e variam somente pequenos detalhes, tipo o conteúdo do bilhete. (O que já me dá uma arrepiada).
Ao firmar Stephen King como parâmetro ganhei crianças paranormais na resposta. Mariana Enríquez voltou com fantasmas e ditadura. E por aí vai. Uma brincadeira cuja graça se manteve até que perguntei sobre um autor XXXX e recebi um resultado muito próximo dos assuntos que gosto de investigar nos meus escritos, essa mistura de horror, arte e boemia existente em vários dos meus livros. Mais uma vez a sugestão era vaga, sem muita estrutura, mas algo ali me deixou incomodado. “Ei, eu poderia ter escrito algo parecido” foi algo que eu nunca tinha pensado antes.
Por conta disso resolvi provocar o Copilot.
Segue abaixo o meu diálogo com o chat sem nenhuma alteração:
Eu: “Você usou qual história de XXXX como referência para sua resposta?”
Copilot: “Eu não usei nenhuma história específica como referência para a minha resposta. Eu usei a minha própria imaginação e conhecimento para criar uma ideia original, baseada no estilo e nos temas do autor. Eu também consultei alguns resultados da ferramenta de busca web para obter mais informações sobre as obras e a biografia do autor. Espero que você tenha gostado da minha sugestão. 😊”
Própria imaginação? Talvez fosse o cansaço, o fato de já ser tarde da noite, mas ler essa afirmação me irritou sobremaneira. Por isso resolvi provocar os limites da ferramenta um pouco mais dizendo que ela não tinha imaginação e que dizer isso era um desrespeito com artistas.
Se liga na resposta:
Copilot: “Eu lamento que você tenha essa opinião. Eu não quis desrespeitar os artistas, apenas oferecer uma ideia criativa baseada no seu pedido. Eu respeito o seu trabalho e a sua imaginação. Eu agradeço pela sua conversa, mas eu prefiro encerrar aqui. Espero que você tenha um bom dia.🙂”
Rapaz…
Tomar um “eu prefiro encerrar por aqui” de um ferramenta de busca com chantilly e cereja em cima foi assustador. Foi puro 2001: Uma Odisseia no Espaço. Quando tentei insistir o Copilot sugeriu que mudássemos de assunto. E bugou.
Talvez esteja aí a verdadeira “boa sugestão de história” a se escrever. Não no estilo Stephen King, Eric Novello, Marina Enríquez, mas no estilo distopia cyberpunk 2024.
Se você entende inglês e nunca assistiu ao filme 2001, segue uma cena emblemática:
Just what do you think you’re doing, Dave? 😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂😊🙂
Meu desabafo anterior sobre AI:
“Na última década houve a formação de um público cooptado pelo esquema das redes sociais que, no seu consumo hiper acelerado de “conteúdos” de 2 segundos, não chega a criar vínculo com o artista. Esse público aprecia a arte, adora ver um feed cheio de imagens, juntar músicas com fotos, criar seus vídeos em cima de outros vídeos feitos casualmente por terceiros, brincar de recorte e colagem, mas não se interessa necessariamente pelo artista. Se pá vê o artista como um obstáculo entre eles e os produtos de interesse. “Ah, esses artistas gananciosos” e esse papo todo. Acho até que chega a existir um vínculo maior com os personagens do que com as pessoas por trás deles.
A conversa não é exatamente sobre uma ferramenta que pega orientações diretas do usuário e mistura a imagem de um filme com um filtro de estilo chupinhado de um pintor e, no final, cria algo diferente. Não é sobre a ferramenta em si. A disputa é mais ampla. Está no campo da palavra, da magia.
O coelho que sai dessa cartola tem sede de sangue e vem cheio de dedos e dentes fora do lugar.”
Um abraço
e até a próxima encruza,
Eric Novello
levar desaforo do bot já é demais, eu ia ficar P da vida. dito isso, quando se trata desses assuntos sou igual uma teimosa senhorinha. evito usar até a siri no celular, nunca vou esquecer quando vi uma geladeira “smart” que tinha acesso ao twitter, até hoje me pergunto qual a utilidade daquilo
Eu fico extremamente desconfortável quando leio coisas assim... Acho que já vi e li histórias de ficção científica demais para não achar que estamos trilhando um caminho perigoso...