Valerie Veatch, do Ghost in the Machine, não está bebendo AI Kool-Aid

Como muitas pessoas, a diretora Valerie Veatch ficou intrigada quando a OpenAI lançou pela primeira vez seu modelo de IA generativo de texto para vídeo Sora ao público em 2024. Embora ela não entendesse totalmente a tecnologia, ela estava curiosa sobre o que ela poderia fazer e viu que outros artistas estavam construindo comunidades online para compartilhar suas novas criações de IA. A esperança de se conectar com as pessoas atraiu Veatch para o espaço da IA, mas, uma vez lá, ficou chocada ao ver com que frequência a tecnologia gerava imagens repletas de racismo e sexismo.

Veatch ficou ainda mais perturbada pela maneira como seus novos colegas entusiastas da IA ​​não pareciam se importar com o fato de a máquina em torno da qual eles se uniram vomitar lixo odioso e preconceituoso sem serem explicitamente solicitados a fazê-lo. A situação bizarra afastou Veatch de seus primeiros experimentos com a geração AI. Mas também a inspirou a fazer Fantasma na Máquinaum novo documentário sobre as tecnologias e escolas de pensamento que lançaram as bases para a existência da geração AI.

Em vez de se concentrar nos benefícios potenciais (embora altamente improváveis) para a sociedade que os aceleracionistas da geração AI juram que estão ao virar da esquina, Fantasma na Máquina explora a história da tecnologia para explicar por que ela funciona da maneira que funciona agora. Quando conversei recentemente com Veatch sobre o filme, ela me disse que queria narrar a gênese da geração AI para dar às pessoas uma visão clara do ciclo muito intenso de entusiasmo da indústria que estamos vivendo atualmente. Primeiro, porém, ela teve que eliminar a ofuscação proposital de todo o conceito por parte das empresas de IA.

“Para usar a frase ‘inteligência artificial’, precisamos saber o que essa frase significa”, Veatch me disse em uma videochamada. “A verdade é que não significa nada; é um termo de marketing e sempre foi. É uma frase completamente enganosa e estúpida que assumiu seu próprio significado cultural, e acho que ser muito claro sobre as palavras que usamos e o significado dessas palavras é essencial.”

Como Fantasma na Máquina sublinha repetidamente, a “inteligência artificial” foi originalmente cunhada em 1956 pelo cientista da computação John McCarthy quando ele tentava garantir mais financiamento para os seus projetos. Mas o documentário apresenta a cunhagem do termo como apenas um dos muitos pontos importantes numa linha do tempo que na verdade começa na Inglaterra da era vitoriana com o nascimento da eugenia. Além de ser primo de Charles Darwin, Francis Galton foi o criador da eugenia – a crença racista e desacreditada de que a humanidade pode ser melhorada através da eliminação sistémica de raças “inferiores” (leia-se: não-brancas).

Embora Galton definitivamente tenha feito alguns contribuições úteis para a academia, em nossa entrevista, Veatch explicou que é importante não minimizar o fato de que suas crenças profundamente arraigadas na supremacia branca informaram as ciências sociais da época. Galton e seu colega eugenista/protegido Karl Pearson não estiveram diretamente envolvidos no desenvolvimento das primeiras máquinas computacionais. Mas o trabalho fundamental de Galton com modelação multidimensional — uma técnica que utilizou para medir a atratividade das mulheres africanas e europeias — moldou o pensamento de Pearson à medida que desenvolvia ferramentas estatísticas como a regressão lógica, que é um dos componentes fundamentais da aprendizagem automática moderna.

Galton Pearson ajudou a normalizar a ideia que pessoas de várias raças eram fundamentalmente diferentes em aspectos quantificáveis. Este tipo de pensamento racista foi o que levou Galton e os seus pares a acreditar que a inteligência humana poderia ser medida e que os cérebros humanos funcionam de forma muito semelhante às máquinas. Esse salto, diz Veatch, desempenhou um papel importante na venda ao público da ideia fantástica da inteligência artificial.

“O que foi realmente surpreendente para mim durante o meu mergulho inicial em tudo isto foi como, quando olhamos para a questão da superinteligência como documentarista ou jornalista, não demora muito até batermos com a testa no batente da porta da ciência racial, porque está incorporada nesta tecnologia”, disse Veatch, explicando que estes conceitos estão “embebidos” no pensamento eugénico.

Em vez de tentar refutar a ideia de que os modelos de geração de IA produzem ideologia de ódio porque foram treinados para isso (um conceito comumente conhecido como “GIGO” – lixo que entra, lixo sai), Fantasma na Máquina utiliza a sua análise histórica para explicar porque é que as empresas que constroem esta tecnologia parecem tão desinteressadas em resolver os seus problemas actuais. Esse contexto histórico ajudou Veatch a entender algumas de suas próprias experiências preocupantes com a geração AI, quando ela estava brincando com uma versão inicial de Sora em um Slack para artistas. Veatch se lembra do grupo como um lugar amigável e acolhedor até que outro membro – uma mulher negra – começou a expressar preocupações sobre a forma como a modelo a caiava toda vez que ela solicitava a geração de imagens baseadas em fotos suas.

“Isso manteve suas tranças e sua moda, mas ela estava entrando em uma galeria de arte, que o programa entendeu como um ‘espaço em branco’”, explicou Veatch. “Minha reação foi ‘que porra é essa’ e tentei explicar ao grupo como isso era realmente um problema com o software em si.” Ninguém mais no grupo se envolveu com a postagem dela. “Este foi um Slack onde, normalmente, sempre há dezenas de reações de emojis de coalas gritando em cada postagem. Mas desta vez, não houve nada.”

Veatch decidiu entrar em contato direto com a OpenAI para alertar a empresa sobre “quão racistas, sexistas e misóginas eram as saídas que (ela) estava vendo – saídas em que as mulheres começariam a desenvolver seios extras e a mexer depois de duas rodadas de geração de uma cena. Veatch pensou que a OpenAI veria isso como um bug crítico que vale a pena consertar antes de encorajar mais pessoas a adotarem Sora em suas vidas; em vez disso, a empresa deixou de lado suas preocupações.

“O feedback que recebi foi basicamente: ‘É muito estranho trazer isso à tona; não há nada que possamos fazer para mudar isso’”, lembrou Veatch.

Essa situação acendeu um fogo dentro de Veatch para aprender por que tantas formas diferentes de inteligência generativa se comportam consistentemente de maneiras tão feias e problemáticas. No início, ela realmente não achava que as ligações do Zoom com os autores de white papers sobre a tecnologia poderiam ser transformadas em um documentário atraente, mas isso mudou quando ela começou a ver uma linha clara entre o trabalho de estatísticas eugênicas de Galton e os equipamentos modernos de IA da geração.

As vozes apresentadas em Fantasma na Máquina — uma mistura de investigadores, historiadores e teóricos críticos da IA ​​— apresentam um argumento convincente de que basicamente todas as facetas do espaço da IA ​​foram profundamente influenciadas pelas suas ligações históricas a campos da ciência construídos para apoiar visões de mundo discriminatórias. Quando perguntei a Veatch se ela já teve interesse em falar diretamente com os chefes das empresas Fantasma na Máquina leva a tarefa, ela riu. Conseguir esse tipo de acesso, disse ela, exigiria que ela passasse por todo tipo de ginástica ideológica e fizesse compromissos que tornariam seu filme cúmplice dos danos da geração AI.

“Existe a ideia, você sabe, de que essas pessoas não confiarão em qualquer um”, disse Veatch. “Sim, não brinca, e certamente espero que eles não confiem em mim. Não os quero no filme e eles já falam o suficiente com a mídia. Vou abraçar Sam Altman diante das câmeras? Esse é um filme verdadeiro sobre essa tecnologia? Isso é propaganda.”

Fantasma na Máquina estará disponível para transmitir via Kinema de 26 a 28 de março antes de ir ao ar na PBS neste outono.