O filho de Daniel Roher ainda nem tinha nascido quando a inteligência artificial alugou um triplex na cabeça do futuro pai. Essas preocupações movem O Documentário da IA: Ou Como Me Tornei Otimista Diante do Apocalipse, disponível na Netflix. Vencedor do Oscar em 2023 pela obra documental Navalny, Roher divide a direção com Charlie Tyrell e conversa com pesquisadores, críticos da tecnologia e executivos que estão desenvolvendo essas ferramentas.
Daniel Roher, diretor de O Documentário da IA: Ou Como Me Tornei Otimista Diante do Apocalipse
O cineasta quer entender como a IA pode mudar o mundo em que o menino vai crescer e, para isso, pede explicações, interrompe quando não entende certos conceitos e procura algum conforto nas respostas. As animações feitas à mão que aparecem no filme ajudam a dar forma às possibilidades descritas pelos entrevistados, enquanto o humor acompanha as reações do diretor ao que vai descobrindo.
A gente segue essa investigação com ele: primeiro vêm os alertas, depois as promessas de uma vida melhor e, finalmente, as perguntas para quem comanda as empresas de IA.
Uma das respostas mais duras vem de Eliezer Yudkowsky, cofundador do Machine Intelligence Research Institute, que estuda como fazer sistemas avançados agir de maneira compatível com o bem-estar das pessoas. Desde 2001, o pesquisador trabalha no alinhamento da inteligência artificial geral, ou AGI: o conceito de uma IA capaz de realizar uma ampla variedade de tarefas intelectuais no nível humano ou acima dele.
Ele descreve o problema que tenta resolver: “Como moldar as preferências e o comportamento de uma mente artificial poderosa de forma que ela não mate todo mundo”. Yudkowsky teme que uma inteligência superior à nossa persiga objetivos que não levem em conta a sobrevivência humana.
“Ela é inteligente, criativa, inventiva e tem propriedades que tornam a espécie humana perigosa”, afirma sobre a IA. Quando Roher fala em colapso da humanidade, o especialista faz uma correção: “Colapso, não, mas o extermínio abrupto.”
Essa visão também orienta a resposta à pergunta sobre ter filhos. Quando o diretor quer saber se ele gostaria de formar uma família, Yudkowsky responde: “Em um outro mundo que não esse, sim, eu teria filhos”.
Já o historiador Yuval Noah Harari, autor de “Sapiens”, alerta para o grau de confiança que as pessoas podem depositar nessa tecnologia. “O maior perigo com a IA é a crença de que ela é infalível”, diz. Ele contesta a fantasia de que os sistemas nunca vão cometer erros e de que vão encontrar, sozinhos, verdades que os humanos não conseguem alcançar.
A preocupação do escritor chega à democracia: máquinas capazes de interferir nas conversas e nas informações que circulam podem comprometer a maneira como os humanos resolvem suas diferenças.
Tristan Harris, cofundador do Center for Humane Technology e ex-especialista em ética de design do Google, aproxima esses avisos da inquietação pessoal do diretor. Quando Roher pergunta sobre o futuro que espera o seu filhinho, ele responde contando que não tem boas notícias sobre o mundo que vem por aí.
“Para ser sincero, conheço gente que trabalha com risco de IA e não espera que os filhos cheguem ao ensino médio”, acrescenta. Roher, atrás da câmera, reage com espanto.
Harris distingue as ferramentas anteriores de uma geração capaz de simular cognição e raciocínio humanos. Ao falar da aplicação dessas capacidades à robótica, pontua que a automatização não será apenas nos trabalhos de escritório. “Vai ser para todo o trabalho físico.” Ele também rejeita a ideia de que seria possível desenvolver apenas a inteligência artificial benéfica e descartar a que oferece riscos.
As advertências também partem de quem participa da criação dessas ferramentas. Shane Legg, cofundador da DeepMind e cientista-chefe de inteligência artificial geral no Google DeepMind, afirma que estamos “só no aquecimento”. “Os sistemas realmente poderosos ainda estão por vir e eles chegarão em breve. Não conseguimos separar a promessa da IA do perigo da IA.”
No longa, Legg compara os limites de processamento do cérebro com os dos computadores para explicar por que considera possível a superação da capacidade humana. “Os humanos não serão as entidades mais inteligentes da Terra. O que está por vir será um dos maiores eventos da história da humanidade.” Outras entrevistadas examinam consequências que já afetam pessoas e comunidades.
Karen Hao, jornalista especializada nos impactos sociais da IA, destaca a demanda de energia e água dos centros de dados que sustentam a tecnologia. Timnit Gebru, pesquisadora e fundadora do Distributed AI Research Institute, questiona os discursos sobre máquinas superpoderosas que desviam a atenção da responsabilidade das empresas.
Depois de tantas entrevistas que o assustam, Daniel Roher procura outra perspectiva. Encontra Peter Diamandis, médico, empreendedor e fundador da XPRIZE, organização que promove competições para estimular a inovação. “O único momento mais empolgante do que hoje é amanhã”, afirma.
Diamandis cita melhorias na educação e na oferta de recursos como energia, comida e água para sustentar sua confiança no progresso tecnológico. “Foi a tecnologia que transformou a escassez em abundância, mas também levou a uma abundância de negatividade”.
Nesse balanço, ele menciona problemas como obesidade, distúrbios mentais e mudanças climáticas. Ainda assim, aposta que a IA vai ajudar a oferecer educação e atendimento de saúde de qualidade para muito mais gente.
De acordo com o físico Guillaume Verdon — conhecido também como Beff Jezos —, fundador da Extropic, empresa que desenvolve hardware para IA, acelerar a tecnologia pode ampliar as possibilidades da civilização. Ele conta que, desde pequeno, tenta compreender o universo para descobrir como criar tecnologias que ampliem o alcance da humanidade.
Roher retoma a previsão de que o filho talvez não chegue ao ensino médio e pede que Verdon explique por que os pesquisadores que dizem isso estariam errados. O físico responde: “Só porque você tem dificuldade de prever o futuro na sua cabeça, não significa que ele vai ser horrível. Aliás, existe uma grande possibilidade, e a história nos mostra, de que as coisas fiquem muito melhores”.
O diretor traduz essas projeções numa imagem idílica bem pessoal: pergunta se o filho que está a caminho poderia passar os dias pintando em uma ilha grega. A conversa permite imaginar uma vida em que trabalhar para sobreviver deixaria de ser a principal preocupação das pessoas. Verdon defende que esse futuro precisa ser construído. “Vamos construir um futuro melhor. Essa narrativa de que o futuro vai ser ruim é inventada”.
A educação também aparece nas expectativas de Reid Hoffman, cofundador do LinkedIn. Ele imagina tutores de IA sempre disponíveis e pacientes, capazes de ajudar a aprender diferentes assuntos, e aposta na tecnologia para enfrentar problemas como os relacionados à crise do clima.
O otimismo de Hoffman, entretanto, inclui a admissão de que haverá danos. “O que eu posso garantir é que coisas ruins vão acontecer. Mas vamos tentar torná-las o mais raras e pequenas possíveis”, fala.
A saída que descreve é aprimorar os sistemas a partir da experiência de uso e dos problemas encontrados, fazendo ajustes para reduzir a gravidade das consequências.
O filme complica a separação dos times quando Roher pergunta a Aza Raskin, cofundador do Center for Humane Technology e do Earth Species Project, dedicado a decifrar a comunicação animal, quem tem razão. Raskin considera que os dois grupos reconhecem possibilidades reais, mas não exploram toda a dimensão do problema: benefícios e riscos podem vir das mesmas capacidades.
O documentário ilustra esse dilema quando Roher fala do câncer do pai. O conhecimento que pode ajudar a pesquisar tratamentos médicos também pode contribuir para produzir armas biológicas. O trabalho oferece outro exemplo dessa tensão.
“É totalmente possível que seu filho viva em um mundo em que a IA tenha assumido todo o trabalho e tenha nos libertado das coisas que não queremos fazer. E parece ótimo. Até percebermos que não existe um plano para bilhões de pessoas que vão ficar sem renda e sem sustento”, pondera Raskin. “Sem planejamento, toda essa riqueza vai ficar concentrada. Levaria a uma desigualdade inimaginável”, conclui.
Daniel Roher leva a busca por segurança a Sam Altman, CEO da OpenAI, empresa responsável pelo ChatGPT. O executivo descreve um processo de desenvolvimento em etapas: criar um modelo, estudá-lo e testá-lo cuidadosamente, disponibilizá-lo aos poucos e avaliar os resultados antes de avançar. Essa é a abordagem que ele defende para reduzir os riscos.
Ao falar das próximas gerações, Altman conta que não tem medo de crianças crescerem em um mundo com IA. Comparando o nível de sapiência dos pequenos com o das máquinas, o empresário fala especificamente de Quociente de Inteligência.
“Em termos de QI bruto, eles nunca serão mais inteligentes”, completa. Roher, então, pergunta se essa ideia causa incômodo nele, e o executivo admite que sim. “Isso me incomoda um pouco, mas é a realidade”.
Quando o diretor pede uma promessa de que tudo dará certo, porém, Altman é enfático: “É impossível”. O executivo também admite o peso de desenvolver algo sobre o qual ainda pairam tantas dúvidas: “É muito estressante. Há muita coisa que muitos de nós não sabemos. Acho que a história da descoberta científica é não saber o que não se sabe e descobrir no caminho. Mas, sim, é estressante viver assim”.
Na Anthropic, responsável pelo Claude, esperança e cautela também aparecem juntas. Dario Amodei, cofundador e CEO, espera bons resultados, mas admite: “Se tenho confiança de que vai dar certo? Absolutamente, não”.
Irmã de Dario, Daniela Amodei, cofundadora e presidente da companhia, também explica por que aposta nos benefícios da IA. “Penso que há mais potenciais benefícios do que potenciais desvantagens e acho que cabe às pessoas que estão criando essa tecnologia garantir que fazem o possível para torná-la segura”, diz.
Passadas as conversas com os executivos, Roher se volta para a família à procura de conforto. Os pais do cineasta lembram do medo de uma guerra nuclear décadas atrás, enquanto a esposa, Caroline, com quem divide a narração do longa, participa das tentativas de compreender o que está por vir.
No fim do filme, o filho nasce, e o diretor precisa lidar com a alegria da paternidade ao mesmo tempo em que encara as incertezas de tudo o que ouviu ao longo da investigação. Agora pai, ele ainda não sabe quais dos cenários pintados vão fazer parte da vida do menino.
O Documentário da IA: Ou Como Me Tornei Otimista Diante do Apocalipse está disponível na Netflix.
