Hoje, os chamados techno-otimistas preenchem as fileiras dos bilionários do Vale do Silício. Eles proclamam um futuro brilhante para a humanidade entregue pela rápida busca de avanços tecnológicos.
Obviamente, esses techno-otimistas estão certos de que a tecnologia e a ciência estão indiscutivelmente entre os maiores ativos da humanidade e a esperança para o futuro. Mas eles vão longe demais, porque também é verdade que a tecnologia sempre cria novos problemas, mesmo quando resolve os outros – isso também é algo que aprendemos através da ciência. Como resultado, a fé ingênua na tecnologia é uma receita para alcançar repetidamente um burburinho de curto prazo, além de incorrer em custos de longo prazo. Conseguir o melhor da tecnologia requer uma abordagem mais cautelosa e equilibrada.
Por que a tecnologia com tanta frequência dá errado – mesmo quando acerta muitas coisas? O antropólogo Sander van der Leeuwe esboçou uma resposta cerca de uma década atrás, e parece ser algo como uma lei da natureza. Quando enfrentamos um problema, pensamos sobre isso e construímos um modelo conceitual de como parte do mundo funciona. Nós o usamos para propor uma solução para o nosso problema. Com base nesse entendimento, então agimos e a tecnologia que criamos muitas vezes resolve o problema. No entanto, normalmente descobrimos que nosso modelo – é claro – não era realmente um modelo completo do mundo. Nosso modelo simples deixou algumas coisas de fora. Não é de surpreender que, então, que nossa tecnologia, operando no mundo real, tenha efeitos no mundo que não prevíamos – conseqüências imprevistas.
Encontramos repetidamente esse padrão porque os modelos simples são muito poderosos, sedutores e úteis. Além disso, modelos simples deixam detalhes de fora, para que sempre compreendamos mal as consequências completas de nossas ações. Inventamos uma melhor tecnologia de pesca para alimentar mais pessoas e, em seguida, descobrimos que eliminamos as populações de peixes. Criamos superfícies maravilhosas antiaderentes para as panelas de cozinha e depois descobrimos que os produtos químicos nesses materiais causam problemas de saúde e lixiviaram-se ao meio ambiente, espalhando-se essencialmente por toda parte. Fazemos plásticos super conquistadores que acabam como micropartículas nos oceanos e em nossos próprios corpos. Esta também é a história da tecnologia, juntamente com as grandes vitórias.
Como entendemos isso, antecipar problemas deve fazer parte do próprio desenvolvimento tecnológico. Uma visão de olhos claros de nossa ignorância não significa não buscar a tecnologia, mas os conselhos advertem e a sabedoria empregando previsão, sem esperar nada próximo da presciência impecável. Isso também significa tomar medidas práticas para regular o desenvolvimento e dedicar tempo a reparar problemas emergentes, enquanto, pelo menos, evitava os piores resultados possíveis.
Nossa abordagem atual de pesquisa e desenvolvimento em inteligência artificial ou IA oferece um exemplo da abordagem imprudente. No momento, um punhado das maiores empresas de tecnologia do mundo está lutando entre si para controlar o mercado para essa tecnologia, lançando um modelo após o outro o mais rápido possível com pouca supervisão. Como argumentou o neurocientista Gary Marcus, esta corrida por domínio a curto prazo tem um custo óbvio-expõe todos aos riscos desconhecidos de tecnologias novas e não testadas. Ele também tem um custo menos óbvio: a urgência da concorrência significa que praticamente todos os recursos disponíveis são investidos em pesquisas na área mais promissora, atualmente os chamados modelos de grande língua. Isso se afasta de outras áreas da ciência da computação que podem acabar sendo mais importantes para um dia alcançar a verdadeira IA.
Felizmente, nem todos os líderes do Vale do Silício aceitam a demanda techno-otimista por aceleração tecnológica descontrolada. Dario Amodei, CEO da empresa de IA antropal, certamente compartilha seu otimismo, como revelou em um ensaio recente expressando sua visão de que a pesquisa da IA poderia levar a incríveis melhorias no bem -estar humano. Explorando um cenário reconhecidamente otimista, ele sugere que, em algumas décadas, possamos eliminar essencialmente todas as doenças, espalhar o crescimento econômico benéfico entre as nações, até melhorar muito a capacidade coletiva dos seres humanos de formar consenso sobre questões de importância social fundamental.
Mas Amodei também aceita que há muito espaço para que as coisas dêem errado-a IA pode não alcançar nenhum desses pontos positivos e, em vez disso, pode exacerbar radicalmente a desigualdade ou fornecer a uma nova classe de autocratas com poderes sem precedentes de vigilância e controle através da propaganda apagada da AII. O que acontecerá depende das escolhas que fazemos.
E, nisso, ele sugere que manter um foco próximo em riscos e regulamentação deve ser o caminho certo, em vez de correr ingenuamente para o futuro com esperança como nosso guia. As pessoas não apenas subestimam o quão boa a IA pode ser um dia, ele pensa, mas também como Os riscos ruins podem ser ruins. E há assimetria natural que precisamos respeitar.
“O desenvolvimento básico da tecnologia de IA e muitos (não todos) de seus benefícios parece inevitável”, como ele a vê, como resultado de forças de mercado poderosas. “Por outro lado, os riscos não são predeterminados e nossas ações podem mudar muito sua probabilidade”.
Como tantas vezes com culturas como Wall Street ou Silicon Valley, a tensão essencial é entre forças que buscam lucros de curto prazo-qualquer que seja o resultado a longo prazo-e outros que preferem equilibrar oportunidades e riscos e, assim, buscarem benefícios mais sustentáveis. Em argumentos a favor e contra pontos de vista opostos, há um desequilíbrio natural, pois agora os lucros potenciais atraentes e óbvios são pesados contra riscos mais difíceis de ver e menos definidos em um futuro desconhecido. Não é uma comparação justa.
Especialmente quando é tão fácil cometer erros catastroficamente enormes ao pensar no futuro, mesmo no futuro próximo. Em seu manifesto techno-otimista, o empresário Marc Andreessen expressa casualmente seu sonho que podemos aumentar os recursos de energia limpa tão rapidamente que todos na Terra poderiam em breve usar 1.000 vezes mais energia por dia do que atualmente é típico para as pessoas nas nações desenvolvidas. Apenas pense no que as pessoas poderiam alcançar! Parece ótimo. Exceto que um pouco de pensamento físico também mostra que usar tanta energia causaria imediatamente o aquecimento planetário cerca de 30 vezes mais rápido do que estamos experimentando hoje, e todos estaríamos mortos em alguns anos. Não é tão bom, afinal.
Obviamente, qualquer um pode cometer esse tipo de erro, porque em nosso mundo complexo, causa e efeito são complexos. A tecnologia é complicada, e o que pode acontecer está longe de ser óbvio. É assim que é – e por que precisamos pensar com mais cuidado sobre riscos e seguir uma abordagem mais cautelosa.