CEO da Anthropic torna-se totalmente tecno-otimista em um hino de 15.000 palavras à IA

O CEO da Anthropic, Dario Amodei, quer que você saiba que ele não é um “destruidor” da IA.

Pelo menos, essa é a minha leitura da “queda do microfone” de um ensaio de aproximadamente 15.000 palavras que Amodei publicou em seu blog na sexta-feira. (Tentei perguntar ao chatbot Claude da Anthropic se concordava, mas, infelizmente, a postagem excedeu o limite de duração do plano gratuito.)

Em linhas gerais, Amodei pinta o quadro de um mundo em que todos os riscos da IA ​​são mitigados e a tecnologia proporciona prosperidade, elevação social e abundância até então não realizadas. Ele afirma que isso não é para minimizar as desvantagens da IA ​​– no início, Amodei visa (sem citar nomes) as empresas de IA que vendem exageradamente e geralmente propagandeiam as capacidades de sua tecnologia. Mas pode-se argumentar – e este escritor o faz – que o ensaio se inclina demasiado na direcção tecnoutopista, fazendo afirmações simplesmente não apoiadas por factos.

Amodei acredita que “IA poderosa” chegará já em 2026. (Por IA poderosaele se refere à IA que é “mais inteligente do que um ganhador do Prêmio Nobel” em áreas como biologia e engenharia, e que pode realizar tarefas como provar teoremas matemáticos não resolvidos e escrever “romances extremamente bons”.) Essa IA, diz Amodei, será capaz de controlar qualquer software ou hardware imaginável, incluindo máquinas industriais, e essencialmente realizam a maioria dos trabalhos que os humanos realizam hoje – mas melhor.

“(Esta IA) pode se envolver em quaisquer ações, comunicações ou operações remotas… incluindo realizar ações na Internet, seguir ou dar instruções a humanos, solicitar materiais, dirigir experimentos, assistir vídeos, fazer vídeos e assim por diante”, escreve Amodei. . “Ele não tem uma forma física (além de viver na tela de um computador), mas pode controlar ferramentas físicas, robôs ou equipamentos de laboratório existentes através de um computador; em teoria, poderia até projetar robôs ou equipamentos para uso próprio.”

Muita coisa teria que acontecer para chegar a esse ponto.

Mesmo a melhor IA de hoje não consegue “pensar” da forma como a entendemos. Os modelos não raciocinam, mas sim replicam padrões observados em seus dados de treinamento.

Supondo, para efeitos do argumento de Amodei, que a indústria da IA ​​não breve “resolver” o pensamento semelhante ao humano, será que a robótica se atualizaria para permitir que a futura IA realizasse experiências de laboratório, fabricasse as suas próprias ferramentas, e assim por diante? A fragilidade dos robôs de hoje implica que é um tiro no escuro.

No entanto, Amodei está optimista – muito optimista.

Ele acredita que a IA poderá, nos próximos 7 a 12 anos, ajudar a tratar quase todas as doenças infecciosas, eliminar a maioria dos cancros, curar doenças genéticas e travar a doença de Alzheimer nas fases iniciais. Nos próximos 5 a 10 anos, Amodei acredita que condições como TEPT, depressão, esquizofrenia e dependência serão curadas com medicamentos inventados por IA, ou prevenidas geneticamente por meio de triagem embrionária (uma opinião controversa) – e que os medicamentos desenvolvidos por IA também serão existem que “sintonizam a função cognitiva e o estado emocional” para “fazer com que (nossos cérebros) se comportem um pouco melhor e tenham uma experiência cotidiana mais gratificante”.

Se isso acontecer, Amodei espera que a expectativa de vida humana média dobre para 150.

“Minha previsão básica é que a biologia e a medicina possibilitadas pela IA nos permitirão comprimir em 5 a 10 anos o progresso que os biólogos humanos teriam alcançado nos próximos 50-100 anos”, escreve ele. “Vou me referir a isso como o ‘século 21 comprimido’: a ideia de que depois que uma IA poderosa for desenvolvida, em poucos anos faremos todo o progresso na biologia e na medicina que teríamos feito em todo o século 21.”

Isso também parece um exagero, considerando que a IA ainda não transformou radicalmente a medicina – e talvez não por algum tempo, ou nunca. Mesmo que a IA reduza o trabalho e os custos envolvidos na colocação de um medicamento em testes pré-clínicos, poderá falhar numa fase posterior, tal como os medicamentos concebidos pelo homem. Considere-se que a IA hoje implantada nos cuidados de saúde tem demonstrado ser tendenciosa e arriscada de várias formas, ou de outra forma incrivelmente difícil de implementar em ambientes clínicos e laboratoriais existentes. Sugerir que todas essas questões e outras serão resolvidas aproximadamente dentro de uma década parece, bem… aspiracionalem uma palavra.

Mas Amodei não para por aí.

A IA poderia resolver a fome mundial, afirma ele. Isso poderia mudar a maré das mudanças climáticas. E poderia transformar as economias na maioria dos países em desenvolvimento; Amodei acredita que a IA pode trazer o PIB per capita da África Subsaariana (1.701 dólares em 2022) para o PIB per capita da China (12.720 dólares em 2022) em 5 a 10 anos.

Estes são pronunciamentos ousados, para dizer o mínimo – embora provavelmente familiares para qualquer pessoa que tenha ouvido os discípulos do movimento “Singularidade”, que espera resultados semelhantes. Para crédito de Amodei, ele reconhece que isso exigiria “um enorme esforço na saúde global, filantropia e (e) defesa política”, o que ele postula que ocorrerá porque é do melhor interesse económico do mundo.

Devo ressaltar, entretanto, que este não tem sido o caso historicamente em um aspecto importante. Muitos dos trabalhadores responsáveis ​​pela rotulagem dos conjuntos de dados utilizados para treinar a IA são pagos muito abaixo do salário mínimo, enquanto os seus empregadores obtêm dezenas de milhões — ou centenas de milhões — em capital com os resultados.

Amodei aborda, brevemente, os perigos da IA ​​para a sociedade civil, propondo que uma coligação de democracias proteja a cadeia de abastecimento da IA ​​e bloqueie adversários que pretendam utilizar a IA para fins prejudiciais a partir dos meios de produção poderosa de IA (semicondutores, etc.). Ao mesmo tempo, ele sugere que a IA — nas mãos certas — poderia ser usada para “minar governos repressivos” e até mesmo reduzir preconceitos no sistema jurídico. (A IA tem historicamente exacerbado preconceitos no sistema jurídico.)

“Uma implementação verdadeiramente madura e bem-sucedida da IA ​​tem o potencial de reduzir preconceito e ser mais justo para todos”, escreve Amodei.

Então, se a IA assumir todos os trabalhos concebíveis e o fizer melhor e mais rápido, isso não deixará os humanos em apuros, do ponto de vista económico? Amodei admite que sim – e que, nessa altura, a sociedade teria de ter conversas sobre “como a economia deveria ser organizada”.

Mas ele não oferece nenhuma solução.

“As pessoas querem uma sensação de realização, até mesmo uma sensação de competição, e num mundo pós-IA será perfeitamente possível passar anos tentando alguma tarefa muito difícil com uma estratégia complexa, semelhante ao que as pessoas fazem hoje quando embarcam em projetos de pesquisa, tentar se tornar atores de Hollywood ou fundar empresas”, escreve ele. “Os factos de que (a) uma IA algures poderia, em princípio, realizar melhor esta tarefa, e (b) esta tarefa já não é um elemento economicamente recompensado de uma economia global, não me parece ter muita importância.”

Amodei avança a noção, para concluir, de que a IA é simplesmente um acelerador tecnológico – que os humanos tendem naturalmente para o “estado de direito, a democracia e os valores do Iluminismo”. Mas, ao fazê-lo, ignora os muitos custos da IA. Prevê-se que a IA tenha — e já tem — um enorme impacto ambiental. E está criando desigualdade. O economista vencedor do prémio Nobel Joseph Stiglitz e outros observaram que as perturbações laborais causadas pela IA poderiam concentrar ainda mais a riqueza nas mãos das empresas e deixar os trabalhadores com menos poder do que nunca.

Essas empresas incluem a Anthropic, por mais relutante que Amodei seja em admitir. (Ele menciona a Anthropic apenas seis vezes ao longo de seu ensaio.) Afinal, a Anthropic é um negócio – que supostamente vale cerca de US$ 40 bilhões. E aqueles que beneficiam da sua tecnologia de IA são, em geral, empresas cuja única responsabilidade é aumentar os retornos para os accionistas – e não melhorar a humanidade.

Na verdade, o ensaio parece cinicamente cronometrado, dado que se diz que a Anthropic está no processo de angariar milhares de milhões de dólares. O CEO da OpenAI, Sam Altman, publicou um manifesto tecnopotimista semelhante pouco antes da OpenAI fechar uma rodada de financiamento de US$ 6,5 bilhões.

Talvez seja coincidência. Então, novamente, Amodei não é um filantropo. Ele, como qualquer CEO, tem um produto para vender. Acontece que dele produto vai salvar o mundo (ou assim ele quer que você acredite) – e aqueles que acreditam de outra forma correm o risco de serem deixados para trás.