Cerca de dois meses atrás, o cofundador da Shield AI, Brandon Tseng, e um de seus funcionários estavam em um Uber passando por Kiev, na Ucrânia. Eles estavam indo para uma reunião com oficiais militares para vender seus sistemas piloto de IA e drones, quando de repente seu funcionário lhe mostrou um aviso em seu telefone. Bombas russas estavam chegando. Tseng enfrentou sua morte potencial com um encolher de ombros. “Se é a sua hora de ir”, disse ele, “então é a sua hora de ir”.
Na verdade, Tseng, um ex-Navy SEAL, estava ansioso por mais ação. Os funcionários da Shield AI já haviam estado em áreas muito mais perigosas na Ucrânia, treinando tropas em seu software e drones. “Estou com muita inveja de onde eles foram”, disse Tseng. “Apenas do ponto de vista da aventura.”
Tseng incorpora aquela machismo silenciosa que permeia a maioria dos fundadores de tecnologia de defesa. Quando o encontrei no mês passado no escritório da empresa em Arlington, ele exibiu uma faca em seu escritório gravada com o slogan do SEAL “Sofra em silêncio”. As paredes brancas, cujos topos brilhavam com luzes fluorescentes (para parecerem uma nave espacial, disse Tseng), estavam cobertas com slogans como “Faça o que a honra dita” e “Ganhe o seu escudo todos os dias”. Eu indiquei que eles eram bastante intensos. “Eles são?” Tseng respondeu.
Em 2015, Tseng fundou a Shield AI ao lado de seu irmão, Ryan Tseng, um engenheiro elétrico premiado com patente, com uma missão clara: “Construímos o melhor piloto de IA do mundo”, disse ele. “Quero colocar um milhão de pilotos de IA nas mãos dos clientes.”
Para esse fim, ele e seu irmão levantaram mais de US$ 1 bilhão de investidores como a Riot Ventures e o US Innovative Technology Fund. A empresa desenvolve software de IA para tornar os veículos aéreos autônomos, embora Tseng tenha dito que também quer o software da Shield AI em sistemas subaquáticos e de superfície. Também possui produtos de hardware, como seu drone V-BAT.
A Shield AI também faz parte de uma classe rara de startups de tecnologia de defesa: uma que realmente conseguiu contratos governamentais de tamanho decente, como o contrato de US$ 198 milhões da Guarda Costeira este ano. Como se tentassem se posicionar para um futuro ainda maior, os fundadores escolheram um novo escritório cercado por três andares da Raytheon, uma das principais empreiteiras de defesa.
Ucrânia: o laboratório para startups de tecnologia de defesa dos EUA
O dia 16 de setembro foi um sinal da mudança dos tempos: em vez de obrigar os fundadores da tecnologia de defesa a voar para o Capitólio, vestir os seus fatos e rastejar perante os políticos, Washington, DC, veio ter com eles.
Membros do Comitê de Serviços Armados da Câmara dos EUA se reuniram com o CTO da Palantir, Shyam Sankar, Brandon Tseng e executivos da Skydio, Applied Intuition e Saildrone no campus da UC Santa Cruz no Vale do Silício. Discutiram a reforma das aquisições do Departamento de Defesa dos EUA (DoD) e, inevitavelmente, o papel da tecnologia dos EUA na Ucrânia. Foi a primeira audiência pública que o comitê realizou fora de Washington, DC, desde 2006.
A Ucrânia “tem sido um grande laboratório”, disse Tseng aos decisores políticos. “O que acho que os ucranianos descobriram é que não vão usar nada que não funcione no campo de batalha, ponto final.”
Os fundadores da tecnologia de defesa, como o cofundador da Anduril, Palmer Luckey, e o cofundador da Skydio, Adam Bry, migraram para o país em apuros para vender tecnologia relativamente nova para um campo de batalha em rápida deterioração. Infelizmente, nem toda tecnologia dos EUA está funcionando. De acordo com um relatório do Wall Street Journal, os drones das startups dos EUA falharam quase universalmente em operar através da guerra electrónica na Ucrânia, o que significa que os drones deixaram de funcionar sob a tecnologia de blackout GPS da Rússia.
“A Ucrânia está em guerra e pessoas estão sendo mortas. Mas… você quer aprender essas lições”, disse-me Tseng uma semana depois, refletindo sobre a audiência. “Você não quer ter que reaprender nenhuma dessas lições. Os Estados Unidos não deveriam querer reaprender nenhuma dessas lições.”
Naturalmente, ele está confiante de que os drones da Shield AI tiveram um desempenho melhor na Ucrânia do que outros porque, diz ele, podem operar sem depender de GPS. “Estamos trabalhando para levar mais drones para lá com base nos sucessos que tivemos”, disse ele, embora tenha se recusado a citar detalhes sobre quantos drones a Shield AI enviou.
Assassinos de IA tipo Terminator? Ou “Jogo de Ender”?
O escritório de canto de Tseng está vazio, além de uma cópia emoldurada da Constituição, pendurada torta na parede. Ele listou isso como uma de suas maiores inspirações. “Não é porque somos perfeitos, mas porque aspiramos a esses valores que eu diria que são valores perfeitos”, disse ele. “Isso é o que mais importa. Estamos sempre marchando nessa direção.”
Ele endireitou a moldura antes de passar por uma breve história da guerra. A dissuasão, disse ele, tende a acontecer quando surge uma nova tecnologia radical, como a bomba atómica, ou a tecnologia furtiva e o GPS. A IA, disse ele, inaugurará uma nova era de dissuasão – desde que o DoD a financie adequadamente. “As empresas privadas estão a investir mais dinheiro na IA e na autonomia do que qualquer montante agregado no orçamento da defesa”, disse ele.
O valor potencial dos contratos federais relacionados com a IA aumentou para 4,6 mil milhões de dólares em 2023, contra 335 milhões de dólares em 2022, de acordo com um relatório da Brookings Institution. Mas isso ainda é uma fração dos mais de US$ 70 bilhões que os VCs investiram em tecnologia de defesa aproximadamente no mesmo período, de acordo com o PitchBook.
Ainda assim, a maior questão do uso militar da IA não é o orçamento – é a ética. Tanto os fundadores como os decisores políticos debatem-se sobre a possibilidade de permitir armas completamente autónomas, o que significa que a própria IA decide quando matar. Ultimamente, a retórica de alguns fundadores parece favorecer a construção de tais armas.
Há poucos dias, por exemplo, Luckey, da Anduril, afirmou que havia “uma campanha paralela sendo travada nas Nações Unidas neste momento por muitos dos nossos adversários” para enganar os países ocidentais para que não perseguissem agressivamente a IA. Ele deu a entender que a IA totalmente autônoma não era pior do que as minas terrestres. Ele não mencionou, no entanto, que os EUA estão entre as mais de 160 nações que concordaram em proibir o uso de minas terrestres antipessoal na grande maioria dos lugares.
Tseng opõe-se firmemente a armas totalmente autónomas. “Tive que tomar a decisão moral sobre a utilização de força letal no campo de batalha”, disse ele. “Essa é uma decisão humana e sempre será uma decisão humana. Esse é o ponto de vista da Shield AI. Esse também é o ponto de vista dos militares dos EUA.”
Ele está certo ao dizer que os militares dos EUA não compram actualmente armas totalmente autónomas, embora não proíbam as empresas de as desenvolver. E se os EUA mudassem de posição? “Acho que é uma hipótese maluca”, respondeu ele. “O Congresso não quer isso. Ninguém quer isso.”
Então, se ele não prevê um exército de assassinos como o Exterminador do Futuro, o que ele imagina? “Uma única pessoa poderia comandar e controlar um milhão de drones”, disse Tseng. “Não há uma limitação tecnológica sobre o quanto uma única pessoa poderia comandar de forma eficaz no campo de batalha.”
Será semelhante ao “Jogo de Ender”, disse ele, referindo-se ao clássico de ficção científica de 1985, onde uma criança oficial militar pode libertar legiões de exércitos espaciais com um aceno de mão.
“Exceto que, em vez de humanos reais que ele comandava, serão robôs malditos”, disse Tseng.
