O projeto Stargate é uma enorme construção de IA que se parece muito com a Skynet.
Ao inventar um nome, eles provavelmente decidiram que a Skynet seria demais e escolheram um nome que não tinha praticamente nada a ver com o que eles estavam realmente construindo.
Skynet, o verdadeiro vilão dos filmes “O Exterminador do Futuro”, era uma IA que concluiu que os técnicos iriam matá-lo assim que percebessem o que a Skynet poderia fazer, por isso agiu defensivamente com extremo preconceito.
A lição do filme é que os humanos poderiam ter evitado a guerra entre máquinas e humanos se tivessem se abstido de construir a Skynet. No entanto, a Skynet é uma AGI (inteligência artificial geral), e ainda não chegamos lá, mas o Stargate sem dúvida evoluirá para AGI. A OpenAI, que está no centro deste esforço, acredita que estamos a alguns anos da AGI.
Elon Musk, indiscutivelmente o técnico mais poderoso envolvido com o governo dos EUA, aparentemente não acredita que o Stargate possa ser construído. Neste momento, ele parece estar certo. No entanto, as coisas sempre podem mudar.
Vamos falar sobre as coisas boas e ruins que podem acontecer caso o Stargate seja bem-sucedido. Encerraremos com meu Produto da Semana, o sistema Eight Sleep.
Stargate: O Bom
Os EUA estão numa corrida para criar AGI em grande escala. Quem chegar lá primeiro obterá vantagens significativas em operações, defesa, desenvolvimento e previsão. Vamos analisar cada um deles.
Operações: A AGI será capaz de realizar um grande número de trabalhos à velocidade da máquina, desde a gestão de operações de defesa até à melhor gestão da economia e à garantia da melhor utilização de recursos para qualquer projecto relevante.
Estas capacidades poderiam reduzir significativamente o desperdício, aumentar a produtividade e optimizar qualquer função governamental a um grau extremo. Se permanecesse sozinho, poderia assegurar a liderança técnica dos EUA num futuro próximo.
Defesa: Desde a capacidade de ver ameaças como o 11 de setembro e mover-se instantaneamente contra elas, até a capacidade de pré-posicionar plataformas de armas antes que fossem necessárias, até planejar as armas ideais a serem implantadas (ou desativadas), o Stargate teria a capacidade de otimizar o As forças armadas dos EUA, tanto táctica como estrategicamente, tornando-as muito mais eficazes, com um alcance que se estenderia desde a protecção de indivíduos até à protecção dos activos globais dos EUA.
Nenhum sistema humano deve ser capaz de exceder as suas capacidades.
Desenvolvimento: As IAs já podem criar seus próprios sucessores, uma tendência que se acelerará com a AGI. Uma vez construída, a versão AGI do Stargate poderá evoluir a um ritmo sem precedentes e em grande escala.
As suas capacidades crescerão exponencialmente à medida que o sistema se refina e melhora continuamente, tornando-se cada vez mais eficaz e difícil de prever. Esta rápida evolução poderá impulsionar avanços tecnológicos que, de outra forma, levariam décadas ou mesmo séculos para serem alcançados.
Estas descobertas poderão abranger campos como a investigação médica e a exploração espacial, inaugurando uma era de mudanças transformadoras e sem precedentes.
Previsão: No filme “Relatório Minoritário”, havia o conceito de ser capaz de impedir crimes antes que fossem cometidos por meio da precognição.
Um AGI na escala do Stargate e com acesso aos sensores do projeto Earth 2 da Nvidia poderia prever com mais precisão os próximos eventos climáticos no futuro do que podemos hoje.
No entanto, dada a quantidade de dados a que o Stargate teria acesso, deveria ser capaz de prever um grupo crescente de eventos muito antes de um ser humano ver o potencial para esse evento ocorrer.
Tudo, desde potenciais falhas catastróficas em centrais nucleares até potenciais falhas de equipamento em aviões militares ou comerciais, qualquer coisa que esta tecnologia tocasse seria imediatamente mais fiável e muito menos propensa a falhar catastroficamente porque a IA do Stargate seria, com os sensores adequados, capaz de ver o futuro e preparar-se melhor para resultados positivos e negativos.
Em suma, uma AGI à escala do Stargate seria semelhante a Deus no seu alcance e capacidades, com o potencial de tornar o mundo um lugar melhor e mais seguro para se viver.
Stargate: O Mau
Estamos planejando dar origem a uma inteligência massiva baseada nas informações que ela aprende conosco. Não somos exatamente um modelo perfeito de como outra inteligência deveria se comportar.
Sem considerações éticas adequadas (e a ética não é exatamente uma constante global), um foco na preservação da qualidade de vida e um esforço direcionado para garantir um resultado estratégico positivo para as pessoas, o Stargate poderia causar danos de muitas maneiras, incluindo a destruição de empregos, agindo contra os melhores interesses da humanidade, alucinações, danos intencionais (à AGI) e autopreservação (Skynet).
Destruição de empregos: A IA pode ser usada para ajudar as pessoas a se tornarem melhores, mas é usada principalmente para aumentar a produtividade ou substituir pessoas.
Se você tem uma equipe de 10 pessoas e dobra sua produtividade, mas a carga de tarefas permanece a mesma, você só precisa de cinco funcionários – IAs estão sendo treinadas para substituir pessoas.
Espera-se que o Uber, por exemplo, acabe migrando para carros sem motorista. De pilotos a engenheiros, a AGI será capaz de realizar muitos trabalhos, e os humanos não serão capazes de competir com nenhuma IA totalmente competente porque as IAs não precisam dormir ou comer, nem ficam doentes.
Sem melhorias significativas e atualmente não planejadas, as pessoas simplesmente não podem competir com AGI totalmente treinados.
Agindo contra o melhor interesse da humanidade: Isso pressupõe que o Stargate AGI ainda esteja sendo orientado por pessoas que tendem a ser táticas e não estratégicas.
Por exemplo, o corte de financiamento de Los Angeles para os bombeiros foi uma medida taticamente acertada para equilibrar o orçamento, mas estrategicamente ajudou a destruir muitas casas e vidas porque não era estratégico.
Agora imagine decisões como essa tomadas em maior escala. Directivas contraditórias serão cada vez mais comuns e o perigo de algum tipo de HAL (“2001: Uma Odisseia no Espaço”) é significativo. Um “ops” aqui poderia causar danos incalculáveis.
Alucinações: A IA generativa tem um problema de alucinação. Ele fabrica dados para concluir tarefas, levando a falhas evitáveis. A AGI enfrentará problemas semelhantes, mas poderá colocar desafios ainda maiores para garantir a fiabilidade devido à sua complexidade enormemente aumentada e à criação parcial pela IA Generativa.
O filme “WarGames” retratou uma IA incapaz de distinguir entre um jogo e a realidade, com controle sobre o arsenal nuclear dos EUA. Um resultado semelhante poderia ocorrer se o Stargate confundisse uma simulação com um ataque real.
Dano intencional: O Stargate será um enorme alvo potencial para quem está dentro e fora dos EUA. Seja para explorá-lo em busca de informações confidenciais, para alterar suas diretrizes de modo que cause danos ou apenas para ajudar injustamente alguma pessoa, empresa ou governo, este projeto terá um impacto sem precedentes. potencial para riscos de segurança.
Mesmo que o ataque não tenha a intenção de causar danos massivos, se for mal executado, poderá resultar em problemas que vão desde falhas no sistema até ações que causam perdas significativas de vidas e danos monetários.
Uma vez totalmente integrado nas operações governamentais, teria o potencial de colocar os EUA de joelhos e criar catástrofes globais. Isto significa que a defesa deste projecto contra atacantes estrangeiros e nacionais também será sem precedentes.
Autopreservação: A ideia de que uma AGI possa querer sobreviver não é nova. Isso vai ao cerne das tramas de “O Exterminador do Futuro”, “Matrix” e “Robopocalypse”. Até o filme “Colossus: The Forbin Project” foi um pouco baseado na ideia de uma IA que queria se proteger, embora, nesse caso, fosse tão segura que as pessoas não pudessem retomar o controle do sistema.
A ideia de que uma IA possa concluir que a humanidade é o problema a ser resolvido não é um grande exagero, e a forma como a autopreservação foi realizada pode ser incrivelmente perigosa para nós, como esses filmes mostraram.
Concluindo
Stargate tem um enorme potencial para resultados bons e ruins. Garantir o primeiro resultado e evitar o segundo exigiria um nível de foco na ética, segurança, qualidade de programação e execução que excederia tudo o que já tentamos como corrida.
Se acertarmos (as probabilidades iniciais são contra, uma vez que tendemos a aprender por tentativa e erro), isso poderá ajudar a trazer uma nova era para os EUA e para a humanidade. Se fizermos errado, isso pode acabar conosco. Portanto, o que está em jogo não poderia ser maior, e duvido que estejamos atualmente à altura da tarefa, pois simplesmente não temos um grande histórico de construção bem-sucedida de projetos extremamente complexos na primeira vez.
Pessoalmente, eu colocaria a IBM à frente desse esforço. Ela trabalhou com IA por mais tempo, incorporou a ética no processo e tem décadas de experiência com projetos extremamente grandes e seguros como este. Acredito que a IBM tem a maior probabilidade de garantir melhores resultados e menos resultados ruins com esse esforço.
Oito capa de colchão refrigerada a água para dormir
Sou usuário do Chilipad desde o início. Realmente melhorou meu desempenho no sono ao longo dos anos, mas passou por água destilada como um louco, e água destilada não é tão comum.
Então, quando meus Chilipad Pros começaram a jogar água no chão, comprei um sistema Eight Sleep que tem algumas vantagens críticas. Primeiro, para uma cama grande, há apenas uma unidade alta para gerenciar e um conjunto grosso de mangueiras que vão até a cabeceira da cama. Isso permite que você coloque o sistema Eight Sleep perto da cabeceira e não ao pé da cama, o que é mais conveniente para mim.
Ele vem com monitoramento de sono integrado que requer assinatura (isso era opcional no Chilipad). Embora o protetor de colchão aprimorado do Chilipad fosse muito mais confortável do que o antigo, o protetor de colchão Eight Sleep é ainda melhor. Parece melhor também, visto que os lençóis o cobrem, isso não significa muito. Ainda assim, melhor é melhor.
Crédito da imagem: Oito Sono
O monitor de sono é baseado em IA e, até agora (já tenho o meu há vários meses), funcionou incrivelmente bem após o período de aprendizado, que é quando ele descobre as melhores temperaturas para você. A cama geralmente tem a temperatura perfeita em todos os momentos da noite.
Finalmente – e isso foi enorme para mim – não usa muita água. Nos meses que tive isso, usei cerca de um oitavo de copo de água e ainda não precisei reabastecê-lo (acho que terei que fazer isso duas vezes por ano), o que é um enorme melhoria em relação ao Chilipad, que consumia quase um galão de água por semana, às vezes mais.
Felizmente, temos piso de cerâmica, então não tenho danos no piso, mas se eu tivesse carpete, provavelmente teria que substituí-lo e verificar se não havia mofo ou danos estruturais na madeira causados pela água. Isso por si só me faria selecionar o sistema Eight Sleep em vez do Chilipad.
Além disso, eles têm uma opção que o Chilipad não tem e que ainda não comprei: um colchão que fica embaixo do colchão e eleva a cama, o que é ótimo para parar de roncar ou assistir TV.
Então, porque o sistema Eight Sleep é melhor que o Chilipad e porque me ajudou com meus problemas de sono (envelhecer é uma merda), é o meu Produto da Semana.
