Esta semana em IA: gigantes da tecnologia adotam dados sintéticos

Olá, pessoal, bem-vindos ao boletim informativo regular de IA do TechCrunch. Se você quiser isso em sua caixa de entrada todas as quartas-feiras, inscreva-se aqui.

Esta semana, na IA, os dados sintéticos ganharam destaque.

A OpenAI apresentou na última quinta-feira o Canvas, uma nova maneira de interagir com ChatGPT, sua plataforma de chatbot com tecnologia de IA. O Canvas abre uma janela com um espaço de trabalho para escrever e codificar projetos. Os usuários podem gerar texto ou código no Canvas e, se necessário, destacar seções para editar usando ChatGPT.

Da perspectiva do usuário, o Canvas é uma grande melhoria na qualidade de vida. Mas o que é maioria interessante sobre o recurso, para nós, é o modelo ajustado que o alimenta. A OpenAI afirma que adaptou seu modelo GPT-4o usando dados sintéticos para “permitir novas interações do usuário” no Canvas.

“Usamos novas técnicas de geração de dados sintéticos, como destilar resultados do o1-preview do OpenAI, para ajustar o GPT-4o para abrir tela, fazer edições direcionadas e deixar comentários de alta qualidade inline”, disse Nick Turley, chefe de produto do ChatGPT. escreveu em uma postagem no X. “Essa abordagem nos permitiu melhorar rapidamente o modelo e permitir novas interações do usuário, tudo sem depender de dados gerados por humanos.”

A OpenAI não é a única grande empresa de tecnologia que depende cada vez mais de dados sintéticos para treinar seus modelos.

Ao desenvolver o Movie Gen, um conjunto de ferramentas alimentadas por IA para criar e editar videoclipes, a Meta confiou parcialmente em legendas sintéticas geradas por uma ramificação de seus modelos Llama 3. A empresa recrutou uma equipe de anotadores humanos para corrigir erros e adicionar mais detalhes a essas legendas, mas a maior parte do trabalho de base foi amplamente automatizado.

O CEO da OpenAI, Sam Altman, argumentou que algum dia a IA produzirá dados sintéticos bons o suficiente para se treinar de forma eficaz. Isso seria vantajoso para empresas como a OpenAI, que gasta uma fortuna em anotadores humanos e licenças de dados.

A Meta ajustou os próprios modelos do Llama 3 usando dados sintéticos. E diz-se que a OpenAI está fornecendo dados de treinamento sintéticos da o1 para seu modelo de próxima geração, de codinome Orion.

Mas adotar uma abordagem que prioriza os dados sintéticos traz riscos. Como um pesquisador recentemente me apontou, os modelos usados ​​para gerar dados sintéticos inevitavelmente alucinam (ou seja, inventam coisas) e contêm preconceitos e limitações. Essas falhas se manifestam nos dados gerados pelos modelos.

O uso seguro de dados sintéticos, portanto, requer curadoria e filtragem completas – como é a prática padrão com dados gerados por humanos. Não fazer isso pode levar ao colapso do modelo, onde um modelo se torna menos “criativo” — e mais tendencioso — nos seus resultados, comprometendo eventualmente seriamente a sua funcionalidade.

Esta não é uma tarefa fácil em escala. Mas com os dados de treinamento do mundo real se tornando mais caros (sem mencionar o desafio de obter), os fornecedores de IA podem ver os dados sintéticos como o único caminho viável a seguir. Esperemos que eles tenham cautela ao adotá-lo.

Notícias

Anúncios em visões gerais de IA: O Google diz que em breve começará a exibir anúncios em Visão Geral de IA, os resumos gerados por IA que fornece para determinadas consultas da Pesquisa Google.

Google Lens, agora com vídeo: Lens, o aplicativo de pesquisa visual do Google, foi atualizado com a capacidade de responder perguntas quase em tempo real sobre o que está ao seu redor. Você pode capturar um vídeo via Lens e fazer perguntas sobre objetos de interesse no vídeo. (Anúncios provavelmente virão para isso também.)

De Sora a DeepMind: Tim Brooks, um dos líderes do gerador de vídeo da OpenAI, Sora, partiu para o rival Google DeepMind. Brooks anunciou em um post no X que trabalhará em tecnologias de geração de vídeo e “simuladores mundiais”.

Fluxando: Black Forest Labs, a startup apoiada por Andreessen Horowitz por trás do componente de geração de imagens do assistente Grok da xAI, lançou uma API em beta – e lançou um novo modelo.

Não tão transparente: O projeto de lei AB-2013 recentemente aprovado na Califórnia exige que as empresas que desenvolvem sistemas generativos de IA publiquem um resumo de alto nível dos dados que usaram para treinar seus sistemas. Até agora, poucas empresas estão dispostas a dizer se irão cumprir. A lei lhes dá até janeiro de 2026.

Artigo de pesquisa da semana

Os pesquisadores da Apple têm trabalhado arduamente em fotografia computacional há anos, e um aspecto importante desse processo é o mapeamento de profundidade. Originalmente, isso era feito com estereoscopia ou um sensor de profundidade dedicado, como uma unidade lidar, mas eles tendem a ser caros, complexos e ocupam um espaço interno valioso. Fazer isso estritamente por software é preferível de várias maneiras. É disso que trata este artigo, Depth Pro.

Aleksei Bochkovskii et al. compartilham um método para estimativa de profundidade monocular de disparo zero com alto detalhe, o que significa que ele usa uma única câmera, não precisa ser treinado em coisas específicas (como funciona em um camelo apesar de nunca ter visto um) e captura até mesmo aspectos difíceis como tufos de cabelo. É quase certo que ele esteja em uso em iPhones no momento (embora provavelmente seja uma versão aprimorada e personalizada), mas você pode tentar se quiser fazer sua própria estimativa de profundidade usando o código nesta página do GitHub.

Modelo da semana

O Google lançou um novo modelo em sua família Gemini, Gemini 1.5 Flash-8B, que afirma estar entre os de melhor desempenho.

Uma versão “destilada” do Gemini 1.5 Flash, que já foi otimizada para velocidade e eficiência, o Gemini 1.5 Flash-8B custa 50% menos para usar, tem menor latência e vem com limites de taxa 2x mais altos no AI Studio, o software focado em IA do Google. ambiente do desenvolvedor.

“O Flash-8B quase corresponde ao desempenho do modelo Flash 1.5 lançado em maio em muitos benchmarks”, escreve o Google em um blog. “Nossos modelos (continuam) sendo informados pelo feedback dos desenvolvedores e por nossos próprios testes do que é possível.”

Gemini 1.5 Flash-8B é adequado para bate-papo, transcrição e tradução, diz o Google, ou qualquer outra tarefa que seja “simples” e de “alto volume”. Além do AI Studio, o modelo também está disponível gratuitamente por meio da API Gemini do Google, com taxa limitada a 4.000 solicitações por minuto.

Sacola

Falando em IA barata, a Anthropic lançou um novo recurso, Message Batches API, que permite aos desenvolvedores processar grandes quantidades de consultas de modelos de IA de forma assíncrona por menos dinheiro.

Semelhante às solicitações em lote do Google para a API Gemini, os desenvolvedores que usam a API Message Batches da Anthropic podem enviar lotes de até um determinado tamanho – 10.000 consultas – por lote. Cada lote é processado em um período de 24 horas e custa 50% menos que as chamadas de API padrão.

A Anthropic afirma que a API Message Batches é ideal para tarefas de “grande escala”, como análise de conjuntos de dados, classificação de grandes conjuntos de dados e avaliações de modelos. “Por exemplo”, escreve a empresa em um post, “analisar repositórios inteiros de documentos corporativos – que podem envolver milhões de arquivos – torna-se mais viável economicamente ao aproveitar (este) desconto em lote”.

A API Message Batches está disponível em versão beta pública com suporte para os modelos Claude 3.5 Sonnet, Claude 3 Opus e Claude 3 Haiku da Anthropic.