Mulheres na IA: Sophia Velastegui acredita que a IA está se movendo rápido demais

Como parte da série Women in AI do TechCrunch, que busca dar às mulheres acadêmicas e outras pessoas focadas em IA seu merecido (e devido) tempo sob os holofotes, o TechCrunch entrevistou Sophia Velastegui. Velastegui é membro do comitê consultivo nacional de IA da National Science Foundation (NSF) e ex-diretor de IA da divisão de software empresarial da Microsoft.

Velastegui não planejava seguir carreira em IA. Ela estudou engenharia mecânica como estudante da Georgia Tech. Mas depois de trabalhar na Apple em 2009, ela ficou fascinada por aplicativos – especialmente aqueles com tecnologia de IA.

“Comecei a reconhecer que os produtos infundidos com IA repercutiram nos clientes, graças ao sentimento de personalização”, disse Velastegui ao TechCrunch. “As possibilidades pareciam infinitas para o desenvolvimento de IA que pudesse melhorar as nossas vidas em pequena e grande escala, e eu queria fazer parte dessa revolução. Então comecei a procurar projetos focados em IA e aproveitei todas as oportunidades para expandir a partir daí.”

Carreira avançada em IA

Velastegui trabalhou no primeiro MacBook Air – e no primeiro iPad – e logo depois foi nomeado gerente de produto de todos os laptops e acessórios da Apple. Alguns anos depois, Velastegui mudou-se para o grupo de projetos especiais da Apple, onde ajudou a desenvolver CarPlay, iCloud, Apple Maps e o pipeline de dados e sistemas de IA da Apple.

Em 2015, Velastegui ingressou no Google como chefe de arquitetura de silício e diretor da linha de produtos da marca Nest da empresa. Após uma breve passagem pela empresa de tecnologia de áudio Doppler Labs, ela aceitou uma oferta de emprego na Microsoft como gerente geral de produtos e pesquisa de IA.

Na Microsoft, onde Velastegui acabou liderando todas as iniciativas de IA relacionadas a aplicativos de negócios, Velastegui orientou as equipes a infundir IA em produtos como LinkedIn, Bing, PowerPoint, Outlook e Azure. Ela também liderou explorações e projetos internos construídos com GPT-3, modelo de geração de texto da OpenAI, para o qual a Microsoft adquiriu recentemente licença exclusiva.

“Meu tempo na Microsoft realmente se destaca”, disse Velastegui. “Entrei na empresa quando ela estava no meio de grandes mudanças sob a liderança do CEO Satya Nadella. Mentores e colegas me aconselharam a não dar esse salto em 2017 porque consideravam a Microsoft atrasada no setor. Mas, num curto espaço de tempo, a Microsoft começou a fazer progressos reais na IA e eu queria participar.”

Velastegui deixou a Microsoft em 2022 para abrir uma empresa de consultoria e chefiar o desenvolvimento de produtos na Aptiv, empresa de tecnologia automotiva. Ela se juntou ao comitê de IA da NSF, que colabora com a indústria, a academia e o governo para apoiar a pesquisa básica de IA, em 2023.

Navegando na indústria

Questionada sobre como ela enfrenta os desafios da indústria tecnológica dominada pelos homens, Velastegui deu crédito às mulheres que ela considera suas mentoras mais fortes. É importante que as mulheres apoiem umas às outras, diz Velastegui – e, talvez mais importante, que os homens defendam as suas colegas de trabalho.

“Para as mulheres da área de tecnologia, se você já fez parte de uma transformação, adoção ou gestão de mudanças, você tem o direito de estar à mesa, então não tenha medo de sentar-se lá”, disse Velastegui. “Levante a mão para assumir mais responsabilidades de IA, seja parte do seu trabalho atual ou de um projeto extenso. Os melhores gestores irão apoiá-lo e incentivá-lo a seguir em frente. Mas se isso não for viável no seu período das 9h às 17h, procure comunidades ou programas universitários onde você possa fazer parte da equipe de IA.”

A falta de pontos de vista diversos no local de trabalho (ou seja, equipas de IA compostas maioritariamente por homens) pode levar ao pensamento de grupo, observa Velastegui, e é por isso que ela defende que as mulheres partilhem feedback sempre que possível.

“Encorajo fortemente mais mulheres a envolverem-se na IA para que as nossas vozes, experiências e pontos de vista sejam incluídos neste ponto inicial crítico onde as tecnologias fundamentais da IA ​​estão a ser definidas para agora e para o futuro”, disse ela. “É fundamental que as mulheres em todos os setores realmente se apoiem na IA. Quando participamos da conversa, podemos ajudar a moldar a indústria e mudar esse desequilíbrio de poder.”

Velastegui diz que o seu trabalho agora, com a NSF, centra-se na abordagem de questões fundamentais pendentes na IA, como a falta do que ela chama de “representação digital”. Vieses e preconceitos permeiam a IA de hoje, afirma ela, em parte devido à composição homogênea das empresas que a desenvolvem.

“A IA está sendo treinada com base em dados de desenvolvedores, mas os desenvolvedores são, em sua maioria, homens com perspectivas específicas e representam um subconjunto muito pequeno dos 8 bilhões de pessoas no mundo”, disse ela. “Se não incluirmos mulheres como desenvolvedoras e se as mulheres não fornecerem feedback como usuárias, a IA não as representará de forma alguma.”

Equilibrando inovação e segurança

Velastegui vê o ritmo alucinante da indústria de IA como um “grande problema” – isto é, na ausência de uma estrutura comum de segurança ética. Tal estrutura, caso fosse amplamente adotada, poderia permitir que os desenvolvedores construíssem sistemas com rapidez, sem sufocar a inovação, acredita ela.

Mas ela não está contando com isso.

“Nunca vimos uma tecnologia tão transformadora evoluir em um ritmo tão implacável”, disse Velastegui. “Pessoas, regulamentação, sistemas legados… nada jamais teve que acompanhar a velocidade atual da IA. O desafio passa a ser como mantermo-nos informados, atualizados e com visão de futuro, ao mesmo tempo que estamos conscientes dos perigos se agirmos demasiado depressa.”

Como uma empresa — ou desenvolvedor — pode criar produtos de IA de maneira responsável hoje? Velastegui defende uma abordagem “centrada no ser humano”, aprendendo com os erros do passado e priorizando o bem-estar dos usuários em sua essência.

“As empresas devem capacitar um conselho de IA diversificado e multifuncional que analise as questões e forneça recomendações que reflitam o ambiente atual”, disse Velastegui, “e criar canais para feedback e supervisão regulares que se adaptarão à medida que o sistema de IA evolui. E deve haver canais para feedback e supervisão regulares que se adaptarão à medida que os sistemas de IA evoluem.”