Matemática da espuma lembra treinamento de IA; entenda

Essa descoberta traz luz para um conhecimento que a comunidade científica já acreditava ser consolidado. Até então, os cientistas apontavam que as bolhas de comportavam como átomos de vidro, que se arranjam dentro das combinações possíveis, em posições que exigem mais ou menos energia. Uma vez que encontrasse uma posição “confortável” do ponto de vista energética, essa bolha permaneceria ali, como se “repousasse”. 

“Quando analisamos os dados, o comportamento das espumas não correspondia ao que a teoria previa”, aponta Crocker. Em vez de estarem presas nas configurações possíveis até “descansarem”, o estudo mostra que as bolhas da espuma se movem incessantemente, explorando novos arranjos. 

Não só as configurações da espuma e da IA são semelhantes, mas as teorias acerca do funcionamento delas também apresentam um histórico parecido. Assim como se acreditava que as bolhas das espumas encontravam uma configuração de menor energia, as abordagens para o treinamento buscava guiar a inteligência artificial aos exemplos que ela já conhecia, reduzindo os esforços necessários e as possibilidades de erros. 

No entanto, pesquisadores perceberam que o método, conhecido como "descida de gradiente", não funcionava para esses casos de aprendizado profundo. Isso acontecia porque as IAs treinadas com esse mecanismo se tornavam incapazes de resolver problemas diferentes daqueles que já haviam aprendido. 

"A principal descoberta foi perceber que, na verdade, não se deve forçar o sistema a entrar no vale mais profundo possível", afirma Robert Riggleman, professor de Engenharia Biomédica e coautor sênior do estudo. "Mantê-lo em partes mais planas do espectro, onde muitas soluções têm desempenho semelhante, é o que permite que esses modelos generalizem."

Siga o canal do Correio no WhatsApp e receba as principais notícias do dia no seu celular

A partir do estudo, os engenheiros entendem que os parâmetros de treinamento das IAs modernas devem permanecer em movimento, se reorganizando continuamente, em vez de serem levados “ladeira abaixo” a esse campo de otimização. Esse modelo segue a mesma lógica da movimentação das bolhas. 

“Por que a matemática do aprendizado profundo caracteriza espumas com tanta precisão é uma questão fascinante”, explica John C. Crocker. “Isso sugere que essas ferramentas podem ser úteis muito além de seu contexto original, abrindo caminho para linhas de pesquisa completamente novas”, acrescenta.

Para os próximos estudos, os engenheiros buscam avançar na pesquisa sobre citoesqueletos, estrutura microscópica dentro das células que, assim como a espuma e o aprendizado profundo, precisa se rearranjar continuamente.