Laboratório de Mira Murati revela método para tornar respostas de IA repetíveis
Thinking Machines Lab, a startup dirigida por Mira Murati, apresentou o seu primeiro estudo público dedicado a resolver a imprevisibilidade nas respostas de grandes modelos de linguagem.
Primeiro passo do projeto Connectionism
Num artigo intitulado “Defeating Nondeterminism in LLM Inference”, divulgado na nova série de publicações técnicas Connectionism, o investigador Horace He afirma que a variabilidade de respostas está ligada à forma como os kernels das GPUs são coordenados durante a inferência. O trabalho sugere que, ao controlar cuidadosamente essa orquestração, é possível obter respostas consistentes sempre que o utilizador coloca a mesma questão.
Impacto esperado e próximos passos
O laboratório defende que a maior determinismo pode beneficiar empresas, cientistas e processos de aprendizagem por reforço, reduzindo o ruído durante o treino dos modelos. A estratégia integra-se nos planos já comunicados aos investidores, que incluem usar aprendizagem por reforço para personalizar modelos de IA para negócios.
Fundada pela antiga diretora-geral de tecnologia da OpenAI, a empresa arrecadou 2 mil milhões de dólares em financiamento inicial e conta com vários ex-investigadores da mesma organização. O primeiro produto comercial deverá ser apresentado «nos próximos meses», com foco em investigadores e startups que desenvolvem modelos personalizados.
Imagem: Getty via techcrunch.com
A Thinking Machines Lab comprometeu-se a publicar regularmente artigos, código e outros materiais para “beneficiar o público” e reforçar a cultura interna de investigação. A divulgação agora feita oferece um raro vislumbre das prioridades técnicas de uma startup que, segundo estimativas, vale 12 mil milhões de dólares.
