Novo algoritmo do MIT cumpre todas as restrições rígidas em testes simulados

Resumo

Alguns sistemas de IA constroem a sua saída de forma gradual, passo a passo — planeando como um braço robótico deve mover-se, ou editando uma imagem — mas nada na forma como são construídos garante que o resultado final segue uma regra rígida e não negociável. Investigadores do MIT construíram um método chamado HardFlow que verifica se a regra é cumprida apenas no último passo da geração, em vez de forçar o cumprimento em cada passo intermédio, o que deixa o modelo mais livre para procurar uma boa resposta primeiro. Em testes realizados inteiramente dentro de simulações computacionais, o HardFlow satisfez a regra exigida em todos os casos e produziu resultados melhores do que os métodos rivais, sem demorar mais tempo a calcular. Também funciona em modelos já treinados, sem necessidade de retreino. A ressalva: tudo até agora correu em simulação, sem que nenhum laboratório independente tenha reproduzido os resultados.

O que aconteceu

Uma equipa do MIT construiu um algoritmo chamado HardFlow que permite a uma classe de modelos de IA generativa satisfazer exigências rígidas (“hard”) sobre a sua saída final — regras que não admitem exceções, em vez de regras que o modelo apenas tenta aproximar. Os investigadores apontam a robótica, o controlo de processos físicos e a visão computacional como os tipos de contexto onde isto importa. O trabalho foi realizado pelo autor principal Zeyang Li, estudante de pós-graduação em engenharia mecânica e no Laboratory for Information and Decision Systems do MIT, pelo coautor Kaveh Alim, e pelo autor sénior Navid Azizan, professor associado no Department of Mechanical Engineering e no Institute for Data, Systems, and Society do MIT.

Os modelos em causa usam uma técnica chamada flow matching, que gera uma saída — uma imagem, ou um plano para o movimento de um robô — partindo do aleatório e conduzindo-o gradualmente até um resultado final, usando um “campo de velocidade” aprendido que empurra o processo a cada passo. O HardFlow reformula o problema de impor uma regra rígida a estes modelos como um problema de controlo: trata pequenos ajustes a esse campo de velocidade como controlos ajustáveis e, em vez de forçar cada passo intermédio a obedecer à regra, exige apenas que a regra se verifique no final. Divide o processo numa sequência de problemas curtos, de um único passo, que resolve um a seguir ao outro. Por funcionar assim, pode ser aplicado diretamente a um modelo já treinado, sem necessidade de o retreinar.

“Para a satisfação de restrições, o que importa em última análise é a saída final do modelo, já que o processo interno é descartado. Ao não exigir que cada passo intermédio satisfaça as restrições, damos ao modelo mais liberdade para encontrar soluções de alta qualidade que continuam a ser viáveis no final,” disse Zeyang Li.

Os autores testaram o HardFlow contra outros seis métodos — a maioria dos quais verifica a regra em cada passo intermédio da geração (métodos de “projeção”) ou orienta o processo usando um sinal de guia — em quatro tarefas: um braço robótico simulado a evitar obstáculos enquanto alcança objetos (o benchmark D3IL), navegação em labirinto, controlo das condições de fronteira de um processo físico, e edição de imagens a partir de instruções em texto. O argumento é que forçar constantemente as saídas intermédias de um modelo a cumprir uma regra restringe a liberdade de exploração, o que reduz a qualidade da resposta final em comparação com verificar apenas no fim.

Nas experiências reportadas, todas realizadas em simulação, o HardFlow cumpriu a restrição exigida em todos os casos, produzindo de forma consistente resultados de qualidade superior aos dos outros métodos, com um tempo de computação comparável ou inferior ao da maioria deles. No teste de manipulação robótica especificamente, o HardFlow permitiu que um braço robótico simulado evitasse os obstáculos e, ao mesmo tempo, encontrasse o caminho mais rápido até ao objeto-alvo, enquanto a maioria dos outros métodos ou colidiu com obstáculos ou seguiu caminhos substancialmente mais longos.

“A promessa da IA generativa é a sua capacidade de explorar um espaço rico de possibilidades, mas o mundo real impõe limites sobre quais possibilidades são aceitáveis. A nossa abordagem permite-nos preservar esse poder gerativo ao mesmo tempo que impomos as exigências não negociáveis de aplicações de alto risco ou críticas para a segurança,” disse Navid Azizan.

O artigo foi revisto por pares e publicado na IEEE Transactions on Pattern Analysis and Machine Intelligence sob o título “HardFlow: Hard-Constrained Sampling for Flow-Matching Models via Trajectory Optimization”. Os investigadores dizem também que, em trabalho futuro, poderiam alargar o enquadramento a contextos em que o próprio modelo de IA é atualizado a par do passo de imposição de restrições, o que sugerem poder melhorar ainda mais tanto o cumprimento como a qualidade da saída.

O que isto significa (e o que não significa)

Se o padrão se mantiver fora destes testes, o HardFlow aponta para uma forma de dar a um modelo generativo já treinado uma garantia firme sobre a sua saída final — sem o retreinar e sem a perda de qualidade que resulta de forçar o cumprimento em cada passo intermédio — o que importaria em aplicações onde uma regra violada tem consequências reais, como robôs a operar perto de obstáculos.

Não significa que se tenha demonstrado que o HardFlow funciona num robô físico ou em qualquer sistema em produção. Todos os resultados reportados no artigo provêm de benchmarks simulados — o simulador D3IL, o simulador Maze2D, uma tarefa simulada de controlo de processo físico, e edição de imagens — e o artigo não reporta testes em hardware real ou num sistema de produção. Também não significa que a “satisfação perfeita de restrições” seja uma garantia válida em qualquer condição: o método depende de uma aproximação do aspeto que a saída final terá a meio da geração, e as suas garantias teóricas dependem de limites matemáticos específicos a cada problema, pelo que um registo sem falhas nestes quatro benchmarks não estabelece que a regra seria sempre cumprida noutro contexto.

O que ainda não sabemos

Nenhum laboratório fora da equipa do MIT reproduziu de forma independente as comparações de benchmark do artigo; a única verificação externa identificada é a aceitação do artigo, através de revisão por pares, pela IEEE Transactions on Pattern Analysis and Machine Intelligence, que avalia metodologia e apresentação e não volta a correr as experiências. A cobertura do resultado para além do comunicado de imprensa do próprio MIT consiste em sites que republicam esse comunicado, e não jornalismo independente, pelo que não existe verificação externa separada das afirmações aqui descritas. Também não está estabelecido se o HardFlow consegue lidar com o tipo de regras de segurança difusas e difíceis de formalizar relevantes para saídas de modelos de linguagem, ao contrário das restrições geométricas e físicas aqui testadas, nem se a abordagem funciona para famílias de modelos generativos diferentes do flow matching, como modelos de linguagem autorregressivos.