O artigo do TRM parece um avanço significativo da IA. Ele destrói a fronteira de pareto nos benchmarks ARC AGI 1 e 2 (e resolução de Sudoku e Maze) com um custo estimado < $ 0,01 por tarefa e custo < $ 500 para treinar o modelo 7M em 2 H100s por 2 dias. [Específicos de treinamento e teste] Para o ARC, ele treinou em 160 exemplos do ConceptARC. No momento do teste, ele usa a resposta mais comum de 1000 aumentos no tempo do teste e incorpora uma forma fixa da tarefa na entrada. [Implicações na indústria] A maioria das empresas de IA hoje usa LLMs de uso geral com solicitação de tarefas. Para tarefas específicas, modelos menores podem não apenas ser mais baratos, mas de qualidade muito superior! As startups podem (e devem) treinar modelos por < de US $ 1000 para subtarefas específicas de "comprimento fixo" (extração específica de PDF, previsão de séries temporais, etc.) e usá-lo como uma ferramenta para o modelo geral não apenas para aumentar o desempenho, mas também para construir algum IP significativo na tarefa que estão tentando automatizar.

Fonte: