Alerta sobre o risco de usar modelos experimentais em produção,…
INEMA
Não construa usando modelos experimentais (até que eles saiam da fase Beta)
Isso acabou de chegar na minha caixa de entrada há cerca de meia hora e me lembrou de algo que eu queria compartilhar com todos aqui, especialmente para quem trabalha com automação para clientes.
Há um mês, estávamos construindo uma automação no Make.com para um cliente corporativo e, por algum motivo, o o1-mini estava se saindo muito bem na tarefa específica que eles precisavam.
Como estávamos em dúvida se esse modelo iria ou não se manter (porque era muito novo), acabamos convencendo o cliente a usar o gpt-4o, que é um modelo consagrado e bem estabelecido.
Basicamente, nós "emulamos" o processo de raciocínio fazendo chain prompting (encadeamento de prompts) na automação, em vez de depender apenas de uma etapa de raciocínio do modelo.
Se essa notícia tivesse saído hoje e estivéssemos usando o o1-mini, teríamos que voltar, mudar os prompts, testar os prompts, garantir que eles não quebrassem e verificar se a economia faria sentido para rodar o modelo na escala que o cliente precisava.
Esses são os pequenos detalhes que ajudam você a se tornar um implementador melhor de soluções de IA nas empresas.
ATENÇÃO - NÃO USAR EM PRODUÇÃO
1