A OpenAI anunciou o GPT-4o Mini, uma versão menor do seu atual modelo de linguagem para inteligência artificial (IA). Apesar de reduzida, ela é mais “potente” que o GPT-3.5 e o GPT-3.5 Turbo, razão pela qual passará a ser padrão no ChatGPT.
Sendo mais específico, o GPT-4o Mini substituirá o GPT-3.5 Turbo nas versões Free (gratuita), Plus e Team do ChatGPT, chegando à modalidade Enterprise na semana que vem. As versões do GPT-3.5 ainda estarão disponíveis para desenvolvedores, mas via API.
GPT-4o Mini tem custo baixo
Para organizações, desenvolvedores e usuários avançados, o atributo mais importante do GPT-4o Mini provavelmente é o seu custo menor em relação às versões anteriores do modelo de linguagem.
Como exemplo, considere que o GPT-4o custa US$ 5 para cada milhão de tokens de entrada (input) e US$ 15 para cada milhão de tokens de saída (output). Isso dentro de uma janela de contexto de 128 mil tokens.
Já o GPT-4o Mini tem custo de US$ 0,15 por milhão de tokens de entrada e de US$ 0,60 por milhão de tokens de saída, novamente dentro de uma janela de 128 mil tokens.
Tokens podem ser entendidos como pequenos blocos de informação com os quais o modelo de linguagem lida. Os tokens de entrada consistem nas informações que o usuário fornece ao modelo. Os tokens de saída correspondem aos resultados apresentados por ele.
Já a janela de contexto trata da quantidade de dados em tokens com a qual o modelo de linguagem pode trabalhar de uma só vez para apresentar um resultado.
Desempenho do GPT-4o Mini
Como o GPT-4o Mini foi anunciado nesta quinta-feira (18), ainda não dá para termos uma noção clara do seu desempenho nas aplicações baseadas nele. Mas a OpenAI destaca que o novo modelo obteve pontuação de 82% no Measuring Massive Multitask Language Understanding (MMLU).
O MMLU é um teste baseado em 16 mil questões de múltipla escolha. Para fins de comparação, o GPT-3.5 obteve 70% de acertos nesse benchmark, enquanto o GPT-4o “normal” registrou 88,7%. Isso sugere que o GPT-4o Mini não irá decepcionar desenvolvedores e usuários.
OpenAI anuncia GPT-4o Mini como um modelo de IA mais barato e versátil
