por Equipe TradeNews
A OpenAI divulgou os preços do seu modelo de raciocínio o1-pro, que utiliza uma quantidade absurda de poder computacional para realizar “raciocínio” em várias etapas, aprimorando as respostas às solicitações dos usuários. Esse poder computacional não sai barato: a nova precificação é a mais alta entre todos os modelos de grandes empresas de IA atualmente — e por uma grande margem.
Como usuário comum, você pode utilizar diversas ferramentas de IA gratuitamente, ou talvez pague US$ 20 por mês pelo ChatGPT Plus da OpenAI ou pelo Gemini Advanced do Google, caso use bastante. Mas esse não é o verdadeiro foco do faturamento.
Os custos realmente aumentam quando empresas integram serviços de IA via API (interface de programação de aplicativos). Mas qual é a unidade padrão de medição dos custos de IA?
A precificação de APIs para modelos de IA é baseada na quantidade de dados (texto, imagens, vídeos, áudio) que são inseridos em um modelo e na quantidade de dados que ele devolve. A saída custa mais do que a entrada.
A unidade mais comum para essa medição é 1 milhão de “tokens”. No contexto da IA, um “token” é uma unidade mínima de dados. Quando um texto é inserido em um modelo, as palavras e frases são fragmentadas nesses tokens para processamento, podendo representar apenas algumas letras. Nos modelos da OpenAI, um token equivale, aproximadamente, a quatro caracteres em inglês. Assim, um parágrafo tem cerca de 100 tokens, mais ou menos.
Para ter uma ideia, 1 milhão de tokens equivale aproximadamente à biografia épica de Robert Moses escrita por Robert Caro, The Power Broker — um livro de 1.300 páginas pesando 1 kg. Uma estimativa aproximada desse volume resultaria em cerca de 850.000 tokens.
Se você inserir 1 milhão de tokens em alguns dos principais modelos disponíveis hoje, o custo pode ser bem baixo. No GPT-4o Mini da OpenAI, o input custaria apenas US$ 0,15, enquanto a saída custaria US$ 0,60. No Gemini 2.0 Flash do Google, o input custaria apenas um centavo, e a saída, US$ 0,04.
Já o preço do OpenAI o1-pro para 1 milhão de tokens de entrada é de US$ 150, e para saída, US$ 600.
Um token aqui, um token ali
A unidade padrão para precificação de acesso à API de modelos de IA é o custo de 1 milhão de “tokens” de entrada e saída do modelo. A precificação do o1 Pro da OpenAI estabelece um novo recorde para a indústria.
Vale ressaltar que há grandes diferenças nas capacidades desses modelos — alguns são pequenos e projetados para casos de uso específicos, como rodar em dispositivos móveis, enquanto outros são gigantescos e voltados para tarefas avançadas. Portanto, variações nos preços são esperadas. Mas, como se pode ver nos comparativos, a precificação da OpenAI se destaca.
O preço é uma questão crucial para a OpenAI, que ainda busca um modelo de negócios viável para cobrir os custos exorbitantes de operação. A decisão recente da empresa de lançar apenas modelos de “raciocínio” como o o1-pro significa custos computacionais ainda mais altos — evidenciado pelo custo de resolver individualmente os desafios ARC-AGI, estimado em US$ 3.400 por problema.
Recentemente, o The Information informou que a OpenAI estaria considerando cobrar US$ 20.000 por mês por agentes com nível de PhD.
O CEO Sam Altman afirmou, em janeiro, que a OpenAI está perdendo dinheiro com o produto ChatGPT Pro.
A empresa está buscando novos investimentos com uma avaliação de mercado de US$ 340 bilhões e, em 2024, teria registrado um prejuízo de aproximadamente US$ 5 bilhões, com uma receita de apenas US$ 3,7 bilhões.
Disclaimer: Este texto é uma tradução direta da Newsletter do Robinhood. As opiniões expressadas não refletem as posições da Nomos.