A plataforma OpenAI está passando por algumas mudanças importantes, já que a empresa anunciou quatro atualizações em seu ‘DevDay’ em São Francisco na terça-feira (1º de outubro).
Isso inclui 'API em tempo real', 'Cache de prompt', 'Destilação de modelo' e suporte para ajuste fino.
A equipe fez isso para que as novas adições ficassem visíveis e pudessem ser usadas a partir da data do anúncio, com algumas passando por mais ajustes assim que o feedback fosse coletado.
Hoje, no DevDay SF, estamos lançando vários novos recursos para a plataforma OpenAI: pic.twitter.com/y4cqDGugju
– Desenvolvedores OpenAI (@OpenAIDevs) 1º de outubro de 2024
Quatro atualizações do OpenAI anunciadas
'API em tempo real'
Uma das atualizações mais significativas do OpenAI é a ‘API em tempo real’, que oferece aos desenvolvedores a capacidade de “criar experiências rápidas de conversão de fala em seus aplicativos”.
Foi lançada a versão beta pública da API, que foi apelidada de semelhante ao modelo de voz avançado do ChatGPT. Isso permitirá que “todos os desenvolvedores pagos criem experiências multimodais de baixa latência em seus aplicativos”.
A entrada e a saída de áudio na API Chat Completions foram introduzidas para dar suporte aos casos de uso que não exigem os benefícios de baixa latência da API Realtime. Isso significa que os desenvolvedores agora podem passar qualquer entrada de texto ou áudio para o GPT-4o e o modelo responderá com sua escolha de texto, áudio ou ambos.
Anteriormente, criar uma experiência de assistente de voz semelhante exigiria várias etapas, incluindo o uso de outro modelo para que isso acontecesse.
'Cache de prompt'
Para ajudar ainda mais aqueles que criam aplicativos de IA, foi anunciado o 'Prompt Caching', que reduzirá custos e latência. “Ao usar tokens de entrada vistos recentemente, os desenvolvedores podem obter um desconto de 50% e tempos de processamento imediatos mais rápidos”, escreve OpenAI em um comunicado à imprensa para toda a empresa.
Ele foi aplicado automaticamente nas versões mais recentes do GPT-4o, GPT-4o mini, o1 preview e o1-mini, bem como nas versões ajustadas dos modelos.
'Modelo de Destilação'
O novo 'Model Distillation' visa fornecer um fluxo de trabalho integrado que pode ajudar a gerenciar todo o pipeline de destilação diretamente na plataforma OpenAI.
“Isso permite que os desenvolvedores usem facilmente os resultados de modelos de fronteira, como o1-preview e GPT-4o, para ajustar e melhorar o desempenho de modelos mais econômicos, como o GPT-4o mini.”
Antes desta introdução, a destilação exigia múltiplas etapas manuais, enquanto esse novo recurso deveria ser muito mais fácil e rápido.
O pacote completo inclui conclusões armazenadas, avaliações e ajustes finos, todos disponibilizados na terça-feira.
‘Ajuste fino da visão’ é a quarta atualização do OpenAI
A OpenAI implementou o ajuste fino no GPT-4o anteriormente, que foi usado por “centenas de milhares de desenvolvedores”, mas a equipe diz que sua nova atualização de ‘ajuste fino da visão’ agora também tornará possível o ajuste fino com imagens. como texto.
Esta versão de imagem funciona de maneira semelhante ao que foi visto com texto, com os desenvolvedores capazes de preparar seus conjuntos de dados de imagens para seguir o formato adequado e depois carregá-los na plataforma.
Isso só poderá ser usado para aqueles nos níveis de uso pago e é compatível com o snapshot do modelo GPT-4o mais recente.
Imagem em destaque: Via Postagem do OpenAIDevs X
A postagem OpenAI compartilha quatro atualizações importantes no San Francisco DevDay apareceu pela primeira vez no ReadWrite.
