Serviço Now LLM atualizações
O Serviço Now LLM fornece acesso a modelos de linguagem grandes (LLMs) especializados que são desenvolvidos pela ServiceNow. Ele também fornece acesso a LLMs de código aberto que são selecionados, configurados ou aprimorados pela ServiceNow, da comunidade e dos parceiros da ServiceNow. Revise esses materiais de referência e cartões de modelo para obter informações adicionais sobre o Serviço Now LLM e sobre os modelos usados.
Cartões de modelo
Modelos de linguagem grande (LLMs) são modelos complexos de aprendizado de máquina que são treinados em grandes conjuntos de dados, como sites e documentação, para executar tarefas relacionadas ao idioma, como geração de texto para resumos de caso e anotações de resolução.
Os cartões de modelo explicam o contexto do modelo específico, uso pretendido, dados de treinamento, limitações e outras informações importantes.
Esses cartões de modelo são para habilidades que usam o Serviço Now LLM. Há determinadas habilidades, como Now Assist Ordenação de catálogos de vários turnos, que usam o OpenAI do Azure. Para ver qual LLM uma habilidade está usando, você pode verificar a lista de habilidades no console Administrador do Now Assist e revisar a coluna de serviço de LLM.
- Cartão de modelo para LLM de texto para texto da ServiceNow
-
Modelo usado para casos de uso de conversa, como execução de tópico do Virtual Agent e casos de uso de catálogo de conversa e assistência ao agente, como análise de alertas, pesquisa com IA e resumo de incidente, caso e bate-papo.
- Cartão do modelo para ServiceNow LLM de texto para código
- Modelo usado para geração de código.
- Cartão do modelo para ServiceNow LLM de próxima ação recomendada de fluxo
- Modelo usado para recomendações de fluxo.
- Cartão do modelo para ServiceNow LLM de texto para fluxo
- Modelo usado para geração de fluxo.
- Cartão do modelo para ServiceNow GNS de texto para texto
- Modelo usado para guardião do Now Assist, conversão de texto para criptografia e outros casos de uso que exigem inferência rápida e alto rendimento.
- Cartão do modelo para ServiceNow modelo de idioma grande
- Modelo usado para soluções orientadas por IA para oferecer suporte à compreensão da linguagem natural, automação e suporte à decisão.
- Cartão do modelo para ServiceNow modelo de linguagem pequena
- Modelo usado para aplicações de IA corporativa, aprimorando a automação baseada em texto e a geração de conteúdo nos fluxos de trabalho da ServiceNow.
- Cartão do modelo para ServiceNow modelo de idioma grande de terceiros
- Modelo usado para soluções orientadas por IA para geração de texto, resumo e IA de conversação.
março de 2025
Foi lançado um modelo de linguagem pequeno (SLM) de uso geral 12B poderoso projetado para aprimorar uma ampla variedade de aplicações, incluindo conversão de texto para código e casos de uso de agente. Ajustado com precisão no Mistral-Nemo-12B, ele simplifica a implantação e consolida várias funcionalidades em uma arquitetura única.
- Otimizado para atender a casos de uso: aprimora o resumo de casos, o resumo de bate-papo, as anotações de resolução e a geração de base de conhecimento em todos os idiomas compatíveis, incluindo melhorias na qualidade do japonês.
- Desempenho superior de text-to-code e text-to-cypher: oferece grandes avanços na edição e geração de JavaScript Glide e JavaScript genérico, além de maior precisão na geração e execução de consultas para bancos de dados estruturados.
- Moderação e segurança robustas de conteúdo: fornece proteção mais forte contra avisos adversários, tentativas de violação e geração de conteúdo prejudicial, garantindo uma implantação mais segura com filtragem de conteúdo integrada.
- Implantação de modelo unificado: integra tarefas relacionadas à ServiceNow em um único modelo, reduzindo a complexidade do sistema e aumentando o desempenho geral.
- Adesão às instruções aprimorada: oferece melhor acompanhamento de instruções e consistência em vários níveis de prompt e rigor de instrução do que o NowLLM de texto para texto atual.
Novembro de 2024
Várias melhorias importantes foram adicionadas ao Serviço Now LLM que têm como objetivo aprimorar o desempenho e a qualidade.
-
Suporte multilíngue: Serviço Now LLM oferece suporte a 8 idiomas adicionais, permitindo que equipes globais usem o modelo em seus idiomas nativos.
Os idiomas compatíveis são: inglês, alemão, francês, japonês, holandês, francês canadense, espanhol, português brasileiro e italiano.
- Suporte ao formato JSON: o modelo agora fornece saída no formato JSON, facilitando a integração dos desenvolvedores com várias aplicações e automatizando fluxos de trabalho sem problemas.
- Respostas determinísticas: o modo JSON garante uma saída estruturada e consistente, o que melhora a previsibilidade e a confiabilidade na integração com aplicações.
- Redução de erros: ao contrário do modo de texto de forma livre, as respostas JSON são menos propensas a erros de formatação ou caracteres perdidos, minimizando os problemas de integração.
- Menor consumo de token: a estrutura fixa do JSON pode reduzir o uso de token, tornando-o mais eficiente e econômico para aplicações com alta frequência de resposta.
- Melhorias no acompanhamento de instruções: o modelo foi ajustado para entender e seguir as instruções com mais precisão. Isso permite que o modelo forneça respostas mais diretas e acionáveis, ajudando os usuários a obter as informações de que precisam com mais rapidez e eficiência.