Now LLM Service mises à jour
Fournit Now LLM Service un accès à des grands modèles de langage (LLM) spécialisés développés par ServiceNow. Il donne également accès à des LLM open source sélectionnés, configurés ou améliorés par ServiceNow, à partir de la communauté ServiceNow et de partenaires. Examinez ces documents de référence et ces cartes de modèle pour plus d’informations sur les Now LLM Service modèles utilisés.
Cartes de modèles
Les grands modèles de langage (LLM) sont des modèles d’apprentissage automatique complexes qui sont entraînés sur de grands ensembles de données tels que des sites Web et de la documentation pour effectuer des tâches liées à la langue, telles que la génération de texte pour les résumés de cas et les notes de résolution.
Les cartes de modèle expliquent le contexte spécifique du modèle, l’utilisation prévue, les données de formation, les limites et d’autres informations importantes.
Ces cartes de modèle sont destinées aux compétences qui utilisent le Now LLM Service. Certaines compétences, telles que Now Assist la commande de catalogue multi-tours, utilisent Azure OpenAI à la place. Pour voir quel LLM une compétence utilise, vous pouvez consulter la liste des compétences dans la Now Assist Admin console et examiner la colonne Service LLM.
- Carte de modèle pour LLM texte-texte ServiceNow
-
Modèle utilisé pour les cas d’utilisation conversationnels tels que l’exécution de rubriques d’Agent virtuel et les cas d’utilisation de catalogue conversationnel et d’assistant d’agent tels que l’analyse des alertes, Recherche IA et la synthèse des incidents, des tickets et de la messagerie instantanée.
- Carte de modèle pour ServiceNow LLM texte-code
- Modèle utilisé pour la génération de code.
- Carte de modèle pour ServiceNow LLM meilleure action suivante du flux
- Modèle utilisé pour les recommandations de flux.
- Carte de modèle pour ServiceNow LLM text-to-flow
- Modèle utilisé pour la génération de flux.
- Carte de modèle pour ServiceNow SLM texte-texte
- Modèle utilisé pour le Gardien Now Assist, le texte en texte chiffré et d’autres cas d’utilisation qui exigent une inférence rapide et un débit élevé.
- Carte de modèle pour ServiceNow grand modèle de langue
- Modèle utilisé pour les solutions basées sur l’IA afin de prendre en charge la compréhension du langage naturel, l’automatisation et l’aide à la décision.
- Carte de modèle pour ServiceNow petit modèle de langage
- Modèle utilisé pour les applications d’IA d’entreprise en améliorant l’automatisation basée sur le texte et la génération de contenu dans les workflows ServiceNow.
- Carte de modèle pour ServiceNow Modèle de langage important tiers
- Modèle utilisé pour les solutions basées sur l’IA pour la génération de texte, le résumé et l’IA conversationnelle.
Mars 2025
Un puissant petit modèle de langage (SLM) à usage général de 12B conçu pour améliorer un large éventail d’applications, y compris les cas d’utilisation de texte-code et d’agent, a été publié. Affiné sur Mistral-Nemo-12B, il rationalise le déploiement et consolide de multiples fonctionnalités en une architecture unique.
- Optimisé pour répondre aux cas d’utilisation : améliore la synthèse des tickets, la synthèse de la messagerie instantanée, les notes de résolution et la génération de bases de connaissances dans toutes les langues prises en charge, notamment en améliorant la qualité du japonais.
- Performances supérieures de texte en code et de texte en texte chiffré : Offre des avancées majeures dans l’édition et la génération de Glide JavaScript et de JavaScript générique, ainsi qu’une précision améliorée dans la génération et l’exécution des requêtes pour les bases de données structurées.
- Modération et sécurité du contenu robustes : offre une protection renforcée contre les invites contradictoires, les tentatives de jailbreak et la génération de contenu nuisible, garantissant un déploiement plus sûr grâce au filtrage de contenu intégré.
- Déploiement de modèle unifié : intègre les tâches liées à ServiceNow dans un seul modèle, réduisant ainsi la complexité du système tout en améliorant les performances globales.
- Meilleure adhérence des instructions : offre un meilleur suivi des instructions et une meilleure cohérence à différents niveaux de rigueur des invites et des instructions que le NowLLM text-to-text actuel.
Novembre 2024
Plusieurs améliorations clés ont été ajoutées à l’qui visent à améliorer les performances et la Now LLM Service qualité.
-
Prise en charge multilingue : Now LLM Service prend en charge 8 langues supplémentaires, ce qui permet aux équipes internationales d’utiliser le modèle dans leur langue maternelle.
Les langues prises en charge sont : anglais, allemand, espagnol, français, japonais, néerlandais, français canadien, portugais brésilien et italien.
- Prise en charge du format JSON : le modèle fournit désormais une sortie au format JSON, ce qui facilite l’intégration des développeurs à diverses applications et l’automatisation des flux de travail de manière transparente.
- Réponses déterministes : le mode JSON garantit une sortie structurée et cohérente, ce qui améliore la prévisibilité et la fiabilité lors de l’intégration aux applications.
- Réduction des erreurs : contrairement au mode texte de forme libre, les réponses JSON sont moins sujettes aux erreurs de formatage ou aux caractères parasites, ce qui minimise les problèmes d’intégration.
- Consommation de jetons plus faible : la structure fixe de JSON peut réduire l’utilisation des jetons, ce qui le rend plus efficace et plus rentable pour les applications à fréquence de réponse élevée.
- Améliorations du suivi des instructions : Le modèle a été affiné pour comprendre et suivre les instructions plus précisément. Cela permet au modèle de fournir des réponses plus précises et exploitables, aidant ainsi les utilisateurs à obtenir les informations dont ils ont besoin plus rapidement et plus efficacement.