Now LLM Service mises à jour
Le Now LLM Service permet d’accéder à des grands modèles de langage (LLM) spécialisés développés par ServiceNow. Elle permet également d’accéder aux LLM open source sélectionnés, configurés ou améliorés par ServiceNow, à partir de la communauté ServiceNow et de ses partenaires. Consultez ces documents de référence et ces cartes de modèle pour plus d’informations sur le Now LLM Service modèle et sur les modèles utilisés.
Cartes de modèles
Les grands modèles de langage (LLM) sont des modèles d’apprentissage machine complexes qui sont entraînés sur de grands ensembles de données tels que des sites Web et de la documentation pour effectuer des tâches liées à la langue, telles que la génération de texte pour les résumés de tickets et les notes de résolution.
Les cartes de modèle expliquent le contexte du modèle spécifique, l’utilisation prévue, les données de formation, les limites et d’autres informations importantes.
Ces cartes de modèle sont destinées aux compétences qui utilisent le fichier Now LLM Service. Certaines compétences, telles que Now Assist la commande de catalogue multi-tours, utilisent Azure OpenAI à la place. Pour voir quel LLM une compétence utilise, vous pouvez consulter la liste des compétences dans la Administrateur Now Assist console et examiner la colonne Service LLM.
- Carte de modèle pour ServiceNow grand modèle de langue
- Modèle utilisé pour les solutions basées sur l’IA afin de prendre en charge la compréhension du langage naturel, l’automatisation et l’aide à la décision.
- Carte de modèle pour ServiceNow Grand modèle de langue (V2)
-
Modèle pour l’IA d’entreprise qui améliore l’automatisation basée sur le texte et la génération de contenu dans les workflows ServiceNow, y compris les compétences prêtes à l’emploi du demandeur, les compétences personnalisées et les cas d’utilisation agentiques.
Ce modèle est destiné à l’application 11.2 ou ultérieure du contrôleur de l’IA générative.
- Carte de modèle pour ServiceNow petit modèle de langue
- Modèle utilisé pour les applications d’IA d’entreprise en améliorant l’automatisation basée sur le texte et la génération de contenu dans les workflows ServiceNow.
- Carte de modèle pour ServiceNow petit modèle de langage (V2)
-
Modèle pour l’IA d’entreprise qui améliore l’automatisation basée sur le texte et la génération de contenu dans les workflows ServiceNow, y compris les compétences prêtes à l’emploi des créateurs et des prestataires, ainsi que les compétences personnalisées.
Ce modèle est destiné à l’application 11.2 ou ultérieure du contrôleur de l’IA générative.
- Carte de modèle pour ServiceNow Grand modèle de langue tiers
- Modèle utilisé pour les solutions basées sur l’IA pour la génération de texte, le résumé et l’IA conversationnelle.
- Carte de modèle pour ServiceNow Modèles de reconnaissance vocale en texte et de synthèse vocale en IA
- Modèles utilisés dans les agents vocaux IA ServiceNow pour convertir l’entrée vocale de l’utilisateur en texte et générer une parole au son naturel à partir des réponses de l’IA.
- Carte de modèle pour ServiceNow Gardien Now Assist modèle
- Ce modèle assure la modération du contenu et permet d’identifier les différents types d’attaques par injection d’invite et de contenu offensant.
- Carte de modèle pour ServiceNow CSAT déduit et grand modèle de langage des facteurs
- Ce modèle est conçu pour ingérer une conversation et prédire un score CSAT, ainsi que les facteurs qui expliquent le score prédit.
Mai 2025
Un Small Language Model (SLM) à usage général 12B avancé avec une architecture unique et hautes performances qui prend en charge un large éventail de tâches dans le contexte de ServiceNow a été publié. Affiné sur Mistral-Nemo-12B-Instruct, ce modèle est conçu et optimisé pour des tâches telles que l’assistant d’agent, le text-to-flow, le text-to-cypher, la sécurité et la modération de contenu et le text-to-code.
- Meilleure adhésion aux instructions : amélioration de la capacité du modèle à interpréter et à suivre avec précision les instructions de l’utilisateur, ce qui permet au modèle de mieux comprendre et exécuter des commandes complexes. Des résultats plus précis et plus fiables que les versions précédentes.
- Fenêtre de contexte augmentée : fenêtre de contexte augmentée de 16 K à 32 Ko, ce qui permet au modèle de mieux comprendre les entrées longues, de maintenir la cohérence sur les interactions étendues et de prendre en charge des tâches plus complexes avec une conscience contextuelle plus riche.
- Amélioration des compétences multilingues : amélioration des performances dans toutes les langues par rapport aux versions précédentes, avec des améliorations notables dans le traitement du japonais.
- Optimisé pour les fonctionnalités liées au workflow ServiceNow : couverture de support étendue pour Text-to-Flow et amélioration des performances de Text-to-Code, Text-to-Cypher, etc.
- Consolidation du déploiement de modèles continuellement améliorée : intègre les tâches liées à ServiceNow dans un modèle unique, ce qui réduit la complexité du système tout en améliorant les performances globales.
Mars 2025
Un puissant petit modèle de langage à usage général (SLM) 12B conçu pour améliorer un large éventail d’applications, y compris les cas d’utilisation de texte en code et d’agent, a été publié. Affiné sur Mistral-Nemo-12B, il rationalise le déploiement et consolide de multiples fonctionnalités dans une architecture unique.
- Optimisé pour répondre aux cas d’utilisation : améliore la synthèse des tickets, la synthèse de la messagerie instantanée, les notes de résolution et la génération de bases de connaissances dans toutes les langues prises en charge, y compris l’amélioration de la qualité japonaise.
- Performances supérieures de text-to-code et de text-to-cypher : Apporte des avancées majeures dans l’édition et la génération de JavaScript Glide et de JavaScript générique, ainsi qu’une précision améliorée dans la génération et l’exécution de requêtes pour les bases de données structurées.
- Modération et sécurité du contenu robustes : offre une protection renforcée contre les invites contradictoires, les tentatives de jailbreak et la génération de contenu nuisible, garantissant un déploiement plus sûr grâce au filtrage de contenu intégré.
- Déploiement de modèle unifié : intègre les tâches associées à ServiceNow dans un seul modèle, réduisant ainsi la complexité du système tout en améliorant les performances globales.
- Meilleure adhésion aux instructions : offre un meilleur suivi des instructions et une meilleure cohérence à différents niveaux d’invite et de rigueur des instructions que le NowLLM text-à-texte actuel.
Novembre 2024
Plusieurs améliorations clés ont été ajoutées à l’qui visent à améliorer les performances et la Now LLM Service qualité.
-
Prise en charge multilingue : Now LLM Service prend en charge 8 langues supplémentaires, ce qui permet aux équipes internationales d’utiliser le modèle dans leur langue maternelle.
Les langues prises en charge sont : l’anglais, l’allemand, le français, le japonais, le néerlandais, le français canadien, l’espagnol, le portugais brésilien et l’italien.
- Prise en charge du format JSON : le modèle fournit désormais une sortie au format JSON, ce qui facilite l’intégration transparente des développeurs à diverses applications et l’automatisation des workflows.
- Réponses déterministes : le mode JSON garantit une sortie structurée et cohérente, ce qui améliore la prévisibilité et la fiabilité lors de l’intégration aux applications.
- Réduction des erreurs : contrairement au mode texte de forme libre, les réponses JSON sont moins sujettes aux erreurs de formatage ou aux caractères parasites, ce qui minimise les problèmes d’intégration.
- Consommation de jetons réduite : la structure fixe de JSON peut réduire l’utilisation des jetons, ce qui le rend plus efficace et rentable pour les applications à fréquence de réponse élevée.
- Améliorations du suivi des instructions : le modèle a été affiné pour comprendre et suivre les instructions avec plus de précision. Cela permet au modèle de fournir des réponses plus précises et exploitables, aidant ainsi les utilisateurs à obtenir les informations dont ils ont besoin plus rapidement et plus efficacement.