Directives générales pour la rédaction d’instructions pour les grands modèles de langage (LLM) de l’IA générative
Lorsque vous utilisez Now Assist des produits et des compétences, vous pouvez donner des instructions spécifiques ou d’autres conseils au LLM. La rédaction d’instructions d’IA générative est différente de la recherche par mot clé. Utilisez les directives générales suivantes lors de la rédaction de vos instructions.
La rédaction d’instructions pour l’IA générative est très différente de l’utilisation de mots-clés de recherche. Les mots-clés sont les mots que vous pouvez vous attendre à voir apparaître dans vos résultats. Par exemple, si vous recherchez « chats bobtail gris », vous pouvez raisonnablement vous attendre à ce que vos résultats de recherche retournent avec des sujets ou des médias sur les chats gris, les chats bobtail ou même simplement les chats en général. Mais avec l’IA générative, vous demandez au LLM d’effectuer une tâche pour vous. L’expression « chats bobtail gris » n’inclut pas de verbe pour dire au LLM quoi faire. Qu’en est-il de ces chats gris ? Devrait-il localiser tout ce qu’il y a à savoir à leur sujet ? Devrait-il trouver des chats bobtail gris à adopter ? Devrait-il créer une image d’un chat bobtail gris ? Devrait-il s’agir d’une image réaliste ou plutôt d’un dessin au trait ? L’IA générative a besoin de plus que de simples mots-clés.
Instructions générales LLM
- Objectif
- Quel genre de résultat attendez-vous du LLM ?
- Contexte
- Pourquoi en avez-vous besoin et qui est impliqué ?
- Attentes
- Comment le LLM doit-il répondre au mieux à votre demande ?
- Source
- Quelles informations ou autres ressources aimeriez-vous que le LLM utilise ?
Testez et affinez continuellement vos instructions. La création de bonnes instructions LLM est un processus itératif, et au fur et à mesure que le modèle LLM apprend, vous pouvez modifier vos instructions au fil du temps.
Énoncer votre objectif
- Diriger avec des verbes d’action. Utilisez la forme impérative ou les commandes directes.
- Soyez direct et utilisez des phrases simples plutôt que des phrases complexes.
- Soyez précis.
- N’utilisez pas de jargon ou de termes argotiques.
- Évitez les références à des tiers ou à des pronoms. La suppression de l’objet ou de tout identificateur empêche généralement le LLM de personnifier ou de mal identifier l’utilisateur final.
- Vos mots instruisent la logique que l’IA générative utilisera. Des instructions détaillées sur la chaîne de pensée fonctionnent bien pour cela.
Les instructions doivent également être adaptées au type de tâche. Le tableau suivant décrit les différents types de tâches et le type d’instructions que vous pouvez écrire pour chaque circonstance.
| Type de tâche | Description | Exemple d’instruction |
|---|---|---|
| Recherche simple | Recherche simple d’une réponse. | Quand est le prochain jour férié de l’entreprise ? |
| Réponse | Rassemblez des informations provenant de plusieurs sources et fournissez une réponse résumée. | Quels ont été les principaux problèmes d’assistance client au cours des 30 derniers jours ? |
| Messagerie instantanée | Une conversation au cours de laquelle le LLM obtient des informations supplémentaires du demandeur. | J’ai un nouveau téléphone et maintenant je ne peux pas accéder à Okta. |
| Créer | Créez un composant ServiceNow . | Rédigez une nouvelle base de connaissances sur les raisons courantes de la lenteur de l’exécution des requêtes et sur la manière d’y remédier, en fonction des problèmes créés au cours des 12 derniers mois. |
| Workflow | Exploitez les workflows existants et créez des conversations à partir de ceux-ci. | Réinitialiser mon Okta mot de passe. |
Fournir un contexte dans vos instructions
Fournir un contexte au LLM peut donner l’impression d’énoncer une évidence. Par exemple, vous devrez peut-être expliquer pourquoi votre utilisateur souhaite effectuer la tâche ou expliquer davantage l’objet de la tâche. Si vous utilisez un langage qui pourrait avoir d’autres significations, vous voudrez peut-être définir vos termes. Par exemple, si vos instructions concernent Microsoft Teams, vous devrez peut-être dire quelque chose comme : « Teams fait référence à Microsoft Teams, une application que les employés d’une entreprise peuvent utiliser pour communiquer entre eux individuellement ou en groupe. »
Lorsque vous fournissez un contexte, pensez au public cible de la tâche. Cela vous aidera à rédiger de meilleures instructions. Mentionner à qui la tâche est destinée aide également le LLM à effectuer la tâche.
- Administrateurs
- Les administrateurs configurent les compétences dans la Administrateur Now Assist console. Ils travaillent avec les propriétaires de plateformes et les propriétaires de produits pour les tâches et les besoins. Des experts en la matière vérifient l’exactitude des résultats de l’IA générative. Les conseils ou comités de gouvernance peuvent superviser l’approbation finale de la compétence.
- Générateurs
- Les générateurs créent des actifs tels que des applications et des workflows. Leur niveau de compétence peut varier de no-code, low-code, niveau moyen ou niveau élevé. Ils interagissent principalement entre eux et avec les administrateurs.
- Agents
- Les agents fournissent une assistance technique, un support client ou toute autre aide à la résolution de problèmes aux utilisateurs d’un produit, d’un service ou d’une organisation. Les agents travaillent avec leurs pairs et prennent en charge de nombreux types de demandeurs.
- Demandeurs
- Les demandeurs peuvent inclure des employés, des partenaires ou des clients de votre organisation. Les demandeurs rencontrent l’IA générative principalement dans un contexte de libre-service. L’IA générative offre aux demandeurs la possibilité de résoudre le problème eux-mêmes avant de demander de l’aide à un agent.
De plus, vous devrez peut-être « instruire » le LLM comment arriver au type de réponse que vous souhaitez. Des instructions détaillées sur la chaîne de pensée sont plus susceptibles de produire les résultats que vous recherchez. Si vous faites des hypothèses dans vos instructions, vos résultats peuvent varier énormément.
| Instructions standard | Instructions sur la chaîne de pensée |
|---|---|
|
Q : Commencez avec 5 balles de tennis. Achetez 2 autres boîtes de balles de tennis. Chaque boîte contient 3 balles de tennis. Combien y a-t-il de balles de tennis maintenant ? R : La réponse est 11. Q : La cafétéria avait 23 pommes. Si la cafétéria en a utilisé 20 pour préparer le déjeuner et en a acheté 6 de plus, combien de pommes la cafétéria a-t-elle ? |
Q : Commencez avec 5 balles de tennis. Achetez 2 autres boîtes de balles de tennis. Chaque boîte contient 3 balles de tennis. Combien y a-t-il de balles de tennis maintenant ? R : Il y a 5 balles. 2 boîtes de 3 balles de tennis chacune sont 6 balles de tennis. 5+6=11. La réponse est 11. Q : La cafétéria avait 23 pommes. Si la cafétéria en a utilisé 20 pour préparer le déjeuner et en a acheté 6 de plus, combien de pommes la cafétéria a-t-elle ? |
| Résultats LLM (incorrects !) | Résultats LLM (corrects !) |
| R : La réponse est 27. | R : La cafétéria avait 23 pommes à l’origine. Ils en utilisaient 20 pour préparer le déjeuner. Ils avaient donc 23-20=3. Ils ont acheté 6 pommes de plus, donc ils en ont 3+6=9. La réponse est 9. |
Attentes
Vous pouvez spécifier le son et l’apparence de vos résultats. Par exemple, vous pouvez indiquer au LLM le type de tonalité que vous souhaitez qu’il utilise.
| Instruction | Résultat LLM | Évaluation du résultat |
|---|---|---|
| Accueillez l’utilisateur avec un ton décontracté et décontracté. | Salut ! ( Bienvenue au 22 mai 2024, un mercredi. Détendez-vous et passez une bonne journée ! | Trop décontracté ! |
| Accueillez l’utilisateur avec un ton professionnel et professionnel. | Bonjour, bienvenue dans nos affaires. Comment puis-je vous aider aujourd’hui ? | Un peu trop formel. |
| Accueillez l’utilisateur sur un ton professionnel mais amical. | Bonjour ! Je suis heureux de vous aider aujourd’hui, le 22 mai 2024. Comment puis-je vous aider ? | Super, mais je ne veux pas la date. |
| Accueillez l’utilisateur sur un ton professionnel mais amical. N’incluez pas la date. |
Bonjour ! Je suis là pour vous aider. Comment puis-je vous aider aujourd’hui ? |
Parfait. |
| Instruction | Résultat LLM | Évaluation du résultat |
Dans certaines Now Assist applications, vous pouvez spécifier le formatage. Dans ce cas, vous pouvez demander au LLM de fournir des réponses dans une liste à puces, par exemple. Les listes à puces sont souvent plus faciles à lire.
Source
Vous pouvez suggérer différentes sources que le LLM doit utiliser pour trouver des réponses, notamment Microsoft Teams des conversations, des sites, Microsoft SharePoint Online des incidents et des tickets, ainsi que des articles de la base de connaissances internes. Pour qu’un agent ou une compétence puisse accéder à toutes ces sources, un administrateur doit configurer l’accès sur l’instance.
Pour les développeurs, les sources auxquelles une compétence ou un agent IA peut accéder peuvent varier en fonction du résultat souhaité. Par exemple, la compétence de synthèse d’incidents utilise la table Incident comme source. Les agents IA utilisent différents outils et sources de connaissances, personnalisés pour la tâche qu’ils effectuent.
Directives supplémentaires pour les Now Assist compétences et les outils
| Compétence | Référence |
|---|---|
| Génération d’application | General guidelines for using app generation |
| Génération d’analyses | Guidelines and example questions |
| Génération d’éléments de catalogue | Suggestions to describe catalog items |
| Génération de code | General guidelines for code generation |
| Génération de flux | |
| Compétence de rubrique LLM pour Agent virtuel | LLM description and instruction guidelines for Virtual Agent topics |
| Kit de compétences Now Assist | Directives générales pour Kit de compétences Now Assist |
| Génération de bot RPA | Directives générales pour la génération de bot RPA |
| Génération des tests | Design considerations for prompting |
| Génération d’interface utilisateur | General guidelines UI generation |