Now LLM サービス 回の更新
この Now LLM サービス では、ServiceNow によって開発された特殊な大規模言語モデル (LLM) にアクセスできます。また、ServiceNow コミュニティやパートナーから、ServiceNow によって選択、構成、または拡張されたオープンソース LLM へのアクセスも提供します。Now LLM サービスおよび使用したモデルの詳細については、これらの参考資料とモデルカードを確認してください。
モデルカード
大規模言語モデル (LLM) は、Web サイトやドキュメントなどの大規模なデータセットでトレーニングされた複雑な機械学習モデルであり、ケースの要約や解決メモのテキスト生成など、言語関連のタスクを実行します。
モデルカードは、特定のモデルのコンテキスト、使用目的、トレーニングデータ、制限事項、およびその他の重要な情報を提供します。
これらのモデルカードは、 Now LLM サービスを使用するスキル用です。代わりに Azure OpenAI を使用する Now Assist マルチターンカタログ注文などの特定のスキルがあります。スキルが使用している LLM を確認するには、 Now Assist アドミン コンソールでスキルリストを確認し、[LLM サービス] 列を確認します。
- ServiceNow テキストテキスト変換 LLM のモデルカード
-
仮想エージェントトピックの実行などの会話型ユースケースや、アラート分析、AI 検索、インシデント、ケース、チャットの要約などの会話型カタログおよびエージェントアシストのユースケースに使用されるモデル。
- のモデルカード ServiceNow テキストからコードへ LLM
- コード生成に使用されるモデル。
- のモデルカード ServiceNow フロー next-best-action LLM
- フローの推奨事項に使用されるモデル。
- のモデルカード ServiceNow テキストからフローへ LLM
- フロー生成に使用されるモデル。
- のモデルカード ServiceNow テキストテキスト変換 SLM
- Now Assist Guardian、テキストから暗号への変換、および迅速な推論と高スループットを必要とするその他のユースケースに使用されるモデル。
- のモデルカード ServiceNow 大規模言語モデル
- 自然言語理解、自動化、意思決定支援をサポートする AI 主導型ソリューションに使用されるモデル。
- のモデルカード ServiceNow 小規模言語モデル
- ServiceNow ワークフロー内のテキストベースの自動化とコンテンツ生成を強化することで、エンタープライズ AI アプリケーションに使用されるモデル。
- のモデルカード ServiceNow サードパーティの大規模言語モデル
- テキスト生成、要約、会話型 AI の AI 主導型ソリューションに使用されるモデル。
2025 年 3 月
テキストからコードへの変換やエージェントのユースケースなど、幅広いアプリケーションを強化するために設計された強力な12B汎用小型言語モデル(SLM)がリリースされました。Mistral-Nemo-12Bを微調整し、導入を合理化し、複数の機能を単一のアーキテクチャに統合します。
- ユースケースを満たすために最適化:日本語品質の向上など、サポートされている言語全体でケースの要約、チャットの要約、解決メモ、およびナレッジベースの生成が強化されます。
- テキストからコードへ、およびテキストから暗号への優れたパフォーマンス:構造化データベースのクエリの生成と実行の精度を向上させるとともに、Glide JavaScript と汎用 JavaScript の編集と生成が大幅に向上します。
- 堅牢なコンテンツモデレーションと安全性:敵対的なプロンプト、ジェイルブレイクの試み、有害なコンテンツの生成に対するより強力な保護を提供し、組み込みのコンテンツフィルタリングによりより安全な展開を保証します。
- 統一されたモデル展開:ServiceNow 関連のタスクを単一のモデルに統合することで、システムの複雑さを軽減しながら全体的なパフォーマンスを向上させます。
- 指示の遵守率の向上:現在のテキスト間 NowLLM よりも、さまざまなレベルのプロンプトと指示の厳密さにわたって、より優れた指示追従と一貫性を実現します。
2024 年 11 月
パフォーマンスと品質の向上を目的としたいくつかの重要な改善が Now LLM サービス に追加されました。
-
多言語サポート: Now LLM サービス はさらに 8 つの言語をサポートしているため、グローバルチームは母国語でモデルを使用できます。
サポートされている言語は、英語、ドイツ語、フランス語、日本語、オランダ語、フランス語 (カナダ)、スペイン語、ポルトガル語 (ブラジル)、イタリア語です。
- JSON 形式のサポート:このモデルは JSON 形式の出力を提供するようになり、開発者はさまざまなアプリケーションと簡単に統合してワークフローをシームレスに自動化できるようになりました。
- 決定論的応答:JSON モードでは、構造化された一貫性のある出力が保証され、アプリケーションと統合する際の予測可能性と信頼性が向上します。
- エラーの削減:自由形式のテキストモードとは異なり、JSON 応答ではフォーマットエラーや迷子文字が発生しにくく、統合の問題が最小限に抑えられます。
- トークン消費量の削減:JSON の固定構造により、トークンの使用量が削減され、応答頻度の高いアプリケーションに対してより効率的かつコスト効率の高いものになります。
- 命令に従うことの改善:モデルは、指示をより正確に理解し、それに従うように微調整されました。これにより、モデルはより的確で実用的な応答を提供できるため、ユーザーは必要な情報をより迅速かつ効率的に取得できます。