업데이트 Now LLM 서비스개
Now LLM 서비스 ServiceNow에서 개발한 특수한 대규모 언어 모델(LLM)에 대한 액세스를 제공합니다. 또한 ServiceNow 커뮤니티 및 파트너로부터 ServiceNow가 선택, 구성 또는 개선한 오픈 소스 LLM에 대한 액세스도 제공합니다. 사용된 모델에 대한 Now LLM 서비스 추가 정보는 이러한 참조 자료 및 모델 카드를 검토하십시오.
모델 카드
대규모 언어 모델(LLM)은 케이스 요약 및 해결 메모를 위한 텍스트 생성과 같은 언어 관련 작업을 수행하기 위해 웹 사이트 및 문서와 같은 대규모 데이터 세트에서 학습된 복잡한 머신 러닝 모델입니다.
모델 카드는 특정 모델의 컨텍스트, 사용 목적, 교육 데이터, 제한 사항 및 기타 중요한 정보를 설명합니다.
이러한 모델 카드는 를 사용하는 Now LLM 서비스기술용입니다. Azure OpenAI를 대신 사용하는 다회성 카탈로그 주문과 Now Assist 같은 특정 기술이 있습니다. 기술이 사용 중인 LLM을 확인하려면 콘솔에서 기술 목록을 Now Assist 관리자 확인하고 LLM 서비스 열을 검토하면 됩니다.
- 에 대한 모델 카드 ServiceNow 대규모 언어 모델
- 자연어 이해, 자동화 및 의사 결정 지원을 지원하는 AI 기반 솔루션에 사용되는 모델입니다.
- 에 대한 모델 카드 ServiceNow 대규모 언어 모델(V2)
-
요청자 OOTB 기술, 사용자 지정 기술 및 에이전틱 사용 케이스를 포함하여 ServiceNow 워크플로우에서 텍스트 기반 자동화 및 콘텐츠 생성을 향상시키는 엔터프라이즈 AI용 모델입니다.
이 모델은 생성형 AI 컨트롤러 애플리케이션 11.2 이상용입니다.
- 에 대한 모델 카드 ServiceNow 소형 언어 모델
- ServiceNow 워크플로우 내에서 텍스트 기반 자동화 및 콘텐츠 생성을 강화하여 엔터프라이즈 AI 애플리케이션에 사용되는 모델입니다.
- 에 대한 모델 카드 ServiceNow 소형 언어 모델(V2)
-
ServiceNow 워크플로우에서 텍스트 기반 자동화 및 콘텐츠 생성을 향상시키는 엔터프라이즈 AI용 모델로, 크리에이터 및 이행자 OOTB 기술은 물론 사용자 지정 기술도 포함됩니다.
이 모델은 생성형 AI 컨트롤러 애플리케이션 11.2 이상용입니다.
- 에 대한 모델 카드 ServiceNow 외부 공급업체 대규모 언어 모델
- 텍스트 생성, 요약 및 대화형 AI를 위한 AI 기반 솔루션에 사용되는 모델입니다.
- 에 대한 모델 카드 ServiceNow 음성 AI 음성 텍스트 변환 및 텍스트 음성 변환 모델
- 음성 사용자 입력을 텍스트로 변환하고 AI 응답에서 자연스러운 음성을 생성하기 위해 ServiceNow AI 음성 에이전트 내에서 사용되는 모델입니다.
- 에 대한 모델 카드 ServiceNow Now Assist 가디언 모델
- 이 모델은 콘텐츠 조정 기능을 제공하며 다양한 종류의 프롬프트 삽입 공격과 불쾌한 콘텐츠를 식별하는 데 도움이 됩니다.
- 에 대한 모델 카드 ServiceNow 추론된 CSAT 및 요인 대규모 언어 모델
- 이 모델은 대화를 수집하고 CSAT 점수와 예측 점수를 설명하는 요소를 예측하도록 설계되었습니다.
2025년 5월
ServiceNow의 컨텍스트 내에서 광범위한 작업을 지원하는 단일 고성능 아키텍처를 갖춘 고급 12B 범용 소형 언어 모델(SLM)이 릴리스되었습니다. Mistral-Nemo-12B-Instruct에 맞게 미세 조정된 이 모델은 에이전트 지원, 텍스트 투 플로우, 텍스트 투 사이퍼, 안전 및 콘텐츠 중재, 텍스트 투 코드와 같은 작업을 위해 설계 및 최적화되었습니다.
- 향상된 지침 준수: 사용자 지침을 정확하게 해석하고 따르는 모델의 기능이 개선되어 모델이 복잡한 명령을 더 잘 이해하고 실행할 수 있습니다. 이전 릴리스보다 더 정확하고 신뢰할 수 있는 결과를 제공합니다.
- 컨텍스트 창 증가: 컨텍스트 창이 16K에서 32K로 증가하여 모델이 긴 형식 입력을 더 잘 이해하고, 확장된 상호 작용에 대한 일관성을 유지하고, 더 풍부한 상황별 인식으로 더 복잡한 작업을 지원할 수 있습니다.
- 향상된 다국어 능력: 이전 릴리스에 비해 언어 간 성능이 향상되었으며 일본어 처리 기능이 눈에 띄게 개선되었습니다.
- ServiceNow 워크플로우 관련 역량에 최적화: Text-to-Flow에 대한 지원 범위를 확장하고 Text-to-Code, Text-to-Cypher 등의 성능을 개선했습니다.
- 지속적으로 향상된 모델 배포 통합: ServiceNow 관련 작업을 단일 모델로 통합하여 시스템 복잡성을 줄이는 동시에 전반적인 성능을 향상시킵니다.
2025년 3월
텍스트 코드 변환 및 에이전트 사용 사례를 포함하여 광범위한 애플리케이션을 개선하도록 설계된 강력한 12B 범용 소규모 언어 모델(SLM)이 출시되었습니다. Mistral-Nemo-12B를 기반으로 미세 조정되어 배포를 간소화하고 여러 기능을 단일 아키텍처로 통합합니다.
- 사용 사례 이행에 최적화: 일본어 품질 향상을 포함하여 지원되는 언어 전반에 걸쳐 케이스 요약, 채팅 요약, 해결 메모 및 지식베이스 생성을 개선합니다.
- 뛰어난 텍스트-코드 및 텍스트-암호 성능: Glide JavaScript 및 일반 JavaScript 편집 및 생성의 주요 발전과 구조화된 데이터베이스에 대한 쿼리 생성 및 실행의 정확도 향상을 제공합니다.
- 강력한 콘텐츠 조정 및 안전성: 적대적 프롬프트, 탈옥 시도 및 유해한 콘텐츠 생성에 대해 더 강력한 보호 기능을 제공하여 내장된 콘텐츠 필터링을 통해 보다 안전한 배포를 보장합니다.
- 통합 모델 배포: ServiceNow 관련 작업을 단일 모델로 통합하여 시스템 복잡성을 줄이는 동시에 전반적인 성능을 향상시킵니다.
- 향상된 지침 준수: 현재의 텍스트-텍스트 변환 NowLLM보다 다양한 수준의 프롬프트 및 지침 엄격성에서 더 나은 지침 준수 및 일관성을 제공합니다.
2024년 11월
성능과 품질 향상을 목표로 하는 몇 가지 주요 개선 사항이 추가 Now LLM 서비스 되었습니다.
-
다국어 지원: Now LLM 서비스 8개의 추가 언어를 지원하므로 글로벌 팀이 모델을 모국어로 사용할 수 있습니다.
지원되는 언어는 영어, 독일어, 프랑스어, 일본어, 네덜란드어, 프랑스어 캐나다어, 스페인어, 포르투갈어(브라질) 및 이탈리아어입니다.
- JSON 형식 지원: 이제 이 모델은 JSON 형식으로 출력을 제공하므로 개발자는 다양한 애플리케이션과 쉽게 통합하고 워크플로를 원활하게 자동화할 수 있습니다.
- 결정적 응답: JSON 모드는 구조적이고 일관된 출력을 보장하여 애플리케이션과 통합 시 예측 가능성과 안정성을 향상시킵니다.
- 오류 감소: 자유 형식 텍스트 모드와 달리 JSON 응답은 형식 오류나 문자 표유가 발생하기 쉽지 않아 통합 문제를 최소화합니다.
- 낮은 토큰 소비: JSON의 고정 구조는 토큰 사용량을 줄여 응답 빈도가 높은 애플리케이션에 보다 효율적이고 비용 효율적으로 만들 수 있습니다.
- 지침 준수 개선: 지침을 보다 정확하게 이해하고 따르도록 모델이 미세 조정되었습니다. 이를 통해 모델은 보다 정확하고 실행 가능한 응답을 제공하여 사용자가 필요한 정보를 더 빠르고 효율적으로 얻을 수 있도록 지원합니다.