가상 에이전트에서 LLM 주제 디스커버리
대규모 언어 모델(LLM)을 사용하면 가상 에이전트 일반 언어로 사용자 설명을 처리할 수 있습니다. LLM을 사용하는 대화는 (NLU)을 사용하는 자연어 이해 대화보다 더 쉽게 설정할 수 있습니다.
LLM의 작동 방식 가상 에이전트
LLM 주제 가상 에이전트 디자이너에 대해 알아보려면 이 비디오를 시청하십시오.
에서 가상 에이전트 디자이너주제를 생성할 때 에서 가상 에이전트 켜질 때마다 Now Assist LLM을 주제의 모델 유형으로 선택할 수 있습니다. 가상 에이전트 그런 다음 LLM 생성형 AI를 사용하여 사용자의 의도와 일치하는 주제를 검색합니다.
주제와 달리 NLU LLM은 모델, 의도 또는 키워드를 주제에 연결할 필요가 없습니다. LLM은 모델에 대한 수개월의 교육 없이도 주제를 검색하고 케이스 요약 및 해결 메모를 위한 텍스트 생성과 같은 언어 관련 작업을 수행할 수 있습니다 NLU . 전반적으로 LLM 주제를 작업 NLU하는 것보다 더 빠르게 생성, 구성 및 배포할 수 있습니다.
LLM을 사용하면 다음을 수행할 수 있습니다. 가상 에이전트
- 주어진 주제에서 단일 선언된 의도 없이 주제 디스커버리를 수행합니다.
- 모델링에서 NLU 와 같이 백업 키워드 없이 의도를 찾습니다.
- 모델링에서와 같이 사전 매핑 없이 엔터티 값을 추출합니다 NLU .
- 단일 대화 세션에서 여러 대화 주제 전환을 처리합니다.
LLM에 대한 자세한 내용은 다음 문서를 참조하십시오 Large language models on the ServiceNow AI Platform®.
주제 디스커버리
LLM 주제 검색을 사용하면 주제 작성자가 더 이상 백업 키워드를 사용하여 복잡한 NLU 모델과 의도를 만들고 유지 관리할 필요가 없습니다. LLM이 모든 힘든 작업을 대신해 드립니다. 유일한 요구 사항은 의 속성 탭 가상 에이전트 디자이너에 강력하고 쉬운 언어로 된 주제 설명입니다. LLM은 이 설명을 사용하여 사용자 발언과 가장 일치하는 주제를 찾습니다. 잠재적 일치 항목이 여러 개인 경우 사용자에게 선택할 수 있는 주제 목록이 표시됩니다.
예를 들어 사용자가 승차 공유 요금을 계산하도록 요청 가상 에이전트 하면 LLM은 팁을 사용하여 승차 공유를 계산할 수 있는 기존 주제와 사용자 발언을 일치시킵니다.
엔터티 추출
LLM 주제를 사용하면 LLM이 발언에 요청을 이행하기 위한 정보가 있는지 확인하는 데 필요한 모든 정보를 갖게 됩니다. 모델과 달리 NLU 엔터티를 사용자 입력 노드와 연결하거나 노드가 없는 NLU 엔터티를 주제에 대한 입력 변수로 추가할 필요가 없습니다. LLM은 단순히 사용자 의도에 가장 근접한 엔터티를 찾습니다.
주제 전환
주제에 비해 NLU LLM의 경우 주제 전환이 더 빠르고 쉽습니다. LLM은 자연어로 이루어진 의도 변경 요청을 처리하고 해당 주제를 활성화합니다.
예를 들어 휴대폰을 요청하여 대화를 시작하는 경우 먼저 주문을 취소하거나 대화를 다시 시작할 필요가 없습니다. 대신 노트북 주문을 요청 가상 에이전트 할 수 있습니다. 가상 에이전트 휴대폰 주제에서 랩톱 주제로 즉시 전환됩니다. 주제 전환은 쿼리 중에 수행할 수 있지만 카탈로그 주문 플로우 내에서는 수행할 수 없습니다.
또 다른 예는 사용자가 일상적인 질문을 하거나 잡담을 나눌 수 있는 경우입니다. 질문이 원래 요청과 관련이 없을 수 있습니다. 간단한 대화 주제를 생성하거나 간단한 대화 필터를 설정하여 가상 에이전트가 전환된 주제에 대해 적절한 대화를 일치시키고 시작하는 데 도움을 줄 수 있습니다. 자세한 내용은 간단한 대화 주제 만들기 및 Configure small talk filters 문서를 참조하십시오.