Q&A Genius 결과 캐 Now Assist 싱
AI 검색 는 Q&A Genius 결과에 대한 검색 성능을 향상시키기 위해 두 개의 쿼리 시간 캐시를 Now Assist 제공합니다. 캐싱을 사용하면 AI 검색 답변 생성을 위해 지식 문서를 Now LLM 서비스 제출하지 않고도 이전에 생성된 Now Assist Q&A Genius 결과 답변을 반환할 수 있습니다.
Now Assist Q&A Genius 결과 캐싱 개요
쿼리 시간 캐시는 영어 검색, 지식 문서 및 답변만 지원합니다.
캐시 수준
- 첫 번째 수준 캐시
-
첫 번째 수준 캐시는 빠른 액세스를 위해 메모리에 저장된 키-값 쌍 목록으로 구성됩니다. 각 캐시 항목에는 검색 쿼리와 해당 쿼리에 의해 반환된 지식 문서의 sys_id이 포함된 키가 있습니다. 캐시 항목의 값에는 지정된 검색 쿼리 및 지식 문서에 대해 생성된 Now LLM 서비스 요약이 포함됩니다.
첫 번째 수준 캐시 AI 검색 를 확인할 때 검색 쿼리와 지식 문서 검색 결과의 sys_id를 캐시 항목 키와 비교합니다. 일치하는 키를 찾으면 해당 캐시 항목 값의 문서 요약을 반환합니다. 그렇지 않으면 두 번째 수준 캐시를 확인합니다.주:첫 번째 수준 캐시는 검색 쿼리가 캐시된 검색 쿼리와 정확히 일치하는 키워드인 경우에만 결과를 생성합니다. 예를 들어 사기 방지 를 위해 검색하는 경우 두 검색어에 동일한 용어가 포함되어 있지 않기 때문에 사기를 방지하는 방법에 대한 검색 쿼리가 포함된 캐시된 항목에 대한 결과가 표시되지 않습니다. - 두 번째 수준 캐시
-
두 번째 수준 캐시는 인덱싱된 소스로 AI 검색 구성된 테이블로 구성됩니다. 이 테이블의 각 기록은 캐시 항목이며 검색 쿼리, 관련 지식 문서 검색 결과에 대한 sys_id, 해당 쿼리 및 지식 문서에 대해 생성된 요약, 고정, sys_updated_on, run_as 등의 기타 필드를 포함합니다. AI 검색 기록이 생성, 업데이트 또는 삭제될 때마다 이 테이블의 인덱스를 업데이트합니다. 이 인덱스 업데이트 작업은 최대 1분 정도 걸릴 수 있습니다.
두 번째 수준 캐시 AI 검색 를 확인할 때 인덱싱된 테이블을 쿼리하여 검색 쿼리 및 지식 문서 검색 결과 sys_id과 일치하는 항목을 찾습니다. 일치하는 항목을 찾으면 인덱싱된 테이블에 저장된 문서 요약을 반환합니다. 그렇지 않으면 검색 쿼리와 지식 문서 검색 결과를 Now LLM 서비스로 제출합니다.주:첫 번째 수준 캐시와 달리 두 번째 수준 캐시는 시맨틱 벡터 검색을 사용하여 검색 쿼리 의미를 비교하므로 검색 쿼리가 캐시된 검색 쿼리와 정확히 일치하는 키워드가 아니더라도 캐시 결과를 얻을 수 있습니다. 예를 들어 사기 방지 를 위해 검색하는 경우 두 검색어의 의미가 유사하기 때문에 사기를 방지하는 방법에 대한 검색 쿼리가 포함된 캐시된 항목에 대한 결과를 얻을 수 있습니다. 시맨틱 벡터 검색에 대한 자세한 내용은 을 참조하십시오 AI 검색의 시맨틱 벡터 검색.
캐싱의 이점
- 일반적인 Now Assist Q&A Genius 결과 답변의 평균 응답시간 감소
- Q&A 답변 추출을 위해 Now Assist 전송되는 Now LLM 서비스 검색 쿼리 결과의 수를 줄여 권리 소비를 낮 Now Assist 춥니다.
- Q&A Genius 결과 답변을 반환할 Now Assist 가능성이 증가합니다.
- 유사한 검색에 대해 동일한 Now Assist Q&A Genius 결과 답변을 반환하여 검색 일관성을 향상시킵니다.
캐시된 쿼리의 콘텐츠 보안
는 지식 문서와 일치하고 캐시를 확인하기 전에 검색에 컨텐츠 보안 제한을 적용하기 때문에 AI 검색 액세스 권한이 없는 지식 문서에 대한 적중 중 어느 캐시도 반환하지 않습니다. 의 콘텐츠 보안 모델에 대한 AI 검색자세한 내용은 다음 문서를 참조하십시오 AI 검색의 컨텐츠 보안.
캐시 모드
-
off: 첫 번째 수준 캐시와 Q Now LLM 서비스 &A Genius 결과 답변을 찾습니다 Now Assist .
AI 검색 는 검색 쿼리 및 지식 문서 결과와 정확히 일치하는 Q&A Genius 결과 답변을 첫 Now Assist 번째 수준 캐시에서 찾습니다. 일치하는 답변을 찾지 못하면 쿼리와 지식 문서 sys_id를 답변 생성으로 Now LLM 서비스 보냅니다.
Now Assist Q&A Genius 결과 답변은 Now LLM 서비스 첫 번째 수준 캐시를 채웁니다.
를 사용할 동적 변환때 AI 검색 캐시를 바이패스하고 쿼리 Now LLM 서비스 하여 Q&A Genius 결과에 대한 답변을 Now Assist 생성합니다.
-
offline: 첫 번째 수준과 두 번째 수준 캐시를 사용하여 Q&A Genius 결과 답변을 찾습니다 Now Assist . 에 쿼리 Now LLM 서비스를 제출하지 마십시오.
AI 검색 는 검색 쿼리 및 지식 문서 결과와 정확히 일치하는 Q&A Genius 결과 답변을 첫 Now Assist 번째 수준 캐시에서 찾습니다. 일치하는 답변을 찾지 못하면 시맨틱 벡터 검색을 사용하여 두 번째 수준 캐시에서 쿼리의 의미와 일치하는 답변을 찾습니다. 쿼리 및 지식 문서 결과 AI 검색 와 일치하는 캐시된 답변이 없으면 Q&A Genius 결과에 대한 답변을 반환하지 않습니다.Now Assist
Now Assist Q&A 두 번째 수준 캐시에서 찾은 Genius 결과 답변이 첫 번째 수준 캐시를 채웁니다.
를 사용할 동적 변환때 AI 검색 캐시를 바이패스하고 Q&A Genius 결과에 대한 답변을 Now Assist 반환하지 않습니다.
-
online: 첫 번째 수준과 두 번째 수준 캐시를 Now LLM 서비스 사용하여 Q&A Genius 결과 답변을 찾습니다 Now Assist .
AI 검색 는 검색 쿼리 및 지식 문서 결과와 정확히 일치하는 Q&A Genius 결과 답변을 첫 Now Assist 번째 수준 캐시에서 찾습니다. 일치하는 답변을 찾지 못하면 시맨틱 벡터 검색을 사용하여 두 번째 수준 캐시에서 쿼리의 의미와 일치하는 답변을 찾습니다. 쿼리 및 지식 문서 결과와 일치하는 캐시된 답변이 없는 경우 AI 검색 답변 생성을 위해 쿼리 및 문서 sys_id를 Now LLM 서비스 제출합니다.
Now Assist Q&A Genius 결과 답변은 Now LLM 서비스 첫 번째 수준과 두 번째 수준 캐시를 채웁니다.
를 사용할 동적 변환때 AI 검색 캐시를 바이패스하고 쿼리 Now LLM 서비스 하여 Q&A Genius 결과에 대한 답변을 Now Assist 생성합니다.
기본 작동 모드는 off입니다.
관리자는 시스템 속성 값을 , , 또는 online로 설정하여 Q&A Genius 결과 답변 캐시의 작동 모드를 Now Assist 변경할 수 있습니다. offlinesn_ais_assist.semantic_cache_modeoff 시스템 속성 설정에 대한 자세한 내용은 다음 문서를 참조하십시오 시스템 속성 추가.
Genius 결과와 함께 Now Assist 사용하는 동적 변환 방법에 대한 자세한 내용은 다음 문서를 참조하십시오동적 변환Q&A Genius 결과용 Now Assist.
캐시 관리를 위해 예약된 작업
- 검색 이벤트 [sys_search_event] 검색 신호 테이블에서 발견된 가장 자주 제출된 쿼리의 결과로 두 번째 수준 캐시를 채웁니다. 이 테이블에 대한 자세한 내용은 다음 문서를 참조하십시오 검색 신호 테이블.
- 지난 7일 동안 사용되지 않은 고정되지 않은 두 번째 수준 캐시 항목을 모두 제거합니다. 검색 관리자는 결과를 두 번째 수준 캐시 테이블에 고정하여 결과가 제거되지 않도록 할 수 있습니다. 이 절차에 대한 자세한 내용은 다음 문서를 참조하십시오 Q&A에 대한 Now Assist 캐시된 답변 고정 Genius 결과.
Q&A에 대한 Now Assist 캐시된 답변 고정 Genius 결과
두 번째 수준 캐시에 자주 사용하는 답변을 고정하여 Q&A Genius 결과의 Now Assist 성능을 개선합니다. 답변을 고정하면 캐시의 제거 메커니즘에서 제외됩니다.
시작하기 전에
Now Assist 인스턴스에 인 AI 검색 ServiceNow® Store 애플리케이션이 설치되어 있어야 합니다. 이 애플리케이션 설치에 대한 자세한 내용은 을 참조하십시오 다음에 설치 Now AssistAI 검색.
필요한 역할: ais_admin
이 태스크 정보
검색 관리자는 Q&A Genius 결과 답변에 대한 Now Assist 두 번째 수준 캐시에 항목을 고정할 수 있습니다. Update Semantic Cache 예약된 작업은 두 번째 수준 캐시를 제거할 때 고정된 항목을 무시합니다.
자주 사용하는 항목을 고정하면 답변 생성을 위해 지식 문서를 Now LLM 서비스 제출하지 않고도 이전에 생성된 Now Assist Q&A Genius 결과 답변을 반환할 수 있으므로 AI 검색 검색 성능을 개선하는 데 도움이 됩니다.
두 번째 수준의 Now Assist Q&A Genius 결과 답변 캐시 및 사용법에 대한 자세한 내용은 문서를 참조하십시오 Q&A Genius 결과 캐 Now Assist 싱.
프로시저
결과
Update Semantic Cache 예약된 작업은 두 번째 수준 캐시를 제거할 때 고정된 항목을 무시합니다.