Q&A Genius 결과 캐 Now Assist 싱
AI 검색 는 Q&A Genius 결과의 Now Assist 검색 성능을 향상시키기 위해 두 개의 쿼리 시간 캐시를 제공합니다. 캐싱을 사용하면 AI 검색 답변 생성을 Now LLM 위해 지식 문서를 제출하지 않고 이전에 생성된 Now Assist Q&A Genius 결과 답변을 반환할 수 있습니다.
개요
캐시 수준
- 첫 번째 수준 캐시
첫 번째 수준 캐시는 빠른 액세스를 위해 메모리에 저장된 키-값 쌍 목록으로 구성됩니다. 각 캐시 항목에는 검색 쿼리와 해당 쿼리에서 반환된 지식 문서의 sys_id 포함하는 키가 있습니다. 캐시 항목의 값에는 지정된 검색 쿼리 및 지식 문서에 대해 생성된 Now LLM 요약이 포함됩니다.
첫 번째 수준 캐시 AI 검색 를 확인할 때 검색 쿼리와 지식 문서 검색 결과의 sys_id 캐시 항목 키와 비교합니다. 일치하는 키를 찾으면 해당 캐시 항목 값에서 문서 요약을 반환합니다. 그렇지 않으면 두 번째 수준 캐시를 확인합니다.주:첫 번째 수준 캐시는 검색 쿼리가 캐시된 검색 쿼리와 어휘가 정확히 일치하는 경우에만 결과를 생성합니다. 예를 들어 사기 방지 를 검색하는 경우 두 검색 쿼리에 동일한 용어가 포함되어 있지 않기 때문에 검색 쿼리 How to prevent scams(사기를 방지하는 방법 )가 포함된 캐시된 항목에 대한 결과를 얻지 못합니다.- 두 번째 수준 캐시
두 번째 수준 캐시는 인덱싱된 소스로 AI 검색 구성된 테이블로 구성됩니다. 이 테이블의 각 기록은 캐시 항목이며 검색 쿼리, 연결된 지식 문서 검색 결과에 대한 sys_id, 해당 쿼리 및 지식 문서에 대해 생성된 요약, 고정, sys_updated_on, run_as 등의 기타 필드를 포함합니다. AI 검색 기록이 작성, 업데이트 또는 삭제될 때마다 이 테이블의 인덱스를 업데이트합니다. 이 인덱스 업데이트 작업은 최대 1분 정도 걸릴 수 있습니다.
두 번째 수준 캐시 AI 검색 를 확인할 때 인덱싱된 테이블을 쿼리하여 검색 쿼리 및 지식 문서 검색 결과의 sys_id과 일치하는 항목을 찾습니다. 일치하는 항목을 찾으면 인덱싱된 테이블에 저장된 문서 요약을 반환합니다. 그렇지 않으면 검색 쿼리와 지식 문서 검색 결과가 에 제출됩니다 Now LLM.주:첫 번째 수준 캐시와 달리 두 번째 수준 캐시는 의미 체계 검색을 사용하여 검색 쿼리 의미를 비교하므로 검색 쿼리가 캐시된 검색 쿼리와 정확히 일치하는 어휘가 아니더라도 캐시 결과를 얻을 수 있습니다. 예를 들어 사기 방지 를 검색하는 경우 두 검색 쿼리의 의미가 비슷하기 때문에 검색 쿼리 How to prevent scams(사기를 방지하는 방법 )를 사용하여 캐시된 항목에 대한 결과를 얻을 수 있습니다. 시맨틱 검색에 대한 자세한 내용은 을 참조하십시오 에서의 시맨틱 검색 AI 검색.
캐싱의 이점
- 일반적인 Now Assist Q&A Genius 결과 답변에 대한 평균 응답시간 단축
- Q&A 대답 추출용으로 전송되는 검색 쿼리 결과 수를 줄여 권리 소비를 낮춥 Now Assist 니다.Now LLMNow Assist
- Q&A Genius 결과 답변을 반환할 가능성이 높아집니다.Now Assist
- 유사한 검색에 대해 동일한 Now Assist Q&A Genius 결과 답변을 반환하여 검색 일관성을 향상합니다.
캐시된 쿼리에 대한 콘텐츠 보안
지식 문서와 일치하고 캐시를 확인하기 전에 검색에 콘텐츠 보안 제한을 적용하기 때문에 AI 검색 두 캐시 모두 사용자가 액세스할 수 없는 지식 문서에 대한 적중을 반환하지 않습니다. 의 컨텐츠 보안 모델에 대한 AI 검색자세한 내용은 을 참조하십시오 의 컨텐츠 보안 AI 검색.
캐시 모드
off: 첫 번째 수준 캐시 및 Now LLM 를 사용하여 Q&A Genius 결과 대답을 찾습니다 Now Assist .
AI 검색 는 첫 번째 수준 캐시 Now Assist 에서 검색 쿼리 및 지식 문서 결과와 정확히 일치하는 Q&A Genius 결과 답변을 찾습니다. 일치하는 답변을 찾지 못하면 답변 생성을 Now LLM 위해 쿼리 및 지식 문서 sys_id 보냅니다.
Now Assist Q&A Genius 결과 첫 번째 수준 캐시를 Now LLM 채워서 생성된 답변입니다.
offline: 첫 번째 수준 및 두 번째 수준 캐시를 사용하여 Q&A Genius 결과 대답을 찾습니다 Now Assist . 쿼리를 Now LLM제출하지 마십시오.
AI 검색 는 첫 번째 수준 캐시 Now Assist 에서 검색 쿼리 및 지식 문서 결과와 정확히 일치하는 Q&A Genius 결과 답변을 찾습니다. 일치하는 답변을 찾지 못하면 의미 체계 검색을 사용하여 두 번째 수준 캐시에서 쿼리의 의미와 일치하는 답변을 찾습니다. 쿼리 및 지식 문서 결과와 일치하는 캐시된 답변이 Now Assist 없는 경우 AI 검색 Q&A Genius 결과에 대한 답변을 반환하지 않습니다.
Now Assist Q&A Genius 결과 두 번째 수준 캐시에 있는 답변이 첫 번째 수준 캐시를 채웁니다.
online: 첫 번째 수준 및 두 번째 수준 캐시와 Now LLM Q&A Genius 결과 대답을 찾습니다 Now Assist .
AI 검색 는 첫 번째 수준 캐시 Now Assist 에서 검색 쿼리 및 지식 문서 결과와 정확히 일치하는 Q&A Genius 결과 답변을 찾습니다. 일치하는 답변을 찾지 못하면 의미 체계 검색을 사용하여 두 번째 수준 캐시에서 쿼리의 의미와 일치하는 답변을 찾습니다. 캐시된 답변이 쿼리 및 지식 문서 결과 AI 검색 와 일치하지 않는 경우 답변 생성을 위해 쿼리 및 문서 sys_id 제출합니다 Now LLM .
Now Assist Q&A Genius 결과 첫 번째 수준 및 두 번째 수준 캐시를 Now LLM 채워서 생성된 대답입니다.
기본 작동 모드는 off입니다.
관리자는 시스템 속성 값을 sn_ais_assist.semantic_cache_mode , offline또는 online로 설정하여 Q&A Genius 결과 답변 캐시의 작동 모드를 Now Assist 변경할 수 있습니다.off 시스템 속성 설정에 대한 자세한 내용은 을 참조하십시오 시스템 속성 추가.
캐시 관리를 위한 예약된 작업
- 검색 이벤트 [sys_search_event] 검색 신호 테이블에 있는 가장 자주 제출된 쿼리에 대한 결과로 두 번째 수준 캐시를 채웁니다. 이 테이블에 대한 자세한 내용은 다음 문서를 참조하십시오 Search 신호 테이블.
- 지난 7일 동안 사용되지 않은 고정되지 않은 두 번째 수준 캐시 항목을 모두 제거합니다. 검색 관리자는 두 번째 수준 캐시 테이블에 결과를 고정하여 제거되지 않도록 할 수 있습니다. 이 절차에 대한 자세한 내용은 을 참조하십시오 Q&A Genius 결과에 대해 Now Assist 캐시된 답변 고정.
Q&A Genius 결과에 대해 Now Assist 캐시된 답변 고정
자주 사용하는 답변을 두 번째 수준 캐시에 고정하여 Q&A Genius 결과의 Now Assist 성능을 향상시킵니다. 대답을 고정하면 캐시의 제거 메커니즘에서 제외됩니다.
시작하기 전에
필요한 역할: ais_admin
이 태스크 정보
검색 관리자는 Q&A Genius 결과 대답에 대해 Now Assist 두 번째 수준 캐시에 항목을 고정할 수 있습니다. 예약된 Update Semantic Cache 작업은 두 번째 수준 캐시를 제거할 때 고정된 항목을 무시합니다.
자주 사용하는 항목을 고정하면 답변 생성을 위해 지식 문서를 제출 Now LLM 하지 않고 이전에 생성된 Now Assist Q&A Genius 결과 답변을 반환할 수 있으므로 AI 검색 검색 성능을 향상하는 데 도움이 됩니다.
두 번째 수준 Now Assist Q&A Genius 결과 대답 캐시 및 사용법에 대한 자세한 내용은 을 참조하십시오 Q&A Genius 결과 캐 Now Assist 싱.
프로시저
결과
예약된 Update Semantic Cache 작업은 두 번째 수준 캐시를 제거할 때 고정된 항목을 무시합니다.