채팅 관리자에게 알리기

에이전트가 지정된 시간 동안 지정된 금지 키워드 수를 초과하여 사용하려고 하는 경우 채팅 관리자에게 알리도록 구성할 Profanity Filter 수 있습니다. Profanity Filter 사용된 금지 키워드의 수를 결정할 때 에이전트가 소유한 모든 대화를 고려합니다. 에이전트가 금지됨 키워드로 메시지를 보내려고 하면 채팅 관리자가 알림을 받습니다. 관리자 작업 공간이나 Agent Workspace가 활성 창인 경우 실시간 알림이 표시됩니다. 관리자 작업 공간 또는 Agent Workspace가 활성 창이 아닌 경우 작업 공간 알림 메뉴의 요약 뷰에 알림이 표시됩니다. 인시던트 항목에서 채팅 관리자는 인시던트와 채팅 로그를 검토하고 에이전트에게 비공개로 메시지를 보낼 수 있습니다.

머신 러닝 기반 또는 키워드 기반

Profanity Filter 머신 러닝 기반 모델 또는 키워드 기반 모델을 사용하여 메시지에 금지된 키워드가 포함되어 있는지 여부를 확인합니다. 머신 러닝 기반 모델은 메시지에서 금지된 키워드를 욕설로 간주해야 하는지 여부를 결정하기 전에 에이전트의 전체 메시지 컨텍스트에서 키워드와 구를 분석합니다. 예를 들어, "I made a silly mistake"라는 문장은 욕설이 아닌 것으로 간주되고 "You sound so silly"는 욕설로 간주됩니다. 머신 러닝 모델은 각 인스턴스에 개별적으로 존재하지 않으므로 사용자 지정 키워드 및 구를 처리하기 위해 모델을 직접 변경할 수 없습니다.

키워드 기반 모델은 메시지를 금지된 키워드 목록과 비교하여 어떤 것이 욕설로 간주되어야 하는지 여부를 결정합니다. 특정 키워드 또는 구문이 일반적인 의미에서 욕설로 간주되는 경우에도 해당 키워드 또는 구문을 허용할 수 있습니다. 일반적인 예로는 금지된 키워드가 포함될 수 있지만 대화에서 허용되어야 하는 책 또는 영화 제목이 있습니다. 반대로, 특정 키워드 또는 문구가 항상 모독적으로 보이지 않더라도 차단하도록 구성할 Profanity Filter 수 있습니다. Profanity Filter 모델 기반 모드를 통해 실행하기 전에 허용 및 금지 키워드 목록에 대해 각 메시지를 분석합니다.

Domain Separation