의도 작성 및 매핑 개요

AI 에이전트와 에이전틱 워크플로우는 LLM에 의존하므로 지시에 사용하는 언어가 중요합니다. 에이전트 AI 솔루션의 품질과 일관성을 개선하기 위해 수행할 수 있는 여러 단계가 있습니다.

의도 지침

이 토론에서는 정확성을 보장하고 오해를 방지하며 LLM 기반 시스템의 성능을 최적화하기 위해 의도를 정의하고 구성하는 데 필요한 몇 가지 중요한 지침을 강조합니다.

• 명확하고 구체적이며 모호하지 않게 작성하십시오.
  • 간결하고 명확하며 정확한 지침을 사용하십시오. 간단한 언어는 에이전트의 진행을 지연시키거나 방해할 수 있는 모호한 상황을 제거하는 데 도움이 될 수 있습니다.
  • 의도는 매우 구체적이어야 하며 다른 의도와 겹치지 않아야 합니다.
  • 대신 키워드나 주제 이름만 사용하지 말고 사용자의 전체 의도를 설명하십시오.
  • 모호한 의도는 LLM을 혼동하고 잘못된 일치로 이어질 수 있습니다.
  • 경계와 한계를 명확히 합니다.

  표 1. 명확한 의도의 예

  예제	약한 의도	구체적이고 강력한 의도	메모
  구독 취소	구독 취소를 요청하는 사용자	음악 구독 취소를 요청하는 사용자	시스템에서 음악 및 비디오 스트리밍, 소프트웨어 라이선스와 같은 다양한 유형의 구독을 처리하는 경우 구독 취소와 같은 모호한 의도로 인해 LLM이 사용자가 취소하려는 서비스를 잘못 식별할 수 있습니다. 음악 구독 취소와 같은 특정 의도를 통해 LLM이 정확한 서비스를 이해하여 올바른 워크플로우를 트리거할 수 있습니다.
  휴가 승인	휴가 승인	휴가 승인을 요청하는 사용자	휴가 승인은 작업이나 사용자의 의도가 아닌 주제입니다. LLM은 사용자의 의도를 이해해야 합니다. 사용자가 휴가 승인을 요청하고 있다고 명시하면 사용자가 단순히 주제를 언급하는 것이 아니라 요청을 시작한다는 것을 분명히 전달합니다.
  수신자를 포함한 휴가 승인	휴가 승인을 요청하는 사용자	동료의 휴가 승인을 요청하는 사용자	시스템은 기본적으로 이메일 발신자가 요청한 것으로 가정할 수 있지만, 동료를 대신하여 명시적으로 말하면 중요한 컨텍스트가 제공됩니다. 이를 통해 다른 사람을 대신하여 이루어진 요청이 발신자에 대해 잘못 처리되는 시나리오를 방지하여 요청 주제를 이해하는 데 있어 지능의 필요성이 강조됩니다.

• 컨텍스트 및 일관성:
  • 의도는 사용자가 요청하거나 요청하는 내용을 명확하게 표현해야 합니다.
  • 사용자가 단순히 무언가를 언급하는 것과 명시적으로 작업을 요청하는 것을 구분하십시오.
  • 전체 목표에 부합하는 지침을 설계합니다. 모든 도구와 AI 에이전트가 함께 작동하여 문제를 해결합니다.

  표 2. 사용자의 명시적 요청에 대한 의도의 예

  사용자 이메일	잘못된 의도 일치	메모
  방금 차를 샀는데 아버지가 자동차 보험 견적을 받으라고 주장하셨습니다	자동차 보험 견적 요청	이 시나리오에서 사용자는 아버지가 주장했기 때문에 견적을 받는 것에 대해 이야기하고 있지만 시스템에서 명시적으로 요청하지 않았습니다. 견적을 생성하도록 설계된 의도가 이 이메일과 일치하는 경우 사용자는 원치 않는 견적을 받게 되어 열악하고 혼란스러울 수 있는 환경으로 이어질 수 있습니다. 시스템은 사용자의 의도가 해당 작업에 대한 직접 요청인 경우에만 작동해야 합니다.
  마케팅 이메일, 이미 구독을 취소해야 할 수도 있습니다.	이메일 구독 취소 요청	마케팅 이메일, 구독을 취소하기만 하면 됩니다. 이 진술은 냉소적이거나 좌절감을 아무렇지도 않게 표현한 것이지 직접적인 구독 취소 요청이 아닙니다. 의도가 "이메일 구독 취소"와 같이 너무 광범위하게 구성된 경우 구독 취소 작업이 잘못 트리거될 수 있습니다. 의도는 일상적인 발언과 명확하고 실행 가능한 요청을 구별할 수 있을 만큼 정확해야 합니다.

• 중요한 상세 정보 포함:
  • 의도 설명에 유사한 요청과 구별되는 중요한 세부 정보가 모두 포함되어 있는지 확인합니다.
  • 일관된 서식을 사용합니다. 유사한 지침에서는 유사한 언어 패턴을 사용해야 합니다.
  • 중요한 상세 정보가 누락되면 가양성 또는 가음성으로 이어질 수 있습니다.
  • 세부 사항이 의미나 적절한 작업을 변경할 수 있는 경우 의도에 포함되어야 합니다.
  • 전체적으로 일관된 용어를 사용합니다.

  표 3. 중요한 상세 정보를 포함하는 의도의 예

  약한 의도	강한 의도	메모
  보험 견적 요청	자동차 보험 견적 요청	회사가 여러 보험을 제공하고 관련 워크플로우가 자동차 보험용으로 특별히 설계된 경우 의도에는 자동차가 포함되어야 합니다. 이 중요한 세부 정보가 없으면 다른 종류의 보험을 요청하는 이메일이 보험 견적 의도와 잘못 일치하여 실패하거나 부적절한 워크플로우로 이어질 수 있습니다.
  주택 비용을 요청하는 사용자	주택 대출을 요청하는 사용자	돈을 요구하는 것은 매우 광범위합니다. "지난주에 돈을 줬으니 돈을 돌려주세요"(상환 요청)와 같은 이메일은 주택 대출 요청이 아니더라도 이 모호한 의도와 잘못 일치할 수 있습니다. 주택 대출을 중요한 세부 사항으로 포함하면 특정 금융 거래가 명확해집니다.

• 작업 요청과 정보 쿼리를 구분합니다.
  • 의도가 작업 실행 목적인지 정보 제공 의도인지 명확하게 정의합니다.
  • 이렇게 하면 정보만 검색할 때 시스템이 작업을 수행하거나 그 반대의 경우를 방지할 수 있습니다.

  표 4. 의도 유형의 예

  사용자 이메일	의도 유형	참고
  "우리 팀은 새 컴퓨터에 소프트웨어를 작성해야 합니다. 이 항목을 준비하십시오.	작업 요청 의도	이 이메일은 수행할 작업(소프트웨어 설치)을 분명히 요청합니다. "Adobe Creative Suite 설치를 요청하는 사용자"로 구성된 의도가 올바르게 일치하여 소프트웨어를 프로비저닝하고 설치하는 워크플로우를 트리거합니다.
  프로젝트를 위해 개인 장치에 쓰기 소프트웨어를 설치해야 합니다. 어떻게 하는지 알려주실 수 있나요?	정보 쿼리 의도	사용자는 시스템에 설치를 수행하도록 요청하는 것이 아니라 지침이나 지침을 요청합니다. 작업 요청 의도만 존재하는 경우 설치 워크플로우를 잘못 트리거하거나 사용자에게 요청된 정보를 제공하지 못할 수 있습니다. 쓰기 소프트웨어 설치 방법에 대한 지침을 요청하는 사용자에 대한 별도의 의도는 지식베이스 문서 또는 단계별 가이드에 대한 링크를 올바르게 일치시키고 제공합니다.

• LLM 지원 – 추측하지 마세요:
  • 가장 중요한 원칙은 LLM을 효과적으로 안내하기 위해 의도를 가능한 한 명확하고 모호하지 않게 만드는 것입니다.
  • 시스템은 프레임워크입니다. 그 효과는 의도가 얼마나 현명하게 구성되었는지에 따라 달라집니다.

일반적인 지침은 다음 문서를 참조하십시오 General guidelines for creating AI agents and agentic workflows.

중요 고려 사항