생성형 AI 대규모 언어 모델(LLM)에 대한 지침 작성에 대한 일반 가이드라인

  • 릴리스 버전: Yokohama
  • 업데이트 날짜 2025년 01월 30일
  • 읽기6분
  • 제품과 기술을 사용할 Now Assist 때 LLM에 특정 지침이나 기타 지침을 제공할 수 있습니다. 생성형 AI 지침을 작성하는 것은 키워드 검색을 수행하는 것과 다릅니다. 지침을 작성할 때 다음과 같은 일반 지침을 사용하십시오.

    생성형 AI에 대한 지침을 작성하는 것은 검색 키워드를 사용하는 것과 매우 다릅니다. 키워드는 결과에 표시될 것으로 예상할 수 있는 단어입니다. 예를 들어 "회색 단발 고양이"를 검색하면 회색 고양이, 단발 고양이 또는 일반적인 고양이에 관한 주제나 미디어가 검색 결과로 반환될 것으로 합리적으로 예상할 수 있습니다. 그러나 생성형 AI를 사용하면 LLM에 작업을 수행하도록 요청합니다. "회색 단발 고양이"라는 문구에는 LLM에 무엇을 해야 하는지 알려주는 동사가 포함되어 있지 않습니다. 이 회색 고양이는 어떻습니까? 그들에 대해 알아야 할 모든 것을 찾아야 합니까? 입양할 회색 밥테일 고양이를 찾아야 할까요? 회색 밥테일 고양이 사진을 만들어야 할까요? 사실적인 그림이어야 할까요, 아니면 선화에 더 가까울까요? 생성형 AI에는 키워드 이상의 것이 필요합니다.

    생성 AI 작업 유형

    지침은 작업 유형에 맞게 조정되어야 합니다. 다음 표에서는 다양한 종류의 작업과 각 상황에 대해 작성할 수 있는 지침의 종류에 대해 설명합니다.

    표 1. 생성형 AI 작업의 유형 및 예시 지침
    작업 유형 설명 예시 지침
    단순 검색 간단한 답변 검색. 다음 회사 휴무일은 언제인가요?
    응답 여러 소스에서 정보를 수집하고 요약된 답변을 제공합니다. 지난 30일 동안 고객 지원의 주요 문제는 무엇이었습니까?
    채팅 LLM이 요청자로부터 추가 정보를 받는 주고받는 대화입니다. 새 전화가 있는데 이제 액세스할 Okta수 없습니다.
    작성 ServiceNow 구성요소를 생성합니다. 지난 12개월 동안 생성된 문제를 기반으로 쿼리 실행 속도가 느린 일반적인 이유와 해결 방법에 대한 새 KB를 작성합니다.
    워크플로우 기존 워크플로우를 활용하고 대화를 생성합니다. 내 암호를 재설정합니다 Okta .
    그림 1. LLM 지침 워크플로우
    LLM에 다양한 종류의 LLM 작업 지침을 제공할 수 있으며, LLM은 요청자에게 결과를 표시합니다. 지침 유형에는 답변, 워크플로우, 검색, 채팅 및 생성이 포함됩니다.

    생성 AI 사용자

    지침을 작성할 때 작업의 대상 고객에 대해 생각하십시오. 이렇게 하면 더 나은 지침을 작성하는 데 도움이 됩니다. 작업 대상을 언급하면 LLM이 작업을 수행하는 데도 도움이 됩니다.

    고려해야 할 사용자 유형:
    관리자
    관리자는 콘솔에서 기술을 Now Assist 관리자 구성합니다. 이 역할은 작업 및 요구 사항에 대해 플랫폼 소유자 및 제품 소유자와 협력합니다. 주제 전문가가 생성형 AI 결과의 정확성을 확인합니다. 관리 위원회 또는 위원회가 기술에 대한 최종 승인을 감독할 수 있습니다.
    작성기
    빌더는 애플리케이션 및 워크플로우와 같은 자산을 생성합니다. 기술 수준은 노코드, 로우코드, 중간 기술 또는 고급 기술에 이르기까지 다양할 수 있습니다. 그들은 주로 서로 상호 작용하고 관리자와 상호 작용합니다.
    에이전트
    에이전트는 제품, 서비스 또는 조직의 사용자를 위한 기술 지원, 고객 지원 또는 기타 문제 해결 지원을 제공합니다. 에이전트는 동료와 함께 작업하며 다양한 유형의 요청자를 지원합니다.
    요청자
    요청자는 조직의 직원, 파트너 또는 고객을 포함할 수 있습니다. 요청자는 주로 셀프 서비스 컨텍스트에서 생성형 AI를 접하게 됩니다. 생성형 AI는 요청자가 에이전트에게 도움을 요청하기 전에 스스로 문제를 해결할 수 있는 기회를 제공합니다.

    지침에 컨텍스트 제공

    LLM에 컨텍스트를 제공하면 당연한 사실을 말하는 것처럼 느껴질 수 있습니다. 예를 들어 사용자가 작업을 수행하려는 이유를 설명하거나 작업의 용도에 대해 자세히 설명해야 할 수 있습니다. 다른 의미를 가질 수 있는 언어를 사용하는 경우 용어를 정의할 수 있습니다. 예를 들어, 에 대한 Microsoft Teams지침인 경우 "Teams는 회사 직원이 개별적으로 또는 그룹으로 서로 통신하는 데 사용할 수 있는 애플리케이션을 의미합니다 Microsoft Teams"와 같이 말해야 할 수 있습니다.

    LLM 설명 또는 지침을 구성할 때 다음과 같은 기본 가이드라인을 고려하십시오.
    • 동작 동사로 리드합니다. 명령형 또는 직접 명령을 사용합니다.
    • 직설적이고 복잡한 문장보다는 간단한 문장을 사용하십시오.
    • 구체적이어야 합니다.
    • 전문 용어나 속어를 사용하지 마십시오.
    • 제3자 또는 대명사에 대한 언급을 피하십시오. 주체 또는 식별자를 제거하면 일반적으로 LLM이 최종 사용자를 인격화하거나 잘못 식별하는 것을 방지할 수 있습니다.
    • 여러분의 말은 생성형 AI가 사용할 논리를 지시합니다. 자세한 생각의 사슬 지침이 이를 위해 잘 작동합니다.
    표 2. 생각의 연쇄 지침의 예
    표준 지침 생각의 사슬 지침

    Q: 테니스 공 5개로 시작합니다. 테니스 공 2캔을 더 구입합니다. 각 캔에는 3개의 테니스 공이 있습니다. 현재 테니스 공은 몇 개입니까?

    A: 답은 11입니다.

    Q: 카페테리아에는 23개의 사과가 있었습니다. 식당에서 점심을 만드는 데 20개를 사용하고 6개를 더 샀다면 식당에는 사과가 몇 개나 있습니까?

    Q: 테니스 공 5개로 시작합니다. 테니스 공 2캔을 더 구입합니다. 각 캔에는 3개의 테니스 공이 있습니다. 현재 테니스 공은 몇 개입니까?

    A: 5개의 공이 있습니다. 테니스 공 3개들이 2캔은 각각 테니스 공 6개입니다. 5+6=11입니다. 정답은 11입니다.

    Q: 카페테리아에는 23개의 사과가 있었습니다. 식당에서 점심을 만드는 데 20개를 사용하고 6개를 더 샀다면 식당에는 사과가 몇 개나 있습니까?

    LLM 결과(잘못됨) LLM 결과(정답!)
    A: 정답은 27입니다. A: 카페테리아에는 원래 23개의 사과가 있었습니다. 그들은 점심을 만들기 위해 20개를 사용했습니다. 그래서 그들은 23-20=3이었습니다. 그들은 사과를 6개 더 샀으므로 3+6=9가 됩니다. 정답은 9입니다.

    생성형 AI 결과 서식 지정

    일부 Now Assist 응용 프로그램에서는 서식을 지정하는 옵션이 있을 수 있습니다. 이러한 경우 예를 들어 글머리 기호 목록으로 답변을 제공하도록 LLM에 지시할 수 있습니다. 글머리 기호 목록은 읽기가 더 쉬운 경우가 많습니다.

    그림 2. 글머리 기호 목록을 활성화하면 채팅 요약 기술이 향상됩니다.
    Now Assist 관리자 콘솔에서 일부 기술을 사용하여 서식을 지정할 수 있습니다. 채팅 요약 기술에는 결과를 글머리 기호 목록으로 렌더링하는 옵션이 있습니다.

    LLM 지침 작성은 반복적인 프로세스입니다.

    지침을 지속적으로 테스트하고 개선합니다. 좋은 LLM 지침을 만드는 것은 반복적인 프로세스이며, LLM 모델이 학습할 때 시간이 지남에 따라 지침을 수정할 수 있습니다.

    표 3. 예시 지침 및 결과
    지침 LLM 결과 결과 평가
    캐주얼하고 느긋한 어조로 사용자를 맞이하십시오. 이봐! (: 2024년 5월 22일 수요일에 오신 것을 환영합니다. 진정하고 좋은 하루 되세요! 캐주얼 너무!
    전문적이고 사무적인 어조로 사용자를 맞이하십시오. 좋은 날, 우리의 사업에 오신 것을 환영합니다. 오늘은 무엇을 도와드릴까요? 너무 격식을 차렸다.
    전문적이면서도 친근한 어조로 사용자를 맞이하십시오. 안녕하세요! 2024년 5월 22일 오늘 도움을 드리게 되어 기쁩니다. 무엇을 도와드릴까요? 훌륭하지만 날짜를 원하지 않습니다.
    전문적이면서도 친근한 어조로 사용자를 맞이하십시오. 날짜는 포함하지 마십시오.

    안녕하세요! 제가 도와드리겠습니다. 오늘은 무엇을 도와드릴까요?

    완벽.

    기술 및 도구에 대한 Now Assist 추가 지침

    표 4. 기술에 대한 Now Assist LLM 지침 작성을 위한 자원
    기술 참조
    앱 생성 General guidelines for using Now Assist for app generation in ServiceNow Studio
    카탈로그 항목 생성 How to describe a catalog item
    코드 생성 General guidelines for code generation
    플로우 생성
    에 대한 LLM 주제 기술 가상 에이전트
    Now Assist 기술 키트 에 대한 일반 지침 Now Assist 기술 키트
    RPA 봇 생성 RPA 봇 생성을 위한 일반 가이드라인