생성형 AI 대규모 언어 모델(LLM)에 대한 지침 작성을 위한 일반 가이드라인

  • 릴리스 버전: Australia
  • 업데이트 날짜 2025년 07월 31일
  • 소요 시간: 7분
  • 제품 및 기술을 사용할 Now Assist 때 LLM에 특정 지침이나 기타 지침을 제공할 수 있습니다. 생성형 AI 지침을 작성하는 것은 키워드 검색을 수행하는 것과 다릅니다. 지침을 작성할 때 다음과 같은 일반 가이드라인을 따르십시오.

    생성형 AI에 대한 지침을 작성하는 것은 검색 키워드를 사용하는 것과 매우 다릅니다. 키워드는 결과에 나타날 것으로 예상할 수 있는 단어입니다. 예를 들어, "회색 밥테일 고양이"를 검색하면 검색 결과가 회색 고양이, 밥테일 고양이 또는 일반적인 고양이에 관한 주제나 미디어로 반환될 것으로 합리적으로 예상할 수 있습니다. 그러나 생성형 AI를 사용하면 LLM에 작업을 수행하도록 요청하게 됩니다. "회색 밥테일 고양이" 문구에는 LLM이 해야 할 일을 알려주는 동사가 포함되어 있지 않습니다. 이 회색 고양이들은 어떻습니까? 그들에 대해 알아야 할 모든 것을 찾아야 합니까? 입양할 회색 밥테일 고양이를 찾아야 할까요? 회색 단행꼬리 고양이 사진을 만들어야 할까요? 사실적인 그림이어야 할까요, 아니면 선화여야 할까요? 생성형 AI에는 키워드 이상의 것이 필요합니다.

    일반 LLM 지침

    지침이나 질문을 사용하여 LLM에 원하는 것을 알립니다. 여기에는 다음 네 부분이 포함될 수 있습니다.
    목표
    LLM에서 어떤 종류의 결과를 원하십니까?
    예: 저를 준비하기 위해 3-5개의 글머리 기호 목록을 원합니다...
    컨텍스트
    왜 필요하며 누가 참여합니까?
    예: ... [고객]과의 다가오는 회의에서 고객의 현재 상태와 "Phase 3+" 브랜드 캠페인에서 달성하고자 하는 목표에 초점을 맞춥니다.
    기대
    LLM이 요청을 가장 잘 이행하려면 어떻게 해야 합니까?
    예: 빠르게 익힐 수 있도록 간단한 언어를 사용하십시오.
    소스
    LLM에서 어떤 정보 또는 기타 자원을 사용하시겠습니까?
    예: 6월부터 [사람]과의 전자 메일 및 Teams 채팅에 집중합니다.
    그림 1. 샘플 LLM 지침
    목표, 몇 가지 컨텍스트, 예상 및 사용할 소스를 포함하는 LLM 지침입니다.

    지침을 지속적으로 테스트하고 개선합니다. 좋은 LLM 지침을 만드는 것은 반복적인 프로세스이며, LLM 모델이 학습할 때 시간이 지남에 따라 지침을 수정할 수 있습니다.

    목표 명시하기

    LLM 설명 또는 지침을 구성할 때 다음과 같은 기본 가이드라인을 고려하십시오.
    • 동작 동사로 리드하십시오. 명령형 또는 직접 명령을 사용합니다.
    • 직설적이고 복잡한 문장보다는 간단한 문장을 사용하십시오.
    • 구체적으로 설명하십시오.
    • 전문 용어나 속어를 사용하지 마십시오.
    • 외부 공급업체나 대명사에 대한 언급을 피하십시오. 제목 또는 식별자를 제거하면 일반적으로 LLM이 최종 사용자를 의인화하거나 잘못 식별하는 것을 방지할 수 있습니다.
    • 여러분의 말은 생성형 AI가 사용할 논리를 지시합니다. 자세한 생각의 사슬 지침이 이를 위해 잘 작동합니다.

    지침도 작업 유형에 맞게 조정해야 합니다. 다음 표에서는 다양한 종류의 작업과 각 상황에 대해 작성할 수 있는 지침의 종류에 대해 설명합니다.

    표 1. 생성 AI 작업의 유형 및 지침 예시
    작업 유형 설명 지침 예시
    단순 검색 간단히 대답을 검색합니다. 다음 회사 휴일은 언제입니까?
    응답 여러 소스에서 정보를 수집하고 요약된 답변을 제공합니다. 지난 30일 동안의 주요 고객 지원 문제는 무엇이었습니까?
    채팅 LLM이 요청자로부터 추가 정보를 가져오는 앞뒤 대화입니다. 새 휴대폰이 있는데 이제 에 액세스할 Okta수 없습니다.
    작성 ServiceNow 구성요소를 생성합니다. 지난 12개월 동안 생성된 문제를 기반으로 쿼리 실행 속도가 느려지는 일반적인 원인과 해결 방법에 대한 새 KB를 작성합니다.
    워크플로우 기존 워크플로우를 활용하고 대화를 생성합니다. Okta 암호를 재설정합니다.
    그림 2. LLM 명령 워크플로우
    LLM에 다양한 종류의 LLM 작업 지침을 제공한 다음 LLM이 요청자에게 결과를 표시할 수 있습니다. 지침 유형에는 답변, 워크플로우, 검색, 채팅 및 생성이 포함됩니다.

    지침에 컨텍스트 제공

    LLM에 컨텍스트를 제공하는 것은 당연한 것을 말하는 것처럼 느껴질 수 있습니다. 예를 들어 사용자가 작업을 수행하려는 이유를 설명하거나 작업의 용도에 대해 자세히 설명해야 할 수 있습니다. 다른 의미를 가질 수 있는 언어를 사용하는 경우 용어를 정의하는 것이 좋습니다. 예를 들어, 에 대한 Microsoft Teams지침인 경우 "Teams는 회사 직원이 개별적으로 또는 그룹으로 서로 통신하는 데 사용할 수 있는 애플리케이션을 의미합니다 Microsoft Teams"와 같이 말해야 할 수 있습니다.

    컨텍스트를 제공할 때 작업의 대상 고객에 대해 생각하십시오. 이렇게 하면 더 나은 지침을 작성하는 데 도움이 됩니다. 작업 대상을 언급하면 LLM이 작업을 수행하는 데 도움이 됩니다.

    고려해야 할 사용자 유형:
    관리자
    관리자는 콘솔에서 기술을 구성합니다.Now Assist 관리자 작업 및 요구 사항에 대해 플랫폼 소유자 및 제품 소유자와 협력합니다. 주제 전문가가 생성형 AI 결과의 정확성을 확인합니다. 거버넌스 위원회 또는 위원회는 기술에 대한 최종 승인을 감독할 수 있습니다.
    작성기
    빌더는 애플리케이션 및 워크플로우와 같은 자산을 생성합니다. 기술 수준은 노코드, 로우코드, 중간 기술 또는 하이스킬로 다를 수 있습니다. 그들은 대부분 서로 그리고 관리자와 상호 작용합니다.
    에이전트
    에이전트는 제품, 서비스 또는 조직의 사용자에게 기술 지원, 고객 지원 또는 기타 문제 해결 도움을 제공합니다. 에이전트는 동료와 함께 작업하며 다양한 종류의 요청자를 지원합니다.
    요청자
    요청자에는 조직의 직원, 파트너 또는 고객이 포함될 수 있습니다. 요청자는 주로 셀프 서비스 컨텍스트에서 생성형 AI를 접합니다. 생성형 AI는 요청자가 에이전트에게 도움을 요청하기 전에 스스로 문제를 해결할 수 있는 기회를 제공합니다.

    또한 LLM에 원하는 종류의 답변에 도달하는 방법을 "지시"해야 할 수도 있습니다. 자세한 생각의 연쇄 지침은 원하는 결과를 생성할 가능성이 더 큽니다. 지침에서 가정을 하면 결과가 크게 달라질 수 있습니다.

    표 2. 생각의 연쇄 지침의 예
    표준 지침 사고의 연속 지침

    Q: 테니스공 5개로 시작하세요. 테니스 공 캔 2개를 더 구입하세요. 각 캔에는 테니스 공 3개가 들어 있습니다. 현재 테니스 공은 몇 개입니까?

    A: 정답은 11입니다.

    Q: 카페테리아에는 사과가 23개 있었습니다. 구내식당에서 점심을 만드는 데 20개를 사용하고 6개를 더 샀다면 구내식당에 사과가 몇 개나 있습니까?

    Q: 테니스공 5개로 시작하세요. 테니스 공 캔 2개를 더 구입하세요. 각 캔에는 테니스 공 3개가 들어 있습니다. 현재 테니스 공은 몇 개입니까?

    A: 공은 5개입니다. 테니스공 2개로 구성된 3캔은 각각 테니스공 6개입니다. 5+6=11. 정답은 11입니다.

    Q: 카페테리아에는 사과가 23개 있었습니다. 구내식당에서 점심을 만드는 데 20개를 사용하고 6개를 더 샀다면 구내식당에 사과가 몇 개나 있습니까?

    LLM 결과(올바르지 않음!) LLM 결과(정답!)
    A: 정답은 27입니다. A: 카페테리아에는 원래 23개의 사과가 있었습니다. 그들은 점심을 만드는 데 20개를 사용했습니다. 그래서 그들은 23-20=3이었습니다. 사과를 6개 더 샀으니 3+6=9가 됩니다. 정답은 9입니다.

    기대

    결과의 소리와 모양을 지정할 수 있습니다. 예를 들어 LLM에 사용하려는 톤의 종류를 지정할 수 있습니다.

    표 3. LLM 결과의 어조 수정
    지침 LLM 결과 결과 평가
    캐주얼하고 여유로운 어조로 사용자를 맞이하십시오. 안녕하세요! (: 2024년 5월 22일 수요일에 오신 것을 환영합니다. 진정하고 좋은 하루 보내세요! 너무 캐주얼!
    전문적이고 비즈니스적인 어조로 사용자를 맞이합니다. 안하십니까, 우리 사업에 오신 것을 환영합니다. 오늘은 무엇을 도와드릴까요? 너무 격식을 차립니다.
    전문적이면서도 친근한 어조로 사용자를 맞이하십시오. 안녕하세요! 2024년 5월 22일 오늘 도와드리게 되어 기쁩니다. 무엇을 도와드릴까요? 좋아요, 하지만 데이트를 원하지 않습니다.
    전문적이면서도 친근한 어조로 사용자를 맞이하십시오. 날짜는 포함하지 마십시오.

    안녕하세요! 제가 도와드리겠습니다. 오늘은 무엇을 도와드릴까요?

    완벽.
    지침 LLM 결과 결과 평가

    일부 Now Assist 응용 프로그램에서는 서식을 지정하는 옵션이 있을 수 있습니다. 이러한 경우 LLM에 글머리 기호 목록으로 답변을 제공하도록 지시할 수 있습니다. 글머리 기호 목록은 종종 읽기 쉽습니다.

    그림 3. 글머리 기호 목록을 활성화하면 채팅 요약 기술이 생성됩니다.
    콘솔에서 Now Assist 관리자 일부 기술에서는 서식을 지정할 수 있습니다. 채팅 요약 기술에는 결과를 글머리 기호 목록으로 렌더링하는 옵션이 있습니다.

    소스

    대화, 사이트, Microsoft SharePoint Online 인시던트 및 케이스, 내부 지식 문서를 포함하여 Microsoft Teams LLM에서 답변을 찾는 데 사용해야 하는 다양한 소스를 제안할 수 있습니다. 에이전트 또는 기술이 이러한 모든 소스에 액세스하려면 관리자가 인스턴스에 대한 액세스를 구성해야 합니다.

    개발자의 경우 기술 또는 AI 에이전트가 액세스할 수 있는 소스가 원하는 결과에 따라 다를 수 있습니다. 예를 들어 인시던트 요약 기술은 인시던트 테이블을 소스로 사용합니다. AI 에이전트는 수행하는 작업에 맞게 사용자 지정된 다양한 도구와 지식 소스를 사용합니다.

    기술 또는 AI 에이전트 사용을 위한 소스 구성에 대한 자세한 내용은 다음 주제 영역을 참조하십시오.

    기술 및 도구에 대한 Now Assist 추가 지침

    표 4. 기술에 대한 Now Assist LLM 지침 작성을 위한 자원
    기술 참조
    앱 생성 General guidelines for using app generation
    분석 생성 Guidelines and example questions
    카탈로그 항목 생성 Suggestions to describe catalog items
    코드 생성 General guidelines for code generation
    플로우 생성
    가상 에이전트에 대한 LLM 주제 기술 LLM description and instruction guidelines for Virtual Agent topics
    Now Assist 기술 키트 Now Assist 기술 키트에 대한 일반 가이드라인
    RPA 봇 생성 RPA 봇 생성을 위한 일반 가이드라인
    테스트 생성 Design considerations for prompting
    UI 생성 General guidelines UI generation