생성형 AI 대규모 언어 모델(LLM)에 대한 지침 작성을 위한 일반 가이드라인
제품 및 기술을 사용할 Now Assist 때 LLM에 특정 지침이나 기타 지침을 제공할 수 있습니다. 생성형 AI 지침을 작성하는 것은 키워드 검색을 수행하는 것과 다릅니다. 지침을 작성할 때 다음과 같은 일반 가이드라인을 따르십시오.
생성형 AI에 대한 지침을 작성하는 것은 검색 키워드를 사용하는 것과 매우 다릅니다. 키워드는 결과에 나타날 것으로 예상할 수 있는 단어입니다. 예를 들어, "회색 밥테일 고양이"를 검색하면 검색 결과가 회색 고양이, 밥테일 고양이 또는 일반적인 고양이에 관한 주제나 미디어로 반환될 것으로 합리적으로 예상할 수 있습니다. 그러나 생성형 AI를 사용하면 LLM에 작업을 수행하도록 요청하게 됩니다. "회색 밥테일 고양이" 문구에는 LLM이 해야 할 일을 알려주는 동사가 포함되어 있지 않습니다. 이 회색 고양이들은 어떻습니까? 그들에 대해 알아야 할 모든 것을 찾아야 합니까? 입양할 회색 밥테일 고양이를 찾아야 할까요? 회색 단행꼬리 고양이 사진을 만들어야 할까요? 사실적인 그림이어야 할까요, 아니면 선화여야 할까요? 생성형 AI에는 키워드 이상의 것이 필요합니다.
일반 LLM 지침
- 목표
- LLM에서 어떤 종류의 결과를 원하십니까?
- 컨텍스트
- 왜 필요하며 누가 참여합니까?
- 기대
- LLM이 요청을 가장 잘 이행하려면 어떻게 해야 합니까?
- 소스
- LLM에서 어떤 정보 또는 기타 자원을 사용하시겠습니까?
지침을 지속적으로 테스트하고 개선합니다. 좋은 LLM 지침을 만드는 것은 반복적인 프로세스이며, LLM 모델이 학습할 때 시간이 지남에 따라 지침을 수정할 수 있습니다.
목표 명시하기
- 동작 동사로 리드하십시오. 명령형 또는 직접 명령을 사용합니다.
- 직설적이고 복잡한 문장보다는 간단한 문장을 사용하십시오.
- 구체적으로 설명하십시오.
- 전문 용어나 속어를 사용하지 마십시오.
- 외부 공급업체나 대명사에 대한 언급을 피하십시오. 제목 또는 식별자를 제거하면 일반적으로 LLM이 최종 사용자를 의인화하거나 잘못 식별하는 것을 방지할 수 있습니다.
- 여러분의 말은 생성형 AI가 사용할 논리를 지시합니다. 자세한 생각의 사슬 지침이 이를 위해 잘 작동합니다.
지침도 작업 유형에 맞게 조정해야 합니다. 다음 표에서는 다양한 종류의 작업과 각 상황에 대해 작성할 수 있는 지침의 종류에 대해 설명합니다.
| 작업 유형 | 설명 | 지침 예시 |
|---|---|---|
| 단순 검색 | 간단히 대답을 검색합니다. | 다음 회사 휴일은 언제입니까? |
| 응답 | 여러 소스에서 정보를 수집하고 요약된 답변을 제공합니다. | 지난 30일 동안의 주요 고객 지원 문제는 무엇이었습니까? |
| 채팅 | LLM이 요청자로부터 추가 정보를 가져오는 앞뒤 대화입니다. | 새 휴대폰이 있는데 이제 에 액세스할 Okta수 없습니다. |
| 작성 | 새 ServiceNow 구성요소를 생성합니다. | 지난 12개월 동안 생성된 문제를 기반으로 쿼리 실행 속도가 느려지는 일반적인 원인과 해결 방법에 대한 새 KB를 작성합니다. |
| 워크플로우 | 기존 워크플로우를 활용하고 대화를 생성합니다. | 내 Okta 암호를 재설정합니다. |
지침에 컨텍스트 제공
LLM에 컨텍스트를 제공하는 것은 당연한 것을 말하는 것처럼 느껴질 수 있습니다. 예를 들어 사용자가 작업을 수행하려는 이유를 설명하거나 작업의 용도에 대해 자세히 설명해야 할 수 있습니다. 다른 의미를 가질 수 있는 언어를 사용하는 경우 용어를 정의하는 것이 좋습니다. 예를 들어, 에 대한 Microsoft Teams지침인 경우 "Teams는 회사 직원이 개별적으로 또는 그룹으로 서로 통신하는 데 사용할 수 있는 애플리케이션을 의미합니다 Microsoft Teams"와 같이 말해야 할 수 있습니다.
컨텍스트를 제공할 때 작업의 대상 고객에 대해 생각하십시오. 이렇게 하면 더 나은 지침을 작성하는 데 도움이 됩니다. 작업 대상을 언급하면 LLM이 작업을 수행하는 데 도움이 됩니다.
- 관리자
- 관리자는 콘솔에서 기술을 구성합니다.Now Assist 관리자 작업 및 요구 사항에 대해 플랫폼 소유자 및 제품 소유자와 협력합니다. 주제 전문가가 생성형 AI 결과의 정확성을 확인합니다. 거버넌스 위원회 또는 위원회는 기술에 대한 최종 승인을 감독할 수 있습니다.
- 작성기
- 빌더는 애플리케이션 및 워크플로우와 같은 자산을 생성합니다. 기술 수준은 노코드, 로우코드, 중간 기술 또는 하이스킬로 다를 수 있습니다. 그들은 대부분 서로 그리고 관리자와 상호 작용합니다.
- 에이전트
- 에이전트는 제품, 서비스 또는 조직의 사용자에게 기술 지원, 고객 지원 또는 기타 문제 해결 도움을 제공합니다. 에이전트는 동료와 함께 작업하며 다양한 종류의 요청자를 지원합니다.
- 요청자
- 요청자에는 조직의 직원, 파트너 또는 고객이 포함될 수 있습니다. 요청자는 주로 셀프 서비스 컨텍스트에서 생성형 AI를 접합니다. 생성형 AI는 요청자가 에이전트에게 도움을 요청하기 전에 스스로 문제를 해결할 수 있는 기회를 제공합니다.
또한 LLM에 원하는 종류의 답변에 도달하는 방법을 "지시"해야 할 수도 있습니다. 자세한 생각의 연쇄 지침은 원하는 결과를 생성할 가능성이 더 큽니다. 지침에서 가정을 하면 결과가 크게 달라질 수 있습니다.
| 표준 지침 | 사고의 연속 지침 |
|---|---|
|
Q: 테니스공 5개로 시작하세요. 테니스 공 캔 2개를 더 구입하세요. 각 캔에는 테니스 공 3개가 들어 있습니다. 현재 테니스 공은 몇 개입니까? A: 정답은 11입니다. Q: 카페테리아에는 사과가 23개 있었습니다. 구내식당에서 점심을 만드는 데 20개를 사용하고 6개를 더 샀다면 구내식당에 사과가 몇 개나 있습니까? |
Q: 테니스공 5개로 시작하세요. 테니스 공 캔 2개를 더 구입하세요. 각 캔에는 테니스 공 3개가 들어 있습니다. 현재 테니스 공은 몇 개입니까? A: 공은 5개입니다. 테니스공 2개로 구성된 3캔은 각각 테니스공 6개입니다. 5+6=11. 정답은 11입니다. Q: 카페테리아에는 사과가 23개 있었습니다. 구내식당에서 점심을 만드는 데 20개를 사용하고 6개를 더 샀다면 구내식당에 사과가 몇 개나 있습니까? |
| LLM 결과(올바르지 않음!) | LLM 결과(정답!) |
| A: 정답은 27입니다. | A: 카페테리아에는 원래 23개의 사과가 있었습니다. 그들은 점심을 만드는 데 20개를 사용했습니다. 그래서 그들은 23-20=3이었습니다. 사과를 6개 더 샀으니 3+6=9가 됩니다. 정답은 9입니다. |
기대
결과의 소리와 모양을 지정할 수 있습니다. 예를 들어 LLM에 사용하려는 톤의 종류를 지정할 수 있습니다.
| 지침 | LLM 결과 | 결과 평가 |
|---|---|---|
| 캐주얼하고 여유로운 어조로 사용자를 맞이하십시오. | 안녕하세요! (: 2024년 5월 22일 수요일에 오신 것을 환영합니다. 진정하고 좋은 하루 보내세요! | 너무 캐주얼! |
| 전문적이고 비즈니스적인 어조로 사용자를 맞이합니다. | 안하십니까, 우리 사업에 오신 것을 환영합니다. 오늘은 무엇을 도와드릴까요? | 너무 격식을 차립니다. |
| 전문적이면서도 친근한 어조로 사용자를 맞이하십시오. | 안녕하세요! 2024년 5월 22일 오늘 도와드리게 되어 기쁩니다. 무엇을 도와드릴까요? | 좋아요, 하지만 데이트를 원하지 않습니다. |
| 전문적이면서도 친근한 어조로 사용자를 맞이하십시오. 날짜는 포함하지 마십시오. |
안녕하세요! 제가 도와드리겠습니다. 오늘은 무엇을 도와드릴까요? |
완벽. |
| 지침 | LLM 결과 | 결과 평가 |
일부 Now Assist 응용 프로그램에서는 서식을 지정하는 옵션이 있을 수 있습니다. 이러한 경우 LLM에 글머리 기호 목록으로 답변을 제공하도록 지시할 수 있습니다. 글머리 기호 목록은 종종 읽기 쉽습니다.
소스
대화, 사이트, Microsoft SharePoint Online 인시던트 및 케이스, 내부 지식 문서를 포함하여 Microsoft Teams LLM에서 답변을 찾는 데 사용해야 하는 다양한 소스를 제안할 수 있습니다. 에이전트 또는 기술이 이러한 모든 소스에 액세스하려면 관리자가 인스턴스에 대한 액세스를 구성해야 합니다.
개발자의 경우 기술 또는 AI 에이전트가 액세스할 수 있는 소스가 원하는 결과에 따라 다를 수 있습니다. 예를 들어 인시던트 요약 기술은 인시던트 테이블을 소스로 사용합니다. AI 에이전트는 수행하는 작업에 맞게 사용자 지정된 다양한 도구와 지식 소스를 사용합니다.
기술 및 도구에 대한 Now Assist 추가 지침
| 기술 | 참조 |
|---|---|
| 앱 생성 | General guidelines for using app generation |
| 분석 생성 | Guidelines and example questions |
| 카탈로그 항목 생성 | Suggestions to describe catalog items |
| 코드 생성 | General guidelines for code generation |
| 플로우 생성 | |
| 가상 에이전트에 대한 LLM 주제 기술 | LLM description and instruction guidelines for Virtual Agent topics |
| Now Assist 기술 키트 | Now Assist 기술 키트에 대한 일반 가이드라인 |
| RPA 봇 생성 | RPA 봇 생성을 위한 일반 가이드라인 |
| 테스트 생성 | Design considerations for prompting |
| UI 생성 | General guidelines UI generation |