생성형 AI 대규모 언어 모델(LLM)에 대한 지침 작성에 대한 일반 가이드라인
제품과 기술을 사용할 Now Assist 때 LLM에 특정 지침이나 기타 지침을 제공할 수 있습니다. 생성형 AI 지침을 작성하는 것은 키워드 검색을 수행하는 것과 다릅니다. 지침을 작성할 때 다음과 같은 일반 지침을 사용하십시오.
생성형 AI에 대한 지침을 작성하는 것은 검색 키워드를 사용하는 것과 매우 다릅니다. 키워드는 결과에 표시될 것으로 예상할 수 있는 단어입니다. 예를 들어 "회색 단발 고양이"를 검색하면 회색 고양이, 단발 고양이 또는 일반적인 고양이에 관한 주제나 미디어가 검색 결과로 반환될 것으로 합리적으로 예상할 수 있습니다. 그러나 생성형 AI를 사용하면 LLM에 작업을 수행하도록 요청합니다. "회색 단발 고양이"라는 문구에는 LLM에 무엇을 해야 하는지 알려주는 동사가 포함되어 있지 않습니다. 이 회색 고양이는 어떻습니까? 그들에 대해 알아야 할 모든 것을 찾아야 합니까? 입양할 회색 밥테일 고양이를 찾아야 할까요? 회색 밥테일 고양이 사진을 만들어야 할까요? 사실적인 그림이어야 할까요, 아니면 선화에 더 가까울까요? 생성형 AI에는 키워드 이상의 것이 필요합니다.
생성 AI 작업 유형
지침은 작업 유형에 맞게 조정되어야 합니다. 다음 표에서는 다양한 종류의 작업과 각 상황에 대해 작성할 수 있는 지침의 종류에 대해 설명합니다.
| 작업 유형 | 설명 | 예시 지침 |
|---|---|---|
| 단순 검색 | 간단한 답변 검색. | 다음 회사 휴무일은 언제인가요? |
| 응답 | 여러 소스에서 정보를 수집하고 요약된 답변을 제공합니다. | 지난 30일 동안 고객 지원의 주요 문제는 무엇이었습니까? |
| 채팅 | LLM이 요청자로부터 추가 정보를 받는 주고받는 대화입니다. | 새 전화가 있는데 이제 액세스할 Okta수 없습니다. |
| 작성 | 새 ServiceNow 구성요소를 생성합니다. | 지난 12개월 동안 생성된 문제를 기반으로 쿼리 실행 속도가 느린 일반적인 이유와 해결 방법에 대한 새 KB를 작성합니다. |
| 워크플로우 | 기존 워크플로우를 활용하고 대화를 생성합니다. | 내 암호를 재설정합니다 Okta . |
생성 AI 사용자
지침을 작성할 때 작업의 대상 고객에 대해 생각하십시오. 이렇게 하면 더 나은 지침을 작성하는 데 도움이 됩니다. 작업 대상을 언급하면 LLM이 작업을 수행하는 데도 도움이 됩니다.
- 관리자
- 관리자는 콘솔에서 기술을 Now Assist 관리자 구성합니다. 이 역할은 작업 및 요구 사항에 대해 플랫폼 소유자 및 제품 소유자와 협력합니다. 주제 전문가가 생성형 AI 결과의 정확성을 확인합니다. 관리 위원회 또는 위원회가 기술에 대한 최종 승인을 감독할 수 있습니다.
- 작성기
- 빌더는 애플리케이션 및 워크플로우와 같은 자산을 생성합니다. 기술 수준은 노코드, 로우코드, 중간 기술 또는 고급 기술에 이르기까지 다양할 수 있습니다. 그들은 주로 서로 상호 작용하고 관리자와 상호 작용합니다.
- 에이전트
- 에이전트는 제품, 서비스 또는 조직의 사용자를 위한 기술 지원, 고객 지원 또는 기타 문제 해결 지원을 제공합니다. 에이전트는 동료와 함께 작업하며 다양한 유형의 요청자를 지원합니다.
- 요청자
- 요청자는 조직의 직원, 파트너 또는 고객을 포함할 수 있습니다. 요청자는 주로 셀프 서비스 컨텍스트에서 생성형 AI를 접하게 됩니다. 생성형 AI는 요청자가 에이전트에게 도움을 요청하기 전에 스스로 문제를 해결할 수 있는 기회를 제공합니다.
지침에 컨텍스트 제공
LLM에 컨텍스트를 제공하면 당연한 사실을 말하는 것처럼 느껴질 수 있습니다. 예를 들어 사용자가 작업을 수행하려는 이유를 설명하거나 작업의 용도에 대해 자세히 설명해야 할 수 있습니다. 다른 의미를 가질 수 있는 언어를 사용하는 경우 용어를 정의할 수 있습니다. 예를 들어, 에 대한 Microsoft Teams지침인 경우 "Teams는 회사 직원이 개별적으로 또는 그룹으로 서로 통신하는 데 사용할 수 있는 애플리케이션을 의미합니다 Microsoft Teams"와 같이 말해야 할 수 있습니다.
- 동작 동사로 리드합니다. 명령형 또는 직접 명령을 사용합니다.
- 직설적이고 복잡한 문장보다는 간단한 문장을 사용하십시오.
- 구체적이어야 합니다.
- 전문 용어나 속어를 사용하지 마십시오.
- 제3자 또는 대명사에 대한 언급을 피하십시오. 주체 또는 식별자를 제거하면 일반적으로 LLM이 최종 사용자를 인격화하거나 잘못 식별하는 것을 방지할 수 있습니다.
- 여러분의 말은 생성형 AI가 사용할 논리를 지시합니다. 자세한 생각의 사슬 지침이 이를 위해 잘 작동합니다.
| 표준 지침 | 생각의 사슬 지침 |
|---|---|
|
Q: 테니스 공 5개로 시작합니다. 테니스 공 2캔을 더 구입합니다. 각 캔에는 3개의 테니스 공이 있습니다. 현재 테니스 공은 몇 개입니까? A: 답은 11입니다. Q: 카페테리아에는 23개의 사과가 있었습니다. 식당에서 점심을 만드는 데 20개를 사용하고 6개를 더 샀다면 식당에는 사과가 몇 개나 있습니까? |
Q: 테니스 공 5개로 시작합니다. 테니스 공 2캔을 더 구입합니다. 각 캔에는 3개의 테니스 공이 있습니다. 현재 테니스 공은 몇 개입니까? A: 5개의 공이 있습니다. 테니스 공 3개들이 2캔은 각각 테니스 공 6개입니다. 5+6=11입니다. 정답은 11입니다. Q: 카페테리아에는 23개의 사과가 있었습니다. 식당에서 점심을 만드는 데 20개를 사용하고 6개를 더 샀다면 식당에는 사과가 몇 개나 있습니까? |
| LLM 결과(잘못됨) | LLM 결과(정답!) |
| A: 정답은 27입니다. | A: 카페테리아에는 원래 23개의 사과가 있었습니다. 그들은 점심을 만들기 위해 20개를 사용했습니다. 그래서 그들은 23-20=3이었습니다. 그들은 사과를 6개 더 샀으므로 3+6=9가 됩니다. 정답은 9입니다. |
생성형 AI 결과 서식 지정
일부 Now Assist 응용 프로그램에서는 서식을 지정하는 옵션이 있을 수 있습니다. 이러한 경우 예를 들어 글머리 기호 목록으로 답변을 제공하도록 LLM에 지시할 수 있습니다. 글머리 기호 목록은 읽기가 더 쉬운 경우가 많습니다.
LLM 지침 작성은 반복적인 프로세스입니다.
지침을 지속적으로 테스트하고 개선합니다. 좋은 LLM 지침을 만드는 것은 반복적인 프로세스이며, LLM 모델이 학습할 때 시간이 지남에 따라 지침을 수정할 수 있습니다.
| 지침 | LLM 결과 | 결과 평가 |
|---|---|---|
| 캐주얼하고 느긋한 어조로 사용자를 맞이하십시오. | 이봐! (: 2024년 5월 22일 수요일에 오신 것을 환영합니다. 진정하고 좋은 하루 되세요! | 캐주얼 너무! |
| 전문적이고 사무적인 어조로 사용자를 맞이하십시오. | 좋은 날, 우리의 사업에 오신 것을 환영합니다. 오늘은 무엇을 도와드릴까요? | 너무 격식을 차렸다. |
| 전문적이면서도 친근한 어조로 사용자를 맞이하십시오. | 안녕하세요! 2024년 5월 22일 오늘 도움을 드리게 되어 기쁩니다. 무엇을 도와드릴까요? | 훌륭하지만 날짜를 원하지 않습니다. |
| 전문적이면서도 친근한 어조로 사용자를 맞이하십시오. 날짜는 포함하지 마십시오. |
안녕하세요! 제가 도와드리겠습니다. 오늘은 무엇을 도와드릴까요? |
완벽. |
기술 및 도구에 대한 Now Assist 추가 지침
| 기술 | 참조 |
|---|---|
| 앱 생성 | General guidelines for using Now Assist for app generation in ServiceNow Studio |
| 카탈로그 항목 생성 | How to describe a catalog item |
| 코드 생성 | General guidelines for code generation |
| 플로우 생성 | |
| 에 대한 LLM 주제 기술 가상 에이전트 | |
| Now Assist 기술 키트 | 에 대한 일반 지침 Now Assist 기술 키트 |
| RPA 봇 생성 | RPA 봇 생성을 위한 일반 가이드라인 |