대규모 언어 모델 관리

  • 릴리스 버전: Yokohama
  • 업데이트 날짜 2025년 02월 24일
  • 읽기1분

    • 다양한 Now Assist 기술에 사용되는 LLM(대규모 언어 모델)에 액세스하고 선택합니다. 선택 사항은 역량 내의 모든 기술에 영향을 미칩니다.

    시작하기 전에

    필요한 역할: 관리자

    LLM 제공자 선택을 활성화하려면 해당 지역에서 기술을 사용할 수 있는지 확인하십시오. 예를 들어 Now Assist Q&A Genius 결과에 대한 LLM 제공자를 업데이트하려면 대화 기술 아래의 모든 기술을 해당 지역에서 사용할 수 있고 활성 상태인지 확인합니다.

    프로시저

    1. 다음으로 이동 모두 > Now Assist 관리자 > 설정.
    2. Now Assist 기능을 선택하여 LLM 제공자를 선택하려는 워크플로우를 찾습니다.
    3. 워크플로에서 사용 가능한 기술을 찾고 켜기 를 선택하여 지역 범위를 변경하여 기술을 활성화합니다.
      Now Assist 관리자 - 기술에 대한 지역 범위 변경
    4. 사용 약관을 검토하여 LLM 제공자 변경을 수락하거나 되돌리십시오.
    5. 다음으로 이동 설정 > LLM 관리.
      Now Assist 관리자 설정 - LLM 관리
    6. LLM을 업데이트하려는 플랫폼, 코드 생성 또는 카탈로그 항목 생성 기술 중에서 선택합니다.
    7. 제공자 드롭다운에서 LLM을 선택합니다.
      Now LLM과 Azure Open AI 중에서 선택할 수 있습니다.
    8. 저장을 선택하여 LLM을 업데이트합니다.
      LLM 선택을 확인하기 전에 계약 메시지가 표시됩니다.
      주:
      계약 수락 메시지는 처음 사용하는 사용자에게만 표시됩니다.
    9. LLM 변경에 동의하거나 거부하려면 검토합니다 https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/deployment-types#global-standard .
      주:
      Azure OpenAI를 선택하려면 생성형 AI 데이터 처리 위치를 APJ(아시아 태평양 및 일본)에서 전역 위치로 변경해야 했습니다.
    10. 동의함을 선택하여 LLM 선택을 수락하고 적용합니다.
      해당 역량에 대한 LLM 제공자 선택을 확인하는 메시지가 표시됩니다. 선택 항목은 해당 역량 내의 기술이 선택한 LLM으로 업데이트되지 않은 경우에도 알려줍니다.