일반 대규모 언어 모델(LLM) 커넥터에 대한 API 자격 증명 구성
일반 LLM 커넥터를 사용하여 를 외부 AI 제공자와 연결하여 Now Platform 백그라운드 및 비즈니스 규칙 스크립트와 같은 사용자 지정 가상 에이전트 주제, 플로우 또는 스크립트에서 생성형 AI 기능을 사용합니다.
시작하기 전에
자격 증명을 구성하려면 외부 LLM의 API에 대한 액세스 권한이 있어야 합니다.
필요한 역할: admin
이 태스크 정보
모델에 대한 연결 별칭을 생성하여 외부 LLM을 에 Now Platform 연결하고, 별칭을 가리키는 모델 기록을 생성하고, 모델에 대한 프롬프트 기록을 생성한 다음, LLM의 요청 또는 응답을 변환하는 변환기 기록을 생성할 수 있습니다.
프로시저
-
API 키 필드에 모델의 API 키를 입력합니다.
-
이름 필드에 자격 증명 별칭의 이름을 입력합니다.
다른 필드 값은 변경할 필요가 없습니다.
-
자격 증명 필드에서 모델의 API 키를 사용하여 생성한 자격 증명 기록을 선택합니다.
필드에 자격 증명의 이름을 입력하여 자격 증명 목록을 검색할 수 있습니다. 조회 아이콘(
)을 선택하여 전체 목록이 포함된 모달을 열 수도 있습니다. -
연결 URL에 모델의 엔드포인트 URL을 입력합니다.
예를 들어 Hugging Face의 모델은 "https://api-inference.huggingface.co"로 시작할 수 있습니다. 나머지 필드는 그대로 두어도 됩니다.