문서 목차
QKSAdministration
Agent AI 설정
AI 어시스턴트(SAMANDA)가 사용할 LLM 엔드포인트와 동작 파라미터를 설정하고, 연결 상태를 점검합니다.
QUANTUM C&S
개요
AI 어시스턴트(SAMANDA)가 사용할 LLM 엔드포인트와 동작 파라미터를 설정하고, 연결 상태를 점검합니다.
사용자 아이콘 → Administration → Agent AI 탭에서 설정합니다.
참고
이 화면은 플랫폼 관리자용입니다. 설정은 플랫폼 전체에 적용됩니다.
설정 항목
| 항목 | 설명 |
|---|---|
| LLM 엔드포인트 | 추론 서버 주소. OpenAI 호환 API를 제공하는 엔드포인트를 지정합니다. |
| 모델 | 사용할 모델 이름 |
| Temperature | 응답의 다양성. 낮을수록 일관되고, 높을수록 창의적입니다. |
| 최대 토큰 수 | 한 번의 응답에서 생성할 최대 토큰 수 |
| 임베딩 모델 | 문서 검색에 사용할 임베딩 모델 |
| 도구 호출 반복 제한 | 어시스턴트가 도구를 연속 호출할 수 있는 최대 횟수 |
| 세션 TTL | 대화 세션이 유지되는 시간 |
연결 점검
연결 상태 점검(Health) 버튼을 클릭하면 지정한 엔드포인트에 실제로 요청을 보내 응답 여부를 확인합니다.
| 결과 | 의미 | 조치 |
|---|---|---|
| 정상 | 엔드포인트가 응답함 | — |
| 실패 | 주소 오류 또는 서버 미기동 | 엔드포인트 주소와 추론 서버 상태 확인 |
설정 반영
변경 사항은 재시작 없이 수 초 내에 반영됩니다.
주의
LLM 엔드포인트는 클러스터 내부 추론 서버를 기본값으로 사용합니다. 외부 주소로 변경하면 폐쇄망 환경에서 어시스턴트가 동작하지 않습니다.