본문 바로가기
문서 목차
QKSAdministration

Agent AI 설정

AI 어시스턴트(SAMANDA)가 사용할 LLM 엔드포인트와 동작 파라미터를 설정하고, 연결 상태를 점검합니다.

QUANTUM C&S

개요

AI 어시스턴트(SAMANDA)가 사용할 LLM 엔드포인트와 동작 파라미터를 설정하고, 연결 상태를 점검합니다.

사용자 아이콘 → Administration → Agent AI 탭에서 설정합니다.

참고

이 화면은 플랫폼 관리자용입니다. 설정은 플랫폼 전체에 적용됩니다.


설정 항목

항목 설명
LLM 엔드포인트 추론 서버 주소. OpenAI 호환 API를 제공하는 엔드포인트를 지정합니다.
모델 사용할 모델 이름
Temperature 응답의 다양성. 낮을수록 일관되고, 높을수록 창의적입니다.
최대 토큰 수 한 번의 응답에서 생성할 최대 토큰 수
임베딩 모델 문서 검색에 사용할 임베딩 모델
도구 호출 반복 제한 어시스턴트가 도구를 연속 호출할 수 있는 최대 횟수
세션 TTL 대화 세션이 유지되는 시간

연결 점검

연결 상태 점검(Health) 버튼을 클릭하면 지정한 엔드포인트에 실제로 요청을 보내 응답 여부를 확인합니다.

결과 의미 조치
정상 엔드포인트가 응답함 —
실패 주소 오류 또는 서버 미기동 엔드포인트 주소와 추론 서버 상태 확인

설정 반영

변경 사항은 재시작 없이 수 초 내에 반영됩니다.

주의

LLM 엔드포인트는 클러스터 내부 추론 서버를 기본값으로 사용합니다. 외부 주소로 변경하면 폐쇄망 환경에서 어시스턴트가 동작하지 않습니다.