사내 모델 연결
회사가 직접 운영하는 모델 서버를 두레 채팅의 "사내 모델"로 씁니다. 일하는 방식은 두레의 Claude와 같고, 모델만 회사 서버의 것을 씁니다.
필요한 것
- Anthropic 메시지 API 형식(
/v1/messages)을 받는 서버. 보통 vLLM 같은 모델 서버 앞에 LiteLLM을 둡니다. - 그 서버의 주소와 키. 회사의 서버 담당자에게 받습니다.
설정하기
두레 설정의 모델 메뉴에서 사내 모델 칸을 채웁니다.
- API 키: 키 입력을 누르고 넣습니다. 이 PC의 안전 저장소에만 둡니다.
- 서버 주소: 예를 들어
http://llm.internal:4000. 끝에/v1은 붙이지 않습니다. - 표시 이름: 세션 종류와 대화에 보일 이름입니다. 비워 두면 "사내 모델"입니다.
- 모델 목록: 서버가 알려 주는 모델 이름을 그대로 넣습니다. 대화마다 고를 수 있습니다.
- 도구 범위: "기본"은 명령 실행, 파일 읽기·쓰기·편집·찾기 등 도구 6개만, "전체"는 엔진의 모든 도구를 씁니다.
- 외부 공유: 아래를 보세요.
주소를 넣지 않으면 세션 종류에 사내 모델이 보이지 않습니다.
대화가 회사 밖으로 나가지 않게
외부 공유는 기본으로 꺼져 있습니다. 꺼져 있으면
- 대화는 회사 서버만 씁니다. Claude 등 다른 에이전트로 넘기는 메뉴가 보이지 않습니다.
- 웹 접속 도구가 빠지고, 엔진과 엔진이 실행하는 명령은 회사 서버와 이 PC 안에만 접속합니다.
- 세션 제목·커밋 메시지 자동 생성에도 사내 대화 내용을 쓰지 않습니다.
켜면 다른 에이전트로 넘길 수 있고 웹 도구도 쓸 수 있습니다.
알아 둘 점
- 모델 서버의 대화 길이 한도에 맞춰 모델 목록의 대화 길이를 서버 한도보다 조금 낮게 잡으세요. 넘으면 서버가 오류를 돌려줍니다.
- 작은 오픈 모델은 파일 편집 도구를 잘못 쓰는 경우가 있습니다. 결과가 이상하면 같은 일을 더 작게 나눠 맡겨 보세요.
- 사내 대화 기록은 두레 전용 폴더에만 남고, Claude Code 확장의 대화 목록에는 섞이지 않습니다.