사이트 사용 가이드

사이트 둘러보기

3 / 26

AI 시작하기 & LLM API 이용 가이드

API 키 발급부터 OpenAI 호환 클라우드 모델 및 호스트 로컬 d1-3B 고속 판단 모델(/v1/systemone) 연동까지 총정리한 공식 가이드예요.

lishi.dev가 제공하는 **AI 프록시(OpenAI 호환 API)**와 호스트 머신에서 직접 구동되는 로컬 고속 판단(Decision) 모델의 연동 및 활용 가이드입니다.

1. 개요 및 연결 주소

lishi.dev AI 서비스는 모든 OpenAI 호환 클라이언트, 코딩 도구(Cursor, OpenCode 등), Python/Node.js SDK에서 바로 연결할 수 있는 통합 API 게이트웨이를 제공합니다.

항목	내용
기본 엔드포인트 (Base URL)	`https://lishi.dev/v1`
인증 방식	HTTP Bearer 토큰 (`Authorization: Bearer <API키>`)
API 키 발급 화면	대시보드 → API 키 관리
이용 현황 및 통계	대시보드 → 내 요청 통계

2. 이용 승인 및 API 키 발급 방법

사이트에 로그인 후, 관리자에게 AI 이용 권한 승인을 요청합니다. (프로필의 사용자 ID 전달)
승인 완료 후 API 키 관리 페이지로 이동합니다.
키 이름과 유효 기간(30일, 60일, 90일, 120일)을 선택하고 키 생성을 누릅니다.
생성된 키(sk-...)는 발급 시 단 한 번만 표시되므로 안전한 곳에 복사해 보관합니다.
브라우저 내 웹 채팅은 대시보드 AI 채팅에서 별도 입력 없이 발급한 키를 목록에서 선택해 즉시 대화할 수 있습니다.

3. 제공 모델 목록 및 특징

① 클라우드 생성형 LLM (텍스트 대화 / 코딩 / 요약)

자유로운 대화, 문서 작성, 코드 생성에 적합한 초경량 고성능 모델들입니다.

deepseek-v4.1-flash: 코딩 및 복잡한 논리 추론
qwen3.8-flash: 균형 잡힌 다국어 및 범용 질의응답
glm-5.3-flash: 빠른 속도의 문서 요약 및 대화
gpt-6.1-sol: 범용 텍스트 생성

② 로컬 의사결정 모델 (`d1-3B`, llama.cpp 고속 구동)

호스트 머신에 직접 상주하며 텍스트 생성을 건너뛰고 **단 1회의 전방 패스(Forward Pass, 수십 ms)**로 확률값(Logprobs)을 즉시 산출하는 특수 판단 모델입니다.

모델 ID: d1-3B, d1-3B-Q8_0, d1 (또는 lisy/d1-3B)
주요 용도: 분류(Classification), 라우팅(Routing), Yes/No 검증, 품질 평가(LLM-as-a-judge)

4. API 사용 예제

A. 일반 대화형 API (`/v1/chat/completions`)

cURL 예시:

curl https://lishi.dev/v1/chat/completions \
  -H "Authorization: Bearer <발급받은_API키>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3.8-flash",
    "messages": [
      {"role": "user", "content": "Node.js에서 안전한 비동기 재시도 패턴을 한 줄 요약해 줘."}
    ]
  }'

Python (OpenAI 공식 SDK) 예시:

from openai import OpenAI

client = OpenAI(
    base_url="https://lishi.dev/v1",
    api_key="<발급받은_API키>"
)

response = client.chat.completions.create(
    model="deepseek-v4.1-flash",
    messages=[{"role": "user", "content": "안녕하세요!"}]
)
print(response.choices[0].message.content)

B. 로컬 고속 판단 모델 전용 API (`/v1/systemone`)

d1-3B 모델은 상태(State)와 질문(Questions)을 주면, 답변 텍스트를 생성하지 않고 **즉각적인 확률(신뢰도)**을 반환합니다.

cURL 예시:

curl https://lishi.dev/v1/systemone \
  -H "Authorization: Bearer <발급받은_API키>" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "서버 CPU 사용량이 99%에 달하고 웹 서비스 응답이 완전히 멈췄습니다.",
    "questions": {
      "need_action": {
        "type": "noul",
        "instructions": "관리자의 긴급 프로세스 재시작 조치가 필요한 상황인가요?"
      },
      "urgency": {
        "type": "choice",
        "instructions": "장애의 긴급도를 선택해주세요.",
        "criteria": {
          "critical": "서비스 중단, 즉각 대응 필요",
          "normal": "일상적인 부하 변동"
        }
      }
    }
  }'

응답 JSON 예시:

{
  "model": "d1",
  "answers": {
    "need_action": {
      "type": "noul",
      "noul": 0.957
    },
    "urgency": {
      "type": "choice",
      "choice": "critical",
      "probabilities": {
        "critical": 0.9858,
        "normal": 0.0142
      },
      "confidence": 0.9717
    }
  },
  "usage": {
    "input_tokens": 139,
    "output_tokens": 0
  }
}

질문 타입(Type) 안내:

noul: 이진 판단 (Yes/No 또는 참/거짓 확률, 0.0~1.0)

choice: 정의된 criteria 목록 중 가장 적합한 항목 선택 및 각 항목별 확률 계산

score: 점수 평가

C. 이미지 인식 (Multimodal Vision) 판단 예제

d1-3B 모델은 멀티모달 비전 프로젝터(mmproj)가 탑재되어 있어, 텍스트뿐만 아니라 이미지(스크린샷, 사진, UI 캡처)를 직접 입력받아 판단할 수 있습니다.

state에 Base64 Data URI 형식의 이미지를 배열로 전달합니다:

curl https://lishi.dev/v1/systemone \
  -H "Authorization: Bearer <발급받은_API키>" \
  -H "Content-Type: application/json" \
  -d '{
    "state": {
      "text": "이 캡처 화면을 보고 시스템에 오류가 발생했는지 확인해주세요.",
      "images": [
        "data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAA..."
      ]
    },
    "questions": {
      "has_error_dialog": {
        "type": "noul",
        "instructions": "화면에 경고창이나 오류 팝업이 떠 있나요?"
      },
      "screen_type": {
        "type": "choice",
        "instructions": "화면의 종류를 선택해주세요.",
        "criteria": {
          "normal_dashboard": "정상적인 대시보드 화면",
          "crash_screen": "비정상 종료 또는 크래시 화면",
          "login_prompt": "로그인 대기 화면"
        }
      }
    }
  }'

응답 결과:

{
  "model": "d1",
  "answers": {
    "has_error_dialog": {
      "type": "noul",
      "noul": 0.042
    },
    "screen_type": {
      "type": "choice",
      "choice": "normal_dashboard",
      "probabilities": {
        "normal_dashboard": 0.945,
        "crash_screen": 0.035,
        "login_prompt": 0.020
      },
      "confidence": 0.910
    }
  },
  "usage": {
    "input_tokens": 7587,
    "output_tokens": 0
  }
}

5. 외부 개발 도구 연동 안내

Cursor / Cline / Roo Code / OpenCode

환경 설정에서 OpenAI 호환 (OpenAI Compatible) 제공자를 선택합니다.
Base URL: https://lishi.dev/v1 입력
API Key: 발급받은 개인 API 키 입력
Model: deepseek-v4.1-flash, qwen3.8-flash 등 권한이 부여된 모델 이름 지정

6. 보안 및 개인정보 보호 (PII 필터)

개인정보 자동 마스킹: 주민등록번호, 전화번호, 이메일, 계좌번호 등 민감 정보는 업스트림 AI 제공자에게 전달되기 전 게이트웨이에서 자동으로 필터링 및 마스킹됩니다.
요청 본문 미저장: 서비스 통계에는 모델명, 호출 시각, 상태 코드, 지연 시간만 기록되며, 사용자가 나눈 대화 본문이나 프롬프트 내용은 서버에 절대 영구 저장되지 않습니다.
키 유효기간 관리: 만료된 키는 즉시 차단되므로, 정기적으로 대시보드에서 갱신해 주시기 바랍니다.

개별 글 보기·공유