본문으로 건너뛰기

⚙️ Service 플랫폼

고성능 백엔드 서비스를 위한 플랫폼입니다. Laravel과 함께 사용하여 시스템을 확장합니다.

지원 타입 및 제품군​

항목상태설명배포
LiteLLM Gateway✅ 기본 방향기본 LLM control plane, virtual key, budget, routingDocker
Chorus🧭 설계멀티 LLM 오케스트레이션 제품군로컬 CLI / Desktop / Web / API
Go🔜 계획gRPC, WebSocket 서비스Docker/바이너리
Python🔜 계획FastAPI, ML 서비스Docker

사용 시나리오​

Service 타입은 Laravel과 함께 사용됩니다:

┌─────────────┐     ┌─────────────┐     ┌─────────────┐
│  Client App │────▶│   Laravel   │────▶│   Service   │
│             │     │    (API)    │     │ (Go/Python) │
└─────────────┘     └─────────────┘     └─────────────┘
                           │                    │
                           ▼                    ▼
                    ┌─────────────┐     ┌─────────────┐
                    │ PostgreSQL  │     │ Redis/gRPC  │
                    └─────────────┘     └─────────────┘

Laravel + Service 역할 분담​

역할LaravelGo/Python Service
인증/권한✅-
CRUD API✅-
비즈니스 로직✅-
실시간 처리-✅ (WebSocket)
ML 추론-✅ (Python)
대용량 스트림-✅ (gRPC)

Go​

고성능 실시간 서비스:

  • gRPC + REST 듀얼 지원
  • WebSocket 실시간 통신
  • 높은 동시 연결 처리

👉 Go Service 자세히 보기

Python​

ML/AI 및 데이터 처리:

  • FastAPI 프레임워크
  • ML 모델 서빙
  • 배치 데이터 처리

👉 Python Service 자세히 보기

Chorus​

멀티 LLM orchestration 제품군:

  • chorus-cli
  • chorus-desktop
  • chorus-web
  • chorus.apis.how

👉 Chorus Service 자세히 보기

API 서비스 문서는 별도 APIs 섹션에서 관리합니다.

LiteLLM Gateway​

multi-saas-kit의 기본 LLM gateway 방향:

  • llm.apis.how 기반 공용 endpoint
  • virtual key / budget / rate-limit
  • provider routing / fallback
  • OpenAI-compatible contract

👉 LiteLLM Gateway 자세히 보기

타입 선택 가이드​

요구사항권장 타입
기본 LLM gateway / AI 운영LiteLLM Gateway
고성능 실시간 처리Go
ML/AI 추론Python
대용량 동시 연결Go
데이터 과학Python
낮은 메모리 사용Go
빠른 프로토타이핑Python

알림 받기: 새 플랫폼 출시 소식은 문의하기를 이용해 주세요.