AI 추론 가속·경량 서빙 엔진(VK 시리즈)
비드래프트
동일 GPU에서 LLM 추론을 가속하고 경량 구동을 지원해 서버·GPU 비용을 줄이는 AI 추론 엔진
- AI 밸류체인
- AI 인프라
- 적용 산업분야
- 산업 전반·범용
- 서비스 이용방식
- 구축형
- 핵심 AI기술
- LLM·생성형 AI
- 기반 AI모델
- 자체 파운데이션 모델
- 과금 모델
- 일회성 시스템 구축 및 라이선스 구매
- 주요 레퍼런스
- 단일 NVIDIA B200서 추론 최대 23배 가속. 러시아 iXBT 등 해외 매체 다수 보도. JGOS 프로덕션 서빙 적용.