cpt-lora_st-vicuna-v1.3-5.5b-ppl-q4f16_0-MLC
노타AI
Vicuna 프루닝 모델을 MLC용 INT4(q4f16_0)로 양자화한 5.5B 버전, 온디바이스·웹 배포에 적합
- 분야
- 산업 전반·범용
- 모달리티
- Text
- 라이선스
- 기타(Nota 비상업적 연구용 라이선스)
- 지원언어
- 영어
- 정밀도
- INT4
- 모델 구축 방식
- 양자화 모델
- 베이스 모델
- nota-ai/cpt-lora_st-vicuna-v1.3-5.5b-ppl
- 공개일
- 2024-07-24
- 최근 업데이트일
- 2024-08-21
- 규모(파라미터)
- 5.5B