RAG-KO-Mixtral-7Bx2-v2.1
마커에이아이
한국어 RAG 전용 데이터셋으로 QLoRA 파인튜닝한 v2.1, RAG 기반 한국어 질의응답에 적합
- 분야
- 산업 전반·범용
- 모달리티
- Text
- 라이선스
- cc-by-nc-sa-4.0
- 지원언어
- 한국어
- 정밀도
- FP16
- 모델 아키텍처
- MixtralForCausalLM
- 모델 구축 방식
- 파인튜닝 모델
- 베이스 모델
- DopeorNope/Ko-Mixtral-v1.4-MoE-7Bx2
- 공개일
- 2024-02-11
- 최근 업데이트일
- 2024-02-11
- 규모(파라미터)
- 12.9B