본문 바로가기

AX 자원 찾기

Mixtral-8x7B-v0.1-fp8

프렌들리AI

Mixtral 8x7B(Base)를 FP8 양자화해 추론 효율을 높이면서 정확도를 유지, 경량 배포에 적합

분야
산업 전반·범용
모달리티
Text
라이선스
Apache-2.0
지원언어
영어
정밀도
BF16+I8
모델 아키텍처
MixtralForCausalLM
모델 구축 방식
양자화 모델
베이스 모델
mistralai/Mixtral-8x7B-v0.1
공개일
2024-04-26
최근 업데이트일
2024-04-26
규모(파라미터)
46.7B