Phi-tiny-MoE-instruct
프렌들리AI
3.8B 중 1.1B만 활성화하는 초경량 MoE로 메모리·연산 제약 환경에 적합
- 분야
- 산업 전반·범용
- 모달리티
- Text
- 라이선스
- MIT
- 지원언어
- 영어
- 컨텍스트 길이
- 4096
- 정밀도
- BF16
- 모델 아키텍처
- PhiMoEForCausalLM
- 모델 구축 방식
- 경량화·증류 모델
- 베이스 모델
- microsoft/Phi-3.5-MoE-instruct, microsoft/GRIN-MoE
- 공개일
- 2025-07-11
- 최근 업데이트일
- 2025-07-11
- 규모(파라미터)
- 3.8B