본문 바로가기

AX 자원 찾기

mistral-orpo-alpha

카이스트

SFT 웜업 없이 ORPO만으로 직접 선호도 학습, UltraFeedback 데이터로 파인튜닝해 대화형 어시스턴트에 적합

분야
산업 전반·범용
모달리티
Text
라이선스
MIT
지원언어
영어
정밀도
BF16
모델 아키텍처
MistralForCausalLM
모델 구축 방식
파인튜닝 모델
베이스 모델
mistralai/Mistral-7B-v0.1
공개일
2024-03-12
최근 업데이트일
2024-03-17
규모(파라미터)
7.2B