Mixture of Experts의 약자로, 입력에 따라 전체 파라미터 중 필요한 '전문가(expert)' 일부만 활성화해 처리하는 AI 구조다.
같은 크기의 밀집 모델보다 계산 효율이 높으며, 2.4조 개처럼 매우 큰 모델을 실용적으로 운영하는 데 쓰인다.