Hy3는 Tencent Hy Team이 공개한 혼합 전문가(Mixture-of-Experts, MoE) 기반 오픈소스 LLM이다. 전체 295B 파라미터 중 토큰당 21B 파라미터를 활성화하며, 256K 컨텍스트와 Apache 2.0 라이선스를 제공한다.

모델 개요

Hy3는 2026년 4월 공개된 Hy3 Preview 이후 50개 이상 제품 피드백을 반영하고, 고품질 후처리 데이터와 강화학습(RL)을 확장해 공개된 버전이다. Tencent는 비슷한 크기 모델을 앞서고, 2~5배 큰 플래그십 오픈소스 모델과 경쟁한다고 설명한다.

Hugging Face의 전체 BF16 모델은 매우 크며, Simon Willison은 전체 모델 약 598GB, FP8 양자화 버전 약 300GB라고 정리했다. 개인용 단일 GPU보다는 다중 GPU 서버나 클라우드 서빙 대상에 가깝다.

에이전트·제품 작업 강화

Hy3 모델 카드는 코딩, 오피스 작업, 금융 모델링, 프런트엔드 디자인, 게임 개발 같은 생산성 작업에서 개선이 컸다고 설명한다. 특히 tool call 안정성, 출력 형식 준수, scaffold별 성능 일관성을 강조한다.

Tencent 내부 평가에 따르면:

• 실무 전문가 270명의 블라인드 평가에서 Hy3는 2.67/4로 GLM-5.1의 2.51/4를 상회
• 내부 환각률은 12.5%에서 5.4%로 감소
• 상식 오류율은 25.4%에서 12.7%로 감소
• 장기 대화의 intent tracking 이슈율은 17.4%에서 7.9%로 감소

이 수치는 공개 벤치마크가 아니라 Tencent 내부 평가이므로 절대 성능 비교보다 모델 설계 방향을 읽는 데 쓰는 편이 적절하다.

배포

공식 모델 카드는 vLLM 또는 SGLang을 권장한다. 8 GPU 서빙에는 H20-3e급 대용량 메모리 GPU가 권장된다.

vLLM 예시:

vllm serve tencent/Hy3 \
  --tensor-parallel-size 8 \
  --speculative-config.method mtp \
  --speculative-config.num_speculative_tokens 2 \
  --tool-call-parser hy_v3 \
  --reasoning-parser hy_v3 \
  --enable-auto-tool-choice \
  --port 8000 \
  --served-model-name hy3

OpenAI 호환 API 호출 예시:

from openai import OpenAI

client = OpenAI(base_url="http://127.0.0.1:8000/v1", api_key="EMPTY")

response = client.chat.completions.create(
    model="hy3",
    messages=[{"role": "user", "content": "Hello! Can you briefly introduce yourself?"}],
    temperature=0.9,
    top_p=1.0,
    extra_body={"chat_template_kwargs": {"reasoning_effort": "no_think"}},
)
print(response.choices[0].message.content)

복잡한 수학·코딩·추론 작업에는 reasoning_effort="high"를 쓰고, 짧은 직접 응답에는 기본값인 no_think를 쓴다.

누가 쓰면 좋은가

• 오픈소스 LLM 서빙 팀: 256K 컨텍스트와 에이전트 도구 호출을 자체 인프라에서 운영하려는 경우
• 코딩 에이전트 개발자: 장문 코드베이스와 도구 호출 안정성이 중요한 하네스에 붙일 모델을 찾는 경우
• 중국어·글로벌 제품 팀: Tencent 생태계의 Hunyuan 계열 모델을 제품 평가 후보에 넣으려는 경우

라이선스

Hy3는 Apache License 2.0으로 공개됐다.

참고 자료

• tencent/Hy3 — Hugging Face
• tencent/Hy3 — Simon Willison’s Weblog (2026-07-06)