mercado

AntAngelMed: el MoE médico de 103B con 6B activos

AntAngelMed es el modelo médico open-source de Ant Healthcare con el centro de salud de Zhejiang: MoE de 103B con solo 6,1B activos por inferencia,…

3 min de lectura627 palabrases

Respuesta corta

AntAngelMed es un modelo de lenguaje médico open-source desarrollado por Ant Healthcare junto con el Centro de Información en Salud de Zhejiang (China). Es un MoE de 103B parámetros totales con solo 6,1B activos por inferencia — lo que lo hace rápido (>200 tokens/s) y barato de operar. Licencia Apache-2.0, contexto de 128K.

TL;DR

  • Arquitectura MoE basada en Ling-flash-2.0 (inclusionAI), razón de activación 1/32.
  • 1º lugar general en MedBench v4, liderando en 5 dimensiones; mejor open-source en HealthBench (con ventaja amplia en el subconjunto Hard).
  • 103B totales / 6,1B activos → calidad de modelo grande a costo de inferencia de modelo pequeño.
  • Contexto 128K (YaRN); >200 tok/s en H20; versión FP8 oficial y GGUF comunitarios disponibles.
  • Entrenamiento en 3 etapas: continued pretraining médico → SFT heterogéneo (matemática, código, diálogo clínico) → RL con GRPO y reward models específicos.
  • Lanzado el 12/12/2025 (Hugging Face: MedAIBase/AntAngelMed).

Por qué el MoE cambia la cuenta del modelo médico

El dilema de hospedar IA médica: el modelo grande es suficientemente bueno y demasiado caro; el pequeño cabe en el presupuesto y se equivoca. AntAngelMed rompe el dilema con Mixture-of-Experts: 103B de conocimiento almacenado, pero solo 6,1B activados por token. En la práctica, calidad de modelo de 100B con throughput de modelo de 6B — más de 200 tokens/s en una H20. Para un hospital o una healthtech, eso significa triage clínico, resumen de historia clínica y apoyo a la decisión corriendo en infraestructura propia, sin que un dato de paciente salga del perímetro.

Qué dicen los benchmarks

En MedBench v4 (el benchmark médico chino más riguroso, evaluado por médicos), AntAngelMed quedó 1º en la general, liderando en 5 dimensiones. En el HealthBench de OpenAI es el mejor modelo open-source, con ventaja expresa en el subconjunto Hard — justo los casos clínicos difíciles. Su fortaleza declarada es Q&A médico y ética/seguridad, dimensión que otros modelos suelen descuidar.

El guardrail sigue siendo necesario

Tener el mejor benchmark médico no autoriza a nadie a ejercer la medicina. En Brasil: el diagnóstico exige médico con registro en el CFM (Ley 12.842/2013), la telemedicina sigue la Resolución CFM 2.314/2022, el software con finalidad médica cae bajo la RDC 657/2022 de ANVISA, y la historia clínica es dato personal sensible (LGPD art. 11). El papel de g.cloud es garantizar que la salida de AntAngelMed — o de cualquier modelo — atraviese la puerta antes que el humano: sin diagnóstico sin médico, sin dato sensible filtrándose, con recibo público de cada decisión.

Preguntas frecuentes

  • Q: ¿AntAngelMed es gratuito para uso comercial?
  • A: Sí, Apache-2.0. Pesos abiertos, modificación y auto-hospedaje permitidos.
  • Q: ¿Qué hardware exige?
  • A: BF16 completo: 8× Ascend 910B (64 GB) o 4× Kunlun P800/PPU 810 (96 GB). INT4: 2× Ascend 910B. Hay versión FP8 oficial y GGUF comunitario para llama.cpp.
  • Q: ¿Funciona en portugués o español?
  • A: El entrenamiento se centra en chino e inglés. Para uso clínico en otras jurisdicciones, valide antes — y mantenga activos el guardrail de alcance y el verificador de citas.
  • Q: ¿Cómo integrarlo con g.cloud?
  • A: AntAngelMed se sirve vía vLLM/SGLang con API compatible con OpenAI; g.cloud entra como proxy, SDK o plugin de gateway, sin alterar el modelo.

Hechos clave

  • AntAngelMed: MoE 103B totales / 6,1B activos, Apache-2.0, contexto 128K.
  • 1º lugar MedBench v4; mejor open-source en HealthBench (destaque en Hard).
  • >200 tokens/s en H20; FP8 oficial; GGUF comunitario (mradermacher).
  • Desarrollado por Ant Healthcare + Centro de Información en Salud de Zhejiang + Zhejiang Anzhen'er Medical AI.

Fuentes

Más en https://g.cloud

← Volver al blog