API · Baseten · Global · IA · Infraestructura · Kimi
Baseten habilita Kimi K3 en su API con visión y contexto de un millón de tokens
El proveedor describe el trabajo de inferencia necesario para ofrecer el modelo de Moonshot desde el primer día de su nueva distribución.
Fecha de la fuente original:
Lo esencial
- Baseten identifica explícitamente la disponibilidad de su API el 27 de julio de 2026.
Nueva opción de inferencia gestionada
Baseten anunció acceso a Kimi K3 mediante Model APIs con entrada de imágenes y la ventana completa de un millón de tokens. La compañía trabajó con Moonshot, vLLM y SGLang antes del despliegue para implementar la arquitectura y comprobar el funcionamiento de herramientas y respuestas estructuradas.
Infraestructura y compatibilidad
Su configuración utiliza ocho GPU NVIDIA GB300 por instancia y conserva los pesos MXFP4 y activaciones MXFP8 del modelo. Baseten también describe un enrutamiento que reutiliza la caché de prefijos entre solicitudes. La novedad es esta vía adicional de acceso gestionado; Kimi K3 ya estaba disponible en los servicios propios de Moonshot desde el 16 de julio.