Deepseek abre el código fuente del motor de inferencia que impulsa su modelo de IA más rápido y económico
decoder ·
Deepseek ha liberado como código abierto DeepInfer, su marco de inferencia interno que impulsa el modelo V4.1-Flash, bajo la Licencia Apache 2.0. Este software de servicio permite que la IA genere respuestas rápidamente y a gran escala al basarse en vLLM con núcleos de cómputo optimizados y procesamiento distribuido. El lanzamiento también incluye deepseek-recipe, que replica el procesamiento de tokens para garantizar que las configuraciones autoalojadas se comporten idénticamente a la API oficial. Al proporcionar estas herramientas de forma gratuita, Deepseek busca ayudar a la comunidad a reducir los costos de cómputo y el consumo de energía. Esta medida reduce significativamente el gasto de ejecutar sus modelos ya asequibles, llenando un vacío en la eficiencia de costos. En consecuencia, este desarrollo ejerce presión sobre los precios de competidores occidentales como OpenAI y Anthropic. Dada la rivalidad tecnológica en curso entre China y Estados Unidos, el lanzamiento también podría tener motivaciones políticas destinadas a impactar los objetivos de crecimiento económico occidental.
decoder