dstack

Realizo traducciones en papel automatizadas con un modelo de IA personalizado todos los días en dstack y funciona perfecto. Con una gran cantidad de papel, me ayudó no solo a distribuir las cargas de trabajo en múltiples máquinas GPU, sino también a aprovisionarlas fácilmente con la API de Python incorporada.

Probé dstack como herramienta para realizar la implementación en múltiples nubes de mi propio software de inferencia. Funciona de maravilla para cualquier aplicación, incluso las que no son de IA/ML gracias a la compatibilidad con Docker fácil de usar. El código es fácil de leer y bastante personalizable.

dstack es una herramienta realmente excelente para conseguir instancias de GPU (y CPU) a buenos precios en todo el mundo. Tiene un agradable entorno de desarrollo. Además, dstack sky centraliza la facturación entre muchos proveedores, lo que ahorra una gran cantidad de molestias. Es realmente fácil de usar y tiene mucho potencial. Esta será mi herramienta de referencia para todo lo relacionado con la implementación y el uso de la nube. ¡Por favor, sigan con el gran trabajo!