dstack

Ich führe jeden Tag automatisierte Papierübersetzungen mit einem benutzerdefinierten KI-Modell auf dstack durch und es funktioniert perfekt. Mit viel Papier hat es mir nicht nur geholfen, die Arbeitslasten auf mehrere GPU-Maschinen zu verteilen, sondern sie auch einfach mit der integrierten Python-API bereitzustellen.

Ich habe dstack als Tool für die Multi-Cloud-Bereitstellung meiner eigenen Inferenzsoftware getestet. Funktioniert dank der benutzerfreundlichen Docker-Unterstützung hervorragend für jede App, auch für Apps ohne KI/ML. Der Code ist einfach zu lesen und ziemlich anpassbar.

dstack ist ein wirklich großartiges Tool, um GPU- (und CPU-)Instanzen weltweit zu guten Preisen zu bekommen. Es hat eine schöne Entwicklungsumgebung. Darüber hinaus zentralisiert dstack sky die Abrechnung über viele Anbieter hinweg – was eine Menge Aufwand erspart. Es ist wirklich einfach zu bedienen und hat viel Potenzial. Dies wird mein bevorzugtes Tool für alles sein, was mit der Cloud-Bereitstellung und -Nutzung zu tun hat. Bitte machen Sie weiter so!