llm-d 1.0: Linux Foundation e IBM Levam Inferência Distribuída ao Kubernetes com Zero-Downtime
DEV Community
llm-d 1.0: Linux Foundation e IBM Levam Inferência Distribuída ao Kubernetes com Zero-Downtime
A Linux Foundation e a IBM Research lançam o llm-d 1.0, padrão aberto para orquestrar inferência em clusters Kubernetes, com controle de equidade e atualizações sem interrupção.
0 comments
No comments yet.