≈ the.bay.news

Auditar un modelo de 180B sin descargarlo: leer cabeceras safetensors por HTTP Range con Python

DEV Community
Auditar un modelo de 180B sin descargarlo: leer cabeceras safetensors por HTTP Range con Python
Lee 131 cabeceras safetensors por HTTP Range (224 KiB, no 360 GB), cuenta parámetros por tipo y calcula si un MoE de 180B cabe en tu GPU.

0 comments

Sign in to join the discussion — your thebay.events account works here.

No comments yet.