Una RTX 4090 haciendo de superordenador, menuda cantera
Lo de mover un modelo de 125B en una 4090 a 100T/s suena a magia de bar, pero aquí hay ingeniería fina detrás, no humo de gurú con sudadera. Si esto aguanta fuera de la demo, los centros de datos van a mirar la factura de la luz como el defensa al delantero solo. Eso sí: las cifras espectaculares siempre vienen con letra pequeña, fijo.
Encontrado en Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s
1/20 comentarios
Abierto