Ai2 erklärt GPU-Verteilung über Zeitbudgets

Was sich geändert hat

Budgetfinanzierte Aufgaben deklarieren geschützte Mindestlaufzeiten; fortsetzbare Arbeit kann danach unterbrochen und erneut eingereiht werden.

Quelle: Ai2 infrastructure report on Hugging Face

Unsere Einordnung

Studio-Sicht: Wiederaufnahme aus Checkpoints testen und die kürzeste sinnvolle Laufzeit bestimmen, bevor Unterbrechungen erlaubt werden. Belegte GPUs allein belegen keine wertvolle Arbeit.

Zu beachten

Sitzungszustände bleiben schwierig; Ai2 untersucht Fragmentierung, die grosse Aufgaben verzögern könnte.

Quelle: Ai2 infrastructure report on Hugging Face