Das Token-Energie-Gesetz des LLM-Decodierens
Das Token-Energie-Gesetz setzt den Energieverbrauch von GPU-Karten pro Ausgabetoken mit aktiven Bytes und der Decodierzeit in Beziehung.
Das Token-Energie-Gesetz setzt den Energieverbrauch von GPU-Karten pro Ausgabetoken mit aktiven Bytes und der Decodierzeit in Beziehung.