Qwen3.8-27B läuft auf iPhone 18 Neural Engine mit 15-70 Tok/s
Eine Demonstration zeigt das Modell Qwen3.8-27B auf einer iPhone 18 Neural Engine mit 15 bis 70 Token pro Sekunde bei einer Quantisierung von 1,5 bpw.
Eine Demonstration zeigt das Modell Qwen3.8-27B auf einer iPhone 18 Neural Engine mit 15 bis 70 Token pro Sekunde bei einer Quantisierung von 1,5 bpw.