QRAE: Abfrage-relevante Aufmerksamkeits-Entropie zur Kontextkompression
Forscher schlagen QRAE vor, eine Online-Kontextkompressionsmethode für LLM-Agenten zur Reduzierung von Token-Verbrauch und Latenz.
Forscher schlagen QRAE vor, eine Online-Kontextkompressionsmethode für LLM-Agenten zur Reduzierung von Token-Verbrauch und Latenz.