DCKV: Erlernte Transformationscodierung des Prompt-KV-Cache
Es wird DCKV vorgestellt, ein trainierbarer Codec für den Key-Value-Cache in hybriden Sprachmodellen.
Es wird DCKV vorgestellt, ein trainierbarer Codec für den Key-Value-Cache in hybriden Sprachmodellen.