AI

Dynamic Memory KV Cache新着!!

AI制御型動的KV CacheによるLLM短期記憶の再設計 1. 研究背景 現在の大規模言語モデル（LLM）は、過去の入力情報を主としてコンテキストとKV Cacheによって保持し、それらをAttentionによって参照 […]