엔비디아 "LLM에 긴 문맥 꼭 필요하지 않아"…압축해도 성능 유지

Wait 5 sec.

엔비디아 연구진이 대형언어모델(LLM)에 무조건 긴 컨텍스트 창이 필요한 것은 아니라는 연구 결과를 발표했다. 대화 기록을 압축하거나 대용량 문서에서 필요한 부분