EOST2021 Phrase Retrieval Learns Passage Retireval, Too
오픈 도메인 질의응답(Open-domain QA)은 위키피디아와 같은 거대한 지식 베이스에서 질문에 대한 정답을 찾아내는 기술입니다. 기존의 방식은 문서를 먼저 찾고 이를 다시 읽어 정답을 추출하는 리트리버-리더(Retriever-Reader) 구조를 주로 사용해 왔습니다. 그러나 이 방식은 질문이 바뀔 때마다 많은 문서를 다시 읽어야 하므로 연산 속도가 느리다는 단점이 있습니다. 이를 해결하기 위해 등장한 구 단위 검색(Phrase Retrieval) 기술은 문서 내의 연속적인 단어 집합인 구를 미리 벡터화하여 저장함으로써, 별도의 읽기 과정 없이 즉시 정답을 찾아내는 비약적인 속도 향상을 이루어냈습니다. 구 단위 검색(Phrase Retrieval) 기술의 핵심적인 매력은 하나의 인덱스를 활용해 다양한 단위의 검색이 가능하다는 점에 있습니다. 기존의 텍스트 검색 모델들은 문장이나 단락 등 특정 단위에 맞춰 개별적인 인덱스를 구축해야 했습니다. 반면, 구 단위 검색(Phrase Retrieval) 시스템은 질문의 의도에 따라 정답이 되는 특정 구를 직접 찾을 수도 있고, 해당 구가 포함된 문장이나 단락, 심지어 전체 문서까지 유연하게 불러올 수 있습니다. 이는 구 단위 검색(Phrase Retrieval)이 문장이나 단락 단위 검색(Passage Retrieval)보다 더 미세한 정보를 담고 있기 때문입니다. 결과적으로 구 단위 검색(Phrase Retrieval) 인덱스 하나만으로 정밀한 정답 추출부터 포괄적인 문맥 파악까지 아우르는 다목적 검색 시스템을 구현할 수 있습니다. 구 단위 검색(Phrase Retrieval) 모델인 DensePhrases는 기존의 대표적인 단락 단위 검색(Passage Retrieval) 모델인 DPR과 비교했을 때 흥미로운 성능 차이를 보입니다. 실험 결과에 따르면, DensePhrases는 특히 소수의 단락만을 검색할 때 DPR보다 훨씬 뛰어난 정확도를 나타냈습니다. 이는 검색 단위를 구로 설정하여 학습한 모델이 단락 단위의 검색에서도 충분히 경쟁력이 있음을 시사합니다. 또한, 많은 단락을 입력으로 사용하는 생성 기반 모델인 FiD와 결합했을 때도 효율성이 돋보였습니다. DensePhrases를 활용하면 기존보다 훨씬 적은 수의 단락만으로도 높은 수준의 정답 생성 성능을 유지할 수 있어, 대규모 언어 모델의 연산 부담을 획기적으로 줄이는 데 기여합니다. 연구팀은 모델이 왜 뛰어난 성능을 보이는지 분석하기 위해 주제 구분(L_topic)과 정답 정렬(L_hard) 능력을 나누어 평가했습니다. 분석 결과, DensePhrases는 주제가 유사하지만 정답이 없는 까다로운 사례를 구별하는 'L_hard' 지표에서 압도적인 우위를 점했습니다. 이는 모델이 단락 내의 미세한 정보를 파악하도록 훈련되었기 때문에, 단순한 문맥 유사성을 넘어 정답과의 실제 정렬 상태를 더 예민하게 포착할 수 있음을 뜻합니다. 이러한 강점 덕분에 비록 주제가 조금 멀어 보이더라도 질문에 대한 직접적인 단서를 포함한 단락을 더 정확하게 찾아낼 수 있으며, 이는 전반적인 검색 품질의 향상으로 이어집니다. 방대한 양의 구 정보를 저장하기 위해서는 효율적인 인덱스 관리 기술이 필수적입니다. 수억 개에 달하는 구 표현 벡터는 수 테라바이트에 달하는 저장 공간을 차지할 수 있기 때문입니다. 이를 해결하기 위해 연구진은 중요도가 낮은 구를 걸러내는 필터링 기술(Phrase Filter)과 벡터 압축 기술인 양자화(PQ) 기법을 도입했습니다. 특히 양자화(PQ) 과정을 고려한 파인튜닝 방식을 통해 검색 정확도 손실을 최소화하면서도 인덱스 크기를 수십 기가바이트 수준으로 대폭 줄이는 데 성공했습니다. 결과적으로 DensePhrases는 기존 단락 단위 검색(Passage Retrieval) 모델보다 더 작은 저장 공간을 사용하면서도 더 높은 정확도를 제공하는, 경제성과 성능을 동시에 잡은 최적의 솔루션이 되었습니다.
