Lost in Stories: Consistency Bugs in Long Story Generation by LLMs

← 📚 이번 주 Weekly Digest로 돌아가기

DD-044 Lost in Stories: Consistency Bugs in Long Story Generation by LLMs

arXiv: 2603.05890 Upvotes: 81 | Comments: 4 순위: 이번 주 Top 4

---

왜 이 논문이 중요한가?

최근 대규모 언어 모델(LLM)이 소설과 같은 아주 긴 텍스트를 쓸 수 있게 되었지만, 모델이 앞서 쓴 내용을 잊어버리고 설정을 뒤집는 ‘일관성 오류’가 심각한 문제로 대두되었습니다. 기존의 평가 방식들은 주로 문장이 매끄러운지(유창성)나 줄거리가 재미있는지에만 집중하여, 긴 글을 쓸 때 발생하는 모순을 체계적으로 측정하지 못했습니다. 이 논문은 긴 서사 생성에서의 일관성을 평가하는 새로운 벤치마크(ConStory-Bench)와 이를 자동으로 검증하는 도구(ConStory-Checker)를 제시하여, LLM이 장기적인 기억과 논리를 얼마나 잘 유지하는지 정량적으로 평가할 수 있는 길을 열었습니다.

---

핵심 아이디어 쉽게 이해하기

일상생활 비유: 기억력 나쁜 소설가

이 논문의 문제 의식은 ‘기억력이 나쁜 소설가’를 생각하면 쉽습니다. 한 작가가 소설을 쓰는데, 1장에서는 주인공이 눈이 파란 남자라고 설정했는데, 10장에 가서는 갑자기 눈이 갈색인 여자라고 묘사하거나, 죽은 인물이 다시 살아나는 등 설정을 엉망으로 만드는 상황과 같습니다. 독자 입장에서는 이런 모순 때문에 이야기에 몰입할 수 없죠. 기존 평가는 문장이 예쁘게 쓰여 있는지만 확인했다면, 이 논문은 “야, 너 방금 쓴 거랑 앞에 쓴 거랑 맞지 않는데?”라고 따지는 비평가를 로봇으로 만든 것입니다.

단계별 동작 원리

이 시스템은 크게 두 가지 부분으로 나뉩니다. 먼저 ConStory-Bench는 모델에게 긴 이야기를 쓰라고 시키는 2,000개의 시험지 역할을 합니다. 모델이 이야기를 쓰면, ConStory-Checker라는 검증기가 텍스트를 꼼꼼히 읽으면서 모순을 찾아냅니다. 단순히 “틀렸다”고 말하는 것이 아니라, “1장 3줄에서는 A라고 했는데 5장 2줄에서는 B라고 했으므로 모순이다”라는 식으로 정확한 문장 단위의 증거(Quotation)를 대면서 판단 근거를 제시합니다. 이를 통해 사람이 직접 긴 글을 다 읽지 않아도도 어디서 오류가 났는지 즉시 알 수 있습니다.

핵심 알고리즘: 일관성 오류 밀도(CED)

긴 이야기를 쓰는 모델을 공정하게 평가하기 위해 연구진은 Consistency Error Density(CED)라는 지표를 제안했습니다. 단순히 오류 개수만 세면 길게 쓴 모델이 불리할 수 있기 때문입니다. 이는 수식으로 표현하면 모델 m이 쓴 이야기 i에서 발생한 총 오류 수(e)를 이야기의 전체 길이(w)로 나눈 뒤, 10,000 단어당 오류율로 환산한 값입니다. 즉, 이야기가 길어질수록 실수할 확률이 높다는 점을 고려하여, 단어 수 대비 얼마나 촘촘하게 오류가 나오는지를 측정하는 것입니다.

---

실험 결과 분석

이 연구는 ConStory-Bench의 2,000개 프롬프트를 사용하여 상용 모델(예: GPT, Claude 등), 오픈 소스 모델(예: Qwen, DeepSeek 등), 그리고 스토리 생성에 특화된 모델과 에이전트 시스템까지 총 4가지 유형의 시스템을 평가했습니다.

분석 결과, 모든 모델에서 일관성 오류가 명확한 경향성을 보였습니다. 첫째, 이야기가 길어질수록(길이가 증가할수록) 모델이 초기 설정을 잊어버리는 빈도가 높아졌습니다. 둘째, 오류 유형 중에서는 ‘타임라인 및 줄거리 논리’ 오류와 ‘캐릭터 설정’ 오류가 가장 빈번하게 발생했습니다. 셋째, 단순히 모델의 성능이 좋다고 해서 긴 서사의 일관성까지 완벽히 보장되지는 않는다는 점을 확인했습니다. 즉, 최신 모델일지라도 긴 호흡의 이야기를 쓸 때는 여전히 앞뒤가 안 맞는 실수를 하며, 이를 보완하기 위한 추가적인 기술이 필요함을 수치로 증명했습니다.

---

한계점과 향후 연구 방향

저자들은 LLM을 판사(Judge)로 사용하여 자동화된 평가 파이프라인을 구축했지만, 판사 모델 자체가 가진 편향성이나 미묘한 문맥을 놓칠 수 있는 한계를 인정하고 있습니다. 또한, 현재의 벤치마크는 주로 텍스트 내의 명시적인 모순에 집중하고 있어, 암묵적인 분위기나 심리적 일관성까지 평가하기에는 어렵습니다.

향후 연구에서는 이러한 자동화된 검증기를 통해 발견된 오류 데이터를 활용해 모델을 재학습시키거나, 모델이 긴 텍스트를 생성할 때 중간 중간 설정을 확인하고 수정해주는 능동적인 피드백 메커니즘을 개발하는 방향으로 나아갈 것입니다. 나아가 단순히 오류를 잡는 것을 넘어, 오류가 나올 가능성이 높은 지점을 미리 예측하여 방지하는 기술도 기대됩니다.

---

실무 적용 가능성

이 연구는 AI를 활용한 콘텐츠 제작 현장에 즉시 적용될 수 있습니다. 웹소설이나 시나리오 작성 도우미, 혹은 롤플레잉 게임(RPG)의 자동 퀘스트 생성 시스템 등에서 이 ConStory-Checker를 필터링 단계로 두면, LLM이 생성한 긴 글에 설정 충돌이 있는지 자동으로 검사하여 품질을 높일 수 있습니다.

필요한 리소스 측면에서는 검증을 위한 별도의 강력한 LLM(예: GPT-4o급)이 필요하므로 API 호출 비용이 발생하며, 생성된 텍스트를 전부 다시 검증해야 하므로 처리 시간(Latency)이 다소 소요될 수 있습니다. 하지만 방대한 분량의 텍스트를 검수하는 인력 비용을 고려하면 매우 효율적인 솔루션이 될 수 있습니다.

---

이 논문을 이해하기 위한 사전 지식

• Large Language Models (LLM): 대량의 텍스트 데이터로 학습하여 사람처럼 텍스트를 이해하고 생성하는 인공지능 모델입니다.
• Context Window (컨텍스트 윈도우): 모델이 한 번에 처리할 수 있는 최대 텍스트 길이로, 길수록 긴 이야기를 더 잘 기억할 수 있습니다.
• Hallucination (할루시네이션): AI가 사실이 아닌 내용을 마치 진실인 것처럼 그럴싸하게 생성하는 현상입니다.
• LLM-as-a-judge (LLM 판사): 다른 AI의 출력 결과를 평가하기 위해 LLM을 평가자로 활용하는 기법입니다.
• Fine-tuning (파인튜닝): 이미 학습된 거대 모델을 특정 작업이나 데이터에 맞춰 추가로 미세 조정하는 과정입니다.
• Retrieval-Augmented Generation (RAG): 외부 데이터베이스에서 정보를 찾아와 답변을 생성할 때 활용하여 사실 기반의 답변을 돕는 기술입니다.
• Consistency (일관성): 텍스트 전체에 걸쳐 등장인물의 성격, 사건의 시기, 세계관 설정 등이 서로 모순되지 않고 유지되는 성질입니다.

---

📚 이번 주 관련 Deep Dive

순위	논문	Deep Dive
🥇	Geometry-Guided Reinforcement Learn…	DD-041
🥈	Penguin-VL: Exploring the Efficienc…	DD-042
🥉	OpenClaw-RL: Train Any Agent Simply…	DD-043
4.	Lost in Stories: Consistency Bugs i…	📍 현재 문서
5.	Holi-Spatial: Evolving Video Stream…	DD-045

---

📅 생성일: 2026-03-15 | 🤖 GLM-4.7 Deep Dive