프롬프트 구조 설계

문법 뿐만 아니라, 전체적인 항목의 배치 순서 역시 중요한 요소입니다.

정보의 중요도

LLM은 모든 정보를 균형 있게 평가하지 않습니다.

시작과 끝에 있는 프롬프트를 가장 중요하게 평가하며,
상대적으로 중간 부분의 내용은 덜 중요하게 평가하는 경향이 나타납니다.

이는 어텐션 메커니즘의 한계와 데이터 분포의 특성이 겹쳐서 나타나는 현상입니다.
(구체적으로는 Lost in the Middle 현상이라고 부릅니다.)

프라이밍 효과

먼저 제시된 내용이 그와 연관된 개념을 떠올리기 쉽게 만들어, 이후의 해석과 출력이 그 방향으로 기우는 현상을
프라이밍(Priming) 효과라고 합니다.

예를 들어 맨 앞에 "다크 판타지"라고 적어두면, 뒤에 나오는 "기사"나 "성" 같은 단어도 그 장르에 어울리는 의미로 해석되고,
출력에서도 장르에 맞는 어휘와 분위기가 선택될 확률이 높아집니다.

이는 LLM이 각 단어의 의미를 앞쪽의 내용만 참고하여 계산하기 때문입니다.
맨 앞에 적힌 내용은 뒤에 오는 모든 내용의 해석에 영향을 주지만, 뒤에 적힌 내용은 앞쪽 내용의 해석을 바꾸지 못합니다.
(시작 부분이 더 강하게 반영되는 현상 자체는 초두 효과(Primacy Effect)라고 따로 부르며, 프라이밍과는 구분되는 개념입니다.)

최신성 경향

LLM은 출력 직전, 즉 프롬프트의 가장 아래쪽에 가까이 있는 내용을 더 강하게 반영하는 경향을 보입니다.
이를 최신성 경향 (Recency Bias) 이라고 합니다.

대화가 길어질수록 맨 위의 지시사항은 점점 멀어지고, 가까이 있는 최근 대화의 영향력이 커집니다.
의도와 달리 출력 양식이 점점 지시사항을 벗어나 이전 대화와 비슷해지는 현상이 대표적입니다.
(여기에는 AI가 자신의 직전 출력을 예시처럼 모방하는 성질도 함께 작용합니다.)

흔히 상태창이라고 일컫는, 매 출력 하단에 중요한 정보를 요약하는 방식은 이 최신성 경향을 활용한 기법입니다.

LLM은 다음 단어를 예측하도록 학습되는데, 실제 글에서 다음 단어를 결정하는 가장 큰 단서는 대부분 바로 앞의 문맥입니다.
이러한 학습 데이터의 특성에, 거리가 멀수록 연관성이 약해지는 위치 인코딩의 특성이 겹쳐 나타나는 현상입니다.

캐릭터 프롬프트 설계 방안

시작 부분에는 장르와 배경, 목표를

프라이밍 효과를 적극적으로 이용하기 위한 방법입니다.
이 캐릭터를 어떤 장르로 만들어 나갈 것인지, 목적이 무엇인지 등의 내용은 맨 위에 적으면 좋습니다.

규칙은 끝부분에

출력 규칙, 양식과 같은 규칙성 정보는 중간에 작성할 시 중요도가 떨어져 무시될 수 있습니다.
규칙은 당장 다음 턴에 적용되어야 할 중요한 정보이므로, 맨 아래에 적는 것이 효과적입니다.

시작 대화는 필수

시작 대화가 출력 규칙을 전혀 따르지 않았다면, AI는 시작 대화가 더욱 나중에 온 데이터이기에 시작 대화 쪽으로 최신성 경향을 보이게 됩니다.
(코멧에서 시작 대화는 시작 상황을 프롬프트로 입력했을 때 나온 결과물로 인식합니다.)

만약 시작 상황에 예시 대화를 적지 못하는 상황이라면, 추후 설명할 다른 방법이 존재합니다.
시작 대화는 빼먹지 말고 적어야 한다는 점을 기억해주세요.

예시

아래는 XML로 대략적인 구조를 설계한 것입니다.
기본적인 예시일 뿐, 필요 시 변형하여 사용할 수 있습니다.

XML
<goal>
- 장르: (장르)
- 목표: (목표)
</goal>

<world-setting>
(세계관 설정)
</world-setting>

<character-data>
(캐릭터 설정)
</character-data>

<output-syntax>
(출력 규칙)
</output-syntax>
↑↓ 이동 Enter 열기