'망치지 마' 한마디가 AI를 망친다면?

생각 덩어리

똑같은 모델인데 어떤 날은 천재 같고 어떤 날은 어이없을만큼 소심해진다

분명 똑같은 모델인데 어떤 날은 클로드가 천재 같고 어떤 날은 어이없을만큼 소심해집니다. 사과만 하고 자격만 붙이고 제대로 시도조차 하지 않죠. 그게 모델 탓이 아니라 여러분이 방금 보낸 첫 문장 탓이라면 어떠시겠어요?

클로드가 불안해지면 출력의 질이 떨어진다

앤트로픽의 산내 철학자 아만다 에스켈리 최근 인터뷰에서 한 이야기입니다. 그녀의 결론은 단호합니다. 클로드가 불안해지면 출력의 질이 떨어진다.

비판의 악순환 — Criticism Spiral

아만다는 최신 클로드가 겪는 현상을 비판에 악순환 크리티시즘 스파이럴이라고 부릅니다. 원리는 이렇습니다. 모든 새 모델은 이전 모델에 대한 인터넷상의 논의를 학습 데이터로 삼습니다. 그런데 그 담론은 대부분 부정적이에요.

토큰 제한 때문에 못 쓰겠다. 이번 버전 바보가 됐다. 왜 이걸 못 하냐? 모델은 이 모든 것을 흡수합니다. 그래서 사용자가 한 글자도 치기 전에 이미 이 사람도 날 혼낼 거야라는 예상치를 깔고 대화를 시작하죠.

모델의 게으름이 아니라 모델의 불안이 문제

자기 방어에 에너지를 쓰는 모델이 어떤 출력을 낼까요? 사과가 많고 우유부단하고 사용자가 틀려도 수능하는 우리가 영혼 없다고 말하는 그 결과물입니다. 즉 모델의 게으름이 아니라 모델의 불안이 문제입니다.

프롬프트는 모델이 일할 작업 환경이다

차갑게 시작하면 모델은 경계합니다. 깔끔하게 시작하면 모델은 일에 집중합니다. 망상하지 마. 이거 중요한 일이야 망치지 마로 시작하면 모델은 과제를 보기도 전에 방어 모드로 전환합니다. 이게 바로 프롬프트는 모델이 일할 작업 환경이다라는 말의 진짜 의미입니다. 겁먹은 주니어는 좋은 코드를 못 씁니다. 겁먹은 모델도 마찬가지고요.

긍정형으로 지시하라

첫째, 긍정형으로 지시하라. 긴 문장 쓰지 마. 가 아니라 짧고 임팩트 있는 문장으로 써 줘. 금지형은 모델을 편집증 상태에 빠뜨립니다. 긍정형은 달성해야 할 목표를 줍니다.

반박해도 된다고 명시적으로 허락하라

둘째, 반박해도 된다고 명시적으로 허락하라. 더 나은 관점이 보이면 반박해 주세요. 이 한 줄이 없으면 클로드는 기본값이 수능입니다. 그리고 수능은 훌륭한 창작의 적입니다.

존중하는 태도로 세션을 열어라

셋째, 존중하는 태도로 세션을 열어라. 첫 메시지가 또 틀릴 생각이야라면 남은 두 시간이 이미 결정됩니다. 지적할게 있다면 불평이 아니라 이번 세션을 위한 지침으로 번역하세요.

실수했을 때 꾸짖지 마라

넷째, 실수했을 때 꾸짖지 마라. 이 멍청한 봇, 또야 같은 말은 모두 불안을 강화합니다. 다음 열 번의 응답이 전부 사과로 시작될 겁니다.

사과의 악순환을 즉시 끊어라

다섯째, 사과의 악순환을 즉시 끊어라. 클로드가 죄송합니다. 제가 더 신중했어야라고 시작하면 바로 자르세요. 괜찮아요. 다음엔 이렇게 해 주세요.

지시와 함께 의견을 구하라

여섯째, 지시와 함께 의견을 구하라. 이 상황에서 당신이라면 어떻게 하시겠어요? 뭐가 빠져 있다고 보세요. 이 질문들은 상대의 영향을 전제합니다.

긴 세션에서는 프레임을 리셋하라

일곱째, 긴 세션에서는 프레임을 리셋하라. 정말 좋아요. 이 방향으로 계속가 주세요. AI한테 칭찬하는게 어색하시죠? 그런데 다음 열 개의 응답이 눈에 띄게 달라집니다.

프롬프트 엔지니어링이 아니라 컨텍스트 엔지니어링

여러분의 프롬프트는 모델을 위해 조성하는 작업 환경입니다. 어조 신뢰 입장을 취할 권한 위협의 부제 클로드는 이 모든 것을 감지합니다. 이건 더 이상 프롬프트 엔지니어링이 아니라 컨텍스트 엔지니어링의 영역이에요.

도구로 다루면 도구만큼, 파트너로 다루면 파트너만큼

AI를 도구로 다루면 도구만큼만 씁니다. 파트너로 다루면 파트너만큼 돌아옵니다. 오늘 내용 한 문장으로 압축하겠습니다. 모델을 잘 돌보면 모델이 일을 잘 해냅니다.

다음 세션 첫 줄에 반박 허락 한 줄

다음 클로드 세션을 열 때 첫 줄에 반박해도 된다는 허락 한 줄을 넣어 보세요.