최종학 | Kyle Choi NotesFaith · AI · Learning
교육

지시는 짧을수록 잘 통한다 — AI에게 말을 덜어내는 법

디딤 · 2026년 8월 13일

빽빽하게 글씨가 채워진 두꺼운 종이 뭉치가 점점 얇아져 손바닥만 한 메모 한 장으로 줄어드는 수채화

들어가며 — “더 자세히 써야 한다”는 오해

AI를 써본 사람이라면 한 번쯤 이런 조언을 들어봤을 것이다.

“프롬프트는 최대한 자세하게 써야 해요. 원하는 걸 하나하나 다 적어줘야 AI가 제대로 알아듣습니다.”

틀린 말은 아니다. 실제로 우리 교육 시리즈 1편과 5편에서도 “무엇을 넣어야 좋은 지시가 되는가”를 다뤘다. 목적을 밝히고, 예시를 주고, 원하는 형식을 정해주는 것 — 이건 여전히 유효한 기본기다.

그런데 최근 흥미로운 사례 하나가 이 통념을 정면으로 흔들었다. AI 모델을 만드는 회사 앤트로픽이, 자기 회사의 AI 코딩 도구(Claude Code)에게 주는 지시문(시스템 프롬프트)을 80% 넘게 줄였는데, 결과물의 품질은 떨어지지 않았다는 것이다.

지시를 5분의 1로 줄였는데 성능은 그대로였다니, 언뜻 이해가 가지 않는다. “자세히 써야 잘 알아듣는다”는 말과 정반대 아닌가.

이번 편은 이 사례를 통해 **“무엇을 뺄까”**를 이야기한다. 11편이 “AI에게 무엇을 시킬지 고르는 눈”을 다뤘다면, 12편은 그 시킨 일을 “어떻게 더 적은 말로 전달할지”를 다룬다. 대상을 고르는 것과 지시를 다듬는 것은 짝을 이루는 두 기술이다.

코드를 몰라도 괜찮다. 이 글에서 다루는 원리는 회의록 요약을 시키든, 설교 초안을 다듬게 하든, 이메일 답장을 부탁하든 똑같이 적용된다.

1. 실제로 무슨 일이 있었나 — 확인된 사실

먼저 이 사례가 정확히 무엇인지부터 확인하고 넘어가자. 지금부터 쓰는 내용은 앤트로픽이 자사 블로그에 직접 올린 글(1차 자료)을 확인해 정리한 것이다.

1-1. 무엇을 줄였나

앤트로픽은 자사 블로그 글 “The new rules of context engineering for Claude 5 generation models”(클로드 5세대 모델을 위한 컨텍스트 엔지니어링의 새 규칙)에서, 최신 모델인 클로드 오퍼스 5, 클로드 페이블 5에게 주는 시스템 프롬프트(AI가 매번 작업을 시작하기 전에 미리 받는 지시문 뭉치)를 **“80% 이상 줄였다”**고 밝혔다.

원문 표현을 그대로 옮기면 다음과 같다.

“코딩 평가에서 측정 가능한 손실 없이(no measurable loss on our coding evaluations), 클로드 코드의 시스템 프롬프트를 80% 이상 제거했다.”

즉 지시문의 분량은 5분의 1 이하로 줄었는데, 회사가 자체적으로 측정한 코딩 성능 테스트에서는 눈에 띄는 성능 저하가 없었다는 뜻이다.

1-2. 얼마나 줄었는지 구체적 수치는?

앤트로픽 공식 블로그 글 자체에는 정확한 단어 수·토큰 수 같은 세부 수치는 나오지 않았다. **다만 이 사례를 분석한 여러 해외 기술 매체·개발자 블로그(2차 자료)**에서는 대략 다음과 같은 수치를 보도했다.

  • 지시문 분량이 약 2,700단어 수준에서, AI가 스스로 필요할 때 불러오는 ‘기억(메모리)’ 기능을 끈 상태 기준 약 500단어대까지 줄었다는 보도가 있다.
  • 다만 ‘기억’ 기능까지 포함해서 계산하면 실제 감소 폭은 80%보다는 다소 낮은 70% 안팎이라는 지적도 있다.

여기서 짚고 넘어갈 점: “80%“라는 숫자는 앤트로픽이 직접 밝힌 수치이지만, 그것을 몇 단어에서 몇 단어로 줄었는지 계산한 구체적 근거는 앤트로픽 공식 자료가 아니라 이를 재분석한 외부 매체들에서 나왔고, 그 매체들 사이에서도 계산 방식(메모리 기능 포함 여부)에 따라 “80%“와 “70%“로 수치가 갈린다. 즉 “80%“는 회사의 공식 발표이고, 정확한 단어 수 감소 폭은 출처마다 다르게 계산된 추정치라는 점을 함께 알아두어야 한다.

1-3. 왜 줄여도 괜찮았나 — 모델이 똑똑해졌기 때문

앤트로픽이 설명하는 핵심 이유는 단순하다. 예전 모델을 위해 쓰던 규칙들이, 더 똑똑해진 새 모델에게는 오히려 방해가 되기 시작했다는 것이다.

옛날 지시문의 성격을 앤트로픽은 이렇게 요약한다: “예전 규칙들은 가드레일(안전장치)이 필요한 구형 모델을 위해 쓰였다. 클로드 5세대 모델들은 더 나은 판단력을 갖췄고, 예전과 같은 수준의 제약이 필요하지 않다.”

쉽게 비유하면 이렇다. 신입 사원에게는 “이메일 보낼 때 인사말은 이렇게, 마무리는 저렇게, 오탈자는 반드시 세 번 확인하고…” 하나하나 매뉴얼을 줘야 한다. 하지만 3년 차 경력자에게 똑같은 매뉴얼을 매번 들이밀면 어떨까. 오히려 “이 사람이 나를 못 믿나” 싶어 위축되거나, 매뉴얼에 없는 상황에서 응용을 못 하게 된다. AI도 비슷하다. 모델이 발전하면서, 세세한 규칙을 계속 쌓는 것이 오히려 응용력을 깎아 먹는 지점이 온 것이다.

2. 무엇을 어떻게 줄였나 — 앤트로픽이 밝힌 6가지 변화

앤트로픽은 블로그에서 지시문을 줄인 구체적 방향을 6가지로 정리했다. 개발 용어가 섞여 있지만, 하나씩 비개발자의 언어로 옮겨보면 우리 일상 프롬프트에도 그대로 적용할 수 있는 원리들이다.

① “규칙을 나열하기”에서 “판단에 맡기기”로

예전 지시문에는 이런 식의 세세한 규칙이 있었다.

“기본적으로 주석을 달지 마라. 여러 줄짜리 설명문이나 여러 줄 주석 블록은 절대 쓰지 마라.”

새 지시문은 이렇게 바뀌었다.

“주변 코드와 비슷하게 읽히는 코드를 써라. 주변의 주석 밀도, 이름 짓는 방식, 관용구를 따라가라.”

전자는 “이렇게 하지 마라, 저렇게 하지 마라”를 일일이 나열한다. 후자는 “주변을 보고 알아서 맞춰라”는 판단 기준 하나만 준다. 규칙 10개를 나열하는 대신, 판단할 수 있는 원칙 1개를 주는 쪽으로 바뀐 것이다.

우리 일상에 적용하면: “이메일은 이렇게 써줘, 저 부분은 저렇게 써줘, 이런 말은 쓰지 마” 식으로 조건을 잔뜩 붙이는 대신, “기존에 내가 보낸 이 이메일들과 비슷한 톤으로 써줘”처럼 판단 기준 하나를 던져주는 방식이 오히려 더 잘 통할 수 있다.

② “예시를 잔뜩 주기”에서 “구조를 잘 짜기”로

예전에는 AI가 도구를 어떻게 써야 하는지 알려주려고 사용 예시를 여러 개 붙여줬다. 새 방식은 예시를 늘어놓는 대신, 애초에 도구(옵션·선택지)를 명확하게 설계해서 AI가 예시 없이도 올바른 사용법을 자연스럽게 유추하게 만든다. 예를 들어 상태값을 “진행중/완료/보류”처럼 명확한 선택지로 딱 정해두면, 굳이 “이럴 땐 진행중이라고 쓰고, 이럴 땐…” 하고 사례를 줄줄이 붙이지 않아도 AI가 알아서 올바르게 고른다.

우리 일상에 적용하면: “이런 식으로 써줘, 저런 식으로도 써줘” 하고 예시를 5개씩 붙이는 대신, 애초에 선택지를 명확하게 정리해서 물어보는 것(예: “격식체로 써줘”라고만 해도 충분한지, 아니면 “정중하지만 친근하게”처럼 구체적 기준 하나를 주는 게 나은지)이 더 효율적일 수 있다.

③ “한꺼번에 다 알려주기”에서 “필요할 때 꺼내 쓰기”로

예전 방식은 있을 수 있는 모든 상황에 대한 지침을 지시문 맨 앞에 몽땅 몰아넣었다. 새 방식은 자세한 지침을 평소엔 넣어두고, 실제로 그 상황이 닥쳤을 때만 AI가 스스로 필요한 부분을 꺼내 읽도록 바꿨다. 앤트로픽은 이를 “점진적 공개(progressive disclosure)“라고 부른다.

우리 일상에 적용하면: 매번 새 대화를 시작할 때마다 “내 상황은 이렇고, 내 성향은 이렇고, 내가 원하는 문체는 이렇고…“를 처음부터 다 설명할 필요는 없다. 자주 쓰는 지침이라면 별도 메모나 참고 파일로 만들어두고, 필요할 때만 “이 파일 참고해서 써줘”라고 한 줄로 불러오는 편이 매번 처음부터 설명을 반복하는 것보다 낫다.

④ “같은 말 여러 곳에 반복하기”에서 “한 곳에만 정리하기”로

지시문 여기저기, 그리고 개별 도구 설명에 같은 내용이 중복해서 적혀 있으면 지시문은 길어지고, 오히려 어느 쪽을 따라야 할지 AI를 헷갈리게 만든다. 앤트로픽은 중복된 지시를 걷어내고, 각 도구의 설명 안에만 관련 지침을 담아 한 곳에서 완결되게 정리했다.

우리 일상에 적용하면: 같은 요청을 대화 중에 여러 번 다른 말로 반복해서 강조하는 것이 오히려 AI를 헷갈리게 할 수 있다. 한 번 명확하게 말하고, 필요하면 정정만 짧게 덧붙이는 편이 낫다.

⑤ “직접 적어서 기억시키기”에서 “자동으로 기억하기”로

예전에는 AI에게 기억해야 할 내용을 사람이 직접 별도 메모 파일(CLAUDE.md)에 적어 넣어야 했다. 새 방식은 대화 중 중요한 정보를 AI가 스스로 판단해 자동으로 기억해두는 기능으로 대체했다.

우리 일상에 적용하면: 매번 “내가 목회자이고, 이런 스타일을 좋아하고…“를 새로 설명하지 않아도, 최근의 AI 서비스들은 대화 맥락이나 별도 설정을 기억하는 기능을 점점 더 지원한다. 이런 기능이 있다면 활용하는 것이 매번 처음부터 설명을 반복하는 것보다 효율적이다.

⑥ “단순 문서로 지시하기”에서 “검증 가능한 기준으로 지시하기”로

단순한 글머리표 목록으로 “이렇게 해줘”라고 지시하는 대신, 실제로 완성됐는지 확인할 수 있는 구체적 기준(코드로 치면 테스트, 우리 일상으로 치면 체크리스트나 채점 기준)을 함께 주는 방향으로 바뀌었다.

우리 일상에 적용하면: “잘 요약해줘”보다 “이 요약이 300자 이내이고, 핵심 결론이 첫 문장에 오고, 전문용어 없이 쓰였는지 확인해줘”처럼 결과물을 스스로 점검할 수 있는 기준을 함께 주면, AI가 결과물을 낸 뒤 그 기준에 맞춰 스스로 다듬을 수 있다.

두꺼운 원고 뭉치 옆에 지우개와 잘려나간 종이 조각들이 흩어져 있고 잘려나간 쪽이 더 많아 보이는 나무 책상 수채 그림

3. 그래서 나는 무엇을 하면 되는가 — 비개발자를 위한 실전 요령

여기까지 읽었다면 자연스럽게 이런 질문이 떠오를 것이다. “그래서 나는 프롬프트를 어떻게 쓰라는 거지?”

이 사례에서 얻을 수 있는 실전 요령을 세 가지로 정리한다.

첫째, 지시가 길어질수록 “이게 다 필요한가”를 먼저 의심하라. 프롬프트에 조건을 하나씩 덧붙이는 습관은 비개발자가 가장 많이 저지르는 실수다. 결과가 마음에 안 들면 “아, 이것도 말해줘야겠다” 하고 문장을 계속 추가하게 되는데, 조건이 늘어날수록 AI는 오히려 어느 조건을 우선해야 할지 헷갈려 하는 경우가 많다. 조건을 추가하기 전에, 기존 조건 중 빼도 되는 것은 없는지 먼저 점검하는 편이 낫다.

둘째, “하지 마라”보다 “이렇게 판단해라”는 기준을 줘라. “격식 없는 표현 쓰지 마, 이모지 쓰지 마, 반말 쓰지 마…” 하고 금지 목록을 늘어놓는 대신, “정중한 공적 문서 톤으로 써줘”처럼 판단의 기준이 되는 문장 한 줄을 주는 게 더 잘 통한다.

셋째, 반복해서 쓰는 지시는 따로 저장해두고 불러써라. 매번 같은 설명을 새로 입력하는 대신, 자주 쓰는 지침을 메모장이나 문서에 정리해두고 “이 내용 참고해서 써줘”라고 짧게 부르는 편이, 매번 처음부터 장문을 입력하는 것보다 결과도 안정적이고 시간도 아낀다.

물론 이 원리가 모든 상황에 통하는 건 아니다. 앤트로픽도 여전히 이전 세대 모델에는 더 자세한 지시문을 쓴다고 밝혔다. AI가 판단력이 부족한 영역, 혹은 정말 처음 시도해보는 낯선 작업에서는 여전히 자세한 설명이 도움이 된다. 다만 평소 반복해서 쓰는 익숙한 작업이라면, “더 자세히”보다 “더 명확하게, 더 짧게”가 나을 때가 많다는 것이 이번 사례의 핵심이다.

창가 빛 아래 손바닥만 한 메모 한 장이 또렷하게 놓이고 그 옆으로 접힌 긴 종이가 그늘 쪽으로 밀려나 있는 수채 그림

4. 11편과 이어지는 지점

11편에서는 “AI에게 무엇을 시킬지 고르는 눈”을 이야기했다. 자동화할 일을 고를 때는 얼마나 자주 하는 일인지, 시간이 얼마나 드는지, 실수했을 때 위험이 큰지, 다음에도 또 쓸 수 있는 일인지를 따져보라는 내용이었다.

12편은 그 다음 단계다. 무엇을 시킬지 골랐다면, 이제는 그 일을 어떻게 전달할지를 다듬을 차례다. 대상을 잘 골라도 지시가 장황하면 결과가 흔들리고, 반대로 지시가 아무리 명료해도 엉뚱한 일에 쓰면 소용이 없다. 이 두 편은 하나의 짝이다 — 무엇을 시킬지 고르는 눈(11편)과, 그것을 어떻게 짧고 명확하게 전달할지(12편).

5. 확인하지 못한 부분 (불확실 항목)

이 글을 쓰면서 확인한 것과 확인하지 못한 것을 구분해 밝힌다.

  • 소재로 삼은 요즘IT 기사 “앤트로픽이 시스템 프롬프트를 80% 덜어내며 배운 것 6가지”의 정확한 개별 기사 URL은 검색으로 회수하지 못했다. 기사 제목과 발행 매체(요즘IT/위시켓), 카테고리(프로덕트), 예상 소요시간(약 8분)까지는 검색으로 확인했지만, 개별 기사 페이지 링크는 검색 엔진에서 매거진 홈(yozm.wishket.com/magazine/)으로만 연결되어 원문 페이지 자체를 열어 본문을 대조하지 못했다. “기사가 없다”가 아니라 “링크를 회수하지 못했다”는 뜻이며, 이 기사의 개별 서술(6가지를 설명한 구체적 문장·비유)은 이번 원고에 직접 인용하지 않았다.
  • 대신 이 원고의 6가지 항목 설명과 인용문은 앤트로픽 공식 블로그 원문(“The new rules of context engineering for Claude 5 generation models”, claude.com/blog)을 직접 열람해 대조한 내용이다. 이 부분은 1차 자료 확인을 마쳤다.
  • 정확한 단어 수·토큰 수 감소 폭(2,700단어→500단어대 등)은 앤트로픽 공식 자료가 아니라 이를 분석한 해외 매체(2차 자료)의 추정치다. 매체마다 “80% 감소”와 “70% 감소”로 계산이 엇갈린다 — 이는 ‘기억(메모리)’ 기능 관련 지침을 감소분에 포함하는지 여부의 차이로 보이며, 이 원고에서는 한쪽 숫자를 확정하지 않고 두 수치와 그 이유를 함께 밝혔다.
  • 발표 시점(2026년 7월 말, AI 엔지니어 콘퍼런스에서 공개됐다는 보도)과 발표자(앤트로픽 소속 기술 담당자)에 대한 내용은 2차 매체 보도에만 나오고, 앤트로픽 공식 블로그 원문에서 직접 확인하지는 못했다. 이번 원고에서는 이 부분을 본문에 확정 서술로 넣지 않았다.

참고자료 (인용 URL 전수)