# 기계의 네 가지 성질
> **이 장에서 배우는 것**
> 이 파트는 열 장이 넘습니다. 그 장들이 사실은 **네 가지 성질**을 하나씩 파고드는
> 것이라는 지도를 먼저 그립니다. 그리고 능력 목록과 한계 목록을 따로 외우는 것이
> 왜 헛수고인지 봅니다.
## 두 개의 목록을 외우지 마세요
AI를 배울 때 흔히 이런 두 목록을 받습니다.
```
잘하는 것 못하는 것
───────────── ─────────────
요약 최신 정보
번역 계산
초안 작성 사실 확인
분류 긴 문서 기억
```
**이 두 목록은 외워도 쓸모가 없습니다.** 목록에 없는 일을 만나면 판단할 수
없고, 모델이 바뀌면 목록도 바뀌기 때문입니다.
쓸모 있는 것은 그 아래입니다. **왼쪽과 오른쪽은 다른 사실이 아닙니다.** 하나의
성질을 양쪽에서 본 것입니다.
> **번역을 잘하는 이유와 계산을 못하는 이유는 같습니다.**
> 둘 다 "다음에 올 말을 잇는" 기계라서 그렇습니다.
## 네 가지 성질
| 성질 | 이것이 있어서 되는 일 | 같은 이유로 안 되는 일 |
|---|---|---|
| **1. 이어붙이기** | 어떤 문체로든 자연스럽게 씀 | 모르면서도 답의 형태를 만듦 |
| **2. 배운 지식** | 물어보지 않은 맥락까지 앎 | 배운 시점 이후를 모름, 우리 회사를 모름 |
| **3. 작업 기억** | 붙여넣은 자료를 그 자리에서 다룸 | 창을 넘어가면 조용히 사라짐 |
| **4. 지시 반응** | 말로 행동을 바꿀 수 있음 | 뜻한 것과 전달된 것이 어긋남 |
각 줄의 **왼쪽과 오른쪽은 같은 문장의 앞뒤**입니다. 오른쪽을 없애려면 왼쪽도
같이 사라집니다.
```mermaid
graph TD
A["성질 하나"] --> B["능력 쪽"]
A --> C["한계 쪽"]
B --> D["예 — 어떤 문체로든 쓴다"]
C --> E["예 — 계산을 못한다"]
D --> F["둘 다 '다음에 올 말을 잇는다'
하나에서 나옵니다"]
E --> F
```
### 1. 이어붙이기 — 답을 찾는 게 아니라 잇습니다
검색창이 아닙니다. **엄청나게 정교한 자동완성**입니다. 질문을 받으면 저장고에서
답을 꺼내오는 것이 아니라, 그 질문 다음에 올 법한 말을 한 조각씩 이어붙입니다.
- 자세히 → [언어 모델은 무엇을 하는 기계인가](/guide/ai-language-model)
- 한계 쪽 → [왜 그럴듯하게 틀리는가](/guide/ai-hallucination)
### 2. 배운 지식 — 배운 것만 있고, 배운 때까지만 있습니다
모델 안에 든 지식은 학습 데이터에서 온 것이 전부입니다. 그래서 두 종류의 구멍이
있습니다. **시간의 구멍**(학습이 끝난 뒤의 일)과 **범위의 구멍**(애초에 공개된
적 없는 우리 회사 자료).
두 구멍은 같은 방법으로 메웁니다 — **자료를 주는 것**입니다.
- 메우는 법 → [자료를 찾아 붙이기](/guide/ai-grounding)
- 어느 방법을 고를지 → [어떤 학습을 고를까](/guide/ai-rag-vs-finetune)
### 3. 작업 기억 — 창이 있고, 가장자리가 있습니다
한 번에 볼 수 있는 양이 정해져 있습니다. **자료를 넣는 만큼 잘 답한다**는
뜻이기도 하고, **넘치면 앞부터 밀려난다**는 뜻이기도 합니다.
밀려남은 경고 없이 일어납니다. 모델은 "잊었습니다"라고 말하지 않고 그냥 채웁니다.
- 창이란 → [컨텍스트 창이란 무엇인가](/guide/ai-context-window)
- 넘칠 때 → [컨텍스트가 밀려날 때](/guide/ai-context-overflow)
- 창 밖에 남기려면 → [세션을 넘는 기억](/guide/ai-memory)
### 4. 지시 반응 — 따르지만, 이해해서 따르는 것은 아닙니다
"표를 쓰지 마세요"라고 하면 표를 안 씁니다. 그런데 세 번째 답에서 다시 표가
나오기도 합니다. 지시를 **뜻으로 이해해 지키는 것이 아니라, 지시가 있는 글의
이어짐을 만드는 것**이기 때문입니다.
- 자세히 → [지시가 그대로 먹지 않는 이유](/guide/ai-steerability)
- 잘 적는 법 → [좋은 지시의 네 가지 요소](/guide/ai-intent-context)
## 성질이 겹칠 때 — 실패는 대개 하나가 아닙니다
현장에서 만나는 사고는 성질 하나로 설명되지 않습니다. **둘이 겹칩니다.**
```
사고: 계약서 검토를 시켰더니, 30분쯤 지나 없는 조항 번호를
자신 있게 인용했다.
성질 3(작업 기억): 대화가 길어져 계약서 앞부분이 창에서 밀려남
성질 1(이어붙이기): 근거가 사라진 자리를 "조항 번호의 형태"로 채움
```
**밀려남만으로는 사고가 안 납니다.** 밀려난 자리를 이어붙이기가 메우기 때문에
사고가 됩니다. 그래서 대처도 둘입니다 — 창을 관리하고(제약을 다시 적기), 근거를
요구합니다(조항 원문을 함께 인용하게 하기).
| 증상 | 겹친 성질 | 먼저 볼 것 |
|---|---|---|
| 없는 출처를 인용 | 2 + 1 | 자료를 줬는가 |
| 대화가 길어지자 규칙이 무너짐 | 3 + 4 | 제약을 다시 적었는가 |
| 내 말에 계속 동의만 함 | 4 + 1 | 반대 근거를 요구했는가 |
| 최신 수치를 자신 있게 말함 | 2 + 1 | 도구를 붙였는가 |
**진단은 "왜 틀렸지?"가 아니라 "어느 성질이 겹쳤지?"로 시작합니다.** 성질을
지목하면 대처가 따라 나옵니다.
## 이 성질들은 없앨 수 있나
없앨 수 없습니다. **줄일 수 있습니다.**
```
✗ "더 좋은 모델을 쓰면 해결된다"
→ 빈도는 줄지만 성질은 그대로입니다. 오히려 드물어져 못 걸러냅니다.
✓ "이 일은 어느 성질에 부딪히나? 그 자리에 무엇을 대나?"
→ 자료를 대고(2), 창을 관리하고(3), 제약을 다시 적고(4),
근거를 요구합니다(1).
```
이 파트의 나머지 장은 전부 **"그 자리에 무엇을 대는가"**입니다.
---
## 확인
**1. 능력 목록과 한계 목록을 따로 외우는 것이 왜 헛수고입니까?**
답
**둘이 같은 성질의 양면이기 때문**입니다. 번역을 잘하는 이유와 계산을 못하는
이유가 똑같이 "이어붙이는 기계"라는 데서 나옵니다. 성질을 알면 목록에 없는 일도
판단할 수 있지만, 목록만 외우면 새 상황에서 아무것도 못 합니다.
**2. "밀려남만으로는 사고가 안 난다"는 말의 뜻은?**
답
자료가 창 밖으로 나가는 것 자체는 그냥 정보가 없어진 것입니다. **그 빈자리를
이어붙이기가 그럴듯한 형태로 채우기 때문에** 사고가 됩니다. 그래서 대처도
창 관리와 근거 요구, 두 가지를 함께 합니다.
**3. 모델이 좋아지면 이 네 성질이 사라집니까?**
답
사라지지 않습니다. 구조에서 나오는 성질이라 **빈도만 줄어듭니다.** 그리고
빈도가 줄면 사람이 방심해서 오히려 걸러내기 어려워질 수 있습니다.
---
첫 번째 성질부터 자세히 봅니다 →
[언어 모델은 무엇을 하는 기계인가](/guide/ai-language-model)