HyperTeams언어 모델은 무엇을 하는 기계인가
이 장에서 배우는 것 AI가 무엇인가에서 "다음에 올 말을 맞히는 프로그램"이라고 했던 것을 한 겹 더 열어봅니다. 이걸 알면 왜 어떤 일은 잘하고 어떤 일은 못 하는지가 예측됩니다.
하는 일은 정말 하나뿐입니다
언어 모델이 하는 일은 문자 그대로 이것 하나입니다.
지금까지의 글을 보고, 다음에 올 조각 하나를 고른다.
그리고 그걸 반복합니다.
한 글자씩 답이 나타나는 걸 보신 적이 있을 겁니다. 연출이 아니라 실제로 그렇게 만들어지고 있는 것입니다.
그런데 왜 요약이 되고 번역이 되나
여기가 핵심입니다. "다음 말 맞히기"만 하는데 어떻게 요약을 합니까?
요약을 시키는 게 아니라, 요약이 나올 수밖에 없는 상황을 만드는 것입니다.
이 상태에서 "다음에 올 말"은 무엇이겠습니까? 사람이 쓴 글에서 "위 글의 요약:" 뒤에 오는 것은 요약문입니다. 모델은 그 패턴을 무수히 봤습니다.
번역도 같습니다.
"영어:" 뒤에 올 자연스러운 다음 말은 번역문입니다.
그래서 "지시를 이해했다"기보다 "그 상황에서 자연스러운 이어짐을 만들었다"에 가깝습니다. 결과는 비슷하지만 이 차이가 한계를 설명합니다.
이 구조에서 따라 나오는 것들
1. 앞에 무엇이 있느냐가 전부입니다
모델은 지금 보고 있는 글만 보고 다음을 고릅니다. 그래서:
- 상황을 자세히 적으면 → 그 상황에 맞는 이어짐이 나옵니다
- 아무것도 안 적으면 → 가장 일반적인 이어짐이 나옵니다
원하는 답을 얻는 법에서 "상황을 알려주라"고 한 게 이 때문입니다. 요령이 아니라 작동 원리에서 직접 나오는 결론입니다.
2. 같은 질문에 매번 다른 답이 나옵니다
"다음 조각 하나를 고른다"고 했는데, 후보가 여럿이고 그중에서 확률적으로 고릅니다.
항상 1등만 고르면 글이 딱딱해집니다. 그래서 약간의 무작위성을 둡니다. 같은 질문을 두 번 하면 답이 조금 다른 이유입니다.
이건 고장이 아니라 설계입니다. 다만 똑같은 결과가 필요한 일(같은 입력이면 반드시 같은 출력)에는 안 맞는다는 뜻이기도 합니다.
3. 계산은 잘 못합니다
237 × 481을 물으면 계산하는 게 아니라 "그럴듯한 답처럼 보이는 숫자"를
만듭니다. 자릿수는 맞는데 값이 틀리는 경우가 여기서 나옵니다.
그래서 실무에서는 계산을 계산기에 시킵니다. 모델이 직접 하는 게 아니라 도구를 부르게 합니다 — 다음 장들의 주제입니다.
무엇을 잘하고 무엇을 못 하나
이 구조를 알면 예측이 됩니다.
| 잘하는 것 | 왜 |
|---|---|
| 요약·번역·형식 변환 | 사람 글에 흔한 패턴 |
| 초안 작성 | "이런 상황의 글" 패턴이 풍부 |
| 분류·태깅 | 예시를 몇 개 주면 패턴을 이음 |
| 어색한 문장 다듬기 | 자연스러운 이어짐을 만드는 게 본업 |
| 못 하는 것 | 왜 |
|---|---|
| 정확한 계산 | 계산이 아니라 그럴듯한 숫자 생성 |
| 최신 사실 | 학습 시점 이후를 모름 |
| 내 회사 내부 정보 | 애초에 본 적 없음 |
| 매번 동일한 출력 | 확률적으로 고름 |
오른쪽 표의 네 가지는 전부 "도구"로 해결합니다. 계산기를 붙이고, 검색을 붙이고, 사내 DB를 붙이면 됩니다. 그게 도구 사용입니다.
자주 하는 오해
"모델이 내 질문을 이해한다"
"이해"라는 말이 오해를 만듭니다. 결과만 보면 이해한 것 같지만, 실제로는 그 맥락에서 가장 자연스러운 이어짐을 만든 것입니다.
이 구분이 실무에서 중요한 이유는, 자연스러운 것과 옳은 것이 다를 수 있기 때문입니다. 존재하지 않는 책 제목이 그럴듯하게 나오는 게 그 예입니다 — 다음 장의 주제입니다.
"더 큰 모델을 쓰면 다 해결되나"
크기는 패턴의 풍부함을 늘립니다. 그런데 모르는 사실을 알게 되지는 않습니다. 내 회사 매출은 아무리 큰 모델도 모릅니다. 그건 크기가 아니라 연결의 문제입니다.
확인
1. "요약해줘"가 어떻게 요약으로 이어집니까?
답
"위 글의 요약:" 다음에 올 자연스러운 이어짐이 요약문이기 때문입니다. 모델은 사람이 쓴 글에서 그 패턴을 무수히 봤습니다. 지시를 이해해서 실행하는 게 아니라, 그 상황에서 자연스러운 다음을 만드는 것에 가깝습니다.
2. 같은 질문에 매번 답이 조금씩 다른 이유는?
답
다음 조각을 확률적으로 고르기 때문입니다. 항상 1등만 고르면 글이 딱딱해져서 약간의 무작위성을 둡니다. 고장이 아니라 설계이지만, 같은 입력에 반드시 같은 출력이 필요한 일에는 안 맞습니다.
3. 모델이 못 하는 네 가지를 해결하는 공통 방법은?
답
도구를 붙이는 것입니다. 계산은 계산기에, 최신 정보는 검색에, 사내 정보는 DB에 연결합니다. 모델을 더 크게 만드는 것으로는 해결되지 않습니다.
다음은 이 구조에서 필연적으로 따라 나오는 문제입니다 → 왜 그럴듯하게 틀리는가