# 언어 모델은 무엇을 하는 기계인가 > **이 장에서 배우는 것** > [AI가 무엇인가](/guide/ai-what-is-it)에서 "다음에 올 말을 맞히는 프로그램"이라고 했던 > 것을 한 겹 더 열어봅니다. 이걸 알면 왜 어떤 일은 잘하고 어떤 일은 못 하는지가 > 예측됩니다. ## 하는 일은 정말 하나뿐입니다 언어 모델이 하는 일은 문자 그대로 이것 하나입니다. > **지금까지의 글을 보고, 다음에 올 조각 하나를 고른다.** 그리고 그걸 반복합니다. ``` 입력: "오늘 날씨가" 1회: "오늘 날씨가 좋" 2회: "오늘 날씨가 좋아" 3회: "오늘 날씨가 좋아서" 4회: "오늘 날씨가 좋아서 산책" ... ``` 한 글자씩 답이 나타나는 걸 보신 적이 있을 겁니다. **연출이 아니라 실제로 그렇게 만들어지고 있는 것**입니다. ## 그런데 왜 요약이 되고 번역이 되나 여기가 핵심입니다. "다음 말 맞히기"만 하는데 어떻게 요약을 합니까? **요약을 시키는 게 아니라, 요약이 나올 수밖에 없는 상황을 만드는 것**입니다. ``` (긴 글 1,000줄) 위 글의 요약: ``` 이 상태에서 "다음에 올 말"은 무엇이겠습니까? 사람이 쓴 글에서 "위 글의 요약:" 뒤에 오는 것은 **요약문**입니다. 모델은 그 패턴을 무수히 봤습니다. 번역도 같습니다. ``` 한국어: 오늘 회의는 취소되었습니다. 영어: ``` "영어:" 뒤에 올 자연스러운 다음 말은 번역문입니다. > **그래서 "지시를 이해했다"기보다 "그 상황에서 자연스러운 이어짐을 만들었다"에 > 가깝습니다.** 결과는 비슷하지만 이 차이가 한계를 설명합니다. ## 이 구조에서 따라 나오는 것들 ### 1. 앞에 무엇이 있느냐가 전부입니다 모델은 **지금 보고 있는 글**만 보고 다음을 고릅니다. 그래서: - 상황을 자세히 적으면 → 그 상황에 맞는 이어짐이 나옵니다 - 아무것도 안 적으면 → 가장 일반적인 이어짐이 나옵니다 [원하는 답을 얻는 법](/guide/ai-how-to-ask)에서 "상황을 알려주라"고 한 게 이 때문입니다. 요령이 아니라 **작동 원리에서 직접 나오는 결론**입니다. ### 2. 같은 질문에 매번 다른 답이 나옵니다 "다음 조각 하나를 고른다"고 했는데, 후보가 여럿이고 그중에서 **확률적으로** 고릅니다. ``` "오늘 날씨가" 다음에 올 것: 좋 45% 나쁘 20% 흐리 15% ... ``` 항상 1등만 고르면 글이 딱딱해집니다. 그래서 약간의 무작위성을 둡니다. **같은 질문을 두 번 하면 답이 조금 다른 이유**입니다. 이건 고장이 아니라 설계입니다. 다만 **똑같은 결과가 필요한 일**(같은 입력이면 반드시 같은 출력)에는 안 맞는다는 뜻이기도 합니다. ### 3. 계산은 잘 못합니다 `237 × 481`을 물으면 계산하는 게 아니라 **"그럴듯한 답처럼 보이는 숫자"**를 만듭니다. 자릿수는 맞는데 값이 틀리는 경우가 여기서 나옵니다. 그래서 실무에서는 계산을 **계산기에 시킵니다.** 모델이 직접 하는 게 아니라 도구를 부르게 합니다 — 다음 장들의 주제입니다. ## 무엇을 잘하고 무엇을 못 하나 이 구조를 알면 예측이 됩니다. | 잘하는 것 | 왜 | |---|---| | 요약·번역·형식 변환 | 사람 글에 흔한 패턴 | | 초안 작성 | "이런 상황의 글" 패턴이 풍부 | | 분류·태깅 | 예시를 몇 개 주면 패턴을 이음 | | 어색한 문장 다듬기 | 자연스러운 이어짐을 만드는 게 본업 | | 못 하는 것 | 왜 | |---|---| | 정확한 계산 | 계산이 아니라 그럴듯한 숫자 생성 | | 최신 사실 | 학습 시점 이후를 모름 | | 내 회사 내부 정보 | 애초에 본 적 없음 | | 매번 동일한 출력 | 확률적으로 고름 | **오른쪽 표의 네 가지는 전부 "도구"로 해결합니다.** 계산기를 붙이고, 검색을 붙이고, 사내 DB를 붙이면 됩니다. 그게 [도구 사용](/guide/ai-tool-use)입니다. ## 자주 하는 오해 ### "모델이 내 질문을 이해한다" "이해"라는 말이 오해를 만듭니다. 결과만 보면 이해한 것 같지만, 실제로는 **그 맥락에서 가장 자연스러운 이어짐**을 만든 것입니다. 이 구분이 실무에서 중요한 이유는, **자연스러운 것과 옳은 것이 다를 수 있기** 때문입니다. 존재하지 않는 책 제목이 그럴듯하게 나오는 게 그 예입니다 — 다음 장의 주제입니다. ### "더 큰 모델을 쓰면 다 해결되나" 크기는 패턴의 풍부함을 늘립니다. 그런데 **모르는 사실을 알게 되지는 않습니다.** 내 회사 매출은 아무리 큰 모델도 모릅니다. 그건 크기가 아니라 **연결**의 문제입니다. --- ## 확인 **1. "요약해줘"가 어떻게 요약으로 이어집니까?**
답 "위 글의 요약:" 다음에 올 **자연스러운 이어짐이 요약문**이기 때문입니다. 모델은 사람이 쓴 글에서 그 패턴을 무수히 봤습니다. 지시를 이해해서 실행하는 게 아니라, 그 상황에서 자연스러운 다음을 만드는 것에 가깝습니다.
**2. 같은 질문에 매번 답이 조금씩 다른 이유는?**
답 다음 조각을 **확률적으로** 고르기 때문입니다. 항상 1등만 고르면 글이 딱딱해져서 약간의 무작위성을 둡니다. 고장이 아니라 설계이지만, 같은 입력에 반드시 같은 출력이 필요한 일에는 안 맞습니다.
**3. 모델이 못 하는 네 가지를 해결하는 공통 방법은?**
답 **도구를 붙이는 것**입니다. 계산은 계산기에, 최신 정보는 검색에, 사내 정보는 DB에 연결합니다. 모델을 더 크게 만드는 것으로는 해결되지 않습니다.
--- 다음은 이 구조에서 필연적으로 따라 나오는 문제입니다 → [왜 그럴듯하게 틀리는가](/guide/ai-hallucination)