KIMKYUTAE.COM · ©
ChatGPT는 어떻게 대답을 만드는가
ChatGPT와 대화하다 보면 사람과 이야기하는 것처럼 느껴질 때가 있다. 질문의 뜻을 알아듣고, 앞에서 나눈 이야기까지 이어서 답하기 때문이다.
그렇다면 ChatGPT는 사람처럼 머릿속으로 생각한 뒤 대답하는 걸까? 아니면 인터넷에서 정답을 찾아 복사해 오는 걸까?
둘 다 ChatGPT의 기본 작동 방식을 정확하게 설명하지는 못한다. 가장 간단히 말하면 ChatGPT는 지금까지 나온 내용을 보고, 다음에 이어질 말의 후보를 고르는 일을 아주 빠르게 반복해 답변을 만든다.
휴대폰 자동완성을 떠올리면 쉽다
스마트폰으로 메시지를 쓰면 키보드 위에 다음 단어가 추천될 때가 있다. “오늘 저녁에는”이라고 입력하면 ‘치킨’, ‘약속’, ‘비가’처럼 뒤에 올 만한 단어가 나타나는 식이다.
ChatGPT의 기본 원리도 이와 닮았다. 다만 휴대폰 자동완성보다 훨씬 많은 언어의 관계와 문맥을 배웠고, 한두 단어를 추천하는 데서 멈추지 않는다.
지금까지 나온 내용을 살펴본다 → 다음에 올 만한 내용을 고른다 → 방금 만든 내용까지 포함해 다시 다음을 고른다
이 과정을 빠르게 반복하면 한 문장이 되고, 문장을 계속 이어 붙이면 긴 답변이 된다. 처음부터 완성된 답을 창고에서 꺼내 오는 것이 아니라, 대답하는 순간에 하나씩 만들어내는 것이다.
ChatGPT가 답을 만드는 네 단계
1. 질문과 대화 내용을 읽는다
사용자가 질문하면 ChatGPT는 그 문장만 보는 것이 아니라 현재 대화에서 앞서 나온 내용도 함께 참고한다. 그래서 “조금 더 쉽게 설명해줘”라고만 말해도 무엇을 쉽게 설명해야 하는지 이어서 알아들을 수 있다.
반대로 질문에 필요한 정보가 없으면 ChatGPT가 사용자의 의도를 정확히 알기는 어렵다. 누구에게 설명할지, 무엇이 궁금한지, 원하는 답변 형식이 무엇인지 알려주면 결과가 좋아지는 이유다.
2. 글을 작은 조각으로 나눈다
ChatGPT는 입력된 글을 작은 조각으로 나누는데, 이 조각을 토큰(Token)이라고 부른다.
토큰은 AI가 글을 읽고 쓰기 편하도록 나눈 단위라고 생각하면 충분하다. 한 단어가 하나의 토큰이 될 수도 있고, 긴 단어가 여러 토큰으로 나뉠 수도 있다.
토큰 = ChatGPT가 문장을 처리할 때 사용하는 작은 글 조각
3. 다음 조각을 예측한다
ChatGPT는 질문과 지금까지 만든 답변을 바탕으로 다음에 어떤 토큰이 오면 자연스러울지 계산한다. 가능한 후보는 하나가 아니다. 여러 후보마다 이어질 가능성을 따져 그중 하나를 선택한다.
예를 들어 “대한민국의 수도는” 다음에는 ‘서울’이 이어질 가능성이 매우 높다. 반면 “주말에는” 뒤에는 ‘쉬었다’, ‘여행했다’, ‘비가 왔다’처럼 다양한 말이 자연스럽게 이어질 수 있다.
후보가 여럿이기 때문에 같은 질문을 다시 해도 표현이나 예시가 조금 달라질 수 있다. ChatGPT가 매번 완전히 같은 문장을 꺼내 읽는 것이 아니기 때문이다.
4. 예측을 반복해 답변을 완성한다
하나의 토큰을 고르면 그 토큰도 문맥에 포함된다. ChatGPT는 새로 늘어난 문맥을 보고 다시 다음 토큰을 고른다. 이 과정을 매우 빠르게 되풀이하면서 문장과 문단을 완성한다.
화면에 답변이 한 글자씩 나타나는 것처럼 보이는 것도 이렇게 답이 순서대로 만들어져 전달되기 때문이다.
그 많은 내용은 어떻게 배웠을까?
ChatGPT의 중심에는 대규모 언어 모델, 영어로는 LLM(Large Language Model)이 있다. 이 모델은 학습 과정에서 많은 텍스트를 보며 언어의 패턴을 배운다.
- 어떤 단어들이 자주 함께 쓰이는지
- 질문과 답변은 보통 어떤 형태로 이어지는지
- 여러 개념이 서로 어떤 관계를 갖는지
- 설명, 요약, 번역과 같은 글은 어떻게 구성되는지
여기서 ‘배웠다’는 말은 책이나 웹페이지를 통째로 보관해 두었다가 그대로 꺼낸다는 뜻과는 다르다. 수많은 예시에서 발견한 관계를 숫자로 된 패턴에 담아두고, 질문을 받으면 그 패턴을 이용해 새로운 답변을 만든다는 의미에 가깝다.
이후에는 사용자의 지시를 더 잘 따르고 유용하며 안전한 답을 하도록 추가적인 훈련도 거친다. 그래서 단순히 다음 단어를 잇는 것처럼 시작했지만, 실제로는 요약·분류·글쓰기·코딩처럼 다양한 작업을 수행할 수 있다.
검색엔진과 무엇이 다를까?
검색엔진의 기본 역할은 인터넷에서 관련 웹페이지를 찾아주는 것이다. 반면 ChatGPT의 기본 역할은 질문의 문맥에 맞는 답변을 만들어주는 것이다.
| 검색엔진 | ChatGPT |
|---|---|
| 관련 자료를 찾는다 | 질문에 맞는 설명을 만든다 |
| 원문과 링크가 중심이다 | 정리된 대화형 답변이 중심이다 |
| 사용자가 자료를 읽고 판단한다 | 여러 내용을 연결해 설명할 수 있다 |
다만 ChatGPT가 항상 검색을 하지 않는다는 뜻은 아니다. 사용할 수 있는 기능과 질문에 따라 웹을 검색하거나 파일을 읽고, 계산 도구를 활용할 수도 있다. 이때도 찾은 자료를 그대로 나열하기보다 언어 모델이 질문에 맞는 답변으로 정리한다.
왜 틀린 답도 자연스럽게 말할까?
ChatGPT는 다음에 올 내용을 예측하는 데 매우 능숙하지만, 자연스러운 문장과 사실인 문장은 같은 것이 아니다.
충분한 정보가 없거나 학습한 패턴이 부정확하면 실제로 없는 책, 논문, 제도 등을 그럴듯하게 설명할 수도 있다. 이런 현상을 흔히 환각(Hallucination)이라고 부른다.
또 “확실합니다”처럼 단정적인 표현을 사용하더라도 사람이 느끼는 확신과 같은 것은 아니다. 문맥상 자연스러운 말투를 선택한 결과일 수 있다.
말이 자연스럽다는 것과 내용이 정확하다는 것은 별개의 문제다.
의료·법률·금융처럼 판단 결과가 중요한 내용, 최신 뉴스·정책·가격처럼 자주 바뀌는 내용은 공식 자료와 원문을 함께 확인해야 한다. 출처가 필요하다면 질문할 때부터 “공식 자료를 확인하고 링크를 함께 알려줘”라고 요청하는 편이 좋다.
질문을 구체적으로 하면 답이 좋아지는 이유
ChatGPT는 사용자가 제공한 문맥을 보고 다음 내용을 만든다. 따라서 질문이 구체적일수록 선택할 방향이 선명해진다.
예를 들어 “방화벽을 설명해줘”라고만 하면 대상과 깊이를 알 수 없다. 다음처럼 바꾸면 원하는 답에 가까워진다.
클라우드를 처음 배우는 직장인에게 방화벽과 보안그룹의 차이를 실제 사례와 비교표로 설명해줘.
이 질문에는 설명 대상, 주제, 원하는 방식이 모두 들어 있다. ChatGPT가 엉뚱한 방향으로 갈 가능성이 줄어드는 것이다.
- 대상: 누구에게 설명하는가
- 목적: 무엇을 알고 싶은가
- 조건: 분량이나 반드시 포함할 내용은 무엇인가
- 형식: 글, 표, 목록 중 어떤 형태를 원하는가
한 문장으로 정리하면
ChatGPT는 인터넷 어딘가에서 완성된 정답을 찾아 읽어주는 기계가 아니다. 질문과 대화 내용을 작은 조각으로 살펴보고, 다음에 올 조각을 계속 예측하면서 그 순간의 답변을 만들어내는 언어 모델이다.
이 원리를 이해하면 ChatGPT의 장점과 한계를 함께 볼 수 있다. 자연스러운 설명과 아이디어 정리에는 매우 유용하지만, 중요한 사실은 확인이 필요하다. 그리고 원하는 답을 얻으려면 ChatGPT가 참고할 문맥을 질문 안에 충분히 담아주는 것이 좋다.
