언어모델: 점수와 선택

먼저 알아 둘 세 가지 — AI·환각·추론 모드

인공지능은 살아 있는 생명체가 아닙니다. 사람이 만든 프로그램이고, 확률로 답을 냅니다. 인공지능에는 얼굴 알아보기·번역·영상 추천처럼 여러 종류가 있습니다. 이 수업은 그중 글을 쓰는 종류인 언어 모델을 다룹니다. 언어 모델은 답을 작은 조각(토큰) 하나씩 이어 붙여 만듭니다.

“환각”은 그럴듯하게 들리지만 틀렸거나 뒷받침할 근거가 없는 답을 부르는 기술 용어일 뿐입니다. 안에서 무언가가 헛것을 보는 것이 아닙니다. 뉴스에서 전문가들이 인공지능이 “실수한다”, “환각을 일으킨다”고 거듭 말하면 기계가 살아 있는 것처럼 들리지만, 그런 뜻이 아닙니다.

“생각한다”, “실수한다”는 살아 있는 존재에게 쓰는 말입니다. 그런데 많은 인공지능 제품에 “생각(추론) 모드”가 있어서 기계가 살아서 생각하는 것처럼 보입니다. 생각 모드는 답하기 전에 프로그램이 풀이 과정 — 단계·계획·점검 — 을 먼저 글로 써 본다는 뜻일 뿐입니다. 이 글은 몇 문장일 때도, 수천 낱말일 때도 있고, 이것도 확률로 만들어집니다. 어려운 문제에서 도움이 될 수는 있지만, 맞는 답을 보장하지는 않습니다.

점수와 선택 — 바이그램부터 샘플링까지

언어 모델을 돌리는 코드 안에는 다음에 올 수 있는 조각마다 점수를 매기고 하나를 고르는 부분이 실제로 있습니다. 그래서 인공지능의 답은 확률로 만들어진다고 말합니다. 믿으라는 말이 아니라 직접 확인할 수 있는 사실입니다. 잠시 뒤에 그 부분의 아주 작은 판을 직접 만듭니다 — 어떤 낱말 뒤에 어떤 낱말이 오는지만 세는 모델입니다. 진짜 모델은 훨씬 크고 점수를 훨씬 잘 매기지만, 마지막 단계 — 점수를 매기고 고른다 — 는 같습니다.

예를 들어 “하늘은 무슨 색이야?”라고 물으면, 인공지능은 정답을 알고 있어서 답하는 것이 아닙니다. 지금까지의 글을 보고 다음에 올 수 있는 말마다 점수를 매깁니다. 그 점수는 어마어마한 양의 글에서 익힌 패턴으로 만들어집니다 — 저장해 둔 문장을 찾아 꺼내는 것이 아닙니다.

파랗다 70점, 흐리다 20점, 주황색 10점… (생각을 보여 주려고 지어낸 숫자입니다). 인공지능은 이 점수표에서 낱말 하나를 뽑습니다 — 점수가 높을수록 뽑힐 가능성이 큽니다. 여기에는 마음이라고 부를 만한 것이 없습니다. 그다음 낱말을 위해 새 점수표를 만들고, 문장이 끝날 때까지 이것을 되풀이합니다.

똑같은 질문을 두 번 해 보세요. 답이 조금씩 다를 수 있습니다. 신비한 일이 아닙니다. 점수가 높은 말들 중에서 제비뽑기를 하기 때문입니다.

그럴듯한 말과 사실은 달라요

인공지능의 답은 그럴듯하지요? 여러분을 이해해서가 아닙니다. 배운 글에서 자연스럽게 이어질 가능성이 가장 큰 말을 고른 것입니다. 그럴듯함과 맞음은 같지 않습니다. 점수가 높다는 것은 “이렇게 자주 쓰였다”는 뜻이지 “사실이다”는 뜻이 아닙니다. 틀린 주장도 맞는 주장과 똑같이 자신 있는 말투로 나옵니다.

확률은 선택을 설명하고, 증거는 사실 주장을 뒷받침해요. 두 역할을 구분하세요.

생각이 없습니다. 기분도 없습니다. 거짓말하려는 뜻도 없습니다. 계산된 점수표와, 그 점수표에서 뽑은 결과가 있을 뿐입니다. 거짓말에는 속이려는 뜻이 필요한데 기계에는 그런 뜻이 없습니다 — 그래서 자기가 틀렸다는 것도 알아차리지 못합니다. 그러니 인공지능을 늘 확인해야 하는 도구로 대하세요.

인공지능의 답이 틀렸을 때 기계가 “실수했다”고 말하고 끝내지 마세요. 원인을 찾으세요. 배운 글이 틀렸거나 오래되었을 수 있습니다. 만든 사람이 사실을 확인하는 단계를 넣지 않았거나, 프로그램에 버그가 있었을 수도 있습니다. 질문에 꼭 필요한 정보가 빠졌을 수도 있습니다. 이런 원인이 없어도, 확률로 고르다 보면 틀린 말이 나올 수 있습니다. 분명한 질문은 큰 도움이 되지만, 확인은 여전히 여러분의 몫입니다.

학습·추론·확인, 그리고 첫 실험

인공지능은 안에서 어마어마한 양의 계산을 하지만, 결국 사람들이 써 온 엄청난 양의 글에서 익힌 낱말의 패턴으로 다음 말을 확률로 고릅니다. 그 패턴을 익히는 것을 학습(훈련), 익힌 것으로 답하는 것을 추론이라고 합니다. 대화창에 붙여 넣은 문서는 이번에 인공지능이 읽는 글을 바꿀 뿐, 인공지능을 다시 학습시키지 않습니다.

인공지능에게서 답을 받으면 스스로 물어보세요. “이게 정말 사실일까, 아니면 그냥 자주 나오는 말일까?” 그리고 한 가지는 실제로 확인하세요. 원래 출처를 열어 보거나, 날짜를 보거나, 숫자를 다시 계산해 보면 됩니다. 이 질문 하나를 습관으로 만들면 인공지능에 휘둘리지 않습니다.

첫 실험이에요. 한 단어 뒤에 후보 A가 세 번, B가 한 번 나왔다면 각각의 확률은 얼마일까요? 아래 ‘인공지능 만들기’를 열기 전에 예상해 보고, 탐욕 선택과 샘플링을 비교해 보세요.

이제 아주 작은 인공지능을 직접 만들어 봅시다. 점수표를 한 번 직접 만들어 보면, 인공지능이 어떻게 답을 고르는지 눈으로 알 수 있습니다.