AI는 왜 같은 질문에도 매번 다른 답을 할까? 생성형 AI가 답을 만드는 방식

생성형 인공지능이 매번 다른 대답을 내놓는 이유

우리가 자주 사용하는 인공지능 서비스에 똑같은 질문을 반복해서 던져보면 매번 미묘하게 다른 문장과 표현으로 답변이 돌아오는 것을 쉽게 발견할 수 있습니다. 마치 살아있는 사람이 고민하고 즉석에서 답변을 만들어내는 듯한 느낌을 주기도 합니다. 고도로 발전된 컴퓨터 프로그램인데 왜 똑같은 입력에 항상 같은 결과를 보여주지 않는 것일까요. 이 현상은 인공지능이 정보를 암기해서 기계적으로 뱉어내는 것이 아니라 방대한 언어 데이터를 바탕으로 확률을 계산하여 스스로 문장을 조립하기 때문에 발생합니다.

전통적인 컴퓨터 프로그램은 정해진 명령어와 규칙에 따라 작동하므로 입력값이 같으면 출력값도 언제나 완벽하게 일치합니다. 하지만 생성형 인공지능은 인간의 언어라는 복잡하고 유동적인 체계를 다루도록 설계되었습니다. 인간의 대화는 늘 정형화되어 있지 않고 상황과 맥락에 따라 다양한 표현이 가능하기 때문에 인공지능 역시 고정된 하나의 정답보다는 가장 자연스럽고 적절한 단어를 확률적으로 선택하는 방식을 택한 것입니다.

인공지능이 문장을 완성해나가는 근본적인 원리

인공지능이 답변을 생성하는 과정은 단어 맞추기 게임과 매우 닮아 있습니다. 사용자가 질문을 입력하면 인공지능은 그 문장의 맥락을 파악한 뒤 다음에 올 확률이 가장 높은 단어를 순서대로 골라냅니다. 이때 단순히 확률이 가장 높은 단어 하나만 무조건 고르는 것이 아니라 확률 분포를 바탕으로 여러 후보 중에서 무작위로 선택하는 과정을 거칩니다.

예를 들어 안녕하세요라는 인사를 건넸을 때 다음에 올 수 있는 말로 반갑습니다가 확률 구구단에서 가장 높을 수 있지만 안녕하십니까나 좋은 아침입니다 같은 다른 표현들도 일정 수준의 확률을 가지고 존재합니다. 인공지능은 매번 이 확률의 바다에서 주사위를 던지듯 단어를 선택하기 때문에 똑같은 질문이라도 선택되는 단어의 조합이 미세하게 달라지고 결국 전체적인 답변의 형태도 매번 새롭게 빚어지게 됩니다.

답변의 다양성을 조절하는 창의성 조절 장치

인공지능 모델 내부에는 답변의 유연함과 다양성을 통제할 수 있는 특별한 설정값들이 존재합니다. 이 설정값들을 어떻게 조정하느냐에 따라 인공지능이 얌전하고 정형화된 모범생처럼 답할 수도 있고 때로는 엉뚱하지만 기발한 아이디어를 내놓는 예술가처럼 변신할 수도 있습니다.

• 온도 설정값은 인공지능의 창의성과 무작위성을 결정하는 가장 중요한 요소입니다.
• 온도를 낮게 설정하면 인공지능은 가장 확률이 높은 안전한 단어만 선택하여 항상 일관되고 정돈된 사실 위주의 답변을 내놓습니다.
• 온도를 높게 설정하면 확률이 조금 낮더라도 독창적이고 예상치 못한 단어들을 선택하여 매번 훨씬 다채롭고 창의적인 문장을 만들어냅니다.
• 반복 페널티 기능은 인공지능이 방금 사용했던 단어나 표현을 불필요하게 되풀이하는 것을 막아주어 답변을 더욱 풍성하게 만들어 줍니다.
• 상위 확률 제한 기능을 이용하면 인공지능이 선택할 수 있는 단어의 범위를 조절하여 문맥의 일관성을 유지하면서도 적당한 변화를 줄 수 있습니다.

일상 업무와 창작 활동에서 인공지능의 변화무쌍함을 활용하는 방법

매번 다른 답변이 나온다는 특성은 제대로 이해하고 활용하면 오히려 강력한 무기가 될 수 있습니다. 정해진 답이 없는 창작의 영역이나 새로운 아이디어가 필요한 기획 단계에서 인공지능의 이러한 무작위성은 사람의 사고를 확장해주는 훌륭한 촉진제가 되어 줍니다.

블로그 글의 도입부를 작성하거나 마케팅 문구를 고민할 때 똑같은 프롬프트를 여러 번 입력해보는 것이 좋습니다. 인공지능이 매번 다른 각도에서 문장을 구성해주기 때문에 단 한 번의 시도에서는 얻지 못했던 신선한 표현이나 전혀 생각지 못했던 관점을 발견할 수 있습니다. 반대로 정확한 사실 확인이나 프로그래밍 코드 작성처럼 일관성이 생명인 작업을 할 때는 창의성 설정을 낮추거나 반복 질문을 통해 검증 과정을 거쳐야 오류를 줄일 수 있습니다.

인공지능 사용자들이 자주 오해하는 부분과 진실

인공지능이 매번 다른 답을 한다는 사실 때문에 많은 사용자들이 오해를 하곤 합니다. 인공지능이 매번 변한다는 이유로 그 능력을 쉽게 불신하거나 반대로 매번 새로운 답변을 완벽한 진실로 받아들이는 경우가 대표적입니다.

• 인공지능이 매번 다른 답을 한다고 해서 매번 새로운 사실을 학습하거나 스스로 진화하는 것은 아닙니다. 기반이 되는 데이터와 학습된 지식은 동일하지만 답변을 조합하는 과정에서의 확률적 선택 때문에 표현이 달라질 뿐입니다.
• 똑같은 질문을 반복했을 때 인공지능이 이전에 한 말을 기억하고 앞의 답변과 완벽하게 모순되지 않도록 스스로 조율한다고 믿는 경우가 많지만 대화창을 새로 열면 이전의 맥락은 완전히 사라지고 매번 백지상태에서 확률 계산이 다시 시작됩니다.
• 인공지능이 매번 다른 표현을 쓴다고 해서 그 안에 담긴 정보의 신뢰도가 저절로 높아지는 것은 아닙니다. 틀린 정보를 그럴듯한 다른 말로 포장하여 매번 새롭게 그짓말을 만들어낼 수도 있으므로 중요한 사실관계는 반드시 사람이 직접 검증해야 합니다.

비용 효율적으로 인공지능의 답변 품질을 높이는 실용적인 팁

인공지능 서비스를 이용할 때 무작정 질문을 던지고 마음에 드는 답이 나올 때까지 기다리기보다는 명확한 원칙을 가지고 접근하는 것이 시간과 비용을 아끼는 지름길입니다.

원하는 결과물을 얻기 위해서는 질문 안에 구체적인 역할과 상황을 부여하는 것이 좋습니다. 예를 들어 단순하게 마케팅 문구 만들어줘라고 요청하는 것보다 30대 직장인을 타겟으로 하는 친근한 어조의 커피 전문점 인스타그램 광고 문구 세 가지를 추천해줘라고 구체적으로 지시하면 확률의 범위를 좁혀주어 훨씬 만족스럽고 일관성 있는 답변을 유도할 수 있습니다.

또한 마음에 드는 답변의 핵심 요소를 다음 질문에 반영하여 대화를 이어가는 프롬프트 체이닝 기법을 활용하면 인공지능이 중구난방으로 엉뚱한 길로 새는 것을 막고 원하는 방향으로 결과를 정교하게 다듬어 나갈 수 있습니다.

인공지능의 가변성과 관련해 자주 묻는 질문

질문: 어제 완벽했던 답변과 똑같은 대답을 다시 듣고 싶은데 어떻게 해야 하나요?

답변: 인공지능 모델의 특성상 완전히 똑같은 조건과 확률 분포 하에서도 미세한 무작위성이 작용하기 때문에 어제와 한 치의 오차도 없이 동일한 답변을 정확하게 다시 듣는 것은 거의 불가능합니다. 따라서 마음에 드는 답변을 얻었다면 반드시 별도의 문서에 복사해서 저장해두는 것이 가장 안전합니다.

질문: 질문을 살짝 바꿨는데 결과가 하늘과 땅 차이로 달라지는 이유는 무엇인가요?

답변: 인공지능은 문맥을 파악하는 과정에서 사용자가 사용한 단어 하나하나에 큰 가중치를 부여합니다. 단어 하나가 바뀌면 전체 문장의 의미나 인공지능이 인식하는 맥락의 방향성이 완전히 틀어지기 때문에 확률 계산의 결과물인 최종 답변도 전혀 다른 방향으로 튀어나오게 됩니다.

질문: 유료 버전의 인공지능을 사용하면 매번 일관되고 정확한 답변을 더 잘 받을 수 있나요?

답변: 유료 버전은 더 방대한 데이터로 학습되고 성능이 뛰어난 대형 모델을 사용하기 때문에 논리적 추론 능력이나 복잡한 지시사항을 이해하는 능력이 훨씬 뛰어납니다. 덕분에 엉뚱한 답변을 할 확률은 줄어들지만 그렇다고 해서 확률 기반으로 작동하는 본질 자체가 바뀌는 것은 아니므로 여전히 약간의 변동성은 존재합니다.