AI 앱의 작동 원리: LLM, RAG, AI 에이전트를 실제 앱으로 설명

핵심 요약

LLM은 학습한 언어 패턴으로 답을 씁니다. 회사의 데이터는 모릅니다.
RAG(검색 증강 생성)는 먼저 회사 문서를 검색하고 관련 부분만 모델에 넘깁니다. 그래서 답의 품질은 문서의 품질을 넘지 못합니다.
모델이 도구를 고르고 시스템 코드가 실행하면, 앱은 AI 에이전트가 됩니다.
태국어와 태국 개인정보보호법(PDPA)은 검색 방식에도, 모델을 어디서 돌릴지에도 영향을 줍니다.

1번 지점: 보낸 메시지와 보이지 않는 지시문

dnamaker.com 채팅 페이지를 열고 왼쪽 목록에서 ‘사내 지식을 못 찾음’을 골라 보십시오. 저희 AI 어시스턴트 Dream에게 가는 메시지는 “우리 회사 문서로 답하는 AI를 원합니다.”라는 문장으로 끝납니다. 이 메시지가 답이 되어 화면으로 돌아올 때까지 따라가 보겠습니다.

메시지는 최근 대화 기록, 그리고 시스템 프롬프트와 함께 전달됩니다. 시스템 프롬프트는 팀이 작성한 지시문으로, 사용자에게는 보이지 않습니다. Dream의 프롬프트에는 Dream이 누구인지, 요구 사항 파악부터 제안서까지 네 단계로 대화를 진행한다는 것, 고객 이름이나 수치를 지어내면 안 된다는 것이 적혀 있습니다.

모델에 닿기 전에는 관문이 있습니다. 한 네트워크에서 보낼 수 있는 메시지 수를 제한하고, 하루 모델 사용량에 상한을 두며, 시스템 지시문을 빼내려는 메시지에는 모델을 거치지 않고 거절 답변을 보냅니다.

이 지점에서 생기는 실패는 두 가지입니다. 하나는 회사가 하지 않는 일까지 AI가 약속하게 만드는 지나치게 넓은 시스템 프롬프트입니다. 다른 하나는 관문 없는 앱으로, 비용 급증과 프롬프트 인젝션, 곧 시스템이 원래 지시를 버리게 만드는 글을 함께 맞닥뜨립니다.

2번 지점: LLM이 답을 씁니다

LLM, 곧 대규모 언어 모델은 방대한 양의 글에서 언어 패턴을 배운 프로그램입니다. 답을 조각조각 쓰면서 매번 다음에 올 가능성이 가장 높은 조각을 고릅니다. 매일 쓰는 채팅 어시스턴트 대부분은 안에 LLM이 있습니다.

LLM은 요약, 번역, 되묻기 같은 언어 작업에 강합니다. 하지만 회사의 데이터가 없고, 학습이 끝난 뒤의 일을 모르며, 자신이 무엇을 모르는지도 모릅니다. 틀린 답도 맞는 답만큼 자신 있게 들립니다. 이를 할루시네이션이라고 부릅니다.

Dream에서는 대규모 언어 모델 하나가 답을 씁니다. 이미지를 첨부하면 다른 모델이 먼저 이미지를 글로 설명합니다. 모델은 숨겨진 상태 줄도 쓰는데, 시스템이 이 줄을 잘라 내 상단의 네 단계 막대와 ‘프로젝트 개요’ 패널을 채웁니다.

이 지점에서 생기는 실패는 모델이 기억만으로 답하게 두는 것입니다. 모델은 숫자, 날짜, 고유명사를 추측합니다. 그래서 Dream은 모델이 가격을 직접 쓰지 못하게 합니다.

3번 지점: RAG는 답하기 전에 찾아봅니다

RAG는 Retrieval-Augmented Generation의 약자로, 관련 정보를 먼저 검색해 질문과 함께 모델에 넘기는 방식입니다. 모델은 눈앞의 자료를 보고 답합니다. 오픈북 시험과 같습니다.

Dream의 지식은 팀이 직접 쓴 작은 묶음입니다. 회사 정보는 시스템 프롬프트에 있고, 솔루션 페이지에서 넘어온 경우 그 페이지 내용도 함께 붙습니다. 음성 Dream에는 페이지와 같은 파일로 만든 사이트 전체 지도가 전달됩니다.

회사 문서는 양이 많아 질문마다 전부 붙일 수 없습니다. 그래서 문서용 RAG는 세 단계로 움직입니다. 준비: 문서를 짧은 구간으로 나누고, 각 구간을 의미를 나타내는 숫자 묶음인 임베딩으로 바꿔 벡터 데이터베이스에 저장합니다. 검색: 질문도 같은 방식으로 숫자로 바꾸고 의미가 가장 가까운 구간을 찾습니다. 그래서 ‘출산휴가’를 물은 사람이 ‘출산에 따른 휴가’ 항목을 찾습니다. 답변: 찾은 구간을 모델에 넘기면서 이 자료로 답하고 출처를 밝히라고 지시합니다. 이렇게 동작하는 챗봇이 RAG 챗봇입니다.

저희 사이트의 검색창은 단어 일치로 찾기 때문에 이름과 코드에 정확합니다. 문장으로 쓴 질문에는 의미 검색이 더 잘 맞습니다. 사내 시스템은 보통 둘을 함께 쓰며, 이를 하이브리드 검색이라고 합니다.

이 지점에서 생기는 실패는 엉뚱한 문서를 찾아오는 것입니다. 저장소에 남은 옛 버전이나, 표 중간에서 잘려 머리글이 빠진 구간을 가져오면 답도 틀립니다.

4번 지점: 답, 그리고 화면에 닿기 전의 점검

답이 화면에 뜨기 전에, 잘 만든 시스템에는 점검 단계가 하나 더 있습니다. 이를 가드레일이라고 합니다. Dream의 가드레일은 비밀 키처럼 보이는 문자열을 지우고, 답에 시스템 지시문의 흔적이 보이면 그 답을 버리고 미리 준비한 답으로 바꿉니다. 채팅 페이지에도 Dream은 AI이므로 잘못된 정보를 줄 수 있다고 분명히 적혀 있습니다.

“모르겠습니다”라고 답하게 하려면 설계가 필요합니다. 좋은 RAG는 검색 결과가 없으면 문서에 없다고 답하도록 모델에 지시하고, 매번 출처를 붙입니다. Dream은 요구 사항이 부족하면 되묻고, 조용히 추측하는 대신 가정을 적어 보여 줍니다.

이 지점에서 생기는 실패는 너무 엄격해서 평범한 질문까지 거절하는 가드레일, 그리고 너무 느슨해서 지어낸 답이나 질문한 사람이 볼 권한이 없는 정보를 통과시키는 가드레일입니다.

AI의 모든 답에 던질 세 가지 질문

어디서 왔나 어떤 문서의 어느 항목을 근거로 했는지. 말하지 못하면 모델의 의견으로 봅니다.
얼마나 최신인가 그 문서를 마지막으로 고친 때는 언제이고, 지금도 쓰는 버전인지.
누가 확인하나 내용의 책임자는 누구이고, 쓰기 전에 승인이 필요한지.

5번 지점: 도구를 부를 수 있으면 앱은 AI 에이전트가 됩니다

모델이 어떤 도구를 부를지 스스로 고르고 시스템 코드가 실행하면, 앱은 AI 에이전트가 됩니다. 이 방식을 도구 호출(Tool Calling)이라고 합니다. AI 에이전트와 에이전틱 AI의 차이는 5장에서 다룹니다.

Dream에는 이런 단계가 세 가지 있습니다. 견적에서는 모델이 모듈을 고르고 표시를 남기면, 코드가 팀이 관리하는 표에서 가격 범위를 계산해 그 자리에 넣습니다. 답 끝의 버튼에서는 모델이 페이지 키만 고를 수 있고, 주소와 페이지 제목은 저희 콘텐츠에서 가져옵니다. 그래서 답이 사이트 밖으로 안내할 수 없습니다. 음성 Dream은 브라우저에서 페이지를 열고 해당 항목으로 스크롤하는 도구를 부릅니다.

Dream의 도구는 계산하거나 페이지로 안내할 뿐이어서 위험이 낮습니다. 휴가 신청을 등록하거나 ERP 데이터를 고치는 에이전트에는 실행 전에 사람의 승인 지점이 필요합니다.

이 지점에서 생기는 실패는 잘못된 값으로 도구를 부르거나, 같은 호출을 반복하거나, 문서에 숨은 지시를 따르는 것입니다.

	LLM만	LLM + RAG	AI 에이전트
아는 것	학습 시점까지의 일반 지식	여기에 회사 문서	여기에 업무 시스템의 실시간 데이터
할 수 있는 일	초안, 요약, 번역	출처와 함께 문서로 답변	계산, 시스템 조회, 문서 작성
실패하는 방식	사실을 지어냄	옛 버전을 찾음, 질문자의 권한을 넘어 답함	도구를 잘못 부름, 숨은 지시를 따름
필요한 것	쓰기 전에 사람의 확인	책임자가 있는 문서, 열람 권한	좁은 권한, 승인 지점, 호출 기록

6번 지점: 태국어와 회사의 데이터

태국어는 단어 사이를 띄우지 않습니다. 또 많은 모델이 같은 뜻의 영어보다 태국어를 더 많은 조각, 곧 토큰으로 나누기 때문에 태국어로 모델을 부르면 비용이 더 드는 경우가 많습니다. 실제 업무에서는 두 언어가 섞여 “ขอ OT วันเสาร์”(토요일 초과 근무 신청)나 “PO เลขนี้ส่งของยัง”(이 발주서 물건은 출고됐나요)처럼 쓰는데, 의미 검색은 이런 문장을 자주 놓칩니다.

Dream은 입력한 글자로 답할 언어를 정합니다. 태국어로 대화하다가 “Excel”만 입력해도 Dream은 태국어로 답합니다. 음성에서는 팀이 언어를 사용자의 언어로 고정해 둡니다. 시스템에 추측을 맡겼을 때 짧은 태국어 답이 일본어나 포르투갈어로 받아 적힌 일이 있었기 때문입니다.

저희 채팅 페이지에는 상담 내용이 저장된다고 안내되어 있고, Dream의 모델은 클라우드 서비스입니다. 이미 웹사이트에 공개된 내용에는 맞는 방식입니다. 인사 문서나 고객 데이터라면 다르게 판단해야 합니다. PDPA 아래에서는 개인정보가 어느 지점에서 회사 밖으로 나가는지 답할 수 있어야 합니다. 나가면 안 된다면 회사 서버에서 돌리는 프라이빗 LLM이 선택지입니다. 자세한 내용은 데이터가 회사 밖으로 나가면 안 되는 기업을 위한 프라이빗 AI 선택지에 있습니다.

이 지점에서 생기는 실패는 영어로만 시험한 시스템, 그리고 누구도 의도하지 않았는데 질문에 섞여 밖으로 나가는 개인정보입니다.

가상 사례

촌부리의 자동차 부품 공장(회사명과 세부 내용은 가상)이 공유 드라이브의 문서를 검색해 인사 질문에 답하는 AI 어시스턴트를 LINE 공식 계정으로 운영합니다. LINE 공식 계정은 태국의 많은 기업이 고객과 직원에게 연락할 때 쓰는 창구입니다. 한 직원이 “올해 못 쓴 연차를 내년으로 넘길 수 있나요?”라고 묻습니다. 어시스턴트는 두 가지 방식으로 실패할 수 있습니다.

첫째, 드라이브에 휴가 규정이 두 버전 있고, 검색이 “넘길 수 있다”고 적힌 옛 버전을 찾아옵니다. 인사팀은 한 사람씩 바로잡느라 바빠집니다. 해결책은 문서 묶음마다 책임자를 두고, 새 버전을 공지한 날 옛 버전을 저장소에서 빼며, 답에 문서 이름과 마지막 수정일을 보여 주는 것입니다.

둘째, 빨리 끝내려고 드라이브 전체를 넣다가 경영진 급여표까지 들어갑니다. 생산 라인 반장이 임금 인상 기준을 묻자, 어시스턴트는 그가 열 권한이 없는 파일의 숫자를 인용합니다. 해결책은 모델에 넘기기 전에 질문자의 권한으로 문서를 거르는 것입니다. 이런 작업의 예는 인사·IT 헬프데스크 에이전트 페이지에서 볼 수 있습니다.

RAG 어시스턴트를 만들기 전에 준비할 것

다음 여섯 가지는 어느 개발사와 이야기하기 전에도 회사가 직접 준비할 수 있습니다.

문서가 있는 곳, 그리고 어느 버전이 실제로 쓰는 버전인지
문서 묶음마다의 책임자, 곧 내용이 맞는지 확인하는 사람
업데이트 주기와 옛 버전을 저장소에서 빼는 방법
열람 권한: 누가 어떤 문서를 열 수 있는지
자주 나오는 실제 질문과 문서 책임자가 확인한 답
문서 속 개인정보, 그리고 PDPA상 회사 밖으로 나가도 되는지

개발팀 참고 · 청킹, 태국어 임베딩, 하이브리드 검색, 테스트

청킹: 글자 수 대신 제목과 표 단위로 나눕니다. 태국어는 단어 사이에 공백이 없기 때문입니다. 문서 이름, 수정일, 권한을 메타데이터로 붙입니다. 태국어 임베딩: 다국어 모델을 회사의 실제 글로 시험하고, 태국어와 영어가 섞인 문장과 제품 코드도 포함합니다. 하이브리드 검색: 태국어 단어 분리를 마친 색인에서의 BM25와 벡터 검색을 합치고 재순위화합니다. 권한과 날짜 필터는 검색 단계에서 적용합니다. 테스트: 가동 전에 회사의 실제 업무 사례로 시스템을 시험하고, 무엇을 합격으로 볼지 문서 책임자와 정해 둡니다. 모델이나 프롬프트나 분할 방식을 바꿀 때마다 다시 테스트합니다. 검색이 맞았는지와 답이 문서에 충실한지를 따로 측정합니다. 검색으로 가져온 문서 속 프롬프트 인젝션도 점검합니다.

DNA MAKER · AI AGENT

태국 기업을 위한 RAG 어시스턴트와 AI 에이전트를 저희는 이렇게 만듭니다

DNA Maker는 모델을 고르기 전에 문서부터 봅니다. 자주 나오는 질문에 어떤 문서가 답하는지, 책임자는 누구인지, 누가 무엇을 볼 수 있는지를 귀사 팀과 함께 정리하고, 아직 준비되지 않은 부분은 분명하게 말씀드립니다. 오픈 전에는 귀사의 실제 문서와 실제 질문으로 시험하고, 개발 기간에는 매주 데모를 보여 드립니다.

AI가 시스템의 데이터를 바꾸는 모든 단계 앞에 승인 지점을 둡니다. 데이터를 회사 밖으로 내보낼 수 없을 때는 프라이빗 LLM을 귀사 서버에 두고 접근 권한을 Active Directory와 연결합니다. 함께 일하는 팀은 DNA Maker 소속이며 외주를 주지 않습니다. 범위와 가격은 착수 전에 확정합니다. 저희는 500개가 넘는 프로젝트를 수행했고, 고객에는 은행, 병원, 태국 대기업 그룹이 있습니다. AI 에이전트 & 챗봇과 프라이빗 LLM 페이지를 보시거나, Dream에게 프로젝트를 들려주십시오.

SOFTWARE ENGINEERING GLOSSARY

소프트웨어 엔지니어링 용어집

용어	의미	쉬운 예시	개발팀에 물어봐야 할 질문
LLM	답을 조각조각 쓰는 대규모 언어 모델	Dream이 LLM으로 채팅 페이지의 답을 씀	이 답은 회사 문서에서 왔는가, 모델의 기억에서 왔는가
RAG	관련 정보를 먼저 검색해 질문과 함께 모델에 넘기는 방식	인사 어시스턴트가 휴가 규정을 찾아본 뒤 답함	검색 결과가 없으면 시스템은 뭐라고 답하는가
임베딩	글을 의미를 나타내는 숫자 묶음으로 바꾼 것	‘출산휴가’ 질문이 ‘출산에 따른 휴가’ 항목을 찾음	태국어와 영어가 섞인 글로 시험했는가
도구 호출	모델이 도구를 고르고 코드가 실행하는 방식	Dream이 표시를 남기면 코드가 가격 범위를 채움	어떤 도구가 데이터를 바꿀 수 있는가
프라이빗 LLM	회사가 직접 관리하는 서버에서 돌아가는 언어 모델	회사 서버에서 돌아가는 인사 어시스턴트	개인정보는 어느 지점에서 회사 밖으로 나가는가

내일 해 볼 일: 직원이 인사팀이나 IT팀에 가장 자주 묻는 질문 하나를 골라, 그 답이 있는 문서를 찾고 세 줄을 적어 보십시오. 책임자는 누구인지, 마지막으로 고친 때는 언제인지, 누가 열 수 있는지. 세 줄을 다 채우지 못한다면 첫 번째 일은 그 문서 묶음을 정리하는 것입니다.