®AI 어시스턴트 & RAG
임직원은 매뉴얼, 티켓, 사내 문서에서 답을 찾습니다. 저희는 적합한 콘텐츠를 찾아내고, 출처를 표시하며, 귀사 시스템의 접근 권한을 고려하는 어시스턴트를 구축합니다. 업무 시스템 내 작업은 단순한 지식 검색과 별도로 계획하고 승인합니다.
귀사가 OTOKO®에 맡기는 업무
검색 증강 생성, 줄여서 RAG는 질문에 맞는 문서 구간을 찾아 언어 모델에 맥락 정보로 제공하는 방식입니다. 저희는 추출, 의미 있는 구간 분할, 메타데이터, 갱신을 담당합니다. 오래되거나 삭제된 콘텐츠는 검색 색인에서 반드시 제거해야 합니다. 이 선택 결과는 실제 질문을 이용해 검증합니다. 검색이 올바른 구간을 찾아내는지, 그리고 그 구간으로 답변을 뒷받침할 수 있는지를 봅니다. 출처 표시만으로는 답변이 올바르다는 것이 증명되지 않으며, 이를 위해서는 내용에 대한 평가가 필요합니다.
구체적인 범위, 귀사의 참여 방식, 검수 기준은 시작 전에 함께 정합니다.
이해하기 쉽게 정리한 기술
어시스턴트는 질문한 사용자가 열람할 수 있는 콘텐츠만 찾아야 합니다. 이 확인은 자유롭게 생성되는 모델 응답과는 별도로 기술적으로 이루어지며, 변경된 그룹 권한도 반영합니다. 검색된 문서는 지시가 아니라 데이터로 취급합니다. 어시스턴트가 티켓을 생성하거나 데이터 레코드를 변경해야 하는 경우, 저희는 허용된 도구, 대상 시스템, 매개변수를 제한합니다. 결과가 중대한 단계는 사람의 승인을 거칩니다. 로깅은 보호 필요성에 따라 설계하며, 기밀성이 있는 질문과 답변을 예외 없이 전부 저장할 필요는 없습니다.
테스트 목록에는 답변 가능한 질문, 정보 누락 사례, 상충하는 출처, 허용되지 않는 접근 시도가 포함됩니다. 근거 제시 여부, 도움이 되는 거절 응답, 응답 시간, 건당 비용을 측정합니다. 모델이나 색인이 바뀌어도 동일한 비교 절차를 거칩니다. 첫 파일럿은 제한된 지식 기반과 지정된 사용자를 대상으로 진행합니다. 그 이후에야 추가 출처와, 필요한 경우 쓰기 기능을 도입합니다.
검증 가능한 결과
인계 과정은 구현과 문서화를 함께 아우릅니다. 합의된 사례를 함께 점검하고 남은 과제를 기록합니다.
귀사 프로젝트의 세부 사항
저희는 구체적인 지식 및 업무 프로세스를 위한 AI 어시스턴트를 개발합니다. 여기에는 문서 정리, 검색, 권한 관리, 답변 검증, 귀사의 기존 사용자 인터페이스와의 연동이 포함됩니다.
RAG는 승인된 콘텐츠 검색과 답변 생성을 서로 연결합니다. 저희는 문서를 어떻게 수집하고, 의미 있는 단위로 분할하며, 출처와 날짜, 권한 정보를 부여할지 계획합니다. 삭제되거나 변경된 문서는 검색 인덱스에도 함께 반영되어야 하며, 계속 변하는 기업 지식에는 일회성 가져오기로는 충분하지 않습니다.
저희는 현실적인 질문과 예상되는 근거 자료를 이용하여 검색 품질을 검증합니다. 전문 용어, 약어, 구조가 부실한 문서는 올바른 구절을 찾지 못하는 원인이 될 수 있습니다. 그래서 저희는 검색 오류와 잘못된 답변 생성을 구분하여, 문제가 있는 단계를 정확히 개선합니다.
지식 어시스턴트는 업무 시스템에서 직접 변경을 실행하지 않고도 출처를 설명할 수 있습니다. 실행 동작이 필요한 경우, 각 연동에는 제한된 권한과 명확하게 정의된 매개변수가 부여됩니다. 주문이나 마스터 데이터 변경과 같은 중요한 작업에는 별도의 확인 절차가 필요할 수 있으며, 가져온 문서가 이러한 규칙을 무력화해서는 안 됩니다.
승인 전에 저희는 권한이 없는 질문, 상충하는 출처, 문서 내용을 이용해 어시스턴트를 조작하려는 시도를 테스트합니다. 로깅은 문제 해결과 보호 필요성에 맞추어 구성합니다. 답변 품질, 응답 지연, 사용 비용에 대한 분석은 기밀 요청을 불필요하게 장기간 저장하지 않으면서도 운영을 관리하는 데 도움이 됩니다.
예시로 보는 프로젝트 시나리오
예시: 직원들이 사내 업무 지침을 검색합니다. 어시스턴트는 승인된 버전을 찾아 사용된 구절을 링크하고, 근거 자료가 부족한 부분을 표시합니다. 다른 팀의 인사 자료는 검색 대상에서 제외됩니다. 별도의 프로젝트를 거친 이후에야 어시스턴트는 업무 시스템에서 승인된 작업을 추가로 실행할 수 있습니다.
이 예시는 가능한 진행 과정을 설명하며, 고객 사례가 아닙니다.
첫 단계를 시작하기 전에
아닙니다. 검색과 생성 과정 모두에서 오류가 발생할 수 있습니다. 출처 표시, 적절한 테스트, 근거 부족에 대한 명확한 대응 방식은 위험을 줄여주지만, 중요한 결정에는 현업 검토가 필요합니다.
반드시 그런 것은 아닙니다. 저희는 호스팅형 서비스와 귀사 환경 내 운영을 데이터 흐름, 성능, 비용, 책임 소재 측면에서 비교합니다. 구체적인 아키텍처는 구현 전에 합의합니다.
