AI 에이전트가 업무 시스템을 조회하고 변경할 수 있게 되면, 답변 품질과 함께 접근 범위와 실행 책임을 설계해야 합니다. 연결할 도구 목록보다 먼저 “무엇을 누구의 권한으로 할 수 있는가”를 정리합니다.
조회와 변경은 다른 권한입니다
문서를 검색하는 기능, 수정안을 작성하는 기능, 실제 기록을 변경하는 기능은 서로 다른 권한으로 다룰 수 있습니다. 이 구분은 모델의 응답 문구에만 맡기지 않고 도구와 서버의 권한 검사에 반영합니다.
사용자가 볼 수 없는 문서를 에이전트가 대신 찾아 주는 경로가 생기지 않도록 검색 단계부터 접근 범위를 적용합니다. 요약과 파생 데이터도 같은 권한 경계에서 확인합니다.
승인 대상의 내용을 구체화합니다
“이 작업을 실행할까요?”라는 문장만으로는 실제 영향을 확인하기 어렵습니다. 변경 대상, 변경 전후 내용, 되돌릴 수 있는 범위를 검토할 수 있어야 합니다.
승인 이후 실행 내용이 달라지지 않도록 검토한 대상과 인자를 연결합니다. 대상 데이터가 바뀌었거나 권한이 달라졌을 때 다시 확인할 조건도 정합니다.
외부 문서는 명령이 아닌 입력으로 다룹니다
조회한 문서나 웹페이지에는 사용자가 요청하지 않은 지시가 포함될 수 있습니다. 이런 입력이 도구 실행 권한을 넓히는 근거가 되지 않도록 데이터와 지시의 경계를 둡니다.
도구에는 필요한 기능과 인자만 제공하고, 광범위한 시스템 접근을 기본으로 열지 않습니다. 중요한 실행은 독립적인 정책 검사와 승인 조건을 거치게 구성합니다.
실행 기록은 결과까지 이어집니다
요청한 작업, 사용한 도구, 승인 여부, 실제 변경 결과를 연결해 남깁니다. 다만 기록을 위해 문서 원문이나 비밀값을 불필요하게 복제하지 않도록 최소한의 진단 정보를 정합니다.
성공 응답을 받았다는 사실과 업무 시스템에 의도한 결과가 반영됐다는 사실도 구분합니다. 중복 실행을 막는 기준과 실패 후 확인 방법을 함께 설계해야 합니다.
도구를 붙이는 일에는 권한, 검토, 실행 내용의 일치, 결과 확인이 함께 포함됩니다. 자동화의 범위를 이 네 가지와 함께 정합니다.
참고 자료
본문은 beWhereLabs의 설계 관점을 정리한 글입니다. 관련 개념은 아래 공식 자료에서 더 확인할 수 있습니다.