챗봇을 넘어 액션을 수행하는 AI 에이전트의 정의

오전 2시 13분, 한 사무직원이 피싱 링크를 클릭하는 상황에서 AI 에이전트가 비정상 로그인 동작을 감지하고 즉각 해당 계정을 비활성화한다. AI 에이전트는 계정 차단 직후 멀웨어가 다른 장치나 계정으로 확산되었는지 여부를 확인하고, 관리 시스템에 사고 티켓을 생성하며 보안 팀에 긴급 알림을 전송한다. 이후 에이전트는 사고 경위와 초기 조치 내용을 포함한 사건 요약 보고서 초안을 작성해 보안 담당자가 출근 후 즉시 후속 조치를 취할 수 있도록 준비한다.

AI 에이전트는 단순한 질의응답을 수행하는 AI 챗 앱과 달리 시스템 상에서 구체적인 '액션'을 수행한다는 점에서 차별화된다. AI 챗 앱이 학습된 데이터를 바탕으로 질문에 최적의 답변을 제공하는 응답 중심 구조라면, AI 에이전트는 프로젝트 마감일 추적, 공유 편지함 모니터링, 야간 보고서 생성과 같은 실무 과업을 직접 실행하는 앱의 형태로 작동한다. 실무자는 에이전트를 통해 단순 정보 습득을 넘어 특정 워크플로를 자동화하는 도구로 활용할 수 있다.

에이전트 구축의 시작점은 기술적 구현이 아니라 해결해야 할 '과업(Job)'의 정의에서 출발한다. 사용자는 동료와의 논의를 통해 필요성을 명확히 하고 범위를 좁힌 뒤, 에이전트가 정보를 검색할 것인지, 특정 작업을 완료할 것인지, 혹은 독립적으로 행동할 것인지에 대한 결과값을 먼저 정의한다. 명확한 목표 설정은 이후의 구축 프로세스 속도를 높이고 실무 활용도를 결정하는 핵심 기준이 된다.

Microsoft 365 Copilot을 이용한 노코드 에이전트 구축 경로

사용자는 Microsoft 365 Copilot Chat 메뉴에서 'Agents' 탭을 클릭하고 'New Agent' 버튼을 선택하여 즉시 에이전트 생성을 시작할 수 있다. 이 경로는 별도의 코딩이나 API 설정 없이 자연어 설명만으로 맞춤형 에이전트를 구축할 수 있는 노코드 환경을 제공한다. 개발 경험이 없는 실무자도 아이디어를 즉시 작동 가능한 프로토타입으로 전환할 수 있는 구조다.

구축 단계에서 사용자가 평문(Plain language)으로 원하는 기능을 설명하면, Copilot이 이를 분석해 에이전트의 기본 설정 초안을 자동으로 생성한다. 사용자는 생성된 초안을 확인한 후 'Configure(설정)' 버튼을 클릭해 에이전트의 세부 행동 지침을 정의한다. 이 단계에서 에이전트가 유지해야 할 응답 톤, 수행해야 할 구체적 작업, 워크플로에 맞춘 행동 방식을 명문화하여 일관성 있는 결과물을 도출하도록 제어한다.

에이전트를 직접 구축하기 전에는 Microsoft 365 Copilot 왼쪽 패널의 'Agents' 섹션에 있는 스토어에서 이미 만들어진 사전 구축 에이전트(Prebuilt agents)가 있는지 먼저 확인한다. 기존 에이전트로 해결이 불가능한 특수 목적의 과업일 경우에만 'New Agent' 경로를 통해 커스텀 구축을 진행한다. 더 높은 수준의 제어와 커스터마이징이 필요한 고급 사용자의 경우에는 별도의 개발자 도구를 활용한 구축 방식을 선택할 수 있다.

SharePoint 및 PDF 연결을 통한 지식 기반 최적화 방법

사용자는 에이전트가 기업 내부의 최신 데이터를 근거로 작동하도록 이메일, 문서, SharePoint 사이트, 웹사이트, 회사 정책 PDF 등의 정보 소스를 연결한다. 에이전트는 연결된 큐레이션 데이터만을 사용할지, 혹은 외부 웹사이트나 PDF 파일 같은 광범위한 소스를 함께 참조할지를 설정에 따라 결정한다. 이를 통해 AI의 일반적인 지식이 아닌 기업 내부 규정과 최신 업데이트 사항에 기반한 정확한 답변을 생성하게 한다.

정보 소스를 추가하거나 수정하려면 Agent Builder 페이지에서 에이전트 이름 우측의 연필 아이콘을 클릭해 편집 화면으로 진입한다. 사용자는 편집 화면 하단에서 직접 문서를 첨부하거나, 왼쪽의 채팅창을 통해 Copilot의 안내를 받으며 필요한 지식 소스를 연결할 수 있다. 이 과정에서 실무자는 에이전트가 참조해야 할 데이터의 범위를 정밀하게 지정하여 정보의 신뢰도를 높인다.

데이터 연결 후에는 에이전트가 생성할 최종 결과물의 형식을 보고서, 프레젠테이션, 스프레드시트, 응답, 코드 중에서 선택하여 정의한다. 예를 들어 데이터 추출이 목적이라면 스프레드시트 형식을, 요약 및 분석이 목적이라면 보고서 형식을 지정해 실무에 즉시 투입 가능한 포맷으로 출력하게 한다. 또한 '최근 7일간의 메시지만 검토'하거나 '이메일과 Teams 메시지 외의 정보는 추론하지 말 것'과 같은 제약 조건을 설정해 환각 현상을 방지하고 사실 기반의 결과물만 도출하도록 경계를 설정한다.

실무 시나리오 적용 및 반복 튜닝을 통한 성능 개선

주간 보고서 자동화 에이전트는 최근 7일간의 Teams 메시지와 이메일을 검토하여 업데이트 사항, 결정된 내용, 차단 요소(Blockers), 다가오는 마감일을 자동으로 추출한다. 사용자가 특정 프로젝트나 팀 관련 메시지만 필터링하도록 설정하면, 에이전트는 수많은 대화 내용 중 핵심 데이터만 골라내어 전문적인 톤의 보고서 초안을 작성한다. 실무자는 이를 통해 매주 반복되는 데이터 수집 시간을 단축하고 보고서의 일관성을 유지할 수 있다.

공유 편지함 관리 에이전트는 유입되는 메시지를 일반 질문, 긴급 이슈, 복잡한 요청의 세 가지 범주로 분류하고 각 유형에 맞는 담당자에게 메시지를 라우팅한다. 일반적인 질문에는 승인된 표준 문구를 사용하여 즉시 응답하고, 민감한 내용이 포함된 메시지는 인간 검토자에게 플래그를 표시해 전달하도록 설정한다. 이러한 분류 체계는 수동 메일 분류 업무를 대체하여 운영 효율을 높이는 실무 적용 사례가 된다.

에이전트의 성능은 실제 시나리오 테스트 후 'Configure' 설정으로 돌아가 지침을 수정하는 반복 튜닝 과정을 통해 완성된다. 예를 들어 에이전트가 이메일 내의 상충하는 정보를 임의로 추론해 답변하는 오류가 발견되면, 사용자는 "누락되거나 충돌하는 세부 사항은 추론하지 말고 플래그로 표시하라"는 구체적인 지침을 추가한다. 또한 보고서의 분량이 너무 길 경우 단어 수를 조정하거나 핵심 내용을 불렛 포인트 리스트로 작성하도록 지침을 변경해 가독성을 높인다.

에이전트 구축의 최종 목표는 초기 단계의 완벽함이 아니라 실무에 유용한 프로토타입을 빠르게 배포하고 지속적으로 개선하는 것이다. 사용자는 실제 업무 데이터가 입력되는 과정을 관찰하며 지침을 정교화하고, 발생한 오류를 바탕으로 설정값을 수정하는 짧은 개선 주기를 유지함으로써 에이전트를 실무 최적화 상태로 진화시킨다.