에이전트 개발 인프라와 AI Ops의 기술적 토대

AI가 코드의 85~90%를 작성하고 개인의 코드 생산량이 10배 이상 늘어난 선도 기업들에서도 실제 종단 간 생산성 향상은 대체로 25~30%에 머물렀으며, 가장 앞선 기업에서도 50%를 넘지 못했다. DX가 400개 기업을 분석한 자료에서도 AI 도입률은 65% 증가했으나 Pull Request 처리량의 중앙값은 7.76% 증가하는 데 그쳤다. 이는 코딩 인프라와 운영 방식을 바꾸지 않으면 다음 단계인 검증과 배포가 새로운 병목이 되기 때문이다. 에이전틱 엔지니어링의 성숙도는 코딩 인프라, AI Ops, 측정 체계, 보안의 네 영역으로 나뉜다. 코딩 인프라의 발전 단계를 보면 사람이 입력을 보조하는 Assistant, 코드와 설계를 검토하는 Reviewer, 하나의 작업을 수행하는 Engineer 단계를 거쳐 여러 에이전트가 장시간 병렬로 작업하는 Team, 이른바 다크 팩토리 단계로 이어진다. 마지막 단계에서는 개발자가 모든 변경을 직접 보지 않고 목표와 제약을 정한 뒤 에이전트가 계획, 구현, 테스트, 수정을 수행한다. 이를 위해 에이전트마다 격리된 작업 공간과 상태, 테스트 환경, 권한 체계가 필요하다. 선도 기업들은 모델과 에이전트 도구 운영을 개별 개발자에게 맡기지 않고 2~5명 규모의 AI Ops 팀을 두어 모델과 하네스 평가, 컨텍스트와 메모리 관리, 샌드박스와 실행 권한 설계, 비용과 사용량 추적을 전담하게 한다.

사용량 편차와 검증 중심의 측정 체계

AI 도구 사용량은 도입 여부를 확인하는 최소 지표일 뿐 생산성을 직접 나타내지 않는다. 조사된 고도화된 조직에서는 엔지니어 한 명당 월평균 1,000~2,000달러를 지출하는 사례가 일반적이었고, 한 기업은 월평균 1만2,000달러, 일부 개인은 2만8,000달러까지 사용했다. 그러나 사용량 분포의 지니계수는 0.77로 소수의 적극적인 사용자가 대부분을 차지했다. 단순히 생성된 코드 줄 수는 복잡성이나 품질을 반영하지 못하므로, 생성된 코드 중 실제로 채택된 비율, 채택된 뒤 되돌려진 변경과 회귀 오류, 보안 문제와 운영 장애, 기능이 요구사항에서 배포까지 도달하는 시간, 같은 비용으로 해결한 작업의 복잡도를 함께 추적해야 한다. 에이전트 보안은 네 방향에서 다뤄야 한다. 에이전트가 작성하는 취약한 코드와 시크릿, 에이전트가 수행하는 파일 삭제나 인프라 변경, 공격자가 에이전트에 가하는 프롬프트 인젝션과 오염된 외부 콘텐츠, 모델과 공급자의 데이터 보관 및 학습 사용 문제를 통제해야 한다. 에이전트가 작성과 검증을 모두 맡기보다 작성자와 비평자 역할을 분리해 서로 다른 모델이나 컨텍스트로 검토해야 한다.

1~5명 규모의 자율 팀과 조직 구조 재설계

코드가 빨라져도 제품 검토, PM의 요구사항 전달, 코드와 보안 리뷰, 몇 달 단위의 계획, 상태 보고 회의가 대기 시간으로 작용한다. 선도 기업들은 기능 조직을 크게 나누기보다 1~5명 규모(가장 흔한 규모는 2~3명)의 작은 팀에 문제 전체를 맡기는 방식을 도입하고 있다. 작은 팀은 제품, 설계, 구현, 검증을 한 덩어리로 다루며 외부 승인을 기다리는 시간을 줄인다. 자율적인 팀이 서로 다른 기술적 선택을 내리는 것을 막기 위해 Chief Architect, Chief Product Officer, Chief Designer, Chief Security Officer 네 가지 역할을 두어 회사 전체의 일관성을 책임지게 한다. 개발자는 코드를 한 줄씩 작성하는 사람에서 여러 작업을 설계하고 위임하며 결과를 검증하는 오케스트레이터로 전환되어야 한다. 실무자는 AI 활용 능력과 제품 감각을 바탕으로 작은 팀 단위에서 요구사항 정의부터 검증까지 종단간 책임을 맡는 방향으로 운영 체계를 재검토해야 한다.