코드를 처리하는 에이전트에는 방대한 지식이 필요합니다. 프로젝트의 코딩 규칙, 사용 중인 프레임워크, 테스트 실행 방법, 이용 가능한 각 도구의 사용법 등이 이에 해당합니다. 이러한 정보를 모든 작업을 수행하는 모든 에이전트에 일일이 로드하면 속도가 느려지고 비용이 증가하며 오히려 생산성이 떨어집니다. 관련 없는 지침이 수백 페이지에 달하면 모델의 성능은 더욱 악화됩니다.
점진적 역량이는 대안적인 접근 방식으로, 에이전트는 소규모의 핵심 기능만 탑재하고 작업에 필요한 특정 기능만 요청 시에 로드합니다.
작동 원리
각 에이전트는 항상 필요한 정보인 역할, 작업 내용, 사양서를 기반으로 시작합니다. 추가적인 역량은 현재 처리 중인 작업에 따라 동적으로 로드됩니다. 데이터베이스 마이그레이션을 처리해야 하는 에이전트는 마이그레이션 관련 기능을 로드하며, 데이터베이스를 전혀 다루지 않는 에이전트는 해당 지식에 대한 비용을 지불할 필요가 없습니다.
사용자에게 미치는 영향
실제로 세 가지 주요 결과가 발생합니다:
**비용.**토큰은 에이전트 실행 시 발생하는 주된 변동 비용이며, 컨텍스트 데이터가 토큰 사용량의 대부분을 차지합니다. 필요한 정보만 로드하면 해당 비용을 상당히 절감할 수 있습니다.
**품질.**이 점은 잘 알려지지 않았지만 아마도 가장 중요한 부분일 것입니다. 모델의 주의력은 한정되어 있습니다. 컨텍스트에 관련 없는 정보가 과도하게 포함된 에이전트는 중요한 부분을 간과할 가능성이 높습니다. 집중된 컨텍스트를 활용하면 비용 절감뿐 아니라 더 우수한 결과물을 얻을 수 있습니다.
**확장성.**이 기능 덕분에 에이전트는 대규모 저장소에서도 효과적으로 작업할 수 있습니다. 반대로 코드베이스 전체를 컨텍스트에 담으려 하면 대부분의 실제 프로젝트에서는 제대로 작동하지 않습니다.
사용자가 제어할 수 있는 부분
의도적으로 그 범위는 넓지 않습니다. 역량 로딩은 작업 요구사항에 따라 자동으로 이루어집니다.
사용자가 직접 제어할 수 있는 것은 에이전트가 참조하는 컨텍스트입니다:프로젝트 컨텍스트프로젝트 컨텍스트는 최초에 로드할 수 있는 정보를 결정합니다. 역량을 직접 관리하려는 노력보다 이를 잘 구성하는 것이 훨씬 중요합니다.