에이전트형 AI 시스템 테스트하기
AI 에이전트를 만드는 것은 쉽습니다. 하지만 에이전트가 통제 불능 상태가 되지 않도록 보장하는 것은 어렵습니다. 프로토타입에서 프로덕션 단계로 넘어가려면 엄격한 테스트 프레임워크가 필요합니다.
에이전트의 보안을 확보하기 위해 다음 8단계를 따르십시오:
Stage 1: 컴포넌트 테스트 모든 계층에 대해 유닛 테스트를 작성하십시오. 리서치 에이전트, 검색 도구, 그리고 메모리를 테스트하십시오. 전문가가 승인한 모의 데이터(mock data)를 사용하십시오. Shopify나 Meta와 같은 외부 API는 스텁(stub) 처리하십시오. API가 다운되더라도 테스트가 그로 인해 실패해서는 안 됩니다.
Stage 2: 프롬프트 저장소 정교한 프롬프트 라이브러리를 구축하십시오. 비즈니스 영역별로 태그를 지정하십시오. 프롬프트 인젝션이나 도구의 빈 응답과 같은 실패 사례를 포함하십시오. 메모리가 제대로 작동하는지 확인하기 위해 멀티턴 대화를 테스트하십시오. 세션 간에 사용자 데이터가 유출되지 않는지 확인하십시오.
Stage 3: 커버리지 및 궤적 모든 도구가 실제로 실행되는지 확인하십시오. 그런 다음 에이전트가 거친 경로를 확인하십시오. 단순히 도구를 실행하는 것만으로는 부족합니다. 에이전트는 올바른 순서로, 올바른 인자를 사용하여, 올바른 도구를 사용해야 합니다.
Stage 4: 버전 관리된 실행 모든 실행에 버전 번호를 부여하십시오. 모든 응답을 저장하십시오. 모델의 무작위성을 고려하여 각 프롬프트를 여러 번 실행하십시오. 통과율, 비용, 토큰, 지연 시간(latency)을 추적하십시오. 정확도는 속도 및 가격과의 비즈니스적 절충안(trade-off)입니다.
Stage 5: 그라운드 트루스(Ground truth) 저장소 모든 프롬프트에 대해 검증된 정답을 보관하십시오. 누가 이 정답을 변경할 수 있는지 결정하십시오. 제품이 변경될 때 그라운드 트루스를 업데이트하지 않으면, 테스트는 (정상적으로) 실패하게 될 것입니다.
Stage 6: 평가자 그라운드 트루스를 기준으로 실행 결과를 점수화하십시오. LLM 판사(LLM judge)를 사용하여 정밀도와 정확성을 확인하십시오. 판사의 편향(bias)을 주의하십시오. 정확성을 보장하기 위해 LLM 점수를 인간의 라벨과 비교하십시오.
Stage 7: 인간 검토 점수가 낮은 사례를 위한 대시보드를 만드십시오. 사람이 오류를 수정할 수 있도록 하십시오. 이러한 인간의 수정 사항을 사용하여 LLM 판사를 학습시키십시오.
Stage 8: CI/CD 통합 모든 풀 리퀘스트(pull request) 시 컴포넌트 테스트를 실행하십시오. 매일 밤 전체 테스트 스위트를 실행하십시오. 점수가 떨어지면 배포를 차단하는 임계값(threshold)을 설정하십시오.
Optional learning community: https://t.me/GyaanSetuAi