AIChain Agent: Plan, Act, Reflect

Chain은 정해진 경로를 따릅니다. 1단계, 2단계, 3단계를 미리 정의합니다. 단계를 사전에 알고 있다면 효과적입니다.

하지만 실제 작업은 예측 가능한 경우가 드뭅니다. 검색 결과가 나오지 않는다면 어떻게 될까요? 결과 하나가 전체 계획을 바꿔버린다면 어떻게 될까요?

바로 이 지점에서 Agent가 역할을 이어받습니다. Agent는 계획하고, 관찰하며, 결정합니다. Chain은 스크립트이고, Agent는 사고합니다.

작업에 따라 모드를 선택하세요:

  • Waterfall Mode: Agent는 시작하기 전에 전체 계획을 수립합니다. 단계를 순서대로 실행합니다. 단계를 재시도하거나 조기에 중단할 수는 있지만, 원래의 계획을 변경할 수는 없습니다. "검색 후 요약"과 같이 예측 가능한 작업에 사용하세요.

  • Agile Mode: Agent는 매 단계의 결과를 확인합니다. 남은 계획을 즉석에서 다시 작성할 수 있습니다. 검색을 통해 새로운 정보가 드러나면 새로운 단계를 추가합니다. 작업이 일찍 끝나면 나머지는 건너뜁니다. 예측 불가능한 작업에 사용하세요.

비용을 낮게 유지하고 루프를 방지하려면 항상 max_steps 제한을 설정하세요. 제한이 없는 Agent는 예산을 모두 소진하거나 충돌이 발생할 때까지 계속 실행될 것입니다.

또한 executor를 사용하여 비용을 최적화할 수 있습니다. 추론을 처리하기 위해 고성능 모델을 orchestrator로 사용하세요. 단순한 도구 호출(tool calls)을 처리하기 위해 더 저렴하고 빠른 모델을 executor로 사용하세요.

따라야 할 간단한 규칙:

  • 워크플로우를 화이트보드에 그릴 수 있다면, Chain을 사용하세요.
  • 서로 다른 경로 사이에 "상황에 따라 다름(it depends)"을 나타내는 화살표를 그려야 한다면, Agent를 사용하세요.

Source: https://dev.to/yait/aichain-agent-plan-act-reflect-2n71

Optional learning community: https://t.me/GyaanSetuAi