𝗙𝗿𝗼𝗺 𝗖𝗵𝗮𝘁𝗚𝗣𝗧 𝘁𝗼 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀: 𝗧𝘄𝗼 𝗬𝗲𝗮𝗿𝘀 𝗮𝘀 𝗮𝗻 𝗘𝗻𝗴𝗶𝗻𝗲𝗲𝗿
2년 전, 저는 질문을 하기 위해서만 AI를 사용했습니다.
오늘날 저는 여러 코딩 에이전트를 오케스트레이션합니다. MCP를 통해 회사의 지식을 연결합니다. iOS 앱에서 로컬 모델을 실행합니다. 에이전트들이 협업할 수 있도록 메모리 레이어를 유지합니다.
저는 AI 연구원이 아닙니다. 그저 계속해서 실험을 이어온 평범한 엔지니어일 뿐입니다.
채팅에서 에이전트로 나아간 저의 여정을 소개합니다.
𝗦𝘁𝗮𝗴𝗲 𝟭: 𝗧𝗵𝗲 𝗥𝗲𝗹𝗶𝗮𝗯𝗶𝗹𝗶𝘁𝘆 𝗚𝗮𝗽 처음에는 AI가 마법처럼 느껴졌습니다. 그러다 신뢰할 수 없다는 느낌을 받았습니다. 모델은 종종 매우 확신에 찬 태도로 잘못된 정보를 제시합니다. 저는 뼈아픈 교훈을 얻었습니다. 그럴듯한 답변이 반드시 신뢰할 수 있는 결과는 아니라는 점입니다.
𝗦𝘁𝗮𝗴𝗲 𝟮: 𝗔𝗜 𝗮𝘀 𝗮 𝗣𝗮𝗿𝘁𝗻𝗲𝗿 Cursor와 같은 도구들이 모든 것을 바꾸어 놓았습니다. AI는 별도의 채팅창에서 벗어나 제 코드 에디터 안으로 들어왔습니다. 피드백 루프가 믿을 수 없을 정도로 짧아졌습니다: • 아이디어를 설명합니다. • 코드를 생성합니다. • 실행하고 실패를 관찰합니다. • 수정을 요청합니다. • 반복합니다.
이로 인해 프로토타입 구축 비용이 낮아졌습니다. 작은 아이디어들이 설정이나 구성 단계에서 사장되지 않고, 실제로 완성 단계까지 도달하게 되었습니다.
𝗜 𝗹𝗲𝗮𝗿𝗻𝗲𝗱 𝘁𝗵𝗮𝘁 𝗖𝗼𝗻𝘁𝗲𝘅𝘁 𝗶𝘀 𝗞𝗲𝘆 초기에 에이전트들은 내린 결정을 잊어버리거나 아키텍처를 망가뜨리곤 했습니다. 저는 "프롬프트 엔지니어링"에 집중하는 것을 멈추고 "컨텍스트 엔지니어링"을 시작했습니다. 에이전트를 위해 엄격한 규칙을 작성하기 시작했습니다: • 기존 아키텍처를 따를 것. • 코드를 변경하기 전에 계획을 설명할 것. • 묻지 않고 파일을 삭제하지 말 것.
우리는 단순히 더 나은 문장을 쓰는 것이 아니었습니다. 확률론적 시스템을 위한 안정적인 환경을 구축하고 있었던 것입니다.
𝗦𝘁𝗮𝗴𝗲 𝟯: 𝗕𝗲𝘆𝗼𝗻𝗱 𝘁𝗵𝗲 𝗖𝗵𝗮𝘁 𝗪𝗶𝗻𝗱𝗼𝘄 저는 웹 채팅에서 API와 로컬 모델로 넘어갔습니다. 데스크톱에서 모델을 실행하는 것은 쉽습니다. 하지만 모바일 앱 내부에 모델을 탑재하는 것은 어렵습니다. 갑자기 저는 다음과 같은 실제 엔지니어링 문제들을 해결해야 했습니다: • 모델 크기와 메모리 사용량. • 시작 지연 시간(Startup latency). • 오프라인 실행 및 기기 호환성.
𝗦𝘁𝗮𝗴𝗲 𝟰: 𝗔𝗴𝗲𝗻𝘁-𝗗𝗿𝗶𝘃𝗲𝗻 𝗪𝗼𝗿𝗸𝗳𝗹𝗼𝘄𝘀 초점이 "이 함수를 작성해줘"에서 "이 저장소를 이해하고 이 목표를 달성해줘"로 바뀌었습니다. 또한 Model Context Protocol (MCP)을 사용하기 시작했습니다. 회사의 지식 플랫폼을 위한 MCP 통합 기능을 구축했습니다. 이제 에이전트는 10년 치의 회사 데이터에 접근할 수 있게 되었습니다. 과제는 모델의 지능에서 시스템 설계로 옮겨갔습니다.
가장 큰 교훈들: • 코딩은 더 쉽지만, 엔지니어링은 더 어렵습니다. • AI가 구현을 담당한다면, 판단은 사람이 해야 합니다. • 목표를 정확하게 정의하고 가설을 검증해야 합니다. • 멀티 에이전트 작업에는 에이전트가 재시작 없이 작업을 인계할 수 있도록 메모리 레이어가 필요합니다.
AI는 구현 비용을 낮춰줍니다. 이는 이제 실험이 비용이 들지 않는다는 것을 의미합니다. 진짜 중요한 일은 어떤 아이디어가 실제로 구축할 가치가 있는지 결정하는 것입니다.
선택 사항 학습 커뮤니티: https://t.me/GyaanSetuAi