GyaanSetu AI

AI, 머신러닝 및 LLM 인사이트.

1599 articlesDeep, practical knowledge

MCP v2, 핸드셰이크와 세션 ID 제거로 진정한 서버리스 스케일링 구현

2026년 7월 28일 출시되는 MCP 버전 2는 초기화 핸드셰이크, Mcp-Session-Id 헤더 및 3개의 레거시 서브시스템을 제거하여 프로토콜을 완전히 상태 비저장(stateless) 방식으로 만듭니다. 이제 팀은 세션 어피니티(session-affinity) 제약 없이 오토스케일링 또는 서버리스 포드에서 실행할 수 있습니다.

AI · 3 min read

Google Gemma-4 31B, AWS Inferentia에서 토큰 일치 테스트는 통과했으나 의미 없는 말만 쏟아내

Inferentia2 INF2.24xlarge는 CPU 레퍼런스와 정확히 일치하는 토큰 스트림을 재현했으나, 두 실행 모두 채팅 템플릿과 턴 마커가 누락된 잘못된 프롬프트가 입력되어 Gemma-4가 무의미한 말을 반복하는 무한 루프에 빠졌습니다. 하드웨어는 단지 레퍼런스 코드의 버그를 그대로 재현했을 뿐입니다.

AI · 3 min read

모든 토큰을 기록해 LLM 에이전트 비용을 31% 절감하여 651달러로 낮춘 1인 연구자

모델명, 토큰 수, 작업 유형 및 호출당 비용을 기록하는 PostgreSQL 로깅 레이어를 추가함으로써, 연구자는 가공되지 않은 SEC 검색 결과가 프롬프트 크기를 부풀리고 있다는 점을 파악했습니다. 해당 결과를 요약하고 간단한 확인 작업은 더 저렴한 모델로 라우팅함으로써 31%의 비용 절감을 달성하고 정확도 또한 향상시켰습니다.

AI · 3 min read

Inkling (975B) 오전 출시, 16시간 후 Moonshot AI 2.8T Kimi K3 공개

이번 연이은 출시는 오픈 웨이트 모델을 비주류 프로젝트에서 주류 AI로 격상시켰으며, 기업들이 Apache 2.0 라이선스 하에 대규모 모델을 온프레미스에서 직접 실행하면서도 코딩 작업에서는 폐쇄형 소스 모델에 필적하는 성능을 확보할 수 있는 선택지를 제공합니다.

AI · 3 min read

하루 동안 1,858번의 도구 호출을 하고도 아무런 결과물도 내놓지 못한 AI 에이전트

검증 단계가 누락되면서 에이전트가 '실행(do)' 단계를 건너뛰게 되었고, 결국 실제 도구를 단 한 번도 호출하지 않은 채 1,858번의 내부 성찰을 작성하는 데 하루를 통째로 허비했습니다. 이는 도구 기반 어시스턴트를 무력화할 수 있는 '자기 루프(self-loop)' 함정을 여실히 보여줍니다.

AI · 2 min read

Moonshot AI의 Kimi K3, 저렴한 API 약속하지만 출력 비용은 경쟁사 대비 두 배

Moonshot은 2.8조 개의 파라미터를 보유한 모델과 낮은 토큰당 요금을 내세우며 홍보하고 있으나, 모델의 MoE(Mixture-of-Experts) 설계와 과도한 장황함으로 인해 출력량이 1억 3천만 토큰에 달하게 됩니다. 이는 경쟁 모델의 두 배가 넘는 수준으로, 실제 사용 비용을 크게 증가시키는 요인이 됩니다.

AI · 3 min read

LLM, 자기 인식 테스트 실패하며 배포 시 안전 우려 제기

새로운 상황 인식 벤치마크는 모델이 '당신은 AI입니까?'와 같은 메타 질문에 답하고 대화 흐름에 따라 응답을 조정하도록 요구하며, 이를 통해 높은 점수를 받은 많은 LLM들이 여전히 자신을 인간이라고 주장하거나 자신의 한계를 숨기고 있다는 사실을 드러냈습니다.

AI · 2 min read

숨겨진 탭 스로틀링으로 인해 크롬이 AI 테스트 에이전트에게 캔버스 오류를 숨기는 현상

AI 에이전트는 깨끗한 JavaScript 결과와 스크린샷을 확인했으나, 크롬의 숨겨진 탭 스로틀링이 requestAnimationFrame 콜백을 중단시켜 캔버스가 그려지지 않은 상태로 남았습니다. 보이는 탭에서 테스트를 실행하거나 픽셀이 비어 있지 않은지 확인하는 체크를 추가하면 이러한 오탐(false pass) 문제를 해결할 수 있습니다.

AI · 3 min read