파일 하나를 변경하여 33개 청크의 RAG 인제스션 시간을 50초에서 1.5초로 단축
파일 하나를 변경하여 31.8배 속도 향상. RAG 인제스션 파이프라인을 테스트하던 중 병목 현상을 발견했습니다. 문서 하나를 처리하는 데 50초가 걸렸지만, CPU 사용률은 낮았습니다. 앱에 과부하가 걸린 것도 아니었는데...
GyaanSetu AI
AI, 머신러닝 및 LLM 인사이트.
FluxA, 봇이 일회용 가상 카드로 무엇이든 구매할 수 있는 'AgentCard' 출시
FluxA의 AgentCard는 AI 기반 구매 시마다 금액 제한이 설정된 일회용 가상 Visa 또는 Mastercard 번호를 생성하고 즉시 폐기함으로써, 데이터 유출, 과다 지출 및 일괄적인 카드 정지 문제를 방지합니다.
Genie 계수가 문자 그대로의 오류를 줄이기 전까지, AI 에이전트는 재정적 손실 위험에 노출된다
Genie 계수는 사용자의 실제 의도와 AI 에이전트의 문자 그대로의 출력물 사이의 격차를 측정하여, 데이터 유출, 금전적 손실 또는 규제 처벌로 이어질 수 있는 고위험 분야의 위험한 행동을 식별합니다.
개발자, 이제 GPT-Live에 말로 코드 작업 명령 가능... 창 전환 번거로움 해소
ChatGPT 데스크톱 앱에 내장된 GPT-Live를 통해 개발자는 "정적 분석 실행" 또는 "단위 테스트 추가"와 같은 명령을 음성으로 내릴 수 있습니다. 모델은 음성으로 작업을 확인하고 병렬 워크플로우를 생성하며, 이 모든 기능은 유료 구독자에게 제공됩니다.
에이전트 기술 감사: 위협 모델
에이전트 기술 감사: 위협 모델. 모르는 사람이 준 무작위 USB 드라이브를 연결하시겠습니까? 아마 그러지 않을 것입니다. 대부분의 사람들은 그 위험을 알고 있습니다. 하지만 개발자들은 디지털 방식으로 그와 유사한...
Mozilla Bets Real-Time AI Content Will Offset Falling Search Revenue
The daily crossword is built by feeding the latest news into a large language model, which generates word-clue pairs that a mathematical solver turns into a printable grid. Mozilla says the extra stickiness could help recoup the higher compute bills and keep users from drifting to external search si
오픈 웨이트 모델이 Vercel AI 토큰의 29%를 점유, 4월 11%에서 급증
Vercel의 6월 게이트웨이 데이터에 따르면, 저렴한 오픈 웨이트 모델이 두 달 만에 전체 토큰의 10%를 약간 상회하는 수준에서 거의 3분의 1까지 급증했으며, DeepSeek 하나만으로도 해당 트래픽의 5분의 1 이상을 차지했습니다.
Encord, 인간 수준의 로봇 구현을 위해 유튜브보다 5배 더 큰 규모의 데이터셋 구축 목표
Encord는 독일 스타트업 Zander Labs와 협력하여 운영자에게 EEG 헤드셋과 전완부 EMG 센서를 제공함으로써, 유튜브의 비디오 코퍼스를 압도할 만큼 방대한 학습 세트를 구축하고 로봇의 정교한 조작 능력을 가속화하는 것을 목표로 하고 있습니다.
DepEd’s $14.5B AI Push Falters as Rural Schools Lose Internet Every Few Minutes
The Department of Education’s AGAP.AI rollout promises AI-powered tutoring, yet a Digital Maturity Assessment shows most public schools suffer frequent outages and run computers that can’t handle modern browsers, turning the $14.5 billion market forecast into a pipe dream for many learners.
취약한 DMARC 정책으로 인해 전체 AI 에이전트 군단이 하룻밤 사이에 블랙리스트에 오를 수 있습니다
AI 에이전트의 기반 인프라가 부패하고 있습니다. 모두가 AI 에이전트가 인박스를 확보하는 데 API 호출 한 번이면 충분하다고 말하지만, 이는 틀렸습니다. 저는 실제로 어떤 상황인지 확인하기 위해 671,693개의 도메인을 스캔했습니다...
지표 수정 후 RAG 재현율이 60%에서 90%로 급증했습니다
저자는 소위 '실패'라고 불리는 사례의 4분의 3이 실제로는 테스트 스크립트가 예상한 페이지가 아닌 다른 페이지에 필요한 사실을 포함하고 있다는 것을 발견했습니다. 지표를 사실 수준 재현율(fact-level recall)로 변경하자, 지표가 90%의 답변 정확도와 일치하게 되었습니다.
임베디드 Gemma AI, 8달러짜리 ESP32 장치를 추적 불가능한 위협 벡터로 변모시키다
한 독립 개발자가 구글의 Gemma 모델을 2,890만 개의 파라미터로 경량화하여 ESP32-S3의 제한된 RAM과 플래시에 압축해 넣음으로써, 어떤 센서나 웨어러블 기기에도 숨길 수 있을 만큼 저렴한 하드웨어에서 완전한 오프라인 추론을 가능하게 했습니다.
로컬 AI 에이전트가 이제 클라우드 없이도 동일한 엔지니어링 다이어그램을 생성할 수 있습니다
Prateek Rai의 tldraw-canvas-kit는 Claude Code, Cursor 또는 모든 로컬 LLM이 tldraw 데스크톱 앱을 제어할 수 있도록 19개의 JSON 기반 에이전트 스킬을 제공합니다. 이 키트는 로컬 HTTP 서버를 실행하고 다이어그램을 일반 .tldraw 파일로 저장하며, 텔레메트리 없이 멱등성 업데이트를 보장합니다.
AgentOps, 실시간 관측성을 활용해 1분 이내에 버그 수정
SigNoz 해커톤을 위해 개발된 AgentOps는 에러 급증을 감시하고, 로그를 추출하며, 오류가 발생한 라인을 정확히 찾아낸 뒤, 샌드박스 패치를 작성하고 요청을 재실행합니다. 이 모든 과정은 사람의 개입 없이 30~60초 이내에 완료됩니다.
Claude Opus 5, 단순 프롬프트에서 Opus 4.8보다 3배 더 많은 비용 청구
두 모델의 토큰 요율은 동일하게 표시되지만, Opus 5의 기본 어댑티브 씽킹(adaptive-thinking) 모드는 내부 추론 과정을 출력 토큰으로 계산하여 단순한 질문에서도 비용을 최대 95%까지 높입니다. 이 기능을 비활성화하면 요율이 다시 동일해집니다.
Openship, 빌드 작업을 별도 머신으로 분리하여 운영 서버의 RAM 절약
대시보드와 CI/CD 러너를 워크스테이션이나 전용 장비로 옮기고 최종 컨테이너를 SSH로 전송함으로써, Openship은 라이브 서버의 메모리를 확보하고 보안을 강화하며 빌드 속도를 높입니다. 다만 호스트가 종료되면 데스크톱 모드는 사용할 수 없게 됩니다.
Anthropic, 가격 인상 없이 100만 토큰 컨텍스트를 지원하는 Claude Opus 5 공개
Claude Opus 5는 Opus 4.8의 가격을 유지하면서 컨텍스트 창을 100만 토큰으로 확장하고 최대 128k 토큰의 출력을 지원합니다. 또한 노력 수준 제어, 강제 사고 단계, 512토큰 프롬프트를 위한 프롬프트 캐싱, 대화 중 도구 전환 베타 기능 등을 새롭게 도입했습니다.
Fable 5, 속도 면에서 Opus 5를 앞서며 지연 시간 24% 및 토큰 사용량 43% 절감
코드 리뷰, JSON 생성, 물리 문제, 요약 등 7가지 작업 세트에서 Fable 5는 24% 더 빠른 속도와 43% 적은 토큰 사용량을 기록했으나, 두 가지 작업에서 실패하고 콘텐츠 필터에 걸렸습니다. 반면 Opus 5는 단 한 번의 재시도 후 모든 작업을 성공했습니다.
Cursor's Planner-Worker Duo Achieves 100% Correctness on 835-Page SQLite Rewrite
In a full rewrite of SQLite's 835-page Rust manual, Cursor's two-brain swarm hit 100% correctness, trimmed the codebase to just 9,908 lines and slashed the bill to $411, compared with $10,565 for a solo GPT-5.5 run.
빠른 타이핑으로 인한 봇의 중복 답변 문제, 새로운 리스(Lease) 메커니즘으로 해결
이 버그는 AI가 추론을 시작하기 전, 사용자가 전송 버튼을 매우 빠르게 연타하여 여러 요청을 동시에 보낼 때만 발생했습니다. 밀리초 단위의 DB 락이 해제되면서 여러 프로세스가 동일한 프롬프트에 동시에 답변하게 되었고, 엔지니어들이 버전 카운터, 격리된 타이머, 그리고 CAS(compare-and-swap) 리스 메커니즘을 도입한 후에야 문제가 해결되었습니다.
청크 크기, 임베딩, 하이브리드 검색이 RAG 프로덕션의 성패를 결정하는 이유
검색 증강 생성(RAG) 시스템을 실제 사용자에게 배포하는 것은 청킹 전략, 임베딩 모델, 벡터 스토어, 하이브리드 검색, 평가라는 다섯 가지 결정에 달려 있으며, 이 요소들은 각각 정밀도, 재현율, 지연 시간, 그리고 지원 비용에 직접적인 영향을 미칩니다.
프롬프트 캐싱으로 Claude 4.6 지연 시간 대폭 단축, 응답 속도 최대 5배 향상
캐시는 Sonnet의 경우 최소 1,024 토큰, Opus의 경우 4,096 토큰 이상의 정적 프롬프트 세그먼트를 GPU 메모리에 5분 동안 저장합니다. 이를 통해 반복되는 호출 시 워밍업 단계를 건너뛸 수 있어 지연 시간과 과금 대상 토큰을 모두 절감할 수 있습니다.
Claude Code Lost 10 Seconds Per Turn to Hidden npx Lookups – Global Install Saves Six
A hidden npx-y lookup in Claude Code’s Stop hook was hitting the npm registry six times per turn, adding about 10 seconds of latency and occasional 113-second spikes. Replacing the calls with a globally installed binary halved the delay.
Mowito, 디트로이트 공장에 로봇 팔 '두뇌' 도입 위해 300만 달러 투자 유치
Mowito의 프리시드 투자금은 디트로이트 개발 허브 구축과 다품종 소량 생산 제조업체와의 파일럿 프로젝트에 투입될 예정이며, 자사의 비전 및 강화 학습 소프트웨어가 로봇 재프로그래밍 시간과 비용을 절감할 수 있음을 입증하는 것을 목표로 합니다.