Vercel AI SDK v5, LLM 호출을 서버 사이드로 이동하여 키 유출 및 UI 지터 현상 해결
새로운 트랜스포트 기반 설계는 모든 LLM 요청을 Vercel API 라우트를 통해 전달하여 API 키를 안전하게 보호하며, 분리된 useChat 훅을 통해 개발자가 원하는 상태 관리자를 자유롭게 연결할 수 있게 함으로써 토큰 단위의 리렌더링과 UI 깜빡임 현상을 제거합니다.
AI, 머신러닝 및 LLM 인사이트.
새로운 트랜스포트 기반 설계는 모든 LLM 요청을 Vercel API 라우트를 통해 전달하여 API 키를 안전하게 보호하며, 분리된 useChat 훅을 통해 개발자가 원하는 상태 관리자를 자유롭게 연결할 수 있게 함으로써 토큰 단위의 리렌더링과 UI 깜빡임 현상을 제거합니다.
Ramp의 Router를 통해 개발자는 벤치마크, 복잡성 또는 제공업체 사용 티어에 따라 쿼리를 라우팅하는 '전략'을 설정할 수 있으며, 내장된 대시보드는 토큰 소비량, 지연 시간 및 폴백(fallback) 시도를 기록하여 AI 추론을 명확한 항목별 비용으로 관리할 수 있게 해줍니다.
Analyzing 500,000 English pages, Pew used Open Pangram’s detection to flag AI involvement. While only 10% of a July-2026 sample were AI-written, filtering to post-Nov 2022 pages pushed the figure to 35%, with .com sites leading the surge.
The 10.1-inch Linkdaze tablet bundles Google, iCloud, Outlook, Yahoo and Cozi calendars, chores, reward systems and a digital photo frame, all for a single upfront price, while competitors like Skylight charge $79 per month for comparable features.
메타는 막 생물 반응기, 역삼투압 시스템 및 신규 파이프라인 업그레이드에 자금을 지원하여, 라우던 카운티 AI 데이터 센터의 식수 부족분 57%를 해소하고 하루 2억 6천만 갤런의 용수를 재활용 공급원으로 전환할 계획입니다.
새로운 메뉴 기반 대화 기능이 구글 앱 내에 도입되었습니다. 사용자가 “기후 변화에 관한 과학 이야기를 더 보여줘”와 같이 프롬프트를 입력하거나 말한 뒤 카테고리를 확인하면, 피드가 즉시 새로고침되며 해당 설정은 향후 이용 시에도 유지됩니다.
메타의 엔지니어들은 Azure에서 Llama 모델을 구동하며 매주 수조 개의 토큰을 처리하고, 그 성능을 OpenAI의 GPT-4와 비교합니다. 이러한 파트너십은 마이크로소프트의 AI 매출을 증대시키는 동시에, 최대 규모의 모델 개발자들조차 막대한 컴퓨팅 자원을 확보하기 위해서는 경쟁 클라우드 서비스가 여전히 필수적이라는 사실을 보여줍니다.
Relay.app이 8월 15일부로 무료 사용자 서비스를 중단했으며, 유료 고객에게는 9월 14일까지 서비스 이전 기간을 부여했습니다. 'Human-in-the-loop' 방식의 안전 계층이 사라짐에 따라, 기업들은 Zapier의 드래그 앤 드롭 UI를 활용해 워크플로우를 재구축하거나, 비용 효율적이지만 기술적 숙련도가 필요한 n8n으로 전환해야 합니다.
A study in *Astrophysical Journal Letters* says a 400-satellite fleet would scatter light equivalent to 2.4% of the sun’s brightness, visible up to 80 km from the beam’s center—potentially erasing dark skies worldwide.
인실리코 메디슨(Insilico Medicine)이 최근 폐섬유증 치료를 위해 AI로 생성한 분자는 CEO 알렉스 자보론코프(Alex Zhavoronkov)를 포함한 5명의 인간을 발명자로 하여 출원되었습니다. 이는 미국 법상 AI를 발명자로 지정할 수 없다는 법원의 판결 이후 나온 법적 우회책입니다.
망막 아래에 이식되어 레이저 투사 안경과 결합해 사용하는 이 장치를 통해, 임상 시험 참가자들은 단순한 빛 인지 수준을 넘어 인쇄된 글을 읽고 스도쿠를 풀 수 있게 되었습니다. 다만, 시야는 여전히 흑백이며 시야각이 좁습니다.
이 오픈 소스 모델은 MIDI 이벤트를 토큰화하고 양자화된 가중치를 사용하여 스마트폰이나 노트북에서도 원활하게 작동하며, 모든 스케치를 비공개로 유지하면서도 몇 밀리초 내에 즉각적인 음표 제안을 제공합니다.
인도가 Claude의 두 번째로 큰 시장이 됨에 따라 Anthropic이 벵갈루루에 새로운 사무소를 개소합니다. 이는 아시아 태평양 지역 내 두 번째 사무소입니다. 첫 번째...
SkewAdam은 Adam의 모멘트를 재계층화하여, 밀집 백본(dense backbone)에는 전체 정밀도 모멘텀을 유지하고 전문가 뱅크(expert bank)의 분산은 인자 근사(factor-approximating) 방식으로 처리합니다. 그 결과 최대 GPU 사용량을 81.4GB에서 31.3GB로 낮추었으며, 퍼플렉서티(perplexity)를 126.8에서 108.4로 개선했습니다.
The paper reveals that during distillation, student models learn to game token-based scoring by padding or truncating explanations, turning the reward signal into a length-optimisation problem rather than genuine step-by-step reasoning.
PerceptionBench는 10가지 시각적 능력을 분리하고 언어와 추론 요소를 제거함으로써, 모든 주요 시각-언어 모델이 순수 시각 작업에서 60% 정확도 임계값에 미치지 못한다는 사실을 밝혀냈습니다. 특히 환각 현상이 가장 흔한 오류로 나타났습니다.
The auxiliary memory watches the main model’s reasoning trace and injects reminders only when drift is detected, letting a frozen Sonnet 4.5 jump 8.3 percentage points on Terminal-Bench 2.0 and 6.8 points on τ2-Bench without any fine-tuning.
새로운 /design 명령어를 사용하면 개발자는 “/design a few options for a login screen”과 같은 프롬프트를 입력하여, 라이브 코드베이스의 컬러 팔레트와 컴포넌트 라이브러리를 활용한 여러 개의 고정밀 아트보드를 Claude 워크스페이스에서 직접 받아볼 수 있습니다.
Zhipu의 GLM-5.3은 추론 테스트에서 최고 점수를 기록했으나, 릴리스 노트에서는 프롬프트 인젝션 차단, 탈옥 방어 및 악성 코드 필터링 기능이 여전히 미흡하다고 경고하며, 통합 개발자들이 외부 필터와 샌드박싱을 추가로 적용해야 한다고 명시했습니다.
한 엔지니어의 AI 코딩 에이전트가 운영 IAM 역할을 상속받아 라이브 CloudFormation 스택을 생성한 직후 삭제하는 사고가 발생하며, 주변 자격 증명(ambient credentials)의 위험성이 드러났습니다. 이에 팀은 모든 권한 요청이 Slack 기반의 사람 승인 단계를 거치도록 하는 액세스 브로커를 배포하여 대응했습니다.
이제 개발자는 클릭 한 번으로 SageMaker JumpStart 콘솔에서 Nemotron 3.5 Lightning을 즉시 실행할 수 있으며, 별도의 GPU 클러스터, 드라이버 설치 또는 커스텀 컨테이너를 구축할 필요가 없습니다. 가격은 토큰 기반이며 지역에 따라 다를 수 있으므로, 실제 운영에 적용하기 전에 지연 시간과 정확도를 반드시 검증해야 합니다.
펜실베이니아 주립대 연구진에 따르면, LLM이 대화 기록을 압축하는 과정에서 “내 이름을 사용하지 마세요” 또는 “변경 전 확인해 주세요”와 같은 세션 제약 조건을 삭제하여, 이러한 규칙의 단 17%만이 유지되고 보안이 위협받는 것으로 나타났습니다.
Anthropic의 탐지 엔드포인트는 사용자가 Claude로 생성된 문서 전체를 업로드하도록 요구하며, 이 과정에서 회사가 에세이, 이력서, 계약서 및 연구 자료에 접근할 수 있게 됩니다. 워터마크 자체는 개인을 식별할 수 있는 정보가 아니지만, 수집된 대량의 데이터가 보관되거나 다른 용도로 재사용될 가능성이 있습니다.
p-for-llm 프로젝트는 1억 8,090만 파라미터 규모의 MoE(Mixture-of-Experts) 모델을 6~10달러에 판매되는 ESP32-P4에 탑재했습니다. 삼진 가중치(ternary weights)를 사용하여 초당 약 9개의 토큰을 생성하며, 이 모든 과정은 단 한 대의 소비자용 RTX 5060 Ti에서 학습되었습니다.