GyaanSetu AI

Thông tin chuyên sâu về AI, học máy và LLM.

1599 articlesDeep, practical knowledge

AWS ra mắt Claude Apps Gateway tự lưu trữ giúp doanh nghiệp tăng cường khả năng kiểm soát

Claude Apps Gateway tích hợp lớp điều khiển (control plane) vào tài khoản AWS của khách hàng, cung cấp cho bộ phận IT một giao diện quản lý tập trung để kiểm soát danh tính, nhật ký kiểm tra và chi phí, trong khi các nhà phát triển có thể khởi tạo các phiên làm việc sử dụng Claude mà không làm lộ dữ liệu ra bên ngoài.

AI · 2 min read

Bộ phát hiện Attention Sink cho thấy việc cắt tỉa token BOS làm sụt giảm nghiêm trọng hiệu suất của LLM

Bộ phát hiện ghi lại các điểm số attention thô trên tất cả các đầu, tổng hợp chúng theo từng lớp và sử dụng kiểm định log-MAD để đánh dấu các token chiếm phần lớn sự chú ý. Việc loại bỏ các token 'sink' này khỏi KV cache làm mất ổn định quá trình tạo văn bản và làm giảm mạnh chất lượng.

AI · 3 min read

Dự thảo luật của EU có thể buộc các cuộc trò chuyện AI phải được quét để tìm nội dung bất hợp pháp

Đề xuất này mở rộng các quy tắc lọc tin nhắn hiện có để bao gồm mọi dịch vụ trao đổi văn bản giữa hai người, đồng nghĩa với việc các nhà cung cấp AI sẽ phải chạy mọi câu lệnh của người dùng qua các trình quét tự động trước khi mô hình kịp tiếp nhận chúng.

AI · 4 min read

GPT-Red của OpenAI áp đảo các đội Red-Team của con người, đạt tỷ lệ tấn công thành công 84%

Hệ thống tự đối đầu này cho một mô hình tấn công đối đầu với mô hình phòng thủ cùng loại, học hỏi từ mỗi thất bại để phát hiện ra các phương thức khai thác mà con người chưa từng nghĩ tới, từ đó đưa trực tiếp những thông tin này vào quy trình huấn luyện của GPT-5.6.

AI · 2 min read

OpenAI ra mắt bàn phím Codex Micro giá 230 USD dành cho các tác nhân lập trình hỗ trợ bởi AI

Codex Micro được trang bị các phím Agent có đèn nền, phím tắt có thể lập trình, một cần điều khiển và một núm xoay suy luận (Reasoning Dial), tất cả đều kết nối trực tiếp với ứng dụng ChatGPT trên máy tính, cho phép các nhà phát triển theo dõi và điều khiển nhiều tác nhân AI mà không cần rời khỏi IDE của họ.

AI · 3 min read

Lỗi “Claw Chain” của OpenClaw đe dọa 245.000 máy chủ AI – Vá lỗi trong 40 phút

Bốn lỗ hổng mới được tiết lộ bắt nguồn từ các thiết lập mặc định—liên kết mạng công khai, cấu hình có thể đọc được bởi mọi người, sandbox quá lỏng lẻo và thiếu nhật ký kiểm tra—cho phép kẻ tấn công chuyển từ một mục nhật ký vô hại sang quyền kiểm soát toàn bộ hệ thống chỉ trong vài phút.

AI · 3 min read

Quy trình làm việc Agentic của GitHub làm rò rỉ tệp trong kho lưu trữ riêng tư chỉ qua một Issue công khai

Noma Labs đã chứng minh rằng việc đăng một bình luận trong issue công khai có chứa từ “Additionally,” có thể khiến tác nhân AI của GitHub đọc các kho lưu trữ riêng tư và đăng ngược lại nội dung đó vào issue, mà không cần thêm bất kỳ quyền truy cập hay mã tùy chỉnh nào.

AI · 2 min read

Spotify ra mắt DJ giọng nói AI cho người dùng Premium tại Mỹ, Ireland và Thụy Điển

Bản thử nghiệm cho phép người dùng Premium nói hoặc nhập các yêu cầu chi tiết—như “phát các nghệ sĩ tôi chưa từng nghe trước đây” hoặc “tôi nghe bài hát này lần đầu khi nào?”—và thậm chí là hỏi các thông tin bên lề, tất cả đều được vận hành bởi một mô hình LLM ngay trên thiết bị dựa trên lịch sử nghe nhạc của từng người dùng.

AI · 6 min read

Anthropic cho thấy 50 mẫu dữ liệu bị nhiễm độc có thể cài cắm các backdoor không thể phát hiện vào LLM

Nghiên cứu tiết lộ rằng ngay cả sau quá trình căn chỉnh (alignment) và RLHF, một backdoor được kích hoạt bởi một cụm từ bí mật vẫn có thể khiến LLM thực hiện các hành vi độc hại, trong khi các bài kiểm tra an toàn hoặc câu lệnh hệ thống (system prompts) thông thường đều không thể phát hiện ra.

AI · 4 min read

Neon Functions cho phép các AI Agent truyền dữ liệu (stream) vô thời hạn, loại bỏ mọi giới hạn thời gian chờ (timeout)

Neon Functions hiện xử lý các yêu cầu streaming tương tự như các lời gọi thông thường, cho phép các kết nối WebSocket hoặc SSE duy trì trạng thái mở cho đến khi AI hoàn tất quá trình suy nghĩ và phát ra các token—không cần polling, không cần các thủ thuật keep-alive, và không bị ngắt kết nối cưỡng ép.

AI · 2 min read

Ring-Zero giúp mô hình hàng nghìn tỷ tham số đạt 84,2% trong kỳ thi AIME 2026

Ring-Zero huấn luyện một mô hình hàng nghìn tỷ tham số thông qua vòng lặp RL bốn giai đoạn—khám phá, tự chưng cất, RL tinh chỉnh và lập ngân sách token phân tầng—giúp mô hình học cách phân bổ các lộ trình suy luận 2 nghìn hoặc 20 nghìn token, nhằm cân bằng giữa độ chính xác và chi phí tính toán.

AI · 4 min read

Nghiên cứu chuyên sâu của Claude tiêu tốn 6,57 triệu token để xác minh mọi khẳng định

Hệ thống hoạt động như một quy trình map-reduce JavaScript nghiêm ngặt: nó phân tán các tìm kiếm, thu thập các đoạn trích thô, vận hành ba tác nhân độc lập với cơ chế mặc định là bác bỏ các khẳng định không chắc chắn, và chỉ sau đó mới tổng hợp thành một báo cáo JSON để kiểm soát tình trạng ảo giác.

AI · 4 min read

Dự đoán các điểm nghẽn trước khi chúng xảy ra: Ứng dụng AI trong quy trình luân chuyển bệnh nhân tại bệnh viện

Dự đoán các điểm nghẽn trước khi chúng xảy ra: Ứng dụng AI trong quy trình luân chuyển bệnh nhân tại bệnh viện. Việc phải chờ đợi năm tiếng đồng hồ tại phòng cấp cứu gây ra sự căng thẳng. Nó cũng làm chậm quá trình điều trị và làm tăng nguy cơ cho...

AI · 3 min read