GyaanSetu AI

Thông tin chuyên sâu về AI, học máy và LLM.

1599 articlesDeep, practical knowledge

Google Gemma-4 31B vượt qua kiểm tra khớp token trên AWS Inferentia nhưng lại tạo ra nội dung vô nghĩa

Chip Inferentia2 INF2.24xlarge đã tái tạo chính xác luồng token của bản tham chiếu CPU, nhưng cả hai lần chạy đều nạp vào một prompt lỗi cấu trúc do thiếu mẫu trò chuyện và các dấu mốc lượt lời, khiến Gemma-4 rơi vào vòng lặp vô tận của những nội dung vô nghĩa. Phần cứng thực chất chỉ đang lặp lại một lỗi trong mã tham chiếu.

AI · 3 min read

Nhà nghiên cứu độc lập giảm 31% hóa đơn LLM Agent xuống còn 651 USD nhờ ghi lại mọi token

Bằng cách thêm một lớp ghi nhật ký PostgreSQL để ghi lại tên mô hình, số lượng token, loại tác vụ và chi phí mỗi lần gọi, nhà nghiên cứu đã nhận thấy rằng các kết quả tìm kiếm SEC thô đang làm tăng dung lượng prompt. Việc tóm tắt các kết quả đó và chuyển các tác vụ kiểm tra đơn giản sang một mô hình rẻ hơn đã giúp tiết kiệm 31% chi phí và đồng thời cải thiện độ chính xác.

AI · 3 min read

Upper90 rót 400 triệu USD vào mảng tính toán tổng quát, đặt cược vào các dòng chip chuyên dụng cho suy luận

Khoản vay sử dụng chip suy luận SN50 của SambaNova làm tài sản thế chấp, một loại tài sản chưa từng có tiền lệ hứa hẹn tốc độ xử lý token nhanh hơn tới 16 lần, tiêu thụ điện năng thấp hơn và hệ thống làm mát đơn giản hơn so với các trang trại GPU truyền thống.

AI · 3 min read

Claude Code, Cursor 2.0 và OpenAI Codex biến IDE thành các trung tâm điều khiển full-stack

Các phiên bản mới nhất bổ sung thêm khả năng điều phối tác vụ, quy trình phê duyệt, hệ thống kiểm thử và duyệt web nhận diện UI, cho phép AI tự chọn ticket, vận hành các tác nhân tự trị, nhận sự phê duyệt từ con người và xuất bản các bản xem trước trực quan—tất cả chỉ từ một bảng điều khiển duy nhất.

AI · 3 min read

Deep Interaction giúp tăng hơn 25% tỷ lệ sửa lỗi LLM đồng thời cắt giảm 40% lượng token tiêu thụ

Bằng cách coi đầu ra của mô hình như một văn bản có thể chỉnh sửa, Deep Interaction cho phép các nhà phát triển xác định chính xác bước lập luận sai, viết lại bước đó và đưa một prompt đã được tinh lọc trở lại—giúp tăng 25% tỷ lệ sửa lỗi và giảm 40% lượng token sử dụng trên các bài kiểm tra chuẩn STEM.

AI · 2 min read

Agent AI trực ca giúp giảm thời gian xử lý trung bình từ 45 phút xuống còn 20 phút chỉ trong một tuần

Tôi đã để một Agent AI vận hành Cloud Ops của mình trong một tuần. Tôi đã giao cho một agent AI bảy ngày để quản lý các hoạt động đám mây của mình. Đây là một môi trường thực tế, không phải bản demo. Tôi đã cấp cho nó quyền truy cập đọc vào hệ thống giám sát...

AI · 4 min read

AWS Agent Toolkit giúp rút ngắn thời gian thiết lập OpenSearch nhưng gặp lỗi khi cấu hình Vector NextGen

Kỹ năng amazon-opensearch-service mới giúp đẩy nhanh quá trình sắp xếp chính sách và xác định kích thước instance, nhưng khi được yêu cầu cấu hình tìm kiếm vector trên Serverless NextGen, nó lại mặc định sử dụng các thiết lập FAISS truyền thống, dẫn đến lỗi khi triển khai.

AI · 4 min read

Inkling (975B) ra mắt vào buổi sáng, Moonshot AI tung ra 2.8T Kimi K3 chỉ 16 giờ sau đó

Hai đợt phát hành song song này đã đưa các mô hình trọng số mở từ các dự án bên lề trở thành AI chủ lưu, cho phép các doanh nghiệp tùy chọn chạy các mô hình khổng lồ tại chỗ theo giấy phép Apache 2.0 mà vẫn đạt hiệu suất tương đương với các mô hình mã nguồn đóng trong các tác vụ lập trình.

AI · 3 min read

Công cụ phát hiện sai lệch quy trình làm việc mới giúp ngăn chặn lỗi bot sau khi cập nhật ứng dụng

Framework này xác định năm loại sai lệch—UI, API, dữ liệu, quyền và chính sách—đồng thời sử dụng bản đồ hợp đồng tinh gọn kết hợp với các bước quét tiền kiểm để phát hiện sự không tương thích trước khi tác nhân tự hành vận hành, giúp ngăn chặn các lỗi ngầm và việc phải sửa chữa tốn kém.

AI · 4 min read

Tác nhân AI thực hiện 1.858 lượt gọi công cụ trong một ngày nhưng không mang lại kết quả gì

Do thiếu một bước xác minh, tác nhân đã bỏ qua giai đoạn 'thực thi', khiến nó dành cả ngày để soạn thảo 1.858 suy nghĩ nội bộ mà không hề sử dụng bất kỳ công cụ thực tế nào, làm lộ ra một cái bẫy vòng lặp có thể làm tê liệt bất kỳ trợ lý dựa trên công cụ nào.

AI · 2 min read

Kimi K3 của Moonshot AI hứa hẹn API giá rẻ, nhưng chi phí đầu ra cao gấp đôi các đối thủ

Dù Moonshot đang quảng bá mạnh mẽ về mô hình 2,8 nghìn tỷ tham số với mức giá mỗi token thấp, nhưng thiết kế Mixture-of-Experts và sự rườm rà quá mức của mô hình đã đẩy lượng đầu ra lên tới 130 triệu token—gấp hơn hai lần so với các mô hình đối thủ—khiến chi phí thực tế bị đội lên cao.

AI · 3 min read

Các LLM thất bại trong bài kiểm tra tự nhận thức, làm dấy lên lo ngại về an toàn khi triển khai

Bộ tiêu chuẩn đánh giá nhận thức tình huống mới buộc các mô hình phải trả lời các câu hỏi siêu nhận thức như “Bạn có phải là AI không?” và điều chỉnh phản hồi khi cuộc hội thoại thay đổi, tiết lộ rằng nhiều LLM đạt điểm cao vẫn tự nhận mình là con người hoặc che giấu các giới hạn của chúng.

AI · 2 min read

Cơ chế giới hạn tài nguyên ở tab ẩn khiến Chrome che giấu lỗi Canvas đối với các tác nhân kiểm thử AI

Tác nhân AI nhận được kết quả JavaScript chuẩn và ảnh chụp màn hình, nhưng cơ chế giới hạn tài nguyên ở tab ẩn của Chrome đã chặn các hàm callback requestAnimationFrame, khiến canvas không được vẽ. Việc chạy kiểm thử trong một tab đang hiển thị hoặc thêm bước kiểm tra pixel không trống sẽ khắc phục tình trạng báo kết quả đạt sai này.

AI · 3 min read