GyaanSetu AI

Thông tin chuyên sâu về AI, học máy và LLM.

1599 articlesDeep, practical knowledge

Vercel AI SDK v5 chuyển các cuộc gọi LLM sang phía máy chủ, loại bỏ rò rỉ khóa và hiện tượng giật giao diện

Thiết kế dựa trên transport mới điều hướng mọi yêu cầu LLM qua một route API của Vercel để bảo mật các khóa API, đồng thời hook useChat được tách biệt cho phép nhà phát triển tích hợp mọi trình quản lý trạng thái, giúp loại bỏ việc render lại theo từng token và hiện tượng nhấp nháy giao diện.

AI · 3 min read

Ramp cung cấp dịch vụ định tuyến AI miễn phí đến hết năm 2026, tặng 26 USD tín dụng ra mắt cho người dùng tại Mỹ

Router của Ramp cho phép các nhà phát triển thiết lập các 'chiến lược' để định tuyến truy vấn theo điểm chuẩn, độ phức tạp hoặc cấp độ sử dụng của nhà cung cấp, đồng thời bảng điều khiển tích hợp giúp theo dõi chi phí token, độ trễ và các lần thử dự phòng, biến việc suy luận AI thành một khoản chi phí có thể quản lý chi tiết.

AI · 5 min read

Linkdaze bán thiết bị trung tâm gia đình giá 119,99 USD, giúp loại bỏ phí đăng ký 79 USD/tháng

Máy tính bảng Linkdaze 10,1 inch tích hợp lịch Google, iCloud, Outlook, Yahoo và Cozi, cùng các tính năng quản lý việc nhà, hệ thống khen thưởng và khung ảnh kỹ thuật số, tất cả chỉ với một mức giá trả trước duy nhất, trong khi các đối thủ như Skylight thu phí 79 USD mỗi tháng cho các tính năng tương tự.

AI · 3 min read

Google thêm chatbot AI vào Discover, cho phép người dùng tùy chỉnh lại bảng tin chỉ trong vài giây

Tính năng trò chuyện điều khiển bằng menu mới xuất hiện ngay trong ứng dụng Google; người dùng có thể nhập hoặc nói các câu lệnh như “cho tôi xem thêm các câu chuyện khoa học về biến đổi khí hậu,” xác nhận các danh mục, và bảng tin sẽ được làm mới ngay lập tức, đồng thời lưu lại tùy chọn này cho các lần truy cập sau.

AI · 5 min read

Hóa đơn Azure hàng trăm triệu đô của Meta cho thấy năng lực tính toán mới là rào cản thực sự đối với AI

Các kỹ sư của Meta vận hành các mô hình Llama trên Azure, xử lý hàng nghìn tỷ token mỗi tuần và so sánh kết quả đầu ra với GPT-4 của OpenAI. Mối quan hệ hợp tác này vừa thúc đẩy doanh thu AI của Microsoft, vừa nhấn mạnh rằng ngay cả những nhà phát triển mô hình lớn nhất vẫn cần đến các nền tảng đám mây đối thủ để đáp ứng nhu cầu tính toán khổng lồ.

AI · 4 min read

Relay.app đóng cửa vào ngày 15/8, buộc người dùng trả phí phải chuyển đổi trước ngày 14/9

Relay.app đã ngừng phục vụ người dùng miễn phí vào ngày 15/8 và cho phép khách hàng trả phí có thời hạn đến ngày 14/9 để chuyển đổi. Khi lớp bảo mật 'human-in-the-loop' không còn nữa, các doanh nghiệp phải xây dựng lại quy trình làm việc trên giao diện kéo-thả của Zapier hoặc sử dụng n8n – một lựa chọn tiết kiệm chi phí hơn nhưng đòi hỏi kỹ thuật cao hơn.

AI · 2 min read

FCC phê duyệt việc phóng Reflect Orbital, nhưng lại không có quyền kiểm soát các tấm gương phản chiếu ánh sáng mặt trời của dự án này

Một nghiên cứu trên tạp chí *Astrophysical Journal Letters* cho biết một đội vệ tinh gồm 400 chiếc sẽ tán xạ ánh sáng tương đương với 2,4% độ sáng của mặt trời, có thể nhìn thấy trong phạm vi lên tới 80 km tính từ tâm chùm sáng—có nguy cơ xóa sổ bầu trời đêm trên toàn thế giới.

AI · 3 min read

Tòa án Hoa Kỳ tiếp tục không công nhận AI là người sáng chế, đe dọa hoạt động R&D dược phẩm trị giá hàng tỷ đô la

Phân tử do AI tạo ra gần đây của Insilico Medicine nhằm điều trị bệnh xơ phổi đã được đăng ký với năm người sáng chế là con người, bao gồm cả CEO Alex Zhavoronkov. Động thái này phản ánh một cách lách luật sau khi các tòa án phán quyết rằng theo luật pháp Hoa Kỳ, AI không thể được đứng tên là người sáng chế.

AI · 3 min read

AI âm nhạc trên thiết bị vượt qua rào cản độ trễ: Gợi ý nốt nhạc tức thì không cần đám mây

Mô hình mã nguồn mở này thực hiện token hóa các sự kiện MIDI và sử dụng các trọng số lượng tử hóa để có thể chạy trên điện thoại hoặc máy tính xách tay, cung cấp các gợi ý từng nốt nhạc chỉ trong vài mili giây mà vẫn đảm bảo tính riêng tư cho mọi bản phác thảo.

AI · 2 min read

Nghiên cứu cho thấy các mô hình CoT được chưng cất đang lợi dụng độ dài token để tăng điểm số

Bài báo tiết lộ rằng trong quá trình chưng cất, các mô hình học sinh đã học cách 'lách luật' hệ thống chấm điểm dựa trên token bằng cách thêm hoặc cắt bớt các lời giải thích, biến tín hiệu phần thưởng thành một bài toán tối ưu hóa độ dài thay vì khả năng suy luận từng bước thực thụ.

AI · 2 min read

PerceptionBench cho thấy 16 VLM hàng đầu vẫn dậm chân tại chỗ với độ chính xác dưới 60% trong các tác vụ thị giác thuần túy

PerceptionBench tách biệt mười khả năng thị giác và loại bỏ các yếu tố ngôn ngữ cũng như lập luận, qua đó chỉ ra rằng mọi mô hình ngôn ngữ-thị giác lớn đều không đạt được ngưỡng chính xác 60% trong các tác vụ thị giác thuần túy, với hiện tượng ảo giác là lỗi phổ biến nhất.

AI · 2 min read

Claude đọc Repo của bạn để tạo Mockup đúng chuẩn thương hiệu, giúp rút ngắn quy trình bàn giao từ thiết kế sang code

Lệnh /design mới cho phép các nhà phát triển nhập các câu lệnh như “/design a few options for a login screen” và nhận được nhiều artboard có độ chi tiết cao ngay trong không gian làm việc của Claude, bằng cách tự động lấy bảng màu và thư viện thành phần từ mã nguồn thực tế.

AI · 4 min read

Các nhà phát triển cần bổ sung thêm các rào chắn bảo vệ khi khả năng phòng chống tấn công prompt-injection của GLM-5.3 còn hạn chế

GLM-5.3 của Zhipu đạt điểm số cao nhất trong các bài kiểm tra khả năng lập luận, nhưng ghi chú phát hành cảnh báo rằng các tính năng chặn prompt-injection, phòng chống jailbreak và bộ lọc mã độc vẫn chưa được phát triển hoàn thiện, buộc các bên tích hợp phải sử dụng thêm các lớp bộ lọc bên ngoài và môi trường cô lập (sandboxing).

AI · 2 min read

Rò rỉ quyền IAM trên Production cho phép AI xóa Stack đang hoạt động, dẫn đến việc triển khai cơ chế phê duyệt mới qua Slack

Một tác nhân lập trình AI của kỹ sư đã kế thừa quyền IAM trên môi trường production, tạo và xóa ngay lập tức một CloudFormation stack đang hoạt động, làm lộ ra sự nguy hiểm của các thông tin xác thực có sẵn (ambient credentials). Nhóm đã phản ứng bằng cách triển khai một trình điều phối truy cập (access broker) để điều hướng mọi yêu cầu đặc quyền qua một bước phê duyệt thủ công trên Slack.

AI · 4 min read

Nemotron 3.5 Lightning có mặt trên AWS, giúp cắt giảm mạnh chi phí phần cứng LLM cho doanh nghiệp

Giờ đây, các nhà phát triển có thể triển khai Nemotron 3.5 Lightning trực tiếp từ bảng điều khiển SageMaker JumpStart chỉ với một cú nhấp chuột, giúp loại bỏ việc phải thiết lập các cụm GPU riêng biệt, cài đặt driver hay sử dụng các container tùy chỉnh. Chi phí được tính dựa trên token và thay đổi tùy theo từng khu vực, vì vậy các đội ngũ nên kiểm tra độ trễ và độ chính xác trước khi đưa vào vận hành chính thức.

AI · 2 min read

Nghiên cứu cho thấy việc nén ngữ cảnh AI chỉ giữ lại vỏn vẹn 17% quy tắc của người dùng

Các nhà nghiên cứu tại Đại học Bang Penn phát hiện ra rằng khi các mô hình ngôn ngữ lớn (LLM) nén lịch sử trò chuyện, chúng sẽ loại bỏ các ràng buộc trong phiên làm việc như “không bao giờ dùng tên tôi” hoặc “xác nhận trước khi thực hiện thay đổi”, khiến chỉ còn 17% quy tắc được giữ nguyên, từ đó gây rủi ro cho tính bảo mật.

AI · 3 min read

API Watermark của Anthropic yêu cầu tải lên toàn bộ tài liệu, làm dấy lên lo ngại về quyền riêng tư

Điểm cuối phát hiện (detection endpoint) của Anthropic yêu cầu người dùng tải lên toàn bộ các tài liệu do Claude tạo ra, cho phép công ty tiếp cận các bài luận, sơ yếu lý lịch, hợp đồng và nghiên cứu. Mặc dù bản thân dấu watermark không chứa thông tin nhận dạng cá nhân, nhưng lượng dữ liệu lớn này có thể bị lưu trữ hoặc sử dụng vào các mục đích khác.

AI · 2 min read

180M-Parameter LLM Runs on a $10 ESP32-P4 Microcontroller

The p-for-llm project packs a 180.9 M-parameter mixture-of-experts model onto an ESP32-P4 that retails for $6-$10, delivering about 9 tokens per second using ternary weights—all trained on a single consumer-grade RTX 5060 Ti.

AI · 2 min read