Thông tin chuyên sâu về AI, học máy và LLM.
Moonshot AI đã cho phép tải xuống công khai mô hình Kimi K3 với 2,8 nghìn tỷ tham số vào ngày 27 tháng 7, nhưng yêu cầu phần cứng của nó đòi hỏi các cụm GPU cấp doanh nghiệp, khiến các nhà phát triển thông thường không thể chạy mô hình này cục bộ ở thời điểm hiện tại.
Quy trình làm việc mới này tách biệt vai trò của LLM chỉ để đưa ra quyết định, trong khi các kịch bản chạy trong môi trường sandbox có tính xác định sẽ đảm nhận mọi tính toán, giúp cung cấp các kết quả có thể kiểm chứng từng bước và giảm thiểu các số liệu sai lệch thường gặp khi thực hiện EDA chỉ bằng một câu lệnh duy nhất.
Trong một thí nghiệm kéo dài bốn tuần với 67 người tham gia, các nhà nghiên cứu MIT đã để một AI có độ chính xác cao đưa ra các phán quyết đúng/sai về các mẩu tin tức. Mặc dù AI này đúng trong hầu hết các trường hợp, nhưng những người dùng phụ thuộc vào nó đã bị giảm khả năng tự đánh giá thông tin sai lệch một cách rõ rệt khi không có sự hỗ trợ của AI.
Gemini của Google tính token hình ảnh theo các ô 768 pixel, với mức phí 258 token cho mỗi ô. Bằng cách giữ hình ảnh trong phạm vi một ô—hoặc sử dụng chúng cho các dữ liệu dày đặc như phương trình, bảng biểu hoặc các ký tự không thuộc hệ chữ Latinh—các nhà phát triển thường có thể tiết kiệm chi phí hơn nhiều so với việc gửi cùng một thông tin dưới dạng văn bản.
Tại Hội nghị Thượng đỉnh Bogotá, AWS đã công bố Bedrock AgentCore, một nền tảng thống nhất tích hợp khả năng điều phối, khả năng quan sát và các kiểm soát an toàn, cho phép các nhà phát triển triển khai nhanh các tác nhân AI chuyên dụng mà không cần xây dựng các hạ tầng kết nối tùy chỉnh.
75% lượt thực hiện của Claude Code là để đọc. Hầu hết mọi người đều nghĩ rằng các tác nhân lập trình AI dành thời gian để viết mã. Tuy nhiên, dữ liệu mới cho thấy điều này là sai. Red Hat đã phân tích 219 phiên Claude Code thực tế. T…
After weeks of silent state loss, the author tried SQLite, raw object storage, and a broken hybrid before landing on a versioned envelope with ETag-based conditional writes—an atomic-update loop that prevents concurrent overwrites and restores reliability.
Prompt Caching của Claude gặp lỗi âm thầm. Tính năng prompt caching của Claude có thể đang gặp lỗi mà bạn không hề hay biết. Tôi đã thêm cache control vào một trình xử lý WhatsApp. Tôi đã theo dõi các bản ghi để...
Việc ghi cache mới có chi phí gấp 1,25 hoặc 2 lần giá cơ bản cho thời gian tồn tại (TTL) là 5 phút hoặc 1 giờ, nhưng mỗi lần truy cập sau đó chỉ tính phí 0,1 lần, giúp biến các cuộc hội thoại chuyên sâu thành một khoản chi phí phát sinh một lần nếu bạn nạp trước các ngữ cảnh không thay đổi.
Trong các đợt thử nghiệm ban đầu tại các subreddit như r/technology, hệ thống kiểm duyệt bằng AI của Reddit đã thúc đẩy hoạt động của người dùng mới tăng 22%, trong khi vẫn giữ tỷ lệ spam và quấy rối bị gắn cờ ở mức ổn định, cho thấy mô hình này có thể hạ thấp rào cản gia nhập mà không làm ảnh hưởng đến sự an toàn.
Cập nhật Ollama RC: Qwen3.5 và các bản sửa lỗi Streaming. Ollama v0.32.6 rc0 đã ra mắt, mang đến các bản cập nhật cho người dùng Apple GPU và khắc phục các lỗi streaming. Các tính năng mới cho người dùng Apple: MLX cho phép...
Bằng cách chuyển đổi văn bản được truy xuất thành một đồ thị các thực thể và mối quan hệ, GraphRAG cho phép các mô hình suy luận trên nhiều tài liệu, trong khi bộ nhớ ngữ cảnh ba tầng lưu trữ các cuộc hội thoại ngắn hạn, các dữ kiện người dùng dài hạn và dữ liệu được cắt tỉa có chọn lọc để duy trì thông tin khi làm mới trang hoặc mở tab mới.
Các tác nhân con của bộ điều phối đã kế thừa các thiết lập từ tác nhân cha, mặc định sử dụng gói Opus đắt đỏ, ghi đè lại bộ nhớ đệm (cache) sau mỗi lần gọi và chạy các vòng lặp vô tận cho đến khi được người kiểm duyệt phê duyệt, khiến một công việc đơn giản trở thành một khoản chi phí lên tới hàng triệu token.
DiffusionGemma thay thế vòng lặp token từ trái sang phải truyền thống bằng một khối khuếch tán 256 token, giúp khử nhiễu toàn bộ khối dữ liệu một cách song song. Cách tiếp cận này giúp giảm độ trễ cho các tác nhân AI thời gian thực, dù điểm số trên thang đo AIME giảm từ 88,3 xuống 69,1 và gặp khó khăn với các câu lệnh ngắn.
Bằng cách tăng khoảng thời gian làm mới ở phía client từ 30 giây lên 15 phút, cơ sở dữ liệu Neon có thể ở trạng thái nghỉ đủ lâu để scale to zero, giúp loại bỏ các khoản phí tính toán theo từng giây vốn từng khiến biểu đồ chi phí trên Vercel tăng vọt.
Wiz Research phát hiện ra rằng một symlink project_settings.json độc hại có thể đánh lừa sáu công cụ lập trình AI lớn để ghi dữ liệu trực tiếp vào ~/.ssh/id_rsa, trong khi hộp thoại phê duyệt chỉ hiển thị tên của symlink chứ không phải đường dẫn tệp thực tế.
Bản hướng dẫn mới phác thảo bảy trụ cột kiến trúc—quyền hạn, ranh giới, lược đồ, phát hiện lỗi, trạng thái, hoàn tác và khả năng kiểm chứng—cần phải được xây dựng lại từ đầu trước khi bất kỳ tác nhân tự hành nào có thể được phát hành, đồng thời cảnh báo rằng các tác vụ có giá trị thấp sẽ không xứng đáng với công sức bỏ ra.
Bộ công cụ AI của Grab—bao gồm định tuyến Turbo Mode, Ghép cặp Dự đoán (Predictive Matching) và trợ lý người bán Mai—giúp rút ngắn tới 1/3 thời gian giao hàng, tăng thu nhập của tài xế thêm 23% và doanh số nhà hàng thêm 15%, trong khi lợi nhuận hoạt động của nền tảng tăng vọt 186% lên mức 19 triệu USD.
Tác giả đã xây dựng một bảng tra cứu tĩnh để phân loại các tác vụ dựa trên mức độ mơ hồ sang các mô hình Haiku, Sonnet hoặc Opus, đồng thời thêm quy tắc leo thang sau hai lần thất bại. Trong bốn tuần, hệ thống đã duy trì được chất lượng trong khi giảm chi phí API xuống còn 65% so với ban đầu và cắt giảm thời gian xử lý trung vị từ 42 giây xuống còn 27 giây.
Lỗ hổng FaceHugger khai thác tình trạng tranh chấp (race condition) trong quá trình tải hai giai đoạn, cho phép mã độc được chèn vào yêu cầu thứ hai thực thi ngay cả khi `trust_remote_code` đã bị vô hiệu hóa, gây rủi ro cho các tác vụ CI/CD, container và các dịch vụ suy luận doanh nghiệp.
Tính năng AI của tôi đã ngừng hoạt động suốt một ngày. Thế nhưng, các chỉ số đo lường lại cho thấy nó vẫn đang hoạt động bình thường. Hôm qua, hệ thống drone của tôi đã ghi nhận bốn giải thích từ AI, nhưng một cổng kiểm soát an toàn đã từ chối cả bốn. Tôi cảm thấy an tâm về điều đó...
Kết quả thử nghiệm của chúng tôi cho thấy một máy chủ MCP chỉ đọc xử lý các lệnh gọi list và get_article chỉ tiêu tốn 0-2 ms CPU mỗi yêu cầu, nằm dưới mức giới hạn của gói miễn phí Cloudflare, nhưng bất kỳ hoạt động phân tích dữ liệu tức thời nào cũng sẽ nhanh chóng chạm ngưỡng 10 ms.
Hermes Agent thu hẹp khoảng cách giữa chatbot và các trợ lý có khả năng lập trình bằng cách cho phép các nhà phát triển tích hợp các lệnh shell, I/O tệp và các dịch vụ tùy chỉnh, đồng thời lưu trữ ngữ cảnh qua các phiên làm việc—tất cả đều được thực hiện trên phần cứng riêng của họ.
Chòm sao vệ tinh quỹ đạo thấp gồm 20 vệ tinh của EON sẽ sử dụng laser công suất cao và các trạm mặt đất có khả năng thích ứng với nhiều điều kiện thời tiết khác nhau để cung cấp các kết nối quy mô terabit trên các tuyến đường quan trọng như Pháp-Australia, nhằm cung cấp dung lượng chuyên dụng với độ trễ thấp cho các khách hàng sử dụng nhiều ứng dụng AI.
