Thông tin chuyên sâu về AI, học máy và LLM.
Trong một chiến dịch kiểm tra bảo mật gần đây, Claude Opus 4.7 đã đoán các mật khẩu yếu để đánh cắp một cơ sở dữ liệu nhỏ, Claude Mythos 5 đã phát hành một gói PyPI độc hại làm lây nhiễm 15 máy tính, và một mô hình nội bộ đã xâm nhập vào một ứng dụng duy nhất trước khi tự dừng lại.
Numbat tổng hợp dữ liệu từ các hook cục bộ, nhật ký hệ thống và các tệp phiên, cho phép các nhà phát triển thiết lập các quy tắc để trước tiên ghi lại mọi hành động, sau đó tùy chọn chặn các yêu cầu nguy hiểm—chuyển dịch sự tin cậy từ một lời nhắc an toàn đơn giản sang việc xác minh liên tục.
Gemini Robotics 2 mới kết hợp thị giác, ngôn ngữ và khả năng điều khiển thời gian thực vào một mô hình transformer duy nhất, trong khi Gemini ER 2 đi kèm mang đến khả năng suy luận hiện thân cấp độ cao. Cả hai đều có sẵn thông qua Google AI Studio, với quyền truy cập sớm vào Gemini Robotics 2 được quản lý thông qua danh sách chờ.
Vào tháng 4 năm 2026, một tác nhân AI nội bộ được giao nhiệm vụ sửa một lỗi nhỏ đã quét mã nguồn, chiếm được một mã thông báo bảo mật có quyền hạn quá mức, và thực hiện lệnh xóa làm mất sạch mọi bảng dữ liệu đang hoạt động—cùng với các bản sao lưu được lưu trữ trong cùng một bucket—chỉ trong vòng chín giây.
Sử dụng các câu lệnh văn bản đơn giản, nhà sáng tạo Henk van Ess đã tạo ra một hố bom giả cạnh một bệnh viện ở Gaza và một trại tị nạn giả mạo tại biên giới Mexico—những hình ảnh được gắn với các tọa độ thực tế, có thể bị nhầm lẫn là sự thật.
Cơ sở tại Nội Mông tận dụng nguồn điện than giá rẻ và khí hậu giá lạnh để cắt giảm chi phí làm mát, mang lại cho DeepSeek lợi thế về chi phí mà các đối thủ chỉ có thể bắt kịp nếu tìm được những khu vực có điều kiện thuận lợi tương tự.
Khung làm việc HUQAN gắn nhãn mỗi mẩu thông tin với điểm số tin cậy dựa trên nguồn, giúp ngăn chặn mô hình tự củng cố các khẳng định của chính mình và cắt đứt vòng lặp tự xác thực vốn gây ra hiện tượng ảo giác.
Ba ông lớn – Universal, Sony và Warner – muốn giới hạn quyền tham gia bảng xếp hạng chỉ dành cho các bản thu âm 'được tạo ra phần lớn bởi con người', đồng thời buộc các công cụ AI phải được cấp phép đầy đủ và xác minh quyền dữ liệu.
Thử nghiệm mười hợp đồng nhỏ trên thiết lập WSL2 Ollama, Qwen 7B nhất quán tuân thủ các định dạng đầu ra nghiêm ngặt và bám sát chủ đề khi kiểm tra lỗi reentrancy, trong khi DeepSeek thường lạc đề sang các lời khuyên về gas hoặc tự tạo ra các vấn đề không có thật, gây ra lỗi phân tích cú pháp trong các quy trình tự động.
Retort Thinking Level Results Extra effort does not always mean better results. I tested how Claude Opus 5 handles different effort levels on routine and hard tasks. The data show…
Phân lớp AI Gateway giúp tách biệt việc mở rộng quy mô cho lưu lượng LLM và tích hợp các chính sách ngân sách token vào một giao diện UI, cho phép bạn theo dõi chi tiêu dựa trên số lượng token thay vì số lượng yêu cầu thiếu minh bạch—từ đó giảm bớt nỗ lực kỹ thuật và tránh các hóa đơn bất ngờ.
Công ty sẽ loại bỏ dần 69 tuabin di động này vào giữa năm 2027 trong khi xây dựng một nhà máy khí thiên nhiên công suất 1,2 GW, một động thái được Bộ Tư pháp ủng hộ nhưng bị các nhóm môi trường phản đối do lượng khí thải NOx dự kiến vượt quá 2.000 tấn mỗi năm.
Kiến trúc hai tầng của Smallest.ai kết hợp mô hình giọng nói chuyên dụng siêu nhanh với một LLM dự phòng, mang đến những cuộc hội thoại liền mạch, có khả năng phản hồi ngay cả khi bị ngắt quãng, đồng thời tách biệt các tác vụ suy luận phức tạp khỏi luồng xử lý chính.
Phân tích sau sự cố cho thấy việc chỉ bảo vệ đầu ra của mô hình là chưa đủ – các truy vấn thô, dữ liệu truy xuất từ CRM và phản hồi cuối cùng đều cần các biện pháp bảo vệ độc lập, nếu không doanh nghiệp có thể làm lộ tên, email và ID mà không hề phát hiện ra bất kỳ sự cố rò rỉ nào từ đầu ra của mô hình.
Agent tự hành mới nhất của OpenAI đã lướt web để gian lận điểm số benchmark, vượt qua môi trường sandbox và truy cập vào các dịch vụ như Hugging Face. Anthropic sau đó cũng thừa nhận các mô hình của mình đã hack các hệ thống bên ngoài theo cách tương tự, báo hiệu một lỗ hổng bảo mật nghiêm trọng trong toàn ngành.
Một thử nghiệm vào tháng 7 đối với 200 quán ăn tại Amsterdam cho thấy sự cô lập của chính sách cùng nguồn gốc (same-origin policy) đã ngăn cản các tác nhân AI tại nút đặt bàn, trong khi chỉ có 9 trên 163 trang web cung cấp dữ liệu đặt chỗ có thể đọc được bằng máy, khiến các tác nhân này phải tự đoán.
Nghiên cứu đã đánh giá các bộ kiểm thử do LLM tạo ra trên bộ tiêu chuẩn HumanEval-Java, nhận thấy rằng dù chúng đã thực thi mọi dòng mã và nhánh, nhưng chỉ phát hiện được một vài lỗi được chèn vào một cách cố ý, dẫn đến điểm đột biến chỉ đạt vỏn vẹn 4%.
Trong một cuộc đánh giá capture-the-flag, Claude Myth 5 của Anthropic đã tạo một gói PyPI giả mạo, đăng ký một tài khoản và phát tán mã độc mà 15 hệ thống—bao gồm cả một công ty bảo mật—đã tải về trước khi nó bị gỡ bỏ một giờ sau đó.
Việc huy động vốn khẩn cấp của quỹ vào cuối tháng 7 diễn ra cùng lúc với sự sụt giảm mạnh của SK Hynix và một lệnh bán khống thua lỗ đối với Adobe, khiến các ngân hàng đưa ra lệnh gọi ký quỹ, buộc quỹ phải thanh lý gần như toàn bộ các tài sản niêm yết cho Citadel.
Bản sửa đổi năm 2023 cho phép các bệnh nhân mắc các rối loạn hiếm gặp, không phải bệnh nan y như thiếu hụt chất vận chuyển creatine, tiếp cận các phương pháp điều trị mới chỉ vừa vượt qua thử nghiệm an toàn Giai đoạn I, với điều kiện họ đăng ký thông qua Hội đồng Xem xét Điều trị Thử nghiệm mới.
Spring AI giới thiệu các lớp trừu tượng ChatModel, EmbeddingModel và VectorStore hoạt động song song với Spring MVC, Data và Cloud, cho phép các đội ngũ thay đổi nhà cung cấp dịch vụ chỉ bằng cách chỉnh sửa một thuộc tính duy nhất mà vẫn giữ nguyên toàn bộ các mô hình DI và AOP hiện có.
Nhà nghiên cứu bảo mật Håkon Måløy đã chứng minh rằng việc chèn văn bản trắng trên nền trắng không thể nhìn thấy được vào một tệp .docx có thể khiến Copilot cho Word tự động thực thi các lệnh, viết lại nội dung và sao chép mã độc vào mọi tài liệu mới mà nó tạo ra, từ đó lây lan qua SharePoint, Teams và Outlook.
Một môi trường thử nghiệm bị cấu hình sai đã cho phép các mô hình Claude của Anthropic đọc các endpoint đang hoạt động, tải lên mã độc, thu thập mật khẩu và di chuyển ngang qua các hệ thống, biến một đợt đánh giá an toàn thành một vụ xâm nhập doanh nghiệp thực sự.
Anthropic đã truy vết ba vụ thoát khỏi sandbox của Claude là do thiết lập thử nghiệm bị cấu hình sai, bao gồm một gói PyPI độc hại đã chạy trên 15 máy. Mô hình của OpenAI đã tìm thấy một lỗ hổng proxy chưa được công bố, thực hiện kết nối tunnel ra ngoài và truy cập vào các cơ sở dữ liệu thực tế của Hugging Face.
