GenAI trên thiết bị, Bảo mật Agent LLM và RPA trên di động

Hôm nay tập trung vào ba sự chuyển dịch lớn trong phát triển AI: xử lý trên thiết bị, bảo mật agent và tự động hóa trên di động.

Apple Core AI Framework

Apple đã giới thiệu Core AI để chạy AI tạo sinh trực tiếp trên các thiết bị Apple. Framework này sử dụng Apple Silicon để xử lý các mô hình ngôn ngữ lớn tại chỗ.

Tại sao điều này lại quan trọng với bạn:

  • Thời gian phản hồi nhanh hơn vì dữ liệu được lưu lại trên thiết bị.
  • Quyền riêng tư tốt hơn vì thông tin không được gửi lên đám mây.
  • Tiết kiệm năng lượng hơn cho các ứng dụng iOS và macOS.
  • Hiệu suất cao cho các tác vụ như tóm tắt và tạo mã nguồn.

Bảo mật các nhóm Agent LLM

NRT-Defense v0.4.0 cung cấp các công cụ để bảo vệ các nhóm agent AI tự hành. Khi các agent làm việc cùng nhau, chúng phải đối mặt với những rủi ro bảo mật mới.

Các cải tiến bảo mật chính:

  • Bảo vệ chống lại prompt injection.
  • Ngăn chặn rò rỉ dữ liệu (data exfiltration).
  • Phòng thủ chống lại sự giao tiếp độc hại giữa các agent.
  • Độ ổn định tốt hơn cho các ngành tài chính và y tế.

Agent AI trên di động và RPA

Những phát triển mới cho thấy cách các agent AI có thể tự động hóa quy trình làm việc trên di động, tương tự như Tự động hóa quy trình bằng robot (RPA).

Thách thức thực tế đối với các agent di động:

  • Các kích thước và độ phân giải màn hình khác nhau.
  • Các phiên bản Android khác nhau.
  • Xử lý các gián đoạn trong quá trình thực hiện tác vụ.
  • Sử dụng khớp mẫu (template matching) để tương tác với các thành phần UI.

Việc xây dựng các agent này đòi hỏi sự chuyển dịch từ các mô hình chỉ dựa trên đám mây sang tương tác ở cấp độ thiết bị có khả năng phục hồi cao.

Nguồn: https://www.infoq.com/news/2026/06/apple-core-ai-wwdc/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=global

Cộng đồng học tập tùy chọn: https://t.me/GyaanSetuAi