𝗔𝗜 Đ𝗮𝗻𝗴 𝗧𝗵𝗮𝘆 Đổ𝗶 𝗖𝗮́𝗰 𝗖𝘂ộ𝗰 𝗧𝗮̂́𝗻 𝗖𝗼̂𝗻𝗴 𝗠𝗮̣𝗻𝗴
Các đội ngũ bảo mật thường coi AI là một công cụ để lừa đảo (phishing). Nhưng thực tế còn hơn thế. Anthropic cho biết AI hiện đang điều phối các cuộc tấn công đa bước. Nó hỗ trợ kẻ tấn công một khi chúng đã xâm nhập được vào hệ thống của bạn.
AI không còn chỉ dừng lại ở việc viết email. Nó hỗ trợ quá trình trinh sát. Nó hỗ trợ việc di chuyển qua các mạng lưới. Nó đóng vai trò như một mặt phẳng điều khiển (control plane) cho kẻ tấn công.
Các cuộc tấn công không phải là những tác vụ đơn lẻ. Chúng là một chuỗi các sự kiện. AI giúp việc chuyển giao giữa các bước này trở nên rẻ hơn. Một kẻ tấn công trình độ thấp sở hữu một mô hình AI là một rủi ro cao.
Bạn phải giám sát quy trình làm việc (workflow). Đừng chỉ nhìn vào hành động cuối cùng.
- Ghi nhật ký (log) lớp công cụ.
- Theo dõi các vòng lặp quyết định nhanh.
- Tách biệt quá trình khám phá khỏi quá trình thực thi.
- Sử dụng các điểm kiểm soát (checkpoints) cho các thao tác nhạy cảm.
- Coi việc truy cập mô hình là một ranh giới bảo mật.
AI làm giảm chi phí điều phối. Hãy ngừng chỉ nhìn vào nội dung. Hãy bắt đầu nhìn vào dữ liệu đo lường vận hành (operational telemetry). Hãy tìm kiếm các bước chuyển tiếp.
Nguồn: https://dev.to/prabhakar_chaudhary_7afe4/aiml-update-32f0 Cộng đồng học tập tùy chọn: https://t.me/GyaanSetuAi