Trong vài năm qua, ngành bảo mật đã thảo luận về trí tuệ nhân tạo như một nhân tố khuếch đại sức mạnh cho những người phòng thủ. Câu chuyện diễn ra như thế này: các mô hình học máy sẽ sàng lọc nhật ký (logs), phát hiện các điểm bất thường mà các nhà phân tích con người bỏ lỡ, và xử lý các công việc tẻ nhạt của việc phát hiện mối đe dọa. Câu chuyện đó chỉ đúng một nửa. Một nửa còn lại, theo những phát hiện mới nhất từ Check Point Research, là những kẻ tấn công đã vượt xa giai đoạn thử nghiệm. Chúng đang sử dụng AI để thực hiện các cuộc tấn công trực tiếp ngay lúc này. Công nghệ này không còn chỉ là một công cụ dành cho các nhà phát triển đang xây dựng các ngăn xếp ứng dụng (application stack) tiếp theo. Nó đã trở thành một vũ khí chủ động trong tay những tội phạm đang tự động hóa sự lừa đảo ở một quy mô mà chúng ta chưa từng thấy trước đây.
Khi kẻ tấn công sử dụng AI cho các hoạt động thực tế
Báo cáo nhấn mạnh một sự thay đổi mang tính quyết định trong cách các tác nhân đe dọa tổ chức các chiến dịch của họ. Thay vì dựa vào mã tĩnh và điều khiển-kiểm soát (command-and-control) thủ công, những kẻ tấn công đang xây dựng các khung mã độc phức tạp như VoidLink. Các khung (framework) loại này cho thấy một cách tiếp cận theo mô-đun, nơi các thành phần có thể thích ứng, cập nhật và giao tiếp một cách linh hoạt. Khi AI điều khiển các hệ thống này, các chiến dịch mã độc trở nên khó dự đoán hơn nhiều. Các tệp thực thi (payloads) có thể thay đổi hành vi dựa trên môi trường mà chúng xâm nhập, điều này khiến việc phát hiện dựa trên chữ ký (signature-based detection) trở nên khó khăn hơn nhiều và đòi hỏi sự giám sát hành vi mà ít tổ chức nào triển khai đầy đủ.
Điều đáng báo động hơn là việc khai thác trực tiếp các mô hình AI thương mại. Những kẻ tấn công không bị giới hạn trong các công cụ ngầm được xây dựng trong các diễn đàn ẩn danh. Chúng đang lạm dụng chính các mô hình ngôn ngữ lớn và các dịch vụ AI mà các doanh nghiệp hợp pháp sử dụng hàng ngày. Bằng cách jailbreaking các hệ thống, tinh chỉnh kỹ thuật prompt engineering, hoặc đơn giản là tự động hóa số lượng lớn các lệnh gọi API, tội phạm có thể vượt qua các thiết lập bảo mật và tạo ra các email lừa đảo, các tập lệnh độc hại và các mồi nhử kỹ thuật xã hội (social engineering) với tốc độ máy móc. Sự mỉa mai thật sắc bén: cơ sở hạ tầng được xây dựng để giúp mọi người viết mã hoặc tóm tắt tài liệu hiện đang bị chiếm dụng để xâm nhập chính các tổ chức đã trả tiền cho nó.
Bốn mối đe dọa do AI dẫn dắt cần nắm rõ
Phân tích của Check Point chỉ ra bốn trường hợp lạm dụng cụ thể mà các đội ngũ bảo mật cần nhận diện chi tiết. Mỗi trường hợp đều thay đổi bài toán về những gì một kẻ tấn công có thể đạt được mà không bị giới hạn bởi quy mô con người.
Các cuộc tấn công lừa đảo tự động (Automated phishing attacks) đã tồn tại dưới các hình thức sơ khai trong nhiều thập kỷ, nhưng AI đã loại bỏ những rào cản còn lại. Kẻ tấn công có thể thu thập dữ liệu từ mạng xã hội và các trang web doanh nghiệp để tạo ra các email cá nhân hóa cao chỉ trong vài giây, điều chỉnh tông giọng, ngôn ngữ và ngữ cảnh để các chiến dịch gửi hàng loạt mang lại cảm giác như những tin nhắn gửi riêng cho từng người. Khi mọi email spear-phishing đều trông như được soạn thảo thủ công, các phương pháp phát hiện truyền thống dựa trên ngữ pháp vụng về hoặc tiêu đề email hàng loạt sẽ đơn giản là thất bại.
Các bộ công cụ vishing qua tác nhân giọng nói (Voice-agent vishing kits) đại diện cho một sự leo thang vượt xa các deepfake được ghi âm sẵn. Các bộ công cụ này triển khai các tác nhân giọng nói tương tác có khả năng thực hiện các cuộc hội thoại theo thời gian thực với nạn nhân. Hãy tưởng tượng một cuộc gọi nghe giống hệt như bộ phận hỗ trợ IT của bạn, phản hồi các câu hỏi của bạn một cách tự nhiên và khẩn cấp yêu cầu mã xác thực đa yếu tố (MFA) của bạn. Giọng nói là giả lập, kịch bản được tạo ra tức thời, và nạn nhân đang nói chuyện với một phần mềm không bao giờ lo lắng, không bao giờ vấp lời và không bao giờ đi chệch khỏi mục tiêu của nó.
Các danh tính ảo giả mạo (Forged virtual identities) mở rộng sự lừa đảo này từ các cuộc gọi đơn lẻ sang toàn bộ các nhân vật. Các tác nhân đe dọa có thể tạo ra các hồ sơ tổng hợp hoàn chỉnh với ảnh được tạo ra, lịch sử làm việc giả mạo và các kết nối mạng nhân tạo. Những danh tính này không chỉ gửi một tin nhắn; chúng có thể tham gia vào các mạng lưới chuyên nghiệp, tham gia vào các cuộc thảo luận trong ngành và xây dựng lòng tin trong nhiều tuần hoặc nhiều tháng trước khi tung ra một tệp thực thi độc hại hoặc yêu cầu các thông tin xác thực nhạy cảm. Những cú lừa dài hạn đã được công nghiệp hóa.
Các cuộc tấn công chèn câu lệnh gián tiếp (Indirect prompt injection attacks) nhắm vào chính kiến trúc của các ứng dụng AI thay vì nhắm trực tiếp vào người dùng cuối. Một kẻ tấn công ẩn các hướng dẫn độc hại bên trong một trang web, một tài liệu hoặc một email mà một tác nhân AI sẽ xử lý sau đó. Khi một công cụ trợ lý doanh nghiệp đọc dữ liệu bị đầu độc đó, nó sẽ thực thi các hướng dẫn mà kẻ tấn công đã cài cắm, có khả năng làm rò rỉ thông tin mật hoặc thực hiện các hành động trái phép thay mặt cho người dùng. Ứng dụng có vẻ như bị lỗi, nhưng thực chất nó chỉ đang tuân theo các mệnh lệnh mà lẽ ra nó không bao giờ được thấy.
Mặt trận nội bộ: AI không được phép và rò rỉ dữ liệu
Những mối đe dọa bên ngoài này càng trở nên trầm trọng hơn bởi một cuộc khủng hoảng âm thầm đang diễn ra ngay bên trong các văn phòng. Các tổ chức hiện đang phải đối mặt với rủi ro nghiêm trọng từ việc sử dụng AI không được phép, thường được gọi là shadow AI, khi nhân viên dán mã nguồn độc quyền, hồ sơ khách hàng hoặc các kế hoạch chiến lược vào các chatbot công cộng để đẩy nhanh các tác vụ hàng ngày. Kết quả là