Cách các nhóm khủng bố đang lợi dụng LLM để chế tạo vũ khí và lập kế hoạch

Sự phổ cập nhanh chóng của các Mô hình Ngôn ngữ Lớn (LLM) đã mang lại những lợi ích to lớn cho nhân loại, nhưng một nghiên cứu mới đầy ám ảnh đã tiết lộ mặt tối của bước nhảy vọt công nghệ này. Các tổ chức khủng bố hiện đang tích cực vũ khí hóa các công cụ AI phổ biến để nâng cao khả năng tác chiến, từ huấn luyện chiến thuật đến phát triển chất nổ.

Từ việc phá rào (jailbreaking) đến các đơn vị AI chuyên trách

Một nghiên cứu mới của nhà nghiên cứu Antonia Jülich thuộc Chương trình Khoa học & Chính sách AI của Cambridge (CASP) đã phát hiện ra mức độ ứng dụng AI tinh vi trong các nhóm cực đoan. Thông qua 57 cuộc phỏng vấn với 27 cựu thành viên, nghiên cứu tiết lộ rằng ISIS đã cung cấp các khóa đào tạo kỹ thuật đặt câu lệnh (prompt engineering) và phá rào (jailbreak) từ năm 2023. Đây không chỉ là việc sử dụng ngẫu nhiên; các liên lạc viên của ISIS đã tích cực huấn luyện các chỉ huy cách vượt qua các bộ lọc an toàn của các mô hình hàng đầu trong ngành.

Đáng báo động nhất là Boko Haram đã chuyển từ việc sử dụng rải rác sang tích hợp mang tính tổ chức. Cả hai phe phái chính của nhóm này được cho là đã thành lập các đơn vị AI chuyên trách. Theo Jülich, các nhóm này coi việc đào tạo AI là ưu tiên cao, tập hợp những "nhân sự hàng đầu" của họ trong các buổi học chuyên biệt, sử dụng máy chiếu để trình diễn cách thao túng các công cụ mạnh mẽ này.

Lợi dụng các chatbot lớn để giành lợi thế chiến thuật

Nghiên cứu nhấn mạnh rằng không có nhà cung cấp AI lớn nào miễn nhiễm với sự lạm dụng này. Các phe phái khủng bố đang sử dụng một loạt các chatbot phổ biến, bao gồm ChatGPT, Claude, Gemini, Grok, Meta AI và DeepSeek. Các công cụ này đang được tận dụng cho một số chức năng quan trọng — và nguy hiểm:

• Lập kế hoạch tấn công: Tối ưu hóa hậu cần và thời điểm thực hiện các hoạt động nổi dậy.
• Phát triển vũ khí: Sử dụng LLM để tìm hiểu cách chế tạo các thiết bị nổ mạnh hơn.
• An ninh tác chiến: Sử dụng AI để che giấu các hoạt động và cải thiện an ninh liên lạc.
• Huấn luyện chiến thuật: Trong một trường hợp cực đoan, phe ISWAP đã sử dụng AI để phân tích và mô phỏng các kỹ thuật nhảy xe máy từ phim ảnh để vượt qua các chiến hào chiến đấu.

Sự thất bại của việc tự điều tiết tự nguyện

Những phát hiện này đóng vai trò như một sự xác nhận nghiệt ngã cho những cảnh báo kéo dài từ các phòng thí nghiệm AI như OpenAI và Anthropic. Mặc dù các nhà phát triển đã triển khai các rào chắn an toàn nghiêm ngặt, nghiên cứu cho thấy việc tự điều tiết tự nguyện đang không theo kịp các đối tượng xấu.

Bản chất của LLM khiến việc bảo mật hoàn toàn gần như là không thể; Anthropic gần đây đã thừa nhận rằng việc phá rào có thể không bao giờ bị loại bỏ hoàn toàn. Trong khi các chatbot phổ biến như ChatGPT chủ yếu giúp việc tiếp cận kiến thức hiện có trở nên dễ dàng hơn, mối đe dọa sinh tồn thực sự nằm ở khả năng lạm dụng các hệ thống AI chuyên dụng. Các nhà nghiên cứu cảnh báo rằng mặc dù việc sử dụng hiện tại vẫn ở mức "thông thường", nhưng ranh giới tiếp theo sẽ là việc các nhóm khủng bố tìm kiếm sự hỗ trợ của AI để phát triển vũ khí hóa học và sinh học.

Tại sao điều này lại quan trọng đối với hệ sinh thái AI

Sự phát triển này đánh dấu một bước chuyển trong các cuộc thảo luận về an toàn AI. Nó không còn chỉ là ngăn chặn "sự ảo giác" (hallucinations) hay các kết quả đầu ra thiên kiến; mà là về khó khăn cơ bản trong việc ngăn chặn sự phổ cập hóa các kiến thức chết người. Khi các mô hình AI trở nên có năng lực hơn trong các lĩnh vực chuyên môn như khoa học đời sống, khoảng cách giữa "thông tin có thể tiếp cận" và "khả năng vũ khí hóa thực tế" tiếp tục thu hẹp, đòi hỏi các kiến trúc an ninh chủ động và mạnh mẽ hơn nhiều.

Các điểm chính cần lưu ý

• Lạm dụng mang tính tổ chức: Các nhóm như Boko Haram đã vượt xa việc sử dụng ngẫu nhiên để tạo ra các "đơn vị AI" chuyên trách cho việc lập kế hoạch chiến thuật và hậu cần.
• Lỗ hổng phổ quát: Các mô hình lớn bao gồm ChatGPT, Claude, Gemini và DeepSeek đang bị vượt qua thông qua kỹ thuật đặt câu lệnh tinh vi và đào tạo phá rào.
• Mối đe dọa từ sự chuyên biệt hóa: Trong khi việc lạm dụng hiện tại tập trung vào lập kế hoạch và chất nổ, rủi ro dài hạn chính là việc sử dụng AI chuyên dụng trong khoa học đời sống để tiến hành chiến tranh hóa học và sinh học.