Khi AI Trở Thành Vũ Khí An Ninh Mạng

Các mô hình Mythos của Anthropic đã thay đổi thế giới bảo mật. Chúng không chỉ giải thích các lỗi. Chúng còn tìm kiếm và khai thác các lỗ hổng mới trong những đoạn mã lạ.

Khả năng này làm thay đổi cán cân giữa kẻ tấn công và người phòng thủ. Anthropic đã giới hạn mô hình Mythos 5 không bị hạn chế cho một nhóm nhỏ các chuyên gia. Công chúng sẽ được tiếp cận với Fable 5. Phiên bản này có các biện pháp bảo vệ để chặn các câu lệnh (prompt) an ninh mạng có rủi ro cao.

Nguy cơ là có thật. Một mô hình có khả năng tìm lỗi sẽ giúp ích cho cả hai phía. Người phòng thủ sử dụng nó trên mã nguồn của chính họ. Kẻ tấn công sử dụng nó trên mã nguồn của tất cả những người khác.

Kẻ tấn công không tuân theo các biện pháp bảo vệ. Ngay lúc này, chúng đang sử dụng AI để quét các hợp đồng thông minh cũ nhằm tìm kiếm điểm yếu. Nếu bạn phát hành mã nguồn có giá trị, bạn phải giả định rằng kẻ tấn công đang sử dụng AI để tìm ra các lỗ hổng của bạn.

Chiến lược phòng thủ hiện tại có một lỗ hổng. Các biện pháp bảo vệ không thể phân biệt được một cuộc kiểm định (audit) hợp pháp với một cuộc tấn công. Nếu câu lệnh của bạn trông có vẻ rủi ro, AI có thể đưa ra câu trả lời với chất lượng thấp hơn mà không thông báo cho bạn. Điều này khiến mô hình công khai trở thành một công cụ thiếu hiệu quả đối với những người phòng thủ.

Tôi không trở nên kém cẩn trọng hơn vì sự xuất hiện của AI. Thay vào đó, tôi trở nên có hệ thống hơn. Đây là cách tiếp cận của tôi:

AI không làm cho công việc bảo mật trở nên lỗi thời. Nó nâng cao tiêu chuẩn. Bạn phải giả định rằng kẻ tấn công đã chạy một mô hình AI trên mã nguồn của bạn.

Một kiểm định viên từ chối sử dụng AI sẽ gặp bất lợi. Bạn phải đối đầu với một kẻ tấn công được trang bị AI bằng một hệ thống phòng thủ được trang bị AI. Hãy sử dụng các công cụ trên mã nguồn của chính bạn, hiểu rõ giới hạn của chúng và giữ vững khả năng phán đoán của con người.

Đừng phản ứng bằng sự sợ hãi. Hãy phản ứng bằng cách sử dụng các công cụ này để tự tìm ra lỗi của chính mình trước.

Nguồn: https://dev.to/pavelespitia/when-mythos-spooked-the-security-world-ai-that-finds-and-exploits-vulnerabilities-2fak

Cộng đồng học tập tùy chọn: https://t.me/GyaanSetuAi