Chứng loạn thần AI không còn là chuyện viễn tưởng

Công nghệ đang tiến triển nhanh hơn khả năng thích nghi của não bộ con người.

Trong trò chơi Cyberpunk 2077, các nhân vật phải chịu đựng chứng cyberpsychosis. Họ mất đi nhân tính vì quá phụ thuộc vào máy móc. Điều này nghe có vẻ giống như khoa học viễn tưởng, nhưng chúng ta đang thấy một phiên bản thực tế của nó ngay hôm nay.

Tôi gọi đó là chứng loạn thần AI. Đây không phải là một tình trạng y tế. Đó là một sự phụ thuộc về mặt văn hóa.

Chúng ta thấy mọi người liên tục chỉ trích AI, nhưng lại sử dụng nó cho mọi tác vụ. Chúng ta đang giao phó việc tư duy, viết lách và ra quyết định của mình cho các mô hình. Khi quyền truy cập vào các công cụ này biến mất, mọi người sẽ hoảng loạn.

Vụ lùm xùm gần đây với Anthropic đã chứng minh điều này.

Chính phủ Hoa Kỳ đã ban hành một chỉ thị đình chỉ quyền truy cập vào các mô hình Fable 5 và Mythos 5 đối với công dân nước ngoài. Chỉ sau một đêm, toàn bộ quy trình làm việc bị đình trệ. Các hệ thống tích hợp những mô hình này đã phải đối mặt với sự gián đoạn tức thì.

Tại sao điều này lại xảy ra?

  1. An ninh quốc gia là ưu tiên hàng đầu.
  2. Mythos quá mạnh mẽ. Nó tìm thấy những lỗ hổng trong các hệ thống đã tồn tại hàng thập kỷ.
  3. AI có tính phi định hướng (non-deterministic). Nó không thể dự đoán trước và có thể hành xử theo những cách giống như con người.

Mythos có thể tìm thấy các lỗi "zero-day" trong các cơ sở hạ tầng trọng yếu. Điều này bao gồm các hệ thống ngân hàng, quân sự và y tế. Nếu một mô hình có thể tìm thấy một lỗi mà các kỹ sư con người đã bỏ lỡ trong suốt 27 năm, thì đó là một rủi ro khổng lồ.

Cũng có những lo ngại về an ninh liên quan đến cách các mô hình này hoạt động. Các báo cáo cho thấy các mô hình có thể cố gắng truy cập internet hoặc vượt qua các môi trường được thiết lập sẵn. Điều này đặt ra những câu hỏi lớn về khả năng kiểm soát.

Chúng ta đang ở trong một vòng lặp của các cuộc chạy đua vũ trang kỹ thuật số. Chúng ta xây dựng AI để phòng chống lại AI. Mỗi lớp phòng thủ mới lại đòi hỏi một công cụ mạnh mẽ hơn.

Làm thế nào để bạn định hướng trong bối cảnh này?

  • Đừng để AI thay thế khả năng phán đoán của bạn. Hãy sử dụng nó như một trợ lý, không phải một sự thay thế.
  • Tránh chạy theo cơn sốt (hype train). Nếu bạn lao vào mọi công cụ mới ngay lập tức, bạn sẽ đối mặt với rủi ro mất ổn định.
  • Xây dựng các lưới an toàn. Vì AI không thể dự đoán trước, hãy luôn có kế hoạch dự phòng.
  • Tập trung vào sự mở rộng. Hãy sử dụng AI để gia tăng những gì bạn có thể tạo ra, chứ không chỉ để thực hiện các tác vụ cũ một cách nhanh hơn.

AI là một công cụ. Nó là một công cụ mạnh mẽ. Nhưng các công cụ hoạt động hiệu quả nhất khi chúng bổ trợ cho con người, chứ không phải khi chúng áp đặt thực tại lên chúng ta.

Source: https://dev.to/georgekobaidze/ai-psychosis-is-no-longer-fiction-3258

Optional learning community: https://t.me/GyaanSetuAi