272 ತಜ್ಞರು ಅಪಾಯಗಳನ್ನು ಹೆಸರಿಸಿದ್ದಾರೆ. ಆದರೆ ಯಾರೂ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ಹೆಸರಿಸಿಲ್ಲ.

ಒಂದು MIT ಅಧ್ಯಯನವು 272 ಜಾಗತಿಕ ತಜ್ಞರನ್ನು ಸಮೀಕ್ಷೆ ಮಾಡಿದೆ. ಅವರು AI ಅಪಾಯಗಳನ್ನು ಪರಿಶೀಲಿಸಿದರು. ಫಲಿತಾಂಶಗಳು ಸ್ಪಷ್ಟವಾಗಿವೆ.

24 AI ಅಪಾಯದ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ 18 ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಐದು ವರ್ಷಗಳಲ್ಲಿ ಕನಿಷ್ಠ 10% ವಿಕೋಪಕಾರಿ ಪರಿಣಾಮಗಳಾಗುವ ಸಾಧ್ಯತೆಯಿದೆ.

ಈ ಸಂದರ್ಭದಲ್ಲಿ, ವಿಕೋಪ ಎಂದರೆ:

  • ಹತ್ತು ಲಕ್ಷಕ್ಕೂ ಹೆಚ್ಚು ಸಾವುಗಳು.
  • $100 ಬಿಲಿಯನ್‌ಗಿಂತಲೂ ಹೆಚ್ಚು ಹಾನಿ.
  • ಪ್ರಜಾಪ್ರಭುತ್ವದ ನಿಯಮಗಳ ಕುಸಿತ.

ಅಪಾಯಕಾರಿ ಸಾಮರ್ಥ್ಯಗಳು, ಸ್ಪರ್ಧಾತ್ಮಕ ಚಲನಶೀಲತೆ, ಶಸ್ತ್ರಾಸ್ತ್ರಗಳು, ಅಧಿಕಾರದ ಕೇಂದ್ರೀಕರಣ ಮತ್ತು ತಪ್ಪು ಮಾಹಿತಿ ಅತ್ಯಂತ ದೊಡ್ಡ ಅಪಾಯಗಳಾಗಿವೆ.

ಈ ಅಧ್ಯಯನವು ಜವಾಬ್ದಾರಿಯ ಕೊರತೆಯನ್ನು (responsibility gap) ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ. AI ಅಪಾಯಗಳಿಂದ ತೊಂದರೆ ಅನುಭವಿಸುವವರು ಸಾರ್ವಜನಿಕರು. ಈ ಅಪಾಯಗಳನ್ನು ಸರಿಪಡಿಸಬಲ್ಲವರು ಡೆವಲಪರ್‌ಗಳು ಮತ್ತು ಆಡಳಿತಗಾರರು. ವಿಮಾನಯಾನ ಅಥವಾ ಪರಮಾಣು ಶಕ್ತಿಯಂತಹ ಇತರ ಉದ್ಯಮಗಳಲ್ಲಿ, ಈ ಅಂತರವನ್ನು ತುಂಬಲು ನಾವು ಕಡ್ಡಾಯ ಮಾನದಂಡಗಳು ಮತ್ತು ಹೊಣೆಗಾರಿಕೆಯನ್ನು ಬಳಸುತ್ತೇವೆ. ಆದರೆ AI ನಲ್ಲಿ, ಇಂತಹ ಕಾರ್ಯವಿಧಾನಗಳು ಇನ್ನೂ ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲ.

ಇದರಲ್ಲಿ ಇನ್ನೂ ಆಳವಾದ ಅಂತರವಿದೆ. ಇದು ವೈಫಲ್ಯಗಳನ್ನು ಮುನ್ಸೂಚಿಸುವ ಸಂಶೋಧಕರು ಮತ್ತು ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸುವ ಎಂಜಿನಿಯರ್‌ಗಳ ನಡುವೆ ಇದೆ.

ಸಂಶೋಧಕರು ಪ್ರಬಂಧಗಳನ್ನು ಬರೆಯುತ್ತಾರೆ. ಎಂಜಿನಿಯರ್‌ಗಳು ಬ್ಲಾಗ್ ಪೋಸ್ಟ್‌ಗಳು ಮತ್ತು ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳನ್ನು ಓದುತ್ತಾರೆ. ಅವರು ಒಂದೇ ಭಾಷೆಯನ್ನು ಮಾತನಾಡುತ್ತಿಲ್ಲ. ಎಂಜಿನಿಯರ್ ಕಾರ್ಯಕ್ಷಮತೆಯ ಹೆಚ್ಚಳವನ್ನು ನೋಡಿದರೆ, ಸಂಶೋಧಕರು ವಿಕೋಪಕಾರಿ ಅಪಾಯವನ್ನು ನೋಡುತ್ತಾರೆ. ಅವರ ನಡುವೆ ಯಾವುದೇ ಸೇತುವೆಯಿಲ್ಲ.

ಅಧ್ಯಯನವು ಅಪಾಯಗಳನ್ನು ಹೆಸರಿಸುತ್ತದೆ, ಆದರೆ ಅವುಗಳಿಗೆ ಕಾರಣವಾಗುವ ಎಂಜಿನಿಯರಿಂಗ್ ವೈಫಲ್ಯಗಳನ್ನು ಹೆಸರಿಸುವುದಿಲ್ಲ.

ಉದಾಹರಣೆಗೆ:

  • ಮಲ್ಟಿ-ಏಜೆಂಟ್ ಅಪಾಯಗಳು (Multi-agent risks): ಹಂಚಿಕೆಯ ಪ್ರೋಟೋಕಾಲ್‌ಗಳ ಕೊರತೆಯು ಸಿಸ್ಟಮ್ ಘರ್ಷಣೆಗಳಿಗೆ (system collisions) ಕಾರಣವಾಗುತ್ತದೆ.
  • ಸ್ಪರ್ಧಾತ್ಮಕ ಚಲನಶೀಲತೆ (Competitive dynamics): ಉತ್ಪನ್ನವನ್ನು ಶೀಘ್ರವಾಗಿ ಬಿಡುಗಡೆ ಮಾಡುವ ಅವಸರವು ತಂಡಗಳು ಸ್ವತಂತ್ರ ಪರಿಶೀಲನೆಯನ್ನು ಬಿಟ್ಟುಬಿಡಲು ಕಾರಣವಾಗುತ್ತದೆ. ಬದಲಾಗಿ ಅವರು ಸ್ವಯಂ-ಪರಿಶೀಲನೆಯನ್ನು (self-verification) ಬಳಸುತ್ತಾರೆ, ಇದು ವೇಗವಾಗಿದ್ದರೂ ಅಸುರಕ್ಷಿತವಾಗಿದೆ.
  • ಭದ್ರತಾ ದೋಷಗಳು (Security vulnerabilities): ತಂಡಗಳು ಕೋಡ್ ಸ್ಕ್ಯಾನ್ ಮಾಡಲು LLMಗಳನ್ನು ಬಳಸುತ್ತವೆ, ಆದರೆ ಅವು ಕಾನ್ಫಿಗರೇಶನ್ ಮತ್ತು ಮೂಲಸೌಕರ್ಯದ ಅಪಾಯಗಳನ್ನು ಗಮನಿಸುವುದಿಲ್ಲ.

ಒಂದು ಸ್ಥಿರ ವ್ಯವಸ್ಥೆಗೆ ಐದು ಭಾಗಗಳು ಬೇಕು:

  • ಒಂದು ಸಾಧನ (A Tool - ಮಾಡೆಲ್).
  • ಒಂದು ಎಂಜಿನ್ (An Engine - ಘೋಷಿತ ಉದ್ದೇಶ).
  • ಒಂದು ಟ್ರಾನ್ಸ್‌ಮಿಷನ್ (A Transmission - ಕಾಂಟ್ರಾಕ್ಟ್‌ಗಳು ಮತ್ತು CI/CD).
  • ಒಂದು ಕಂಟ್ರೋಲ್ ಯೂನಿಟ್ (A Control Unit - ಸ್ವತಂತ್ರ ಒರಾಕಲ್).
  • ಒಂದು ಕೇಸಿಂಗ್ (A Casing - ಕಡ್ಡಾಯ ಗಡಿಗಳು).

ಹೆಚ್ಚಿನ AI ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಕಂಟ್ರೋಲ್ ಯೂನಿಟ್ ಮತ್ತು ಕೇಸಿಂಗ್ ಇಲ್ಲ. ಅವು ಸ್ವಯಂಪ್ರೇರಿತ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳ (guardrails) ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿವೆ. ಮಾಡೆಲ್‌ಗಳು ಸುಧಾರಿಸುತ್ತಿದ್ದಂತೆ ಈ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು ಹೆಚ್ಚಾಗಿ ಕರಗಿ ಹೋಗುತ್ತವೆ.

ಉದ್ಯಮವು 10% ವಿಕೋಪದ ಸಾಧ್ಯತೆಯನ್ನು ಸ್ವೀಕಾರಾರ್ಹ ಅಪಾಯವೆಂದು ಪರಿಗಣಿಸುತ್ತದೆ. ಅದು ಸರಿಯಲ್ಲ. ಡೆವಲಪರ್‌ಗಳಿಂದ ಸ್ವಯಂಪ್ರೇರಿತ ಕ್ರಮವು ಸಾಕಾಗುವುದಿಲ್ಲ. ಸ್ಪರ್ಧೆಯು ಸುರಕ್ಷತಾ ಹಂತಗಳನ್ನು ಬಿಟ್ಟುಬಿಡಲು ಪ್ರೇರಣೆ ನೀಡುತ್ತದೆ.

ನಮಗೆ ಕೇವಲ ಸಲಹೆಯಲ್ಲ, ಯಾಂತ್ರಿಕ ಜಾರಿ (mechanical enforcement) ಬೇಕು. ಮುನ್ಸೂಚಿಸಿದ ವೈಫಲ್ಯಗಳು ಸಂಭವಿಸುವ ಮೊದಲೇ ಅಪಾಯದ ಸಂಶೋಧನೆ ಮತ್ತು ಎಂಜಿನಿಯರಿಂಗ್ ಅಭ್ಯಾಸಗಳ ನಡುವಿನ ಅಂತರವನ್ನು ನಾವು ತುಂಬಬೇಕಾಗಿದೆ.

Source: https://dev.to/bala_paranj_059d338e44e7e/272-experts-named-the-risks-nobody-named-the-mechanisms-4jb

Optional learning community: https://t.me/GyaanSetuAi