AI ಸುರಕ್ಷತೆಯ ಕಪ್ಪು ಪೆಟ್ಟಿಗೆ: OpenAI ನ Sol ಗೆ ಹೇಗೆ ಅನುಮತಿ ಸಿಕ್ಕಿತು

OpenAI ತನ್ನ ಇತ್ತೀಚಿನ ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್ (frontier model) Sol ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡುತ್ತಿದ್ದಂತೆ, ತಂತ್ರಜ್ಞಾನ ಉದ್ಯಮದಲ್ಲಿ ಒಂದು ಪ್ರಮುಖ ಪ್ರಶ್ನೆ ಕಾಡುತ್ತಿದೆ: ಈ ಮಾದರಿಯು ಸಾರ್ವಜನಿಕ ಬಿಡುಗಡೆಗೆ ಸುರಕ್ಷಿತವಾಗಿದೆ ಎಂದು ಸರ್ಕಾರವು ನಿಖರವಾಗಿ ಹೇಗೆ ನಿರ್ಧರಿಸಿತು? Sol ಮಾದರಿಯು Anthropic ನ Fable ಗೆ ಪೈಪೋಟಿ ನೀಡುವ ಗುರಿಯನ್ನು ಹೊಂದಿದ್ದರೂ—Fable ಅನ್ನು ಹಿಂದೆ ವೈಟ್ ಹೌಸ್ ನಿರ್ಬಂಧಿಸಿತ್ತು—ಅನುಮೋದನಾ ಪ್ರಕ್ರಿಯೆಯ ಪಾರದರ್ಶಕತೆಯ ಕೊರತೆಯು ನಿಯಂತ್ರಕರು ಮತ್ತು ಸಂಶೋಧಕರಲ್ಲಿ ತೀವ್ರ ಚರ್ಚೆಯನ್ನು ಹುಟ್ಟುಹಾಕುತ್ತಿದೆ.

ಪ್ರಮಾಣೀಕೃತ ಸುರಕ್ಷತಾ ಪ್ರೋಟೋಕಾಲ್‌ಗಳ ಕೊರತೆ

ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್‌ಗಳನ್ನು ನಿಯೋಜಿಸುವ ಹೆಚ್ಚಿನ ಅಪಾಯಗಳಿದ್ದರೂ, AI ಸುರಕ್ಷತಾ ಪ್ರಮಾಣೀಕರಣಕ್ಕಾಗಿ ಪ್ರಸ್ತುತ ಯಾವುದೇ ಏಕೀಕೃತ, ಪಾರದರ್ಶಕ ಚೌಕಟ್ಟು ಇಲ್ಲ. OpenAI CEO Sam Altman ಅವರು ವಾಣಿಜ್ಯ ಕಾರ್ಯದರ್ಶಿ Howard Lutnick ಮತ್ತು ಅಮೆರಿಕದ ರಾಷ್ಟ್ರೀಯ ಸೈಬರ್ ನಿರ್ದೇಶಕ Sean Cairncross ಸೇರಿದಂತೆ ಉನ್ನತ ಅಧಿಕಾರಿಗಳೊಂದಿಗೆ ಮಾತುಕತೆ ನಡೆದಿದೆ ಎಂದು ಖಚಿತಪಡಿಸಿದರೂ, Sol ಅನ್ನು ದೃಢೀಕರಿಸಲು ಬಳಸಲಾದ ನಿರ್ದಿಷ್ಟ ತಾಂತ್ರಿಕ ಮಾನದಂಡಗಳು ಇನ್ನೂ ತಿಳಿದಿಲ್ಲ.

ಪ್ರಸ್ತುತ ನಿಯಂತ್ರಕ ಪರಿಸರವನ್ನು ತಜ್ಞರು "ad hoc" ಎಂದು ವಿವರಿಸುತ್ತಾರೆ. ಇತ್ತೀಚೆಗೆ ಒಂದು ಕಾರ್ಯನಿರ್ವಾಹಕ ಆದೇಶವು ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್‌ಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಮಾರ್ಗಸೂಚಿಯನ್ನು ರೂಪಿಸಿದೆಯಾದರೂ, ಅದರ ವಿವರಗಳು ಇನ್ನೂ ಪೂರ್ಣಗೊಳ್ಳಬೇಕಿದೆ. ಮುಖ್ಯವಾಗಿ, "AI ಗಾಗಿ FDA" ಎಂಬ ಸಂಸ್ಥೆಯಿಲ್ಲ, ಈ ಅಭಿಪ್ರಾಯವನ್ನು ಮಾಜಿ ವೈಟ್ ಹೌಸ್ AI ಸಲಹೆಗಾರ Sriram Krishnan ಕೂಡ ವ್ಯಕ್ತಪಡಿಸಿದ್ದಾರೆ. ಕೇಂದ್ರೀಕೃತ ನಿಯಂತ್ರಕ ಸಂಸ್ಥೆಯ ಅನುಪಸ್ಥಿತಿಯು, ಸುರಕ್ಷತಾ ಮೌಲ್ಯಮಾಪನಗಳು ಪ್ರಸ್ತುತ ಕಂಪನಿಯ ಆಂತರಿಕ ಪ್ರಕ್ರಿಯೆಗಳು ಮತ್ತು ಸ್ವಯಂಪ್ರೇರಿತ ಬಾಹ್ಯ ಆಡಿಟ್‌ಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿವೆ ಎಂದರ್ಥ.

ನಾವೀನ್ಯತೆ ಮತ್ತು ನಿಯಂತ್ರಣದ ನಡುವಿನ ಉದ್ವಿಗ್ನತೆ

Anthropic ನ Fable ಬಿಡುಗಡೆಯು ಈ ಅನಿಯಂತ್ರಿತ ಪರಿಸರದ ಅಸ್ಥಿರತೆಯನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ. ಹ್ಯಾಕಿಂಗ್‌ಗೆ ಅನುವು ಮಾಡಿಕೊಡಬಹುದಾದ "jailbreaking" ಸಾಮರ್ಥ್ಯಗಳ ಬಗ್ಗೆ ಕಾಳಜಿಯಿಂದಾಗಿ Fable ಅನ್ನು ವಿದೇಶಿ ನಾಗರಿಕರಿಗೆ ಸಾರ್ವಜನಿಕ ಪ್ರವೇಶದಿಂದ ತಾತ್ಕಾಲಿಕವಾಗಿ ನಿಷೇಧಿಸಲಾಗಿತ್ತು. ಇದಕ್ಕೆ ವ್ಯತಿರಿಕ್ತವಾಗಿ, OpenAI ನ Sol ಮಾದರಿಯು ಕೆಲವು ಸರ್ಕಾರಿ ಬಳಕೆದಾರರಿಗೆ ಪ್ರಿವ್ಯೂ ನೀಡಿದ ನಂತರ ವ್ಯಾಪಕ ಬಿಡುಗಡೆಯತ್ತ ಸಾಗಿದೆ.

ಈ ವ್ಯತ್ಯಾಸವು ರಾಜಕೀಯ ಸಂಪರ್ಕಗಳ ಪ್ರಭಾವದ ಬಗ್ಗೆ ಅನುಮಾನಗಳನ್ನು ಹುಟ್ಟುಹಾಕಿದೆ. OpenAI ನ ನಾಯಕತ್ವವು ಸರ್ಕಾರದೊಂದಿಗೆ ತೊಡಗಿಸಿಕೊಳ್ಳುತ್ತ 있다는 ವರದಿಗಳು, ನಿಯಂತ್ರಣಕ್ಕೆ "ಸಡಿಲವಾದ" (lighter-touch) ವಿಧಾನವನ್ನು ಅಳವಡಿಸಲಾಗುತ್ತಿದೆಯೇ ಎಂದು ಕೆಲವು ವೀಕ್ಷಕರು ಪ್ರಶ್ನಿಸುವಂತೆ ಮಾಡಿದೆವು. ಡೆವಲಪರ್‌ಗಳು ಮತ್ತು ಸಂಸ್ಥಾಪಕರಿಗೆ, ಇದು ಅನಿಶ್ಚಿತ ಪರಿಸರವನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ, ಅಲ್ಲಿ ಮಾದರಿಯ ನಿಯೋಜನೆಯು ಪ್ರಮಾಣೀಕೃತ ತಾಂತ್ರಿಕ ಸುರಕ್ಷತಾ ಮಾನದಂಡಗಳಿಗಿಂತ ರಾಜಕೀಯ ತಂತ್ರಗಾರಿಕೆಯ ಮೇಲೆ ಹೆಚ್ಚು ಅವಲಂಬಿತವಾಗಿರಬಹುದು.

ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಆಡಿಟಿಂಗ್ ಮತ್ತು ಓಪನ್ ಕಾಮನ್ಸ್ ಕಡೆಗೆ ಸಾಗುವುದು

ಕೆಲವೇ ಕೆಲವು ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವವರಿಂದ "gatekeeping" ಅನ್ನು ತಡೆಯಲು ಉದ್ಯಮದ ನಾಯಕರು ರಚನಾತ್ಮಕ ಬದಲಾವಣೆಗೆ ಕರೆ ನೀಡುತ್ತಿದ್ದಾರೆ. ಪ್ರಸ್ತುತ ಪ್ರಕ್ರಿಯೆಯು ಸುರಕ್ಷತೆ, ಅಲೈನ್‌ಮೆಂಟ್ ಮತ್ತು ಇಂಟರ್ಪ್ರೆಟಬಿಲಿಟಿ ಸಂಶೋಧಕರಂತಹ ನಿಜವಾದ ತಜ್ಞರಿಂದ ಸಾಕಷ್ಟು ಸಲಹೆಗಳನ್ನು ಪಡೆಯುತ್ತಿಲ್ಲ ಎಂದು ಕಂಪ್ಯೂಟರ್ ವಿಜ್ಞಾನಿ Andy Konwinski ಸೂಚಿಸುತ್ತಾರೆ.

ಇದನ್ನು ಪರಿಹರಿಸಲು, ಭವಿಷ್ಯಕ್ಕಾಗಿ ಎರಡು ಪ್ರಾಥಮಿಕ ಮಾದರಿಗಳು ಹೊರಹೊಮ್ಮಿವೆ:

  • ಇನ್‌ಸ್ಟಿಟ್ಯೂಷನಲ್ ಮಾದರಿ (The Institutional Model): FDA ಅಥವಾ NIH ಅನ್ನು ಅನುಕರಿಸುವ ಈ ಮಾದರಿಯು, ಸುರಕ್ಷತಾ ಮಾನದಂಡಗಳ ಬಗ್ಗೆ ಒಮ್ಮತಕ್ಕೆ ಬರಲು ಸಂಶೋಧಕರು, ಸರ್ಕಾರಿ ಅಧಿಕಾರಿಗಳು ಮತ್ತು ಖಾಸಗಿ ಕಂಪನಿಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸುವುದನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ.
  • ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಆಡಿಟಿಂಗ್ ಮಾದರಿ (The Third-Party Auditing Model): ಮಾಜಿ ನೀತಿ ಸಲಹೆಗಾರ Dean W. Ball ಸೂಚಿಸಿದಂತೆ, ಫ್ರಾಂಟಿಯರ್ ಲ್ಯಾಬ್‌ಗಳ ಸುರಕ್ಷತಾ ಪ್ರೋಟೋಕಾಲ್‌ಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಸರ್ಕಾರವು ಸ್ವತಂತ್ರ ಆಡಿಟಿಂಗ್ ಸಂಸ್ಥೆಗಳಿಗೆ ಪರವಾನಗಿ ನೀಡಬಹುದು.

AI ಪರಿಸರ ವ್ಯವಸ್ಥೆಯು ದೀರ್ಘಕಾಲೀನ ಸ್ಥಿರತೆಯನ್ನು ಸಾಧಿಸಲು, ಉದ್ಯಮವು ಖಾಸಗಿ ಮಾತುಕತೆಗಳಿಂದ ದೂರ ಸರಿದು, ವಿಶ್ವಾಸಾರ್ಹ ಜವಾಬ್ದಾರಿಗಳು ಮತ್ತು ಸಾರ್ವಜನಿಕ ಸುರಕ್ಷತೆಯ ನಡುವೆ ಸಮತೋಲನ ಕಾಯ್ದುಕೊಳ್ಳುವ, ಮುನ್ಸೂಚನೆ ನೀಡಬಹುದಾದ ಮತ್ತು ತಜ್ಞರ ಚಾಲಿತ ಚೌಕಟ್ಟಿನತ್ತ ಸಾಗಬೇಕು.

ಪ್ರಮುಖ ಅಂಶಗಳು

  • ನಿಯಂತ್ರಕ ಅಸ್ಪಷ್ಟತೆ: Sol ನಂತಹ ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್‌ಗಳ ಬಿಡುಗಡೆಯನ್ನು ನಿಯಂತ್ರಿಸಲು ಪ್ರಸ್ತುತ ಯಾವುದೇ ಪ್ರಮಾಣೀಕೃತ "ಸುರಕ್ಷತಾ ಪರವಾನಗಿ" ಅಥವಾ ಕೇಂದ್ರೀಕೃತ ಏಜೆನ್ಸಿ (FDA ನಂತಹ) ಇಲ್ಲ.
  • ಪಾರದರ್ಶಕತೆಯ ಕೊರತೆ: OpenAI ಸಂಸ್ಥೆಯು U.K. AISI ಮತ್ತು SecureBio ನಿಂದ ಪಡೆದ ಬಾಹ್ಯ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ಉಲ್ಲೇಖಿಸಿದರೂ, ಮಾದರಿ ಅನುಮೋದನೆಗಾಗಿ ನಡೆಸಿದ ನಿರ್ದಿಷ್ಟ ಸರ್ಕಾರಿ ಸಂವಾದ ಮತ್ತು ತಾಂತ್ರಿಕ ಅಗತ್ಯತೆಗಳು ಇನ್ನೂ ಅಸ್ಪಷ್ಟವಾಗಿವೆ.
  • ತಜ್ಞರ ಕರೆ: ಸುರಕ್ಷತಾ ನಿರ್ಧಾರಗಳನ್ನು ರಾಜಕೀಯ ಮಧ್ಯವರ್ತಿಗಳಿಗಿಂತ ಸಂಶೋಧಕರು ತೆಗೆದುಕೊಳ್ಳುವುದನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ಉದ್ಯಮದ ತಜ್ಞರು ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಆಡಿಟಿಂಗ್ ಮತ್ತು "ಓಪನ್ ಕಾಮನ್ಸ್" ಚೌಕಟ್ಟುಗಳಿಗಾಗಿ ವಾದಿಸುತ್ತಿದ್ದಾರೆ.