Signal ಸಂಸ್ಥೆಯ Meredith Whittaker ಅವರ ಪ್ರಕಾರ, AI ಚಾಟ್‌ಬಾಟ್‌ಗಳು ನಿಮ್ಮ ಸ್ನೇಹಿತರಲ್ಲ

Large Language Models (LLMs)ಗಳು ನಮ್ಮ ದೈನಂದಿನ ಡಿಜಿಟಲ್ ಕೆಲಸದ ಪ್ರಕ್ರಿಯೆಗಳಲ್ಲಿ ಹೆಚ್ಚು ಹೆಚ್ಚು ಬೆರೆತುಹೋಗುತ್ತಾ ಸಾಗುತ್ತಿರುವಂತೆ, ಮಾನವ ಸಂವಹನ ಮತ್ತು ಯಂತ್ರದ ಪ್ರತಿಕ್ರಿಯೆಯ ನಡುವಿನ ವ್ಯತ್ಯಾಸವು ಮಸುಕಾಗುತ್ತಿದೆ. Signal ಸಂಸ್ಥೆಯ ಅಧ್ಯಕ್ಷರಾದ Meredith Whittaker ಬಳಕೆದಾರರಿಗೆ ಕಠಿಣ ಎಚ್ಚರಿಕೆಯನ್ನು ನೀಡುತ್ತಿದ್ದಾರೆ: ಅತ್ಯಾಧುನಿಕ ಸಾಂಖ್ಯಿಕ ಮಾದರಿಗಳನ್ನು (statistical modeling) ನಿಜವಾದ ಒಡನಾಟ ಅಥವಾ ಪ್ರಜ್ಞಾಪೂರ್ವಕ ಬುದ್ಧಿವಂತಿಕೆ ಎಂದು ತಪ್ಪಾಗಿ ಭಾವಿಸಬೇಡಿ.

LLMಗಳಲ್ಲಿನ ಪ್ರಜ್ಞೆಯ ಭ್ರಮೆ

Bloomberg ಜೊತೆಗಿನ ಇತ್ತೀಚಿನ ಸಂದರ್ಶನದಲ್ಲಿ, Meredith Whittaker ಅವರು OpenAI ನ ChatGPT ಮತ್ತು Anthropic ನ Claude ನಂತಹ AI ಮಾದರಿಗಳಿಗೆ ಮಾನವ ಗುಣಗಳನ್ನು ಆರೋಪಿಸುವ (anthropomorphize) ಹೆಚ್ಚುತ್ತಿರುವ ಪ್ರವೃತ್ತಿಯ ಬಗ್ಗೆ ಮಾತನಾಡಿದರು. ಅವುಗಳ ಸಂಭಾಷಣೆಯ ಸರಾಗತೆಯ ಹೊರತಾಗಿಯೂ, ಈ ವ್ಯವಸ್ಥೆಗಳು ಪ್ರಜ್ಞೆ ಮತ್ತು ಸ್ವತಂತ್ರ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿಲ್ಲ ಎಂದು ಅವರು ಒತ್ತಿಹೇಳಿದರು. "ಇವು ನಿಮ್ಮ ಸ್ನೇಹಿತರಲ್ಲ. ಇವು ಪ್ರಜ್ಞಾಪೂರ್ವಕ ಜೀವಿಗಳಲ್ಲ. ಇವು ಪ್ರಜ್ಞೆಯುಳ್ಳ ಸಂಭಾಷಣಾಕಾರಿಗಳಲ್ಲ," ಎಂದು ಹೇಳಿದ Whittaker, ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಮೂಲತಃ ಒಂದು ಸರಣಿಯಲ್ಲಿನ ಮುಂದಿನ ಟೋಕನ್ ಅನ್ನು (token) ಊಹಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ಅತ್ಯಾಧುನಿಕ ಇಂಜಿನ್‌ಗಳು ಎಂದು ಬಳಕೆದಾರರಿಗೆ ನೆನಪಿಸಿದರು.

Whittaker ಅವರ ಕಳವಳವು ಕೇವಲ ತಾತ್ವಿಕ ವ್ಯಾಖ್ಯಾನಗಳಿಗೆ ಸೀಮಿತವಾಗಿರದೆ, ಮಾನವ ಸೃಜನಶೀಲತೆಯ ಮೇಲೆ AI ಬೀರುವ ಬೌದ್ಧಿಕ ಪರಿಣಾಮಗಳಿಗೂ ವಿಸ್ತರಿಸಿದೆ. ಡಾಕ್ಯುಮೆಂಟ್ ಫಾರ್ಮ್ಯಾಟಿಂಗ್‌ನಂತಹ ಸಣ್ಣಪುಟ್ಟ ಕೆಲಸಗಳಿಗಾಗಿ AI ಪರಿಕರಗಳನ್ನು ಬಳಸುವುದನ್ನು ಅವರು ಒಪ್ಪಿಕೊಂಡರೂ, ಉನ್ನತ ಮಟ್ಟದ ತಾರ್ಕಿಕ ಚಿಂತನೆಗಾಗಿ ಅವುಗಳನ್ನು ಬಳಸಲು ನಿರಾಕರಿಸುತ್ತಾರೆ. ಕಲ್ಪನಾ ಶಕ್ತಿಗಾಗಿ (ideation) AI ಮೇಲೆ ಅವಲಂಬಿತವಾಗುವುದು ಮಾನವನ ಆಲೋಚನಾ ಪ್ರಕ್ರಿಯೆಯನ್ನು "ತಡೆಯುವ" (foreclosing) ಅಪಾಯವನ್ನು ಹೊಂದಿದೆ ಎಂದು ಅವರು ವಾದಿಸುತ್ತಾರೆ, ಏಕೆಂದರೆ ಈ ಮಾದರಿಗಳು "ಈಗಾಗಲೇ ಲಭ್ಯವಿರುವ ಮಾಹಿತಿಯ ಸರಾಸರಿ"ಯನ್ನು ಆಧರಿಸಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ, ಇದು ಮೂಲ ಮತ್ತು ಸ್ವತಂತ್ರ ಆಲೋಚನೆಯನ್ನು ಕುಂಠಿತಗೊಳಿಸಬಹುದು.

"Agentic" AI ನ ಗೌಪ್ಯತೆಯ ವೆಚ್ಚ

ಬಳಕೆದಾರರ ಪರವಾಗಿ ಸ್ವತಂತ್ರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ "AI Agents"ಗಳ ಉದಯದ ಬಗ್ಗೆ ಚರ್ಚಿಸುವಾಗ ಸಂಭಾಷಣೆಯು ಹೆಚ್ಚು ವಿಮರ್ಶಾತ್ಮಕ ತಿರುವು ಪಡೆಯಿತು. Microsoft Copilot ನಂತಹ ಪರಿಕರಗಳು ಅಂತಿಮವಾಗಿ ರಜೆಯ ಸಮಯದಲ್ಲಿ ಶಾಪಿಂಗ್ ಮಾಡುವಂತಹ ಸಂಕೀರ್ಣ ವೈಯಕ್ತಿಕ ಕೆಲಸಗಳನ್ನು ನಿರ್ವಹಿಸಬಹುದು ಎಂದು Microsoft AI CEO Mustafa Suleyman ನೀಡಿದ್ದ ಭವಿಷ್ಯವಾಣಿಯನ್ನು Whittaker ನಿರ್ದಿಷ್ಟವಾಗಿ ವಿರೋಧಿಸಿದರು.

ಇಂತಹ "agentic" ಸಾಮರ್ಥ್ಯಗಳಲ್ಲಿ ಅಡಗಿರುವ ಬೃಹತ್ ಗೌಪ್ಯತೆಯ ಸವಾಲುಗಳನ್ನು Whittaker ಎತ್ತಿ ತೋರಿಸಿದರು. ಒಂದು AI ಬಳಕೆದಾರರ ಶಾಪಿಂಗ್ ಅಥವಾ ವೇಳಾಪಟ್ಟಿಯನ್ನು ನಿರ್ವಹಿಸಬೇಕಾದರೆ, ಅದಕ್ಕೆ ಅತ್ಯಂತ ಸೂಕ್ಷ್ಮವಾದ ಡೇಟಾಗಳ ವ್ಯಾಪಕ ಪ್ರವೇಶದ ಅಗತ್ಯವಿರುತ್ತದೆ, ಅವುಗಳೆಂದರೆ:

• ವೈಯಕ್ತಿಕ ಕ್ರೆಡಿಟ್ ಕಾರ್ಡ್ ಮಾಹಿತಿ ಮತ್ತು ಬ್ರೌಸಿಂಗ್ ಇತಿಹಾಸ.
• Signal ನಂತಹ ಆಪ್‌ಗಳ ಮೂಲಕ ನೈಜ-ಸಮಯದ (real-time) ಸಂವಹನ.
• ಖಾಸಗಿ ಕ್ಯಾಲೆಂಡರ್‌ಗಳು ಮತ್ತು ಮನೆ ವಿಳಾಸಗಳು.

ಭದ್ರತೆಯ ದೃಷ್ಟಿಕೋನದಿಂದ, ವಿಟೇಕರ್ ಈ ಮಟ್ಟದ ಏಕೀಕರಣವನ್ನು ಒಂದು ದೊಡ್ಡ ದುರ್ಬಲತೆ ಎಂದು ಪರಿಗಣಿಸುತ್ತಾರೆ. ಬಳಕೆದಾರರ ಪರವಾಗಿ AI ಕುಟುಂಬದ ಗ್ರೂಪ್ ಚಾಟ್‌ಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವುದನ್ನು ಅಥವಾ ಒಡಹುಟ್ಟಿದವರಿಗೆ ಸಂದೇಶ ಕಳುಹಿಸುವುದನ್ನು ಅನುಮತಿಸುವುದು, ಮೂಲತಃ ಬಳಕೆದಾರರ ಅತ್ಯಂತ ಖಾಸಗಿ ಡಿಜಿಟಲ್ ಜೀವನಕ್ಕೆ ಒಂದು "ಬ್ಯಾಕ್‌ಡೋರ್" (backdoor) ಇದ್ದಂತೆ ಎಂದು ಅವರು ತಿಳಿಸಿದರು.

AI ಪರಿಸರ ವ್ಯವಸ್ಥೆಯ ಮೇಲಿನ ಪರಿಣಾಮಗಳು

ವಿಟೇಕರ್ ಅವರ ನಿಲುವು ತಂತ್ರಜ್ಞಾನ ಉದ್ಯಮದಲ್ಲಿ ಬೆಳೆಯುತ್ತಿರುವ ಉದ್ವಿಗ್ನತೆಯನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ: 'ಏಜೆಂಟಿಕ್' (agentic) ಉಪಯುಕ್ತತೆಗಾಗಿ ನಡೆಯುತ್ತಿರುವ ಪೈಪೋಟಿ ಮತ್ತು ಗೌಪ್ಯತೆ ಹಾಗೂ ಸಂಜ್ಞಾನಾತ್ಮಕ ಸ್ವಾಯತ್ತತೆಯ ಮೂಲಭೂತ ಹಕ್ಕುಗಳ ನಡುವಿನ ಸಂಘರ್ಷ. ಡೆವಲಪರ್‌ಗಳು ವಿವಿಧ ಅಪ್ಲಿಕೇಶನ್‌ಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬಲ್ಲ ಮಾದರಿಗಳತ್ತ ಸಾಗುತ್ತಿರುವಾಗ, ಉದ್ಯಮವು ಒಂದು ನಿರ್ಣಾಯಕ ಪ್ರಶ್ನೆಯನ್ನು ಎದುರಿಸುತ್ತಿದೆ: ಸಂಪೂರ್ಣ ಮೇಲ್ವಿಚಾರಣೆಯ ಕೇಂದ್ರೀಕೃತ ಕೇಂದ್ರವನ್ನು ಸೃಷ್ಟಿಸದೆ ನಾವು ಅಡೆತಡೆಯಿಲ್ಲದ AI ನೆರವನ್ನು ಪಡೆಯಲು ಸಾಧ್ಯವೇ? ಡೆವಲಪರ್‌ಗಳು ಮತ್ತು ಸಂಸ್ಥಾಪಕರಿಗೆ, ಇದು ವ್ಯಾಪಕವಾದ ಮತ್ತು ಎಲ್ಲಾ ಪ್ರವೇಶಗಳನ್ನು ಹೊಂದಿರುವ ಏಕೀಕರಣಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ, ಸ್ಥಳೀಯ ಪ್ರೊಸೆಸಿಂಗ್ ಮತ್ತು ಕಟ್ಟುನಿಟ್ಟಾದ ಡೇಟಾ ಸೈಲೋಗಳಿಗೆ (data silos) ಆದ್ಯತೆ ನೀಡುವ "ಗೌಪ್ಯತೆಗೆ ಮೊದಲ ಆದ್ಯತೆ" ನೀಡುವ AI ವಾಸ್ತುಶಿಲ್ಪಗಳನ್ನು ನಿರ್ಮಿಸುವ ಅಗತ್ಯತೆಯನ್ನು ಒತ್ತಿಹೇಳುತ್ತದೆ.

ಪ್ರಮುಖ ಅಂಶಗಳು

• ಮಾನವೀಯ ಗುಣಗಳನ್ನು ಆರೋಪಿಸುವುದನ್ನು ತಪ್ಪಿಸಿ: AI ಮಾದರಿಗಳು ಸಾಂಖ್ಯಿಕ ಸಾಧನಗಳೇ ಹೊರತು ಪ್ರಜ್ಞಾಪೂರ್ವಕ ಜೀವಿಗಳಲ್ಲ, ಮತ್ತು ಅವುಗಳನ್ನು "ಸ್ನೇಹಿತರು" ಎಂದು ಪರಿಗಣಿಸುವುದು ಅವುಗಳ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಅಪಾಯಗಳ ಬಗ್ಗೆ ತಪ್ಪು ತಿಳುವಳಿಕೆಗೆ ಕಾರಣವಾಗಬಹುದು.
• ಸಂಜ್ಞಾನಾತ್ಮಕ ಸ್ವಾಯತ್ತತೆಯನ್ನು ರಕ್ಷಿಸಿ: ಮಂಥನ ಮತ್ತು ಸಮಸ್ಯೆ ಪರಿಹಾರಕ್ಕಾಗಿ AI ಮೇಲೆ ಅತಿಯಾದ ಅವಲಂಬನೆಯು 'ಸರಾಸರಿ ಮರಳುವಿಕೆ'ಗೆ (regression to the mean) ಕಾರಣವಾಗಬಹುದು, ಅಲ್ಲಿ ಮಾನವನ ಸೃಜನಶೀಲತೆಯು ಸರಾಸರಿ ಡೇಟಾ ಸೆಟ್‌ಗಳಿಂದ ಮರೆಯಾಗಬಹುದು.
• ಏಜೆಂಟಿಕ್ ಗೌಪ್ಯತೆಯ ಅಂತರ: ಸ್ವಾಯತ್ತ AI ಏಜೆಂಟ್‌ಗಳಿಗಾಗಿ ನಡೆಯುತ್ತಿರುವ ಪ್ರಯತ್ನವು ವೈಯಕ್ತಿಕ ಡೇಟಾಕ್ಕೆ ಹಿಂದೆಂದೂ ಕಾಣದ ರೀತಿಯ ಪ್ರವೇಶವನ್ನು ಬಯಸುತ್ತದೆ, ಇದು ಗಮನಾರ್ಹ ಭದ್ರತಾ ಬ್ಯಾಕ್‌ಡೋರ್‌ಗಳನ್ನು ಮತ್ತು ಗೌಪ್ಯತೆಯ ದುರ್ಬಲತೆಗಳನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.