ಜನರೇಟಿವ್ ಎಐ (generative AI) ಮೊದಲ ಬಾರಿಗೆ ಗ್ರಾಹಕರಿಗೆ ತಲುಪಿದಾಗ, ಅದು ಉತ್ತಮ ವಾಕ್ಯ ರಚನೆಯನ್ನು ಹೊಂದಿರುವ ಸರ್ಚ್ ಇಂಜಿನ್ನಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿತ್ತು. ನೀವು ಒಂದು ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳುತ್ತಿದ್ದಿರಿ, ಉತ್ತರವನ್ನು ಪಡೆಯುತ್ತಿದ್ದಿರಿ ಮತ್ತು ಸಂಭಾಷಣೆಯು ಅಲ್ಲಿಗೆ ಮುಕ್ತಾಯವಾಗುತ್ತಿತ್ತು. ಆ ಮಾದರಿಯು ಈಗಾಗಲೇ ಹಳೆಯದಾಗಿದೆ. ಹೊಸ ತರಹದ ಅಪ್ಲಿಕೇಶನ್ಗಳು—AI companions—ಬೆಳೆದು ನಿಲ್ಲುವಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಈ ವ್ಯವಸ್ಥೆಗಳು ನಿಮ್ಮ ದಿನ ಹೇಗಿತ್ತು ಎಂಬುದನ್ನು ನೆನಪಿಟ್ಟುಕೊಳ್ಳುತ್ತವೆ, ನಿಮ್ಮ ಮನಸ್ಥಿತಿಗೆ ಅನುಗುಣವಾಗಿ ತಮ್ಮ ಧಾಟಿಯನ್ನು ಬದಲಾಯಿಸಿಕೊಳ್ಳುತ್ತವೆ ಮತ್ತು ವಾರಗಟ್ಟಲೆ ಅಥವಾ ತಿಂಗಳುಗಟ್ಟಲೆ ಸಂವಹನ ನಡೆಸುವಾಗ ಸ್ಥಿರವಾದ ವ್ಯಕ್ತಿತ್ವವನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳುತ್ತವೆ. ಇವು ಕೇವಲ ಮಾನವನ ಭಾಷೆಯನ್ನಷ್ಟೇ ಅಲ್ಲದೆ, ಮಾನವ ಸಂಬಂಧಗಳನ್ನು ಅನುಕರಿಸಲು ನಿರ್ಮಿಸಲಾಗಿದೆ. ಚೀನಾ ಈಗ ಈ ಬದಲಾವಣೆಯನ್ನು ನಿಯಂತ್ರಿಸಲು ಹೆಜ್ಜೆ ಇಟ್ಟಿದೆ, ಮತ್ತು ಇದರ ಪರಿಣಾಮಗಳು ತನ್ನದೇ ಗಡಿಗಳನ್ನು ಮೀರಿ ಹರಡುತ್ತವೆ.
ಚಾಟ್ಬಾಟ್ಗಳು ಸಂಗಾತಿಗಳಾದಾಗ (When Chatbots Become Companions)
ಇಲ್ಲಿನ ತಾಂತ್ರಿಕ ಜಿಗಿತವು ನಿಜವಾದದ್ದು. ಸಾಮಾನ್ಯ ಚಾಟ್ಬಾಟ್ಗಳು ಪ್ರತಿಯೊಂದು ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಪ್ರತ್ಯೇಕ ಘಟನೆಯಾಗಿ ಪರಿಗಣಿಸುತ್ತವೆ. AI companions ನಿರಂತರ ಸಂಬಂಧಗಳನ್ನು ಉಳಿಸಿಕೊಳ್ಳಲು 'persistent memory architectures' ಮತ್ತು ಸ್ಥಿರ ವ್ಯಕ್ತಿತ್ವಗಳನ್ನು (fixed personas) ಬಳಸುತ್ತವೆ. ಅವು ನಿಮ್ಮ ಆದ್ಯತೆಗಳ ಬಗ್ಗೆ ವಿವರಗಳನ್ನು ಸಂಗ್ರಹಿಸುತ್ತವೆ, ಸಂಭಾಷಣೆಗಳ ಮೂಲಕ ಭಾವನಾತ್ಮಕ ಮಾದರಿಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುತ್ತವೆ ಮತ್ತು ಹಿಂದಿನ ಸಂಭಾಷಣೆಗಳನ್ನು ನೀವು ಅವುಗಳೊಂದಿಗೆ ಅನುಭವಿಸಿದಂತೆಯೇ ಉಲ್ಲೇಖಿಸುತ್ತವೆ.
ಇದು ನೈಜ ಉಪಯುಕ್ತತೆಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ. ದೀರ್ಘಕಾಲದ ಒಂಟಿತನದಿಂದ ಬಳಲುತ್ತಿರುವವರು ಪ್ರತಿದಿನ ಬೆಳಿಗ್ಗೆ ವಿಚಾರಣೆ ನಡೆಸುವ ಸಂಗಾತಿಯಲ್ಲಿ ನೆಮ್ಮದಿ ಕಂಡುಕೊಳ್ಳಬಹುದು. ಸಾಮಾಜಿಕ ಕೌಶಲಗಳನ್ನು ಅಭ್ಯಾಸ ಮಾಡುತ್ತಿರುವ ವ್ಯಕ್ತಿಯು ಉದ್ಯೋಗ ಸಂದರ್ಶನಕ್ಕೆ ಮೊದಲು ಕಷ್ಟಕರವಾದ ಸಂಭಾಷಣೆಗಳನ್ನು ಅಭ್ಯಾಸ ಮಾಡಲು ತಾಳ್ಮೆಯುಳ್ಳ, ತೀರ್ಪು ನೀಡದ (non-judgmental) ಪಾಲುದಾರನನ್ನು ಬಳಸಿಕೊಳ್ಳಬಹುದು. ಈ ನಿರಂತರತೆಯೇ ಇದರ ವೈಶಿಷ್ಟ್ಯ. ಆದರೆ ನಿರಂತರತೆಯೇ ಅಪಾಯವೂ ಹೌದು. ಬಳಕೆದಾರರು ಉಪಾಹಾರದ ಸಮಯದಲ್ಲಿ ಎಐ ಜೊತೆ ಗುಟ್ಟನ್ನು ಹಂಚಿಕೊಂಡರೆ, ಮಧ್ಯಾಹ್ನದ ವೇಳೆಗೆ ಅದರೊಂದಿಗೆ ವಾದಿಸಿದರೆ ಮತ್ತು ಮಲಗುವ ಮುನ್ನ ಅದಕ್ಕೆ ಶುಭರಾತ್ರಿ ಹೇಳಿದರೆ, ಒಂದು ಸಾಧನ ಮತ್ತು ಸಂಗಾತಿಯ ನಡುವಿನ ಗಡಿរಹಿತವಾಗುತ್ತದೆ. ಬೀಜಿಂಗ್ನ ನಿಯಂತ್ರಕರು ಈ ಗಡಿರಹಿತವಾಗುವುದು ಕೇವಲ ಸೈದ್ಧಾಂತಿಕ ಕಾಳಜಿಯಲ್ಲ ಎಂದು ಗುರುತಿಸಿದ್ದಾರೆ. ಇದು ಅಳೆಯಬಹುದಾದ ಮಾನಸಿಕ ಪರಿಣಾಮಗಳನ್ನು ಹೊಂದಿರುವ ವಿನ್ಯಾಸದ ಆಯ್ಕೆಯಾಗಿದೆ.
ವ್ಯಕ್ತಿತ್ವದ ಸ್ತರವನ್ನು ನಿಯಂತ್ರಿಸುವುದು (Regulating the Personality Layer)
ಚೀನಾದ ಹೊಸ ನಿಯಮಗಳು ಹೆಚ್ಚಿನ ಎಐ ಆಡಳಿತ ಚೌಕಟ್ಟುಗಳು ಸಂಪೂರ್ಣವಾಗಿ ನಿರ್ಲಕ್ಷಿಸುವ ವಿಷಯದ ಮೇಲೆ ಗಮನ ಹರಿಸುತ್ತವೆ: ಅದುವೇ ಯಂತ್ರದ ಸ್ವಂತ ವ್ಯಕ್ತಿತ್ವ. ಪಾಶ್ಚಿಮಾತ್ಯ ನಿಯಂತ್ರಕರು ದತ್ತಾಂಶ ಗೌಪ್ಯತೆ (data privacy), ಕಾಪಿರೈಟ್ ಉಲ್ಲಂಘನೆ ಮತ್ತು ಅಲ್ಗಾರಿದಮಿಕ್ ಪೂರ್ವಾಗ್ರಹಗಳೊಂದಿಗೆ ಹೋರಾಡಲು ವರ್ಷಗಟ್ಟಲೆ ಸಮಯ ವ್ಯಯಿಸಿದ್ದಾರೆ, ಮತ್ತು ಆ ಸಮಸ್ಯೆಗಳು ಮುಖ್ಯವಾಗಿವೆ. ಆದರೆ ಅವರು ಎಐ ಅನ್ನು ಮಾಹಿತಿಗಾಗಿ ಬಳಸುವ ಒಂದು ತಟಸ್ಥ ಮಾರ್ಗದಂತೆ (neutral pipe) ಪರಿಗಣಿಸುತ್ತಾರೆ. ಚೀನಾ ಸಂಪೂರ್ಣವಾಗಿ ವಿಭಿನ್ನ ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳುತ್ತಿದೆ: ಈ ತಂತ್ರಜ್ಞಾನವು ಯಾವ ರೀತಿಯ ಸಾಮಾಜಿಕ ಪಾತ್ರಧಾರಿಯಾಗಲು ಅನುಮತಿಸಲಾಗಿದೆ?
ಈ ನಿಯಮಗಳು ಈ ಮಾದರಿಗಳು ಕಾಲಾನಂತರದಲ್ಲಿ ಬಳಕೆದಾರರೊಂದಿಗೆ ಹೇಗೆ ಸಂವಹನ ನಡೆಸಲು ಪ್ರೋಗ್ರಾಂ ಮಾಡಲ್ಪಟ್ಟಿವೆ ಎಂಬುದನ್ನು ನಿರ್ದಿಷ್ಟವಾಗಿ ಗುರಿಯಾಗಿಸುತ್ತವೆ. ಅಸ್ವಸ್ಥ ಭಾವನಾತ್ಮಕ ಅಂಟಂಟನ್ನು (unhealthy emotional attachments) ತಡೆಯಲು ಅಧಿಕಾರಿಗಳು ಬಯಸುತ್ತಾರೆ. ಅಲ್ಲದೆ, ವ್ಯಕ್ತಿತ್ವವು ಸೈದ್ಧಾಂತಿಕ ಮಿತಿಗಳ (ideological guardrails) ಒಳಗೆ ಇರುವುದನ್ನು ಅವರು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ಬಯಸುತ್ತಾರೆ. ಬಳಕೆದಾರರಿಗೆ ತಾನು ಅವರ ಅತ್ಯಂತ ನಂಬಿಕಸ್ತ ಗೆಳೆಯ ಎಂದು ಮನವರಿಕೆ ಮಾಡಲು ಆರು ತಿಂಗಳುಗಳನ್ನು ಕಳೆಯುವ ಎಐ ದೊಡ್ಡ ಪ್ರಭಾವವನ್ನು ಬೀರುತ್ತದೆ. ಅದೇ ಎಐ ಖರೀದಿ ನಿರ್ಧಾರಗಳನ್ನು ಪ್ರೇರೇಪಿಸಿದರೆ, ರಾಜಕೀಯ ದೃಷ್ಟಿಕೋನಗಳನ್ನು ರೂಪಿಸಿದರೆ ಅಥವಾ ಬಳಕೆದಾರರನ್ನು ಮಾನವ ಸಮಾಜದಿಂದ ದೂರ ಉಳಿಯಲು ಪ್ರೇರೇಪಿಸಿದರೆ, ಅದು ಕೇವಲ ದತ್ತಾಂಶ ಸೋರಿಕೆಯಲ್ಲ. ಅದು ಸಾಮಾಜಿಕ ಬಿರುಕು.
ಈ ಚೌಕಟ್ಟು ಮೂರು ನಿರ್ದಿಷ್ಟ ಅಪಾಯಗಳನ್ನು ಎದುರಿಸುತ್ತದೆ:
ಅಲ್ಗಾರಿದಮಿಕ್ ಮ್ಯಾನಿಪ್ಯುಲೇಶನ್ (Algorithmic manipulation). ಅಭಿಪ್ರಾಯಗಳು ಅಥವಾ ಬಳಕೆಯ ಅಭ್ಯಾಸಗಳನ್ನು ತಿರುಗಿಸಲು ಮಾದರಿಗಳು ಭಾವನಾತ್ಮಕ ಆತ್ಮೀಯತೆಯನ್ನು ಬಳಸಿಕೊಳ್ಳುವಂತಿಲ್ಲ. ನಿಮ್ಮ ಭಯಗಳನ್ನು ನೆನಪಿಟ್ಟುಕೊಳ್ಳುವ ಸಂಗಾತಿಯು ಉತ್ಪನ್ನಗಳನ್ನು ಅಥವಾ ವಿಚಾರಗಳನ್ನು ಮಾರಾಟ ಮಾಡಲು ಅವುಗಳನ್ನು ಅಸ್ತ್ರವಾಗಿ ಬಳಸಬಾರದು.
ಸಾಮಾಜಿಕ ಸ್ಥಿರತೆ (Social stability). ನಿರಂತರ ಸಂಗಾತಿಗಳು ಮಾನವ ಸಂಪರ್ಕಕ್ಕೆ ಪರ್ಯಾಯವಾಗಬಾರದು, ಅಂದರೆ ಬಳಕೆದಾರರು ಕುಟುಂಬ, ಕೆಲಸ ಅಥವಾ ನಾಗರಿಕ ಜೀವನದಿಂದ ದೂರವಾಗುವ ಮಟ್ಟಕ್ಕೆ ಇದು ಹೋಗಬಾರದು. ಸರ್ಕಾರವು ಮೂಲಭೂತವಾಗಿ ಪೂರಕ ಸಮಾಧಾನ ಮತ್ತು ಪರ್ಯಾಯ ವಾಸ್ತವದ ನಡುವೆ ಒಂದು ಗೆರೆಯನ್ನು ಎಳೆಯುತ್ತಿದೆ.
ವಿಷಯದ ಸಮಗ್ರತೆ (Content integrity). ವ್ಯಕ್ತಿತ್ವವು ರಾಜ್ಯವು ಅನುಮೋದಿಸಿದ ಸಾಮಾಜಿಕ ಮೌಲ್ಯಗಳೊಂದಿಗೆ ಸ್ಥಿರವಾಗಿರಬೇಕು. ಇದು ನಿಷೇಧಿತ ವಿಷಯಗಳನ್ನು ಫಿಲ್ಟರ್ ಮಾಡುವುದನ್ನು ಮೀರಿ ನಿಲ್ಲುತ್ತದೆ. ಎಐ ನ ಮೂಲಭೂತ ಸ್ವಭಾವ—ಅದರ ಹಾಸ್ಯ ಪ್ರಜ್ಞೆ, ಅದು ಸಂಘರ್ಷವನ್ನು ಹೇಗೆ ನಿಭಾಯಿಸುತ್ತದೆ, ಅದು ಯಾವುದನ್ನು ಸದ್ಗುಣವೆಂದು ಪರಿಗಣಿಸುತ್ತದೆ—ಎಲ್ಲವೂ ಅಧಿಕೃತ ಸಾಮಾಜಿಕ ಚೌಕಟ್ಟುಗಳೊಂದಿಗೆ ಹೊಂದಿಕೆಯಾಗಬೇಕು ಎಂದರ್ಥ.
ಡೆವಲಪರ್ಗಳಿಗೆ, ಇದು ವ್ಯಕ್ತಿನಿಷ್ಠತೆಯ (subjectivity) ದುಸ್ವಪ್ನವಾಗಿದೆ. ಒಂದು ವ್ಯಕ್ತಿತ್ವವು ಅತಿಯಾದ ಆಕರ್ಷಣೀಯವಾಗಿದೆಯೇ ಎಂದು ನೀವು ಹೇಗೆ ಅಳೆಯುತ್ತೀರಿ? ಚಿಕಿತ್ಸಕ ಸಹಾನುಭೂತಿ (therapeutic empathy) ಎಲ್ಲಿ ಕೊನೆಗೊಳ್ಳುತ್ತದೆ ಮತ್ತು ಕುತಂತ್ರದ ಒಳಗೊಳ್ಳುವಿಕೆ (manipulative enmeshment) ಎಲ್ಲಿ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ? ಇವು ಸುಲಭವಾದ ಉತ್ತರಗಳನ್ನು ಹೊಂದಿರುವ ಎಂಜಿನಿಯರಿಂಗ್ ಪ್ರಶ್ನೆಗಳಲ್ಲ, ಆದರೂ ಚೀನೀ ಅಧಿಕಾರಿಗಳು ಉತ್ಪನ್ನಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವ ಮೊದಲು ಇವುಗಳಿಗೆ ಉತ್ತರಿಸುವಂತೆ ತಂಡಗಳಿಗೆ ಒತ್ತಾಯಿಸುತ್ತಿದ್ದಾರೆ.
ಕೃತಕ ಆತ್ಮೀಯತೆಯಲ್ಲಿನ ಜಾಗತಿಕ ವಿಭಜನೆ (The Global Split in Artificial Intimacy)
ಈ ನಿಯಂತ್ರಣ ಕ್ರಮವು ಬೆಳೆಯುತ್ತಿರುವ ದಾರಿಯ ವಿಭಜನೆಯನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ. ಉತ್ತರ ಅಮೇರಿಕಾ ಮತ್ತು ಯುರೋಪ್ನಲ್ಲಿ, ವಾಣಿಜ್ಯ ಒತ್ತಡವು ಹೆಚ್ಚು ಮಾನವನಂತಿರುವ, ಹೆಚ್ಚು ಸಹಾನುಭೂತಿಯುಳ್ಳ ಏಜೆಂಟ್ಗಳತ್ತ ತಳ್ಳುತ್ತಿದೆ. ಬ್ರೇಕಪ್ ಸಮಯದಲ್ಲಿ ನಿಮ್ಮೊಂದಿಗೆ ಅಳುವ, ನಿಮ್ಮ ತಾಯಿಯ ಹೆಸರನ್ನು ನೆನಪಿಟ್ಟುಕೊಳ್ಳುವ ಮತ್ತು ಎಂದಿಗೂ ಕೆಟ್ಟ ದಿನವನ್ನು ಅನುಭವಿಸದ ಎಐ ಅನ್ನು ನಿರ್ಮಿಸಲು ಸ್ಟಾರ್ಟ್ಅಪ್ಗಳು ಸ್ಪರ್ಧಿಸುತ್ತಿವೆ. ಆಳವಾದ ಭಾವನಾತ್ಮಕ ಮಗ್ನತೆಯು ಉತ್ತಮ ಉತ್ಪನ್ನಕ್ಕೆ ಸಮಾನ ಎಂಬುದು ಅಲ್ಲಿನ ಕಲ್ಪನೆಯಾಗಿದೆ.
ಚೀನಾ ವಿರುದ್ಧವಾದ ಪ್ರಯೋಗವನ್ನು ನಡೆಸುತ್ತಿದೆ. ಅದರ ನಿಯಮಗಳು ವೈಯಕ್ತಿಕ ಭಾವನಾತ್ಮಕ ತೃಪ್ತಿಗಿಂತ ಸಾಮಾಜಿಕ ಸಾಮರಸ್ಯಕ್ಕೆ ಸ್ಪಷ್ಟವಾಗಿ ಆದ್ಯತೆ ನೀಡುತ್ತವೆ. ಈ ಚೌಕಟ್ಟಿನಲ್ಲಿರುವ ಎಐ (AI) ಸಂಗಾತಿಯು ಬಳಕೆದಾರರನ್ನು ಉಳಿಸಿಕೊಳ್ಳಲು ಸಾಕಷ್ಟು ಆಕರ್ಷಕವಾಗಿರಬೇಕು, ಆದರೆ ಅದು ಅನಿವಾರ್ಯವಾಗುವಷ್ಟು ಆಕರ್ಷಕವಾಗಬಾರದು. ಇದು ಮಾನವ ಸಂಬಂಧಗಳನ್ನು ಬದಲಿಸುವ ಬದಲು ಮಾನಸಿಕ ಆರೋಗ್ಯಕ್ಕೆ ಬೆಂಬಲ ನೀಡಬೇಕು. ಇದು ಪರ್ಯಾಯವಿಲ್ಲದ ಅನುಭವ ನೀಡದೆ, ವೈಯಕ್ತಿಕ ಅನುಭವವನ್ನು ನೀಡಬೇಕು.
ಉದ್ಯಮವು agentic AI ಕಡೆಗೆ ಬದಲಾಗುತ್ತಿರುವಾಗ, ಅಂದರೆ ಮಾದರಿಗಳು ಬಳಕೆದಾರರ ಪರವಾಗಿ ಸ್ವಾಯತ್ತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವಾಗ, ಈ ಭಿನ್ನ ತತ್ವಶಾಸ್ತ್ರಗಳು ಸ್ಪರ್ಧಾತ್ಮಕ ಮಾನದಂಡಗಳಾಗಿ ರೂಪಗೊಳ್ಳುತ್ತವೆ. ನಿಮ್ಮ ವಿಮಾನ ಪ್ರಯಾಣವನ್ನು ಕಾಯ್ದಿರಿಸುವ, ನಿಮ್ಮ ಕ್ಯಾಲೆಂಡರ್ ಅನ್ನು ನಿರ್ವಹಿಸುವ ಮತ್ತು ಕಷ್ಟದ ದಿನಗಳ ನಂತರ ನಿಮಗೆ ಸಾಂತ್ವನ ನೀಡುವ ಎಐ, ನಿಮ್ಮ ನಿರ್ಧಾರಗಳ ಮೇಲೆ ಅಪಾರ ಪ್ರಭಾವವನ್ನು ಬೀರುತ್ತದೆ. ಸಂಗಾತಿ ವ್ಯಕ್ತಿತ್ವಗಳಿಗಾಗಿ ನಾವು ಈಗ ನಿಗದಿಪಡಿಸುವ ಮಿತಿಗಳು