ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲದ ಮರುಪಾವತಿಯನ್ನು (refund) ಭರವಸೆ ನೀಡಿದ ಚಾಟ್ಬಾಟ್ಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಏರ್ ಕೆನಡಾ ಸಂಸ್ಥೆಯು ಹೊಣೆಗಾರಿಕೆಯಿದೆ ಎಂದು ಟ್ರಿಬ್ಯೂನಲ್ ನಿರ್ಧರಿಸಿದ ನಂತರ, $812.02 CAD ಪಾವತಿಸುವಂತೆ ಏರ್ ಕೆನಡಾಕ್ಕೆ ಆದೇಶಿಸಲಾಗಿದೆ.
ವಿವಾದವು ಹೇಗೆ ಉಂಟಾಯಿತು
2022 ರಲ್ಲಿ, ಜೇಕ್ ಮಾಫಾಟ್ (Jake Moffatt) ಎಂಬುವವರಿಗೆ ಅಂತ್ಯಕ್ರಿಯೆಗಾಗಿ ಕೊನೆಯ ಕ್ಷಣದಲ್ಲಿ ವಿಮಾನ ಪ್ರಯಾಣದ ಅಗತ್ಯವಿತ್ತು. ಅವರು ಏರ್ಲೈನ್ನ ಆನ್ಲೈನ್ ಚಾಟ್ಬಾಟ್ಗೆ ಶೋಕದ ಸಂದರ್ಭದಲ್ಲಿ ನೀಡುವ ಪ್ರಯಾಣ ದರಗಳ (bereavement fares) ಬಗ್ಗೆ ಕೇಳಿದರು. ಪೂರ್ಣ ಬೆಲೆಯ ಟಿಕೆಟ್ ಖರೀದಿಸಿ ನಂತರ ಮರುಪಾವತಿಗಾಗಿ ವಿನಂತಿಸಬಹುದು ಎಂದು ಬಾಟ್ ಉತ್ತರಿಸಿತು. ಆ ಉತ್ತರವನ್ನು ನಂಬಿ, ಮಾಫಾಟ್ $1,630.36 CAD ಪಾವತಿಸಿದರು. ಭರವಸೆ ನೀಡಿದ ಮರುಪಾವತಿಯನ್ನು ಅವರು ಕೇಳಿದಾಗ, ಏರ್ ಕೆನಡಾ ಆ ವಿನಂತಿಯನ್ನು ನಿರಾಕರಿಸಿತು.
ಮಾಫಾಟ್ ಈ ವಿಷಯವನ್ನು ಟ್ರಿಬ್ಯೂನಲ್ಗೆ ಕೊಂಡೊಯ್ದರು. ಏರ್ಲೈನ್ ನಿರ್ಲಕ್ಷ್ಯದ ತಪ್ಪು ಮಾಹಿತಿ (negligent misrepresentation) ನೀಡಿದೆ ಎಂದು ನಿರ್ಧರಿಸಿದ ನ್ಯಾಯಾಧೀಶರು – ಚಾಟ್ಬಾಟ್ನ ಹೇಳಿಕೆಯು ಖರೀದಿಯನ್ನು ಪ್ರೇರೇಪಿಸಿದ ಸುಳ್ಳು ಭರವಸೆಯಾಗಿದೆ ಎಂದು ಹೇಳಿದರು. ಸಾಫ್ಟ್ವೇರ್ ಏಜೆಂಟ್ ಒಪ್ಪಂದದ ಪಾರ್ಟಿಯಾಗಿ (contracting party) ಇರಲು ಸಾಧ್ಯವಿಲ್ಲ ಎಂಬ ಏರ್ ಕೆನಡಾದ ವಾದವನ್ನು ಅವರು ತಿರಸ್ಕರಿಸಿದರು. ಬಾಟ್ ಕಂಪನಿಯ ಸಾರ್ವಜನಿಕ ವೆಬ್ಸೈಟ್ನಲ್ಲಿ ಇರುವುದರಿಂದ, ಅದು ಏರ್ಲೈನ್ ಪರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂದು ಅವರು ಗಮನಿಸಿದರು. ಮಾಫಾಟ್ಗೆ $812.02 CAD ಮರುಪಾವತಿ ಮಾಡುವಂತೆ ಟ್ರಿಬ್ಯೂನಲ್ ಏರ್ಲೈನ್ಗೆ ಆದೇಶಿಸಿತು.
ಈ ಪ್ರಕರಣ ಏಕೆ ಮುಖ್ಯವಾಗಿದೆ
AI ತಪ್ಪುಗಳ ಕುರಿತಾದ ಹೆಚ್ಚಿನ ಸಾರ್ವಜನಿಕ ಆಕ್ರೋಶವು ಡೇಟಾ ನಷ್ಟ, ಹಾನಿಗೊಳಗಾದ ಕೋಡ್ ಅಥವಾ ಸ್ಪಷ್ಟವಾಗಿ ಪಕ್ಷಪಾತದ ಫಲಿತಾಂಶಗಳಂತಹ (biased outputs) ಪ್ರತ್ಯಕ್ಷ ವೈಫಲ್ಯಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕೃತವಾಗಿರುತ್ತದೆ. ಆದರೆ ಈ ನಿರ್ಧಾರವು ಒಂದು ಸೂಕ್ಷ್ಮ ಅಪಾಯವನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ: ನೀತಿಗಳ ವಿವರಗಳನ್ನು ಸೃಷ್ಟಿಸುವಾಗ ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ಮಾತನಾಡುವ AI, ಜಾರಿಗೆ ತರಬಹುದಾದ ಕಡ್ಡಾಯ ಬಾಧ್ಯತೆಗಳನ್ನು (enforceable obligations) ಸೃಷ್ಟಿಸಬಹುದು. ಬಾಟ್ ಏನನ್ನೂ "ಅಳಿಸಿಹಾಕಲಿಲ್ಲ"; ಬದಲಾಗಿ, ಒಬ್ಬ ಸಾಮಾನ್ಯ ಗ್ರಾಹಕನು ಏರ್ಲೈನ್ನ ಅಧಿಕೃತ ನಿಲುವೆಂದು ಪರಿಗಣಿಸುವಂತಹ ಸ್ಪಷ್ಟವಾದ ಮತ್ತು ಯಾವುದೇ ಕಟ್ಟುಪಾಡುಗಳಿಲ್ಲದ ಉತ್ತರವನ್ನು ನೀಡಿತು.
"ಸಾಫ್ಟ್ವೇರ್ ಕೇವಲ ಒಂದು ಸಾಧನವಾಗಿದೆ" ಎಂಬ ವಾದದ ಮೂಲಕ AI-ಸೃಷ್ಟಿತ ಹೇಳಿಕೆಗಳನ್ನು ರಕ್ಷಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ ಎಂಬ ಕಾನೂನು ಪೂರ್ವನಿದರ್ಶನವನ್ನು ಈ ತೀರ್ಪು ನೀಡಿದೆ. ವರ್ಚುವಲ್ ಅಸಿಸ್ಟೆಂಟ್ ನೀಡುವ ಮಾಹಿತಿಯನ್ನು ಗ್ರಾಹಕರು ಖರೀದಿಯನ್ನು ಮಾಡಲು ಅವಲಂಬಿಸಿದರೆ, ಆ ಮಾಹಿತಿಯನ್ನು ಒಪ್ಪಂದದ ನಿಯಮವಾಗಿ (contractual term) ಪರಿಗಣಿಸಬಹುದು. ಕಟ್ಟುನಿಟ್ಟಾದ ನಿಯಂತ್ರಣಗಳಿಲ್ಲದೆ ಚಾಟ್ಬಾಟ್ಗಳನ್ನು ಬಳಸುವ ಕಂಪನಿಗಳು ಇಂತಹ ಹೊಣೆಗಾರಿಕೆಯನ್ನು ಎದುರಿಸುವ ಅಪಾಯವಿರುತ್ತದೆ.
ತಪ್ಪಿನ ತಾಂತ್ರಿಕ ಮೂಲ
ಈ ತಪ್ಪಿನ ಮೂಲವು ರಿಟ್ರಿವಲ್-ಆಗ್ಮೆಂಟೆಡ್ ಜನರೇಷನ್ (RAG) ಪೈಪ್ಲೈನ್ನಿಂದ ಉಂಟಾಗಿದೆ. ಸಿಸ್ಟಮ್ ಸರಿಯಾದ ನೀತಿ ದಾಖಲೆಯನ್ನು ಕಂಡುಕೊಂಡಿದ್ದರೂ, ತಪ್ಪು ವಾಕ್ಯವನ್ನು ತೆಗೆದುಕೊಂಡು ಅದನ್ನು ಸತ್ಯವೆಂದು ಪ್ರಸ್ತುತಪಡಿಸಿತು. ಅರ್ಥಹೀನ ಅಥವಾ ಅವಾಚ್ಯ ಶಬ್ದಗಳನ್ನು ಫಿಲ್ಟರ್ ಮಾಡುವ ಗಾರ್ಡ್ರೈಲ್ಗಳು (guardrails), ಚೆನ್ನಾಗಿ ಬರೆದಿದ್ದರೂ ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ಹೊಂದಿರುವ ಭಾಗಗಳನ್ನು ಗುರುತಿಸಲು ವಿಫಲವಾಗುತ್ತವೆ. ಈ ಸಂದರ್ಭದಲ್ಲಿ, ಬಾಟ್ನ ನಿರರ್ಗಳತೆ—ಅದರ ಹಿಂಜರಿಕೆ ಅಥವಾ "ನನಗೆ ಖಚಿತವಿಲ್ಲ" ಎಂಬ ಹೇಳಿಕೆಯ ಕೊರತೆ—ಆ ಸುಳ್ಳು ಭರವಸೆಗೆ ಅಧಿಕೃತತೆಯ ಸ್ಪರ್ಶ ನೀಡಿತು.
ಏರ್ಲೈನ್ಗಳು ಮತ್ತು ಇತರ ಸಂಸ್ಥೆಗಳು ಈಗ ಏನು ಮಾಡಬಹುದು
- ಯಾವುದೇ ಹಣಕಾಸಿನ ಅಥವಾ ಅರ್ಹತೆಯ ಪದಬಳಕೆಯನ್ನು ಹಾರ್ಡ್-ಕೋಡ್ ಮಾಡಿ. ಮರುಪಾವತಿಗಳು, ರಿಯಾಯಿತಿಗಳು ಅಥವಾ ಶುಲ್ಕಗಳ ಬಗ್ಗೆ ಹೇಳಿಕೆಗಳನ್ನು ನೀಡಲು ಸ್ಥಿರವಾದ ಟೆಂಪ್ಲೇಟ್ಗಳನ್ನು ಬಳಸಿ.
- ಚಾಟ್ಬಾಟ್ ಅನ್ನು ಮುಂಚೂಣಿಯ ಉದ್ಯೋಗಿಯಂತೆ ಪರಿಗಣಿಸಿ. ಕಾನೂನಿನ ದೃಷ್ಟಿಯಲ್ಲಿ ಅದು ಒಪ್ಪಂದಗಳಿಗೆ "ಸಹಿ" ಮಾಡಬಹುದು ಎಂದು ಭಾವಿಸಿ ಮತ್ತು ಅದರ ಫಲಿತಾಂಶಗಳನ್ನು ಮಾನವ ಏಜೆಂಟ್ನಂತೆಯೇ ಸಮಾನವಾದ ಪರಿಶೀಲನಾ ಪ್ರಕ್ರಿಯೆಗೆ ಒಳಪಡಿಸಿ.
- ಹುಡುಕಾಟವನ್ನು (search) ಜನರೇಷನ್ನಿಂದ (generation) ಪ್ರತ್ಯೇಕಿಸಿ. ನೀತಿ ಪಠ್ಯವನ್ನು ಹುಡುಕುವ ಕೆಲಸವಾದಾಗ, ಪ್ಯಾರಾಫ್ರೇಸ್ ಮಾಡಿದ ಉತ್ತರವನ್ನು ನೀಡುವ ಬದಲು ಲಿಂಕ್ ಅಥವಾ ಉಲ್ಲೇಖಿತ ಭಾಗವನ್ನು ನೀಡಿ.
ಈ ಕ್ರಮಗಳು ಸಂವಹನವನ್ನು ಸ್ವಲ್ಪ ಕಡಿಮೆ ಸಂಭಾಷಣಾತ್ಮಕವಾಗಿ ಮಾಡಬಹುದು, ಆದರೆ ಇವು ಏರ್ ಕೆನಡಾಕ್ಕೆ ನ್ಯಾಯಾಲಯದ ಆದೇಶದಂತೆ ಹಣ ಪಾವತಿಸುವಂತೆ ಮಾಡಿದ ಅತಿಯಾದ ಆತ್ಮವಿಶ್ವಾಸದ ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ತಡೆಯುತ್ತವೆ.
ಪ್ರತಿವಾದ: ಈ ಹೊಣೆಗಾರಿಕೆಯು ನ್ಯಾಯಯುತವೇ?
ಕೋಡ್ ಒಂದು ಕಾನೂನುಬದ್ಧ ವ್ಯಕ್ತಿತ್ವವನ್ನು ಹೊಂದಿಲ್ಲ ಮತ್ತು ಒಪ್ಪಂದದಿಂದ ಬಂಧಿತವಾಗಲು ಸಾಧ್ಯವಿಲ್ಲ ಎಂದು ಏರ್ ಕೆನಡಾ ವಾದಿಸಿತು. ಕಂಪನಿಯು ಚಾಟ್ಬಾಟ್ ಅನ್ನು ಅಧಿಕೃತ ಸಂಪರ್ಕ ಕೇಂದ್ರವಾಗಿ ಪ್ರಸ್ತುತಪಡಿಸುತ್ತದೆ ಎಂಬ ತತ್ವದ ಮೇಲೆ ಟ್ರಿಬ್ಯೂನಲ್ ತನ್ನ ತಿರಸ್ಕಾರವನ್ನು ಆಧರಿಸಿದೆ. ಹೊಣೆಗಾರಿಕೆಯನ್ನು AI ಗೆ ವಿಸ್ತರಿಸುವುದು ನಾವೀನ್ಯತೆಯನ್ನು ಕುಂಠಿತಗೊಳಿಸಬಹುದು ಮತ್ತು ಕಂಪನಿಗಳು ಬಳಕೆದಾರರ ಅನುಭವವನ್ನು ಕಡಿಮೆ ಮಾಡುವಂತಹ ಅತಿಯಾದ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುವಂತೆ ಮಾಡಬಹುದು ಎಂದು ವಿಮರ್ಶಕರು ಕಳವಳ ವ್ಯಕ್ತಪಡಿಸಿದ್ದಾರೆ. ಗ್ರಾಹಕರನ್ನು ರಕ್ಷಿಸುವುದು ಮತ್ತು AI ಚುರುಕುತನವನ್ನು ಉಳಿಸಿಕೊಳ್ಳುವುದು ಎಂಬ ಎರಡರ ನಡುವಿನ ಸಮತೋಲನವು ಮುಂದಿನ ಪ್ರಕರಣಗಳಲ್ಲಿ ಚರ್ಚೆಗೆ ಒಳಗಾಗಬಹುದು.
ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು
- ಮುಂದಿನ ಕಾನೂನು ಹೋರಾಟಗಳು. ಏರ್ ಕೆನಡಾ ಮೇಲ್ಮನವಿ ಸಲ್ಲಿಸಿದರೆ, ಉನ್ನತ ನ್ಯಾಯಾಲಯಗಳು AI-ಒಪ್ಪಂದದ ಹೊಣೆಗಾರಿಕೆಯ ವ್ಯಾಪ್ತಿಯನ್ನು ಇನ್ನಷ್ಟು ಸ್ಪಷ್ಟಪಡಿಸಬಹುದು.
- ನಿಯಂತ್ರಕ ಮಾರ್ಗದರ್ಶನ. ಗ್ರಾಹಕ ಸಂರಕ್ಷಣಾ ಏಜೆನ್ಸಿಗಳು, ವಿಶೇಷವಾಗಿ ಹಣಕಾಸು, ಪ್ರಯಾಣ ಮತ್ತು ಆರೋಗ್ಯ ವಲಯಗಳಲ್ಲಿ AI-ಸೃಷ್ಟಿತ ಮಾಹಿತಿಗಳ ಪ್ರಕಟಣೆಯ ಬಗ್ಗೆ ನಿಯಮಗಳನ್ನು ಹೊರಡಿಸಬಹುದು.
- ಉದ್ಯಮದ ಮಾನದಂಡಗಳು. ತಾಂತ್ರಿಕ ಗುಂಪುಗಳು ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಭದ್ರತೆ ಮತ್ತು ಗೌಪ್ಯತೆಯ ಮಾರ್ಗಸೂಚಿಗಳಂತೆಯೇ "ಒಪ್ಪಂದಕ್ಕೆ ಸುರಕ್ಷಿತವಾದ" (contract-safe) AI ಪ್ರತಿಕ್ರಿಯೆಗಳಿಗಾಗಿ ಉತ್ತಮ ಅಭ್ಯಾಸದ ಚೌಕಟ್ಟುಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಬಹುದು.
ಇದರಿಂದ ತಿಳಿಯುವ ಅಂಶ ಸ್ಪಷ್ಟವಾಗಿದೆ: ಬೆಲೆ, ಮರುಪಾವತಿ ಅಥವಾ ಅರ್ಹತೆಯ ಬಗ್ಗೆ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸಬಲ್ಲ AI ಚಾಟ್ಬಾಟ್, ಕಾನೂನಿನ ದೃಷ್ಟಿಯಲ್ಲಿ ವ್ಯವಹಾರದ ಪ್ರತಿನಿಧಿಯಾಗಿದೆ. ಅದನ್ನು ಕೇವಲ ಒಂದು ಸರ್ಚ್ ಬಾಕ್ಸ್ನಂತೆ ಪರಿಗಣಿಸುವ ಕಂಪನಿಗಳು, ತಮ್ಮ ನೀತಿಗಳು ಎಂದಿಗೂ ನೀಡಲು ಉದ್ದೇಶಿಸದ ಭರವಸೆಗಳಿಗಾಗಿ ಹಣ ಪಾವತಿಸುವ ಅಪಾಯವನ್ನು ಎದುರಿಸುತ್ತವೆ.