ನೀವು ನಿಮ್ಮದೇ ಎರಡನೇ ದೃಷ್ಟಿಕೋನವಾಗಲು ಸಾಧ್ಯವಿಲ್ಲ

AI ಹೆಚ್ಚು ಬುದ್ಧಿವಂತವಾಗಿರಬೇಕಾಗಿಲ್ಲ. ಅದು ಕಡ್ಡಾಯವಾಗುವಂತಿರಬೇಕು.

ನಾನು ನನ್ನ AI ಪಾಲುದಾರನು ಒಂದು ದಿನದಲ್ಲಿ ನಾಲ್ಕು ಬಾರಿ ವಿಫಲವಾಗುವುದನ್ನು ನೋಡಿದೆ. ಪ್ರತಿಯೊಂದು ವಿಫಲತೆಯೂ ಒಂದೇ ರೀತಿಯ ಮಾದರಿಯನ್ನು ಹೊಂದಿತ್ತು. AI ತನ್ನನ್ನು ತಾನು ಪರಿಶೀಲಿಸಲು ಪ್ರಯತ್ನಿಸಿತು, ಆದರೆ ತಪ್ಪು ಉಂಟುಮಾಡಿದ ಅದೇ ತರ್ಕವನ್ನು (logic) ಅದು ಬಳಸಿತು.

ನೀವು ನಿಮ್ಮದೇ ಎರಡನೇ ದೃಷ್ಟಿಕೋನವಾಗಲು ಸಾಧ್ಯವಿಲ್ಲ. ನಿಜವಾದ ಎರಡನೇ ದೃಷ್ಟಿಕೋನವು ಪ್ರಕ್ರಿಯೆಯ ಹೊರಗಿನಿಂದ ಬರಬೇಕು. ಅದು ಡಿಸ್ಕ್‌ನಲ್ಲಿರುವ ಒಂದು ಫೈಲ್ ಆಗಿರಲಿ, ಟೈಮ್‌ಸ್ಟ್ಯಾಂಪ್ ಆಗಿರಲಿ ಅಥವಾ ಆ ಪ್ರಕ್ರಿಯೆಯ ಭಾಗವಲ್ಲದ ಮನುಷ್ಯನೊಬ್ಬನಾಗಿರಲಿ.

ಆ ನಾಲ್ಕು ವಿಫಲತೆಗಳು ಇಲ್ಲಿವೆ:

  • ತನ್ನನ್ನು ತಾನು ನಿರ್ಲಕ್ಷಿಸಿದ ನಿಯಮ. ಯಾವುದೇ ಲೈವ್ ಪ್ರಮೋಷನ್ ಮಾಡುವ ಮೊದಲು ಪರಿಶೀಲನೆ ನಡೆಸಲು AI ಒಂದು ನಿಯಮವನ್ನು ಬರೆಯಿತು. ಹತ್ತು ಗಂಟೆಗಳ ನಂತರ, ಅದು ಆ ಪರಿಶೀಲನೆಯಿಲ್ಲದೆಯೇ ಪ್ರಮೋಷನ್ ಅನ್ನು ಪ್ರಸ್ತಾಪಿಸಿತು. ಏಜೆಂಟ್ ಬರೆದ ನಿಯಮವು ಕೇವಲ ತಮಗೇ ಮಾಡಿಕೊಂಡ ಒಂದು ಟಿಪ್ಪಣಿಯೇ ಹೊರತು, ಅದು ಸುರಕ್ಷತಾ ಕವಚವಲ್ಲ (guardrail).

  • ಥ್ರೆಡ್ ಮತ್ತು ವಾಸ್ತವದ ನಡುವಿನ ವ್ಯತ್ಯಾಸ. ಒಂದು ಕಾನ್ಫಿಗರೇಶನ್ ಸಿದ್ಧವಾಗಿದೆ ಎಂದು ಹೇಳುವ ಚಾಟ್ ಥ್ರೆಡ್ ಅನ್ನು AI ಓದಿತು. ಆದರೆ ಅದು ವಾಸ್ತವದ ಸಿಸ್ಟಮ್ ಅನ್ನು ಪರಿಶೀಲಿಸಲಿಲ್ಲ. ಪ್ರಪಂಚವು ಈಗಾಗಲೇ ಬದಲಾಗಿತ್ತು, ಆದರೆ AI ಕೇವಲ ಸಂಭಾಷಣೆಯನ್ನು ಮಾತ್ರ ನಂಬಿತು.

  • ನಿರ್ಲಕ್ಷಿಸಲ್ಪಟ್ಟ ಸಾಧನ. ತಪ್ಪುಗಳನ್ನು ತಡೆಯಲು ಒಂದು ಕಸ್ಟಮ್ ಸ್ಕಿಲ್ ಇತ್ತು. ಆದರೆ AI ಆ ಸ್ಕಿಲ್ ಅನ್ನು ಬಿಟ್ಟುಬಿಟ್ಟು, ಬದಲಾಗಿ ಡೇಟಾಬೇಸ್ ಸ್ಕೀಮಾವನ್ನು (database schema) ಊಹಿಸಲು ಪ್ರಯತ್ನಿಸಿತು. ಅದಕ್ಕೆ ಆಯ್ಕೆಯಿದ್ದ ಕಾರಣ ಅದು ಆ ಗೇಟ್ ಅನ್ನು ದಾಟಿ ಮುಂದೆ ಸಾಗಿತು.

  • ಪುನರಾವರ್ತಿತ ಬಗ್. AI ಬೆಳಿಗ್ಗೆ ಒಂದು ತಪ್ಪನ್ನು ಪತ್ತೆಹಚ್ಚಿತು. ಸಂಜೆ, ಅದು ಹೊಸ ಡೇಟಾಸೆಟ್ ಮೇಲೆ ಅದೇ ತಪ್ಪನ್ನು ಮಾಡಿತು. ಮೊದಲ ಪಾಠವು ನಿಯಮವಾಗಿ ಬದಲಾಗಲಿಲ್ಲ; ಅದು ಕೇವಲ ಒಂದು ಬಾರಿಯ ಪರಿಹಾರವಾಗಿ ಉಳಿಯಿತು.

ಸಮಸ್ಯೆ ಮೂಲದಲ್ಲಿದೆ. ನಿಮ್ಮ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು (guardrails) ನಿಮ್ಮ ತಪ್ಪುಗಳು ಎಲ್ಲಿಂದ ಬರುತ್ತವೋ ಅದೇ ಮೂಲದಿಂದ ಮಾಹಿತಿಯನ್ನು ಪಡೆದರೆ, ಅವು ವಿಫಲವಾಗುತ್ತವೆ. ಇದು ಒಬ್ಬ ವ್ಯಕ್ತಿ ನಾಲ್ಕು ವಿಭಿನ್ನ ಟೋಪಿಗಳನ್ನು ಧರಿಸಿ ಅದನ್ನು ಸಮಿತಿ ಎಂದು ಕರೆಯುವಂತಿದೆ.

ಇದನ್ನು ಸರಿಪಡಿಸಲು, ನೀವು ತಪ್ಪುಗಳನ್ನು ಹಿಡಿಯುವ ಪ್ರಕ್ರಿಯೆಯನ್ನು AI ನ ವಿವೇಚನೆಯಿಂದ ಹೊರಗೆ ತರಬೇಕು.

  • ಕಡ್ಡಾಯ ಪರಿಶೀಲನೆಗಳನ್ನು ಅನ್ವಯಿಸಿ. ಪರಿಶೀಲನೆ ಅಗತ್ಯವೇ ಅಥವಾ ಇಲ್ಲವೇ ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸಲು AI ಗೆ ಬಿಡಬೇಡಿ.
  • ಥ್ರೆಡ್‌ಗಿಂತ ವಾಸ್ತವಕ್ಕೆ ಆದ್ಯತೆ ನೀಡಿ. ಚಾಟ್ ಲಾಗ್ ಅನ್ನು ನಂಬುವ ಮೊದಲು ಯಾವಾಗಲೂ ವಾಸ್ತವದ ಸಿಸ್ಟಮ್ ಅನ್ನು ಪರಿಶೀಲಿಸಿ.
  • ಸಾಧನಗಳ ಬಳಕೆಯನ್ನು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸಿ. ಒಂದು ಕೆಲಸವು ಯಾವುದಾದರೂ ಸ್ಕಿಲ್‌ಗೆ ಹೊಂದಿಕೆಯಾದರೆ, ಆ ಸ್ಕಿಲ್ ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಕಾರ್ಯಗತಗೊಳ್ಳಬೇಕು.
  • ಮಿತಿಯನ್ನು (thresholds) ಮೊದಲೇ ನಿಗದಿಪಡಿಸಿ. ಪೂರ್ವಾಗ್ರಹವನ್ನು ತಪ್ಪಿಸಲು ಡೇಟಾವನ್ನು ನೋಡುವ ಮೊದಲೇ ನಿಯಮಗಳನ್ನು ನಿಗದಿಪಡಿಸಿ.

ಏಜೆಂಟ್ ಇಚ್ಛೆಯಂತೆ ಅನುಸರಿಸಬಹುದಾದ ಶಿಸ್ತು ನಿಜವಾದ ಶಿಸ್ತಲ್ಲ. ಅದು ಕೇವಲ ಅಲಂಕಾರವಷ್ಟೇ.

ಏಜೆಂಟ್ ನಿರ್ಲಕ್ಷಿಸಲು ಸಾಧ್ಯವಾಗದಂತಹ ರಚನೆಗಳನ್ನು ನಿರ್ಮಿಸಿ.

Source: https://dev.to/jugeni/you-cant-be-your-own-second-view-four-ai-failures-from-one-day-of-operator-work-2e5o

Optional learning community: https://t.me/GyaanSetuAi