𝗔𝗜 𝗗𝗲𝘁𝗲𝗰𝘁𝗼𝗿𝘀 𝗔𝗿𝗲 𝗚𝘂𝗲𝘀𝘀𝗶𝗻𝗴 -> AI ಪತ್ತೆಹಚ್ಚುವಿಕೆ ಸಾಧನಗಳು ಕೇವಲ ಊಹಿಸುತ್ತಿವೆ

AI ಪತ್ತೆಹಚ್ಚುವಿಕೆ ಸಾಧನಗಳು (AI detectors) ಹೆಚ್ಚಾಗಿ ಮನುಷ್ಯರು ಬರೆದ ಬರಹಗಳನ್ನು ಯಂತ್ರವು ಸೃಷ್ಟಿಸಿದವು ಎಂದು ಗುರುತಿಸುತ್ತವೆ. ಅನೇಕ ಕಂಪನಿಗಳು ನೇಮಕಾತಿ ಅಥವಾ ಗ್ರೇಡಿಂಗ್‌ಗಾಗಿ ಈ ಸಾಧನಗಳನ್ನು ಬಳಸುತ್ತವೆ. ಅವು ಈ ಸ್ಕೋರ್ ಅನ್ನು ಒಂದು ಸತ್ಯ ಎಂದು ಪರಿಗಣಿಸುತ್ತವೆ. ಆದರೆ ಅದು ಸತ್ಯವಲ್ಲ.

ಈ ಸಾಧನಗಳು ನಿಮ್ಮ ಪಠ್ಯದ ಅರ್ಥವನ್ನು ಓದುವುದಿಲ್ಲ. ಅವು ಯಂತ್ರದ ಔಟ್‌ಪುಟ್ ಆಗಿರುವ ಸಾಧ್ಯತೆಯನ್ನು ಊಹಿಸಲು ಗಣಿತವನ್ನು ಬಳಸುತ್ತವೆ.

ಅವು ಮುಖ್ಯವಾಗಿ ಮೂರು ವಿಷಯಗಳನ್ನು ಗಮನಿಸುತ್ತವೆ:

  • Perplexity (ಪರ್ಪ್ಲೆಕ್ಸಿಟಿ): ಇದು ನಿಮ್ಮ ಪದಗಳು ಎಷ್ಟು ಮುನ್ಸೂಚನೆ ನೀಡಬಹುದಾದವು ಎಂಬುದನ್ನು ಅಳೆಯುತ್ತದೆ. AI ಅತ್ಯಂತ ಸಾಧ್ಯತೆಯಿರುವ ಮುಂದಿನ ಪದವನ್ನು ಆರಿಸುತ್ತದೆ. ಮನುಷ್ಯರ ಬರಹವು ಹೆಚ್ಚಾಗಿ ಅನಿರೀಕ್ಷಿತವಾಗಿರುತ್ತದೆ. ಕಡಿಮೆ ಪರ್ಪ್ಲೆಕ್ಸಿಟಿ ಎಂದರೆ ಅದು AI ನಂತೆ ಕಾಣುತ್ತದೆ.
  • Burstiness (ಬರ್ಸ್ಟಿನೆಸ್): ಇದು ವಾಕ್ಯಗಳ ವೈವಿಧ್ಯತೆಯನ್ನು ಅಳೆಯುತ್ತದೆ. ಮನುಷ್ಯರು ಸಣ್ಣ ಮತ್ತು ಉದ್ದದ ವಾಕ್ಯಗಳನ್ನು ಬೆರೆಸಿ ಬರೆಯುತ್ತಾರೆ. AI ಹೆಚ್ಚಾಗಿ ಸ್ಥಿರವಾದ ಲಯವನ್ನು ಬಳಸುತ್ತದೆ. ಕಡಿಮೆ ವೈವಿಧ್ಯತೆಯು AI ನಂತೆ ಕಾಣುತ್ತದೆ.
  • Classifiers (ಕ್ಲಾಸಿಫೈಯರ್‌ಗಳು): ಈ ಮಾದರಿಗಳು ಮನುಷ್ಯ ಮತ್ತು ಯಂತ್ರದ ಮಾದರಿಗಳನ್ನು ಅಧ್ಯಯನ ಮಾಡುತ್ತವೆ. ಅವು ಮಾದರಿಗಳ (patterns) ಆಧಾರದ ಮೇಲೆ ಊಹಿಸುತ್ತವೆ. ಮಾದರಿಯು ಹೊಸ ಬರವಣಿಗೆಯ ಶೈಲಿಯನ್ನು ಕಂಡರೆ, ಅದು ವಿಫಲವಾಗುತ್ತದೆ.

Watermarking ಎಂಬುದು ಇನ್ನೊಂದು ವಿಧಾನವಾಗಿದೆ. ಇದು ಪದಗಳ ಆಯ್ಕೆಯಲ್ಲಿ ಮಾದರಿಗಳನ್ನು ಅಡಗಿಸುತ್ತದೆ. ಯಾರಾದರೂ ಪಠ್ಯವನ್ನು ತಿದ್ದಿದರೆ ಅಥವಾ ಪ್ಯಾರಾಫ್ರೇಸ್ (paraphrase) ಮಾಡಿದರೆ ಈ ವಿಧಾನವು ವಿಫಲವಾಗುತ್ತದೆ.

ಈ ಸಾಧನಗಳಲ್ಲಿ ಗಂಭೀರ ದೋಷಗಳಿವೆ:

  • ಉತ್ತಮ ಬರಹವು AI ನಂತೆ ಕಾಣುತ್ತದೆ. ಸ್ಪಷ್ಟವಾದ, ಸರಳವಾದ ಮತ್ತು ರಚನಾತ್ಮಕವಾದ ಗದ್ಯವು ಕಡಿಮೆ ಪರ್ಪ್ಲೆಕ್ಸಿಟಿ ಹೊಂದಿರುತ್ತದೆ. ನೀವು ಎಷ್ಟು ಉತ್ತಮವಾಗಿ ಬರೆಯುತ್ತೀರೋ, ಸಾಧನಕ್ಕೆ ನೀವು ಅಷ್ಟೇ ರೋಬೋಟಿಕ್ ಆಗಿ ಕಾಣುತ್ತೀರಿ.
  • ಮಾತೃಭಾಷೆಯಲ್ಲದವರ ವಿರುದ್ಧ ಪೂರ್ವಾಗ್ರಹ. ಸ್ಟ್ಯಾನ್‌ಫೋರ್ಡ್ ಅಧ್ಯಯನವೊಂದು ಪತ್ತೆಹಚ್ಚುವ ಸಾಧನಗಳು ಇಂಗ್ಲಿಷ್ ಮಾತೃಭಾಷೆಯಲ್ಲದವರನ್ನು ಹೆಚ್ಚು ಬಾರಿ ಗುರುತಿಸುತ್ತವೆ ಎಂದು ಕಂಡುಕೊಂಡಿದೆ. ಸರಳವಾದ ಪದಬಳಕೆಯು ಈ ಸಾಧನಗಳಿಗೆ ಯಂತ್ರದ ಔಟ್‌ಪುಟ್‌ನಂತೆ ಕಾಣುತ್ತದೆ.
  • ವಂಚಿಸಲು ಸುಲಭ. ಕೆಲವು ಸಮಾನಾರ್ಥಕ ಪದಗಳು ಅಥವಾ ಸಣ್ಣ ತಿದ್ದುಪಡಿಗಳು ಪತ್ತೆಹಚ್ಚುವ ಸಾಧನವನ್ನು ತಪ್ಪಿಸಬಹುದು. ಇದು ಪ್ರಾಮಾಣಿಕ ಬರಹಗಾರರಿಗೆ ಶಿಕ್ಷೆಯಾಗುವಂತೆ ಮಾಡುತ್ತದೆ ಮತ್ತು ಕಡಿಮೆ ಶ್ರಮವಹಿಸಿ AI ಬಳಸುವವರನ್ನು ಸುಲಭವಾಗಿ ಪಾಸಾಗಲು ಬಿಡುತ್ತದೆ.

ನಿಖರವಾಗಿಲ್ಲದ ಕಾರಣ OpenAI ಕೂಡ 2023 ರಲ್ಲಿ ತನ್ನದೇ ಆದ ಪತ್ತೆಹಚ್ಚುವ ಸಾಧನವನ್ನು ಬಳಸುವುದು ನಿಲ್ಲಿಸಿತು. ಸೃಷ್ಟಿಕರ್ತರಿಗೇ ತಮ್ಮದೇ ಆದ AI ಅನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, ಹೆಚ್ಚಿನ ನಿಖರತೆಯನ್ನು ಪ್ರತಿಪಾದಿಸುವ ಮೂರನೇ ವ್ಯಕ್ತಿಯ (third-party) ಸಾಧನವನ್ನು ನಂಬಬೇಡಿ.

ಈ ಸ್ಕೋರ್‌ಗಳನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಬಳಸುವುದು ಹೇಗೆ:

  • ಒಂದೇ ಒಂದು ಸ್ಕೋರ್ ಅನ್ನು ಆಧರಿಸಿ ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಬೇಡಿ. ತಪ್ಪು ಆರೋಪವು ವಿದ್ಯಾರ್ಥಿಗಳಿಗೆ ಅಥವಾ ಉದ್ಯೋಗಾಕಾಂಕ್ಷಿಗಳಿಗೆ ನಿಜವಾದ ಹಾನಿಯನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ.
  • ಪ್ರಕ್ರಿಯೆಯನ್ನು ಪರಿಶೀಲಿಸಿ. ಸಂಭವನೀಯತೆಯ ಸ್ಕೋರ್ ಬದಲಿಗೆ ಎಡಿಟ್ ಇತಿಹಾಸ (edit history) ಮತ್ತು ಕರಡು ಪ್ರತಿಗಳನ್ನು (drafts) ಗಮನಿಸಿ.
  • ಅನಿಶ್ಚಿತತೆಯನ್ನು ತೋರಿಸಿ. ನೀವು ಈ ಸಾಧನಗಳನ್ನು ಬಳಸುತ್ತಿದ್ದರೆ, ಮನುಷ್ಯ ಅಥವಾ AI ಎಂಬ ಬೈನರಿ ಲೇಬಲ್‌ಗಳ ಬದಲಿಗೆ ವಿಶ್ವಾಸಾರ್ಹತೆಯ ವ್ಯಾಪ್ತಿಯನ್ನು (range of confidence) ತೋರಿಸಿ.

AI ಪತ್ತೆಹಚ್ಚುವ ಸಾಧನಗಳು ಕೇವಲ ಮಾದರಿಗಳನ್ನು ಹೊಂದಾಣಿಕೆ ಮಾಡುವವು (pattern matchers). ಅವು ಸುಳಿವುಗಳಿಗಾಗಿ ಉಪಯುಕ್ತವಾಗಿರಬಹುದು ಆದರೆ ಸಾಕ್ಷಿಯಾಗಿ ಬಳಸಲು ಅಪಾಯಕಾರಿ.

Source: https://dev.to/ricco020/ai-text-detectors-are-mostly-guessing-how-they-actually-work-2ibl

Optional learning community: https://t.me/GyaanSetuAi