ಪೈಥಾನ್ ಆರಂಭಿಕರಿಗಾಗಿ ಜೆನ್ ಎಐ ಪರಿಚಯ

Python ಆರಂಭಿಕರಿಗಾಗಿ Gen AI ಪರಿಚಯ

ಹೆಚ್ಚಿನ ಡೆವಲಪರ್‌ಗಳು ನಿಗದಿತ ನಿಯಮಗಳನ್ನು ಬಳಸಿ ಕೋಡ್ ಬರೆಯುತ್ತಾರೆ. ನೀವು ಇನ್‌ಪುಟ್ ಪಡೆಯುತ್ತೀರಿ, if/else ಸ್ಟೇಟ್‌ಮೆಂಟ್‌ಗಳು ಅಥವಾ ಲೂಪ್‌ಗಳನ್ನು ಅನ್ವಯಿಸುತ್ತೀರಿ ಮತ್ತು ನಿರೀಕ್ಷಿತ ಫಲಿತಾಂಶವನ್ನು ನೀಡುತ್ತೀರಿ. ಇದು JSON ಅಥವಾ CSV ನಂತಹ ರಚನಾತ್ಮಕ ಡೇಟಾಗಳಿಗೆ (structured data) ಕೆಲಸ ಮಾಡುತ್ತದೆ.

ಆದರೆ ಅಸ್ತವ್ಯಸ್ತವಾದ (messy) ಕೆಲಸಗಳ ಬಗ್ಗೆ ಏನು?

• 100 ಸಪೋರ್ಟ್ ಟಿಕೆಟ್‌ಗಳನ್ನು ಸಾರಾಂಶಗೊಳಿಸುವುದು (Summarizing).
• ಫೀಚರ್ ಪಟ್ಟಿಯನ್ನು ಇಮೇಲ್ ಆಗಿ ಪರಿವರ್ತಿಸುವುದು.
• ಬ್ಲಾಗ್ ಪೋಸ್ಟ್‌ಗಳಿಂದ ಅನುಕೂಲ ಮತ್ತು ಅನಾನುಕೂಲಗಳನ್ನು ಹೋಲಿಸುವುದು.

ನೀವು regex ಅಥವಾ ಸಂಕೀರ್ಣ ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ಬಳಸಬಹುದು, ಆದರೆ ಅದು ಅಸ್ಥಿರವಾಗಿರುತ್ತದೆ (fragile). Generative AI ಈ ಅಸ್ಪಷ್ಟ ಕೆಲಸಗಳನ್ನು ಸುಲಭವಾಗಿ ನಿರ್ವಹಿಸುತ್ತದೆ.

ಇದು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ

ಒಂದು ಜನರೇಟಿವ್ ಮಾಡೆಲ್ ಒಂದು ಸರಳ ಲೂಪ್ ಅನ್ನು ಅನುಸರಿಸುತ್ತದೆ:

• ಇದು ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ (prompt) ಮತ್ತು ಹಿಂದಿನ ಪಠ್ಯವನ್ನು ನೋಡುತ್ತದೆ.
• ಇದು ಪಠ್ಯದ ಮುಂದಿನ ಸಣ್ಣ ಭಾಗವನ್ನು ಮುನ್ಸೂಚಿಸುತ್ತದೆ (predicts).
• ಅದು ಆ ಭಾಗವನ್ನು ಪಠ್ಯಕ್ಕೆ ಸೇರಿಸುತ್ತದೆ.
• ಕೆಲಸ ಮುಗಿಯುವವರೆಗೆ ಇದು ಪುನರಾವರ್ತನೆಯಾಗುತ್ತದೆ.

Large Language Models (LLMs) 'transformer' ಎಂಬ ಆರ್ಕಿಟೆಕ್ಚರ್ ಅನ್ನು ಬಳಸುತ್ತವೆ. ಎಡದಿಂದ ಬಲಕ್ಕೆ ಓದುವ ಬದಲಿಗೆ, ಮಾಡೆಲ್ ನಿಮ್ಮ ಇನ್‌ಪುಟ್‌ನ ಎಲ್ಲಾ ಭಾಗಗಳನ್ನು ಏಕಕಾಲದಲ್ಲಿ ನೋಡುತ್ತದೆ. ಮುಂದಿನ ಮುನ್ಸೂಚನೆಗಾಗಿ ಯಾವ ಪದಗಳು ಹೆಚ್ಚು ಮುಖ್ಯ ಎಂಬುದನ್ನು ಇದು ನಿರ್ಧರಿಸುತ್ತದೆ.

Python ಡೆವಲಪರ್‌ಗಳಿಗೆ ಎರಡು ವಿಷಯಗಳು ಮುಖ್ಯವಾಗಿವೆ: tokens ಮತ್ತು context windows.

Tokens ಮಾಡೆಲ್‌ಗಳು ಕಚ್ಚಾ ಸ್ಟ್ರಿಂಗ್‌ಗಳನ್ನು (raw strings) ಓದುವುದಿಲ್ಲ. ಅವು ಪಠ್ಯವನ್ನು ಟೋಕನ್‌ಗಳಾಗಿ (tokens) ವಿಂಗಡಿಸುತ್ತವೆ. ಟೋಕನ್ ಎಂದರೆ ಒಂದು ಪದದ ಸಣ್ಣ ಭಾಗ. API ಬೆಲೆ ಮತ್ತು ಮಿತಿಗಳು ಅಕ್ಷರಗಳ ಬದಲಿಗೆ ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸುತ್ತವೆ.

Context Window ಇದು ಮಾಡೆಲ್ ಏಕಕಾಲದಲ್ಲಿ ನೋಡುವ ಪಠ್ಯದ ಪ್ರಮಾಣವಾಗಿದೆ. ಇದು ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್, ಚಾಟ್ ಇತಿಹಾಸ ಮತ್ತು ಮಾಡೆಲ್ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ. ನೀವು ಈ ಮಿತಿಯನ್ನು ಮೀರಿದರೆ, ಮಾಡೆಲ್ ಸಂಭಾಷಣೆಯ ಹಳೆಯ ಭಾಗಗಳನ್ನು ಮರೆತುಬಿಡುತ್ತದೆ.

ಪ್ರಾಂಪ್ಟ್‌ಗಳಿಂದ ಏಜೆಂಟ್‌ಗಳತ್ತ ಸಾಗುವುದು

ಮಾಡೆಲ್‌ಗೆ ಒಂದೇ ಪ್ರಾಂಪ್ಟ್ ಕಳುಹಿಸುವುದು ಒಂದು ಆರಂಭವಷ್ಟೇ. ನೀವು ಪಠ್ಯವನ್ನು ಸಾರಾಂಶಗೊಳಿಸಬಹುದು ಅಥವಾ ದೋಷಗಳನ್ನು (errors) ವಿವರಿಸಬಹುದು. ಆದಾಗ್ಯೂ, ಮೂಲಭೂತ LLM ಗೆ ಮಿತಿಗಳಿವೆ:

• ಇದು ನಿಮ್ಮ ಡೇಟಾಬೇಸ್‌ಗಳು ಅಥವಾ APIಗಳನ್ನು ಕರೆಯಲು ಸಾಧ್ಯವಿಲ್ಲ.
• ಇದು ವಿನಂತಿಗಳ (requests) ನಡುವೆ ವಿಷಯಗಳನ್ನು ನೆನಪಿಟ್ಟುಕೊಳ್ಳುವುದಿಲ್ಲ.
• ಇದು ತಪ್ಪು ಮಾಹಿತಿ ಅಥವಾ ಕಾಲ್ಪನಿಕ ಸತ್ಯಗಳನ್ನು ಸೃಷ್ಟಿಸಬಹುದು.

ನೈಜ ಉತ್ಪನ್ನಗಳನ್ನು ನಿರ್ಮಿಸಲು, ನಿಮಗೆ ಏಜೆಂಟ್‌ಗಳು (agents) ಬೇಕು. ಏಜೆಂಟ್ LLM ಗೆ ಮೂರು ವಿಷಯಗಳನ್ನು ಸೇರಿಸುತ್ತದೆ:

• Tools: ವೆಬ್ ಸರ್ಚ್ ಅಥವಾ ಕ್ಯಾಲ್ಕುಲೇಟರ್‌ಗಳಂತಹ ಫಂಕ್ಷನ್‌ಗಳು.
• Memory: ಹಿಂದಿನ ಸಂಭಾಷಣೆಗಳು ಮತ್ತು ಬಳಕೆದಾರರ ಡೇಟಾಕ್ಕಾಗಿ ಸಂಗ್ರಹಣೆ.
• Orchestration: ಯಾವ ಟೂಲ್ ಬಳಸಬೇಕು ಮತ್ತು ಯಾವಾಗ ನಿಲ್ಲಿಸಬೇಕು ಎಂದು ನಿರ್ಧರಿಸುವ ತರ್ಕ (logic).

ಸಾಮಾನ್ಯ LLM ಒಂದು ಉತ್ತರವನ್ನು ನೀಡುತ್ತದೆ. ಏಜೆಂಟ್ ಒಂದು ಗುರಿಯನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹ ಫಲಿತಾಂಶವನ್ನು ಪಡೆಯಲು ಟೂಲ್ಸ್ ಮತ್ತು ಮೆಮೊರಿಯನ್ನು ಬಳಸುತ್ತದೆ.

Source: https://dev.to/raunaklallala/intro-to-gen-ai-for-python-beginners-stop-just-chatgpt-ing-and-start-using-chatgpt-582p

Optional learning community: https://t.me/GyaanSetuAi