𝗬𝗼𝘂𝗿 𝗔𝗜 𝗳𝗲𝗲𝗹𝘀 𝘀𝗹𝗼𝘄? 𝗠𝗮𝘆𝗯𝗲 𝗶𝘁'𝘀 𝗻𝗼𝘁 𝗱𝘂𝗺𝗯. ನಿಮ್ಮ AI ನಿಧಾನವೆನಿಸುತ್ತಿದೆಯೇ? ಬಹುಶಃ ಅದು ದಡ್ಡವಾಗಿರಲಿಕ್ಕಿಲ್ಲ.
AI ಹೆಚ್ಚಾಗಿ ನಿಧಾನವೆನಿಸಲು ಕಾರಣ ಅದು ಏಕಕಾಲದಲ್ಲಿ ಒಂದು ಕೆಲಸವನ್ನು ಮಾತ್ರ ಮಾಡುತ್ತದೆ. ಅದು ಕ್ಯೂನಲ್ಲಿ (queue) ಕಾಯುತ್ತದೆ. ಒಂದು ಮಾಡ್ಯೂಲ್ ಮುಗಿಯುವವರೆಗೆ ನೀವು ಮುಂದಿನದಕ್ಕಾಗಿ ಕಾಯಬೇಕಾಗುತ್ತದೆ.
ಪ್ಯಾರಲಲ್ ಏಜೆಂಟ್ಗಳನ್ನು (parallel agents) ಬಳಸುವ ಮೂಲಕ ನೀವು ಇದನ್ನು ಸರಿಪಡಿಸಬಹುದು.
ಅನೇಕ ಮಾಡ್ಯೂಲ್ಗಳು ಒಂದಕ್ಕೊಂದು ಅವಲಂಬಿತವಾಗಿರುವುದಿಲ್ಲ. ನೀವು ಅವುಗಳನ್ನು ವಿಂಗಡಿಸಿದರೆ, ಹಲವಾರು ಏಜೆಂಟ್ಗಳು ಏಕಕಾಲದಲ್ಲಿ ಕೆಲಸ ಮಾಡಬಹುದು. ಇದರಿಂದ ಅದೇ ಕೆಲಸವನ್ನು ಬಹಳ ಕಡಿಮೆ ಸಮಯದಲ್ಲಿ ಮುಗಿಸಬಹುದು.
ಪ್ಯಾರಲಲ್ AI ವರ್ಕ್ಫ್ಲೋವನ್ನು (parallel AI workflow) ನಿರ್ಮಿಸುವುದು ಹೇಗೆ ಎಂಬುದು ಇಲ್ಲಿದೆ:
ಮೊದಲು ನಿಮ್ಮ ಆರ್ಕಿಟೆಕ್ಚರ್ ಅನ್ನು ಸರಿಪಡಿಸಿ ಪ್ಯಾರಲಲಿಸಂಗೆ (Parallelism) ಸ್ವಚ್ಛವಾದ ವಿನ್ಯಾಸದ ಅಗತ್ಯವಿದೆ. ನಿಮ್ಮ ಮಾಡ್ಯೂಲ್ಗಳು ಲೂಸ್ಲಿ ಕಪ್ಲ್ಡ್ (loosely coupled) ಆಗಿರಬೇಕು. ಅವು ಸ್ಪಷ್ಟವಾದ ಇಂಟರ್ಫೇಸ್ಗಳ ಮೂಲಕ ಸಂವಹನ ನಡೆಸಬೇಕು. ಅಸ್ತವ್ಯಸ್ತವಾದ ಕೋಡ್ ಮೇಲೆ ನೀವು ಪ್ಯಾರಲಲಿಸಂ ಅನ್ನು ಹೇರಿದರೆ, ಅದು ತಪ್ಪುಗಳ ಗೋಜಲನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ. ಈ ಇಂಟರ್ಫೇಸ್ಗಳನ್ನು ಯೋಜಿಸಲು ವಿನ್ಯಾಸದ ಹಂತದಲ್ಲಿ AI ಅನ್ನು ಬಳಸಿ.
ನಿರ್ದಿಷ್ಟ ಪಾತ್ರಗಳನ್ನು ನಿಯೋಜಿಸಿ ಸಮಯ ಮತ್ತು ಹಣವನ್ನು ಉಳಿಸಲು ವಿವಿಧ ಕಾರ್ಯಗಳಿಗಾಗಿ ವಿಭಿನ್ನ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸಿ:
- ದಿ ಲೀಡ್ (The Lead - Opus): ಒಟ್ಟಾರೆ ಚಿತ್ರಣವನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ, ಕೆಲಸವನ್ನು ನಿಯೋಜಿಸುತ್ತದೆ ಮತ್ತು ಅಂತಿಮ ಪರಿಶೀಲನೆಗಳನ್ನು ಮಾಡುತ್ತದೆ.
- ದಿ ಪ್ಲಾನರ್ (The Planner - Sonnet): ಟೆಸ್ಟ್-ಡ್ರಿ diesen ಡೆವಲಪ್ಮೆಂಟ್ (TDD) ಮತ್ತು ಅನುಷ್ಠಾನ ಯೋಜನೆಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ.
- ದಿ ವರ್ಕರ್ (The Worker - Haiku): ನೈಜ ಕೋಡ್ ಬರೆಯುತ್ತದೆ ಮತ್ತು ಪರೀಕ್ಷೆಗಳನ್ನು (tests) ನಡೆಸುತ್ತದೆ.
ನಿಮ್ಮ ಮಿತಿಗಳನ್ನು ನಿಗದಿಪಡಿಸಿ ಹೆಚ್ಚು ಏಜೆಂಟ್ಗಳು ಇದ್ದರೆಲ್ಲಾ ಒಳ್ಳೆಯದಲ್ಲ. ನಾನು ಏಕಕಾಲದಲ್ಲಿ 10 ಏಜೆಂಟ್ಗಳನ್ನು ಹೊಂದಿಸಲು ಪ್ರಯತ್ನಿಸಿದೆ, ಆದರೆ ನನ್ನ ಮೆಷಿನ್ನಲ್ಲಿ ಮೆಮೊರಿ ಖಾಲಿಯಾಯಿತು. ನಂತರ ನಾನು 5 ಏಜೆಂಟ್ಗಳಿಗೆ ಇಳಿದುಕೊಂಡೆ. ಇತರ ಕಾರ್ಯಗಳೊಂದಿಗೆ ಸಂಯೋಜಿಸಿದಾಗ ಇದು ನನಗೆ 10x ವೇಗವನ್ನು ನೀಡಿತು. ನಿಮ್ಮ ಮೆಷಿನ್ ಮತ್ತು ಕೋಟಾಕ್ಕೆ (quota) ಅನುಗುಣವಾಗಿ ನಿಮ್ಮ ಕನ್ಕರನ್ಸಿ (concurrency) ಅನ್ನು ಹೊಂದಿಸಿ.
ರಿವ್ಯೂಗಳಿಗಾಗಿ ಲೀಡ್ ಏಜೆಂಟ್ ಅನ್ನು ಬಳಸಿ ಕೆಲಸವನ್ನು ಪರಿಶೀಲಿಸಲು ಪ್ರತ್ಯೇಕ ಏಜೆಂಟ್ ಅನ್ನು ನೇಮಿಸಿಕೊಳ್ಳಬೇಡಿ. ಆ ಏಜೆಂಟ್ ಇಡೀ ಕಾರ್ಯವನ್ನು ಮೊದಲಿನಿಂದ ಕಲಿಯಬೇಕಾಗುತ್ತದೆ, ಇದು ಟೋಕನ್ಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತದೆ. ಲೀಡ್ ಏಜೆಂಟ್ ಅನ್ನೇ ರಿವ್ಯೂ ಮಾಡಲು ಬಿಡಿ. ಅದು ಈಗಾಗಲೇ ತಾನು ಏನನ್ನು ನಿಯೋಜಿಸಿದೆ ಎಂದು ತಿಳಿದಿರುವುದರಿಂದ, ಕೆಲಸವನ್ನು ವೇಗವಾಗಿ ಮತ್ತು ನಿಖರವಾಗಿ ಪರಿಶೀಲಿಸಬಹುದು.
ಅನಗತ್ಯ ವಿಭಜನೆಯನ್ನು ತಪ್ಪಿಸಿ ಕೆಲವು ಕಾರ್ಯಗಳು ಕ್ರಮಬದ್ಧವಾಗಿರಲೇಬೇಕು. ಟೈಟ್ಲಿ ಕಪ್ಲ್ಡ್ (tightly coupled) ಮಾಡ್ಯೂಲ್ಗಳನ್ನು ನೀವು ವಿಭಜಿಸಲು ಪ್ರಯತ್ನಿಸಿದರೆ, ಗುಣಮಟ್ಟ ಕುಸಿಯುತ್ತದೆ. ನಿಮ್ಮ AI ಗೆ ಹೀಗೆ ಹೇಳಿ: "These modules are coupled, do not force a split."
ಇಂದು ಹೇಗೆ ಪ್ರಾರಂಭಿಸುವುದು:
- ನಿಮ್ಮ ಗ್ಲೋಬಲ್ ಇನ್ಸ್ಟ್ರಕ್ಷನ್ಗಳಿಗೆ (global instructions) "Parallelize when you can" ಎಂಬುದನ್ನು ಸೇರಿಸಿ.
- ನಿಮ್ಮ ಸೆಟ್ಟಿಂಗ್ಗಳಲ್ಲಿ ಗರಿಷ್ಠ ಕನ್ಕರಂಟ್ ಸಬ್-ಏಜೆಂಟ್ಗಳನ್ನು (max concurrent subagents) ಹೆಚ್ಚಿಸಿ.
- ನೀವು ಪ್ರತಿ ಬಾರಿ ಕಾರ್ಯವನ್ನು ನೀಡಿದಾಗಲೂ ಪ್ಯಾರಲಲೈಸ್ ಮಾಡಲು AI ಗೆ ನೆನಪಿಸಿ.
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi