FastContext: ಹುಡುಕಾಟವನ್ನು ಪರಿಹಾರದಿಂದ ಪ್ರತ್ಯೇಕಿಸಿ
ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ಗಳು ಕೋಡ್ ಹುಡುಕುವಲ್ಲಿ ಅತಿಯಾದ ಸಮಯವನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತವೆ.
ಮೈಕ್ರೋಸಾಫ್ಟ್ ಮತ್ತು ಶಾಂಘೈ ಜಿಯಾವೊ ಟಾಂಗ್ ವಿಶ್ವವಿದ್ಯಾಲಯವು ಈ ಸಮಸ್ಯೆಯನ್ನು ಅಧ್ಯಯನ ಮಾಡಿದೆ. ಕೋಡ್ ಹುಡುಕುವ ಪ್ರಕ್ರಿಯೆಯು ಟೂಲ್ ಬಳಕೆಯ (tool use) 56.2% ಹಂತಗಳನ್ನು ಬಳಸುತ್ತದೆ ಎಂದು ಅವರು ಕಂಡುಕೊಂಡಿದ್ದಾರೆ. ಇದು ಒಟ್ಟು ಟೋಕನ್ಗಳಲ್ಲಿ (tokens) 46.5% ರಷ್ಟನ್ನು ಬಳಸುತ್ತದೆ.
ಒಂದು ಮಾಡೆಲ್ ಕೋಡ್ ಅನ್ನು ಹುಡುಕುವ ಮತ್ತು ಸರಿಪಡಿಸುವ ಕೆಲಸವನ್ನು ಏಕಕಾಲದಲ್ಲಿ ಮಾಡಿದಾಗ, ಅದರ ಮೆಮೊರಿ ಗೊಂದಲಮಯವಾಗುತ್ತದೆ. ಇದು ಅನಗತ್ಯ ಫೈಲ್ ಸ್ನಿಪ್ಪೆಟ್ಗಳು ಮತ್ತು ವಿಫಲವಾದ ಊಹೆಗಳಿಂದ ತುಂಬಿಹೋಗುತ್ತದೆ. ಇದು ತಾರ್ಕಿಕ ಚಿಂತನೆಯನ್ನು (reasoning) ಕಷ್ಟಕರವಾಗಿಸುತ್ತದೆ.
FastContext ಇದನ್ನು ಪರಿಹರಿಸುತ್ತದೆ. ಇದು ರೆಪೊಸಿಟರಿ ಅನ್ವೇಷಣೆಗಾಗಿ (repository exploration) ಪ್ರತ್ಯೇಕ ಸಬ್-ಏಜೆಂಟ್ ಅನ್ನು ಬಳಸುತ್ತದೆ.
ಇದು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ: • ಎಕ್ಸ್ಪ್ಲೋರರ್ ಏಜೆಂಟ್ ಸರಿಯಾದ ಫೈಲ್ಗಳು ಮತ್ತು ಲೈನ್ ಸಂಖ್ಯೆಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುತ್ತದೆ. • ಇದು ಮುಖ್ಯ ಏಜೆಂಟ್ಗೆ ದೀರ್ಘವಾದ ಸಾರಾಂಶಗಳನ್ನು ಕಳುಹಿಸುವುದಿಲ್ಲ. • ಇದು ಕೇವಲ ನಿಖರವಾದ ಸಾಕ್ಷ್ಯಗಳ ಸಣ್ಣ ಗುಂಪನ್ನು ಮಾತ್ರ ಕಳುಹಿಸುತ್ತದೆ. • ಮುಖ್ಯ ಏಜೆಂಟ್ ಬಗ್ ಅನ್ನು ಸರಿಪಡಿಸುವ ಕಡೆ ಗಮನ ಹರಿಸುತ್ತದೆ.
ಈ ವಿನ್ಯಾಸವು ಎರಡು ದೊಡ್ಡ ಪ್ರಯೋಜನಗಳನ್ನು ನೀಡುತ್ತದೆ:
- ಕಡಿಮೆ ಗೊಂದಲ (Less noise). ಮುಖ್ಯ ಏಜೆಂಟ್ ಪ್ರತಿಯೊಂದು ವಿಫಲ ಪ್ರಯತ್ನಗಳನ್ನು (dead ends) ನೋಡಬೇಕಾಗಿಲ್ಲ.
- ಉತ್ತಮ ದಕ್ಷತೆ. ಸಣ್ಣ ಮಾಡೆಲ್ಗಳು (4B ನಿಂದ 30B ಪ್ಯಾರಾಮೀಟರ್ಗಳು) ಹುಡುಕಾಟದ ಕೆಲಸವನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ನಿರ್ವಹಿಸಬಲ್ಲವು.
ಫಲಿತಾಂಶಗಳು ಸ್ಪಷ್ಟವಾಗಿವೆ. Mini-SWE-Agent ಜೊತೆಗೆ FastContext ಅನ್ನು ಬಳಸುವುದರಿಂದ ಕಾರ್ಯದ ಯಶಸ್ಸು 5.5% ರಷ್ಟು ಸುಧಾರಿಸಿದೆ. ಇದು ಟೋಕನ್ ಬಳಕೆಯನ್ನು 60% ರಷ್ಟು ಕಡಿಮೆ ಮಾಡಿದೆ.
ಏಜೆಂಟ್ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಪಾಠಗಳು:
- ಹುಡುಕಾಟವನ್ನು ಒಂದು ಪ್ರಮುಖ ಕಾರ್ಯವಾಗಿ ಪರಿಗಣಿಸಿ, ಕೇವಲ ಪೂರಕ ಹಂತವಾಗಿ ಅಲ್ಲ.
- ಪೂರ್ಣ ಚಾಟ್ ಇತಿಹಾಸಗಳ ಬದಲಿಗೆ ಫೈಲ್ ಪಾತ್ಗಳು ಮತ್ತು ಲೈನ್ ಸಂಖ್ಯೆಗಳನ್ನು ಕಳುಹಿಸಿ.
- ಮುಂದಿನ ಮಾಡೆಲ್ಗೆ ರಚನಾತ್ಮಕ ಡೇಟಾವನ್ನು (structured data) ಒದಗಿಸಲು ಮಾಡೆಲ್ಗಳನ್ನು ತರಬೇತಿಗೊಳಿಸಿ.
- ನಿಮ್ಮ ಯಶಸ್ಸಿನ ದರವನ್ನು ಎಷ್ಟು ನಿಖರವಾಗಿ ಗಮನಿಸುತ್ತೀರೋ, ಅಷ್ಟೇ ನಿಮ್ಮ ಟೋಕನ್ ಬಳಕೆಯನ್ನು ಸಹ ಗಮನಿಸಿ.
ಒಂದು ಮಾಡೆಲ್ ಎಲ್ಲವನ್ನೂ ಮಾಡಲು ಒತ್ತಾಯಿಸಬೇಡಿ. ಹುಡುಕಾಟಕ್ಕಾಗಿ ವಿಶೇಷ ಪರಿಣತಿ ಹೊಂದಿದ ಏಜೆಂಟ್, ಪರಿಹಾರ ನೀಡುವ ಏಜೆಂಟ್ ಅನ್ನು ವೇಗವಾಗಿ ಮತ್ತು ಹೆಚ್ಚು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿಸುತ್ತದೆ.
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi