Nous Research 'Hermes Agent' ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ, ಇದು ಒಂದು ಓಪನ್-ಸೋರ್ಸ್ ಫ್ರೇಮ್ವರ್ಕ್ ಆಗಿದ್ದು, ಇದು ಡೆವಲಪರ್ಗಳು ತಮ್ಮದೇ ಆದ ಹಾರ್ಡ್ವೇರ್ನಲ್ಲಿ ವೈಯಕ್ತಿಕ AI ಅಸಿಸ್ಟೆಂಟ್ ಅನ್ನು ನಡೆಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಈ ಪ್ರಾಜೆಕ್ಟ್ ಅಸಿಸ್ಟೆಂಟ್ಗೆ ಟೂಲ್-ಅಕ್ಸೆಸ್, ಮೆಮೊರಿ ಮತ್ತು ವರ್ಕ್ಫ್ಲೋ ಆಟೊಮೇಷನ್ನಂತಹ ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ನೀಡುವ ಮೂಲಕ AI ಅನ್ನು ಕೇವಲ ಚಾಟ್ ಬಾಟ್ಗಳಿಗಿಂತ ಮೀರಿ ಬೆಳೆಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ—ಇವು ಕಸ್ಟಮ್ ಡೆವ್-ಆಪ್ಸ್ (dev-ops) ಅಥವಾ ಕೋಡ್-ಅನಾಲಿಸಿಸ್ ಪೈಪ್ಲೈನ್ಗಳನ್ನು ನಿರ್ಮಿಸುವವರಿಗೆ ಬಹಳ ಮುಖ್ಯವಾದ ವೈಶಿಷ್ಟ್ಯಗಳಾಗಿವೆ.
Why the shift matters
ಸಾಂಪ್ರದಾಯಿಕ ಚಾಟ್ಬಾಟ್ಗಳು ಕೇವಲ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸುವ ಅಥವಾ ಪಠ್ಯವನ್ನು ಸಾರಾಂಶಗೊಳಿಸುವ ಮಟ್ಟದಲ್ಲಿ ನಿಲ್ಲುತ್ತವೆ. ಕಮಾಂಡ್ಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಬಲ್ಲ, ಸಂವಹನಗಳ ನಡುವೆ ಸ್ಥಿತಿಯನ್ನು (state) ಕಾಯ್ದುಕೊಳ್ಳಬಲ್ಲ ಮತ್ತು ವಿವಿಧ ಸೇವೆಗಳನ್ನು ಒಟ್ಟಿಗೆ ಜೋಡಿಸಬಲ್ಲ AI ಏಜೆಂಟ್, ಸಂಭಾಷಣಾ ಇಂಟರ್ಫೇಸ್ ಅನ್ನು ಪ್ರೋಗ್ರಾಮೆಬಲ್ ಹೆಲ್ಪರ್ ಆಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ. ಡೆವಲಪರ್ಗಳಿಗೆ, ಇದರರ್ಥ ಡೇಟಾವನ್ನು ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಸರ್ವರ್ಗೆ ಕಳುಹಿಸದೆ ಡಾಕ್ಯುಮೆಂಟೇಶನ್ ಪಡೆಯುವ, ಲಿಂಟರ್ಗಳನ್ನು (linters) ರನ್ ಮಾಡುವ ಅಥವಾ ಕ್ಲೌಡ್ ಸಂಪನ್ಮೂಲಗಳನ್ನು (cloud resources) ಒದಗಿಸುವ ಏಕೈಕ "ಅಸಿಸ್ಟೆಂಟ್" ಸಿಗುತ್ತದೆ ಎಂದರ್ಥ.
How Hermes is built
Hermes ಬಳಕೆದಾರ ಮತ್ತು ಅಡಿಪಾಯದ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ ನಡುವೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಇದರ ಆರ್ಕಿಟೆಕ್ಚರ್ ನಾಲ್ಕು ಜವಾಬ್ದಾರಿಗಳನ್ನು ಪ್ರತ್ಯೇಕಿಸುತ್ತದೆ:
- User interaction – ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ಸೆರೆಹಿಡಿಯುತ್ತದೆ ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಪ್ರದರ್ಶಿಸುತ್ತದೆ.
- Model communication – API (OpenRouter, local models, ಇತ್ಯಾದಿ) ಮೂಲಕ ಸಂಭಾಷಣೆಯನ್ನು ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ಗೆ ವರ್ಗಾಯಿಸುತ್ತದೆ.
- Tool execution – ಹೋಸ್ಟ್ ಮೆಷಿನ್ನಲ್ಲಿ ಶೆಲ್ ಕಮಾಂಡ್ಗಳನ್ನು ರನ್ ಮಾಡುತ್ತದೆ, ಫೈಲ್ಗಳನ್ನು ಓದುತ್ತದೆ ಅಥವಾ ಬಾಹ್ಯ ಸೇವೆಗಳನ್ನು ಕರೆಯುತ್ತದೆ.
- Memory handling – ಅಸಿಸ್ಟೆಂಟ್ ಹಿಂದಿನ ಹಂತಗಳನ್ನು ಉಲ್ಲೇಖಿಸಲು ಅನುಕೂಲವಾಗುವಂತೆ ಸಂದರ್ಭವನ್ನು (context) ಸಂಗ್ರಹಿಸುತ್ತದೆ.
ಈ ಫ್ರೇಮ್ವರ್ಕ್ ನಾಲ್ಕು ಪ್ರಮುಖ ಘಟಕಗಳಾಗಿ ವಿಂಗಡಿಸಲ್ಪಟ್ಟಿದೆ:
- Core – ಬಳಕೆದಾರ ಏನು ಬಯಸುತ್ತಾರೆ ಮತ್ತು ಯಾವ ಟೂಲ್ ಅನ್ನು ಬಳಸಬೇಕು ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ.
- Model – ಹೋಸ್ಟ್ ಮಾಡಲಾದ API ಅಥವಾ ಸ್ಥಳೀಯವಾಗಿ ರನ್ ಮಾಡಲಾದ ಮಾಡೆಲ್ ಮೂಲಕ ಪಠ್ಯ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.
- Tools – ಫೈಲ್ I/O ಅಥವಾ HTTP ರಿಕ್ವೆಸ್ಟ್ಗಳಂತಹ ಕ್ರಿಯೆಗಳನ್ನು ಮಾಡುವ ಲೋ-ಲೆವೆಲ್ ಪ್ರಿಮಿಟಿವ್ಗಳು (low-level primitives).
- Skills – ಕೋಡ್ ರಿವ್ಯೂ ಅಥವಾ ಸಿಸ್ಟಮ್ ಅಡ್ಮಿನಿಸ್ಟ್ರೇಷನ್ನಂತಹ ನಿರ್ದಿಷ್ಟ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುವ ಟೂಲ್ಗಳ ಉನ್ನತ ಮಟ್ಟದ ಬಂಡಲ್ಗಳು.
ಎಲ್ಲವೂ ಓಪನ್ ಸೋರ್ಸ್ ಆಗಿರುವುದರಿಂದ, ಡೆವಲಪರ್ಗಳು ಲಾಜಿಕ್ ಅನ್ನು ಪರೀಕ್ಷಿಸಬಹುದು, ಮಾಡೆಲ್ ಪ್ರೊವೈಡರ್ ಅನ್ನು ಬದಲಾಯಿಸಬಹುದು ಅಥವಾ ನಿರ್ದಿಷ್ಟ ಕಾರ್ಯಗಳಿಗಾಗಿ ಹೊಸ ಟೂಲ್ಗಳನ್ನು ಸೇರಿಸಬಹುದು.
Getting Hermes running
- ರೆಪೊಸಿಟರಿಯನ್ನು ಕ್ಲೋನ್ ಮಾಡಿ
git clone https://github.com/NousResearch/hermes-agent.git - Python ಅವಲಂಬನೆಗಳನ್ನು ಇನ್ಸ್ಟಾಲ್ ಮಾಡಿ
pip install -r requirements.txt - ಎಕ್ಸಾಂಪಲ್ ಎನ್ವಿರಾನ್ಮೆಂಟ್ ಫೈಲ್ ಅನ್ನು ಕಾಪಿ ಮಾಡಿ ಮತ್ತು ನಿಮ್ಮ API ಕೀಗಳನ್ನು ಸೇರಿಸಿ
cp .env.example .env - ಅಸಿಸ್ಟೆಂಟ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸಿ
hermes
ಪ್ರಾರಂಭಿಸಿದ ನಂತರ, “find the security flaw in this snippet” ನಂತಹ ಪ್ರಾಂಪ್ಟ್ ಟೈಪ್ ಮಾಡಿದರೆ, ಅದು Core ಅನ್ನು ಸಕ್ರಿಯಗೊಳಿಸುತ್ತದೆ, ಇದು ಸ್ಟ್ಯಾಟಿಕ್-ಅನಾಲಿಸಿಸ್ ಟೂಲ್ ಅನ್ನು ಕರೆಯಬಹುದು, ಫಲಿತಾಂಶವನ್ನು Model ಗೆ ಕಳುಹಿಸಬಹುದು ಮತ್ತು ಅಂತಿಮವಾಗಿ ಸಂಕ್ಷಿಪ್ತ ವರದಿಯನ್ನು ನೀಡಬಹುದು. ಇದೇ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಸೇವೆಗಳನ್ನು ಮರುಪ್ರಾರಂಭಿಸಲು, ಡೇಟಾಬೇಸ್ ಅನ್ನು ಕ್ವೆರಿ ಮಾಡಲು ಅಥವಾ CI ಪೈಪ್ಲೈನ್ ಅನ್ನು ನಿರ್ವಹಿಸಲು ಬಳಸಬಹುದು.
Security considerations
ಯಂತ್ರಕ್ಕೆ ನೇರ ಪ್ರವೇಶವಿರುವ AI ಏಜೆಂಟ್ ಅನ್ನು ರನ್ ಮಾಡುವುದು ಬಳಕೆದಾರರಿಗೆ ಹೆಚ್ಚಿನ ಅಧಿಕಾರಗಳನ್ನು (elevated privileges) ನೀಡಿದಂತೆ. ಈ ಪ್ರಾಜೆಕ್ಟ್ನ README ಕೆಲವು ಪ್ರಾಯೋಗಿಕ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಸೂಚಿಸುತ್ತದೆ:
- API ಕೀಗಳನ್ನು
.envಫೈಲ್ನಲ್ಲಿ ಸಂಗ್ರಹಿಸಿ ಮತ್ತು ಫೈಲ್ ಅನುಮತಿಗಳನ್ನು (file permissions) ನಿರ್ಬಂಧಿಸಿ. - ಏಜೆಂಟ್ಗೆ ಅಗತ್ಯವಿರುವ ಅನುಮತಿಗಳನ್ನು ಮಾತ್ರ ನೀಡಿ; ಅದನ್ನು root ಆಗಿ ರನ್ ಮಾಡುವುದನ್ನು ತಪ್ಪಿಸಿ.
- ಅಪಾಯಕಾರಿ ಟೂಲ್ಗಳನ್ನು ಕಂಟೇನರ್ಗಳು ಅಥವಾ ವರ್ಚುವಲ್ ಎನ್ವಿರಾನ್ಮೆಂಟ್ಗಳಲ್ಲಿ ಪ್ರತ್ಯೇಕಿಸಿಡಿ.
- 알려진 ದೋಷಗಳನ್ನು ಸರಿಪಡಿಸಲು Python ಪ್ಯಾಕೇಜ್ಗಳನ್ನು ಅಪ್ಡೇಟ್ ಆಗಿ ಇರಿಸಿ.
The trade-off
ಸೆಲ್ಫ್-ಹೋಸ್ಟಿಂಗ್ ಮಾಡುವುದರಿಂದ ಡೇಟಾ, ಮಾಡೆಲ್ ಆಯ್ಕೆ ಮತ್ತು ವೆಚ್ಚದ ಮೇಲೆ ಸಂಪೂರ್ಣ ನಿಯಂತ್ರಣ ಸಿಗುತ್ತದೆ, ಆದರೆ ಇದು ನಿರ್ವಹಣೆಯ ಹೊರೆಯನ್ನು (maintenance burden) ಡೆವಲಪರ್ಗಳ ಮೇಲೆ ಹಾಕುತ್ತದೆ. Hermes ಮಾಡೆಲ್ API ಬದಲಾವಣೆಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಲು, ಕಂಪ್ಯೂಟ್ ಸಂಪನ್ಮೂಲಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಮತ್ತು ಟೂಲ್ಚೈನ್ ಹೊಂದಾಣಿಕೆಯಾಗುವಂತೆ ನೋಡಿಕೊಳ್ಳಲು ನಿಮ್ಮನ್ನು ಬಯಸುತ್ತದೆ. ಮೀಸಲಾದ DevOps ಬೆಂಬಲವಿಲ್ಲದ ತಂಡಗಳಿಗೆ ಈ ಹೊರೆ ಅತಿಯಾಗಬಹುದು.
What to watch next
Nous Research ಸಮುದಾಯದ ಕೊಡುಗೆಗಳಿಗಾಗಿ ಕೋಡ್ ಅನ್ನು ಮುಕ್ತಗೊಳಿಸಿದೆ.
Takeaway: Hermes Agent ಒಂದು ಸೆಲ್ಫ್-ಹೋಸ್ಟ್ಡ್ AI ಅಸಿಸ್ಟೆಂಟ್ ಕೇವಲ ಸಂಶೋಧನಾ ಪ್ರೊಟೊಟೈಪ್ ಅಲ್ಲ ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತದೆ. ಅಸಿಸ್ಟೆಂಟ್ನೊಂದಿಗೆ ಬರುವ ಭದ್ರತೆ ಮತ್ತು ಕಾರ್ಯಾಚರಣೆಯ ಜವಾಬ್ದಾರಿಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಸಿದ್ಧರಿದ್ದರೆ, ಡೆವಲಪರ್ಗಳು ತಮ್ಮ ಪರಿಸರದಲ್ಲಿ ಬುದ್ಧಿವಂತ ಆಟೊಮೇಷನ್ ಅನ್ನು ನೇರವಾಗಿ ಅಳವಡಿಸಿಕೊಳ್ಳಲು ಇದು ಅಗತ್ಯವಾದ ಮೂಲ ಘಟಕಗಳನ್ನು ನೀಡುತ್ತದೆ.