Nous Research ಬಿಡುಗಡೆ ಮಾಡಿದ ಓಪನ್-ಸೋರ್ಸ್ AI ಅಸಿಸ್ಟೆಂಟ್ ಫ್ರೇಮ್ವರ್ಕ್ ಆದ Hermes Agent, ಡೆವಲಪರ್ಗಳು ತಮ್ಮದೇ ಆದ ಯಂತ್ರ ಅಥವಾ ಸರ್ವರ್ನಲ್ಲಿ ವೈಯಕ್ತಿಕ ಅಸಿಸ್ಟೆಂಟ್ ಅನ್ನು ರನ್ ಮಾಡಲು ಮತ್ತು ಅವರಿಗೆ ಬೇಕಾದ ಯಾವುದೇ ಟೂಲ್ಗಳನ್ನು ಬಳಸಲು ಅನುಮತಿಸುತ್ತದೆ. ಇದರ ಕೋಡ್ GitHub ನಲ್ಲಿ ಲಭ್ಯವಿದೆ.
ಹೊಸ ಫ್ರೇಮ್ವರ್ಕ್ ಏಕೆ ಮುಖ್ಯ
ಹೆಚ್ಚಿನ ಗ್ರಾಹಕ-ಮುಖಿ ಅಸಿಸ್ಟೆಂಟ್ಗಳು ತಮ್ಮ ಆಂತರಿಕ ಕಾರ್ಯವೈಖರಿಯನ್ನು ಪ್ರೊಪ್ರೈಟರಿ (proprietary) APIಗಳ ಹಿಂದೆ ಮರೆಮಾಚುತ್ತವೆ. ನೀವು ಒಂದು ಪ್ರಾಂಪ್ಟ್ ಕಳುಹಿಸಿದಾಗ, ಯಾವ ಮಾಡೆಲ್ ಅನ್ನು ಬಳಸಬೇಕು ಮತ್ತು ಯಾವ ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬೇಕು ಎಂಬುದನ್ನು ಆ ಸೇವೆ ನಿರ್ಧರಿಸುತ್ತದೆ ಮತ್ತು ನಿಮಗೆ ಪರಿಶೀಲಿಸಲು ಅಥವಾ ಮಾರ್ಪಡಿಸಲು ಸಾಧ್ಯವಾಗದ ಉತ್ತರವನ್ನು ನೀಡುತ್ತದೆ. ಈ ಮಾಡೆಲ್ ಸಾಮಾನ್ಯ ಬಳಕೆದಾರರಿಗೆ ಸರಿಹೊಂದಬಹುದು, ಆದರೆ ವರ್ಕ್ಫ್ಲೋಗಳನ್ನು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸಲು (automate), ಖಾಸಗಿ ಡೇಟಾ ಸ್ಟೋರ್ಗಳೊಂದಿಗೆ ಸಂಯೋಜಿಸಲು ಅಥವಾ ಕಟ್ಟುನಿಟ್ಟಾದ ಭದ್ರತಾ ನೀತಿಗಳನ್ನು ಜಾರಿಗೆ ತರಲು ಬಯಸುವ ಡೆವಲಪರ್ಗಳಿಗೆ ಇದು ಅತೃಪ್ತಿ ಉಂಟುಮಾಡುತ್ತದೆ. Hermes Agent ಈ ಚಿತ್ರಣವನ್ನೇ ಬದಲಾಯಿಸುತ್ತದೆ: ಇದು ಬಳಕೆದಾರ ಮತ್ತು ಭಾಷಾ ಮಾಡೆಲ್ (language model) ನಡುವೆ ಕುಳಿತು, ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತದೆ ಮತ್ತು ನೀವು ಸ್ಕ್ರಿಪ್ಟ್ಗಳು, ಫೈಲ್-ಸಿಸ್ಟಮ್ ಕಮಾಂಡ್ಗಳು ಅಥವಾ ಥರ್ಡ್-ಪಾರ್ಟಿ ಸೇವೆಗಳಂತಹ ಯಾವುದೇ "ಟೂಲ್ಗಳನ್ನು" ಅಟ್ಯಾಚ್ ಮಾಡಲು ಅನುಮತಿಸುತ್ತದೆ, ಇವುಗಳನ್ನು ಏಜೆಂಟ್ ನಿಮ್ಮ ಪರವಾಗಿ ಬಳಸಬಹುದು.
ಇದರ ಪ್ರಾಯೋಗಿಕ ಪ್ರಯೋಜನವು ತಕ್ಷಣವೇ ಗೋಚರಿಸುತ್ತದೆ. ಒಬ್ಬ ಡೆವಲಪರ್ Hermes ಅನ್ನು ಪ್ರಾರಂಭಿಸಿ, ಅದನ್ನು ಸ್ಥಳೀಯ LLM ಅಥವಾ OpenRouter ನಂತಹ API ಗೆ ಕನೆಕ್ಟ್ ಮಾಡಿ, ನಂತರ ಲಾಗ್ ಫೈಲ್ ಅನ್ನು grep ಮಾಡಲು, ಸ್ಟ್ಯಾಟಿಕ್-ಅನಾಲಿಸಿಸ್ ಟೂಲ್ ಅನ್ನು ರನ್ ಮಾಡಲು ಅಥವಾ Docker ಕಂಟೇನರ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸಲು ಕೇಳಬಹುದು. ಏಜೆಂಟ್ ಸಂಭಾಷಣೆಯ ಸಂದರ್ಭವನ್ನು (context) ನೆನಪಿಟ್ಟುಕೊಳ್ಳುತ್ತದೆ, ಯಾವ ಟೂಲ್ ವಿನಂತಿಗೆ ಸೂಕ್ತವಾಗಿದೆ ಎಂದು ನಿರ್ಧರಿಸುತ್ತದೆ ಮತ್ತು ರಚನಾತ್ಮಕ ಉತ್ತರವನ್ನು ನೀಡುತ್ತದೆ. ಸಂಕ್ಷಿಪ್ತವಾಗಿ ಹೇಳುವುದಾದರೆ, ಇದು "ಕೇವಲ ಉತ್ತರ ನೀಡುವ" ಚಾಟ್ಬಾಟ್ಗಳಿಂದ "ಕ್ರಿಯೆ-ಆಧಾರಿತ" (action-oriented) ಅಸಿಸ್ಟೆಂಟ್ಗಳತ್ತ ಸಾಗುತ್ತದೆ.
Hermes Agent ಹೇಗೆ ನಿರ್ಮಿಸಲಾಗಿದೆ
- Core – ಇದು ಬಳಕೆದಾರರ ಇನ್ಪುಟ್ ಅನ್ನು ಸ್ವೀಕರಿಸುವ, ಸಂಭಾಷಣೆಯ ಇತಿಹಾಸವನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡುವ ಮತ್ತು ಮಾಡೆಲ್ನ ಸಲಹೆಯ ಆಧಾರದ ಮೇಲೆ ಸೂಕ್ತವಾದ ಟೂಲ್ ಅನ್ನು ಆಯ್ಕೆ ಮಾಡುವ ಆರ್ಕೆಸ್ಟ್ರೇಟರ್ ಆಗಿದೆ.
- Model – ಇದು ಉದ್ದೇಶ (intent) ಮತ್ತು ಸಂಭವನೀಯ ಕ್ರಮಗಳನ್ನು ರಚಿಸುವ ಭಾಷಾ ಮಾಡೆಲ್ ಆಗಿದೆ. ನೀವು ಸ್ಥಳೀಯವಾಗಿ ಹೋಸ್ಟ್ ಮಾಡಲಾದ ಓಪನ್-ಸೋರ್ಸ್ LLM ನಿಂದ ಹಿಡಿದು ಕ್ಲೌಡ್ ಎಂಡ್ಪಾಯಿಂಟ್ವರೆಗೆ, ನೀವು ನಿಯಂತ್ರಿಸುವ ಯಾವುದೇ ಮಾಡೆಲ್ ಅನ್ನು ಇಲ್ಲಿ ಬಳಸಬಹುದು.
- Tools – ಇವು ಕಾರ್ಯಗತಗೊಳಿಸಬಹುದಾದ ಕ್ರಮಗಳ ಸುತ್ತಲಿನ ಸಣ್ಣ ವ್ರ್ಯಾಪರ್ಗಳು (wrappers). ಒಂದು ಟೂಲ್ ಫೈಲ್ ಅನ್ನು ಓದಬಹುದು, REST API ಅನ್ನು ಕರೆಯಬಹುದು ಅಥವಾ ಶೆಲ್ ಕಮಾಂಡ್ ಅನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಬಹುದು. ಹೊಸ ಟೂಲ್ ಅನ್ನು ಸೇರಿಸುವುದು ಒಂದು Python ಫಂಕ್ಷನ್ ಬರೆದು ಅದನ್ನು ಫ್ರೇಮ್ವರ್ಕ್ಗೆ ನೋಂದಾಯಿಸುವುದಷ್ಟೇ.
- Skills – ಸಂಬಂಧಿತ ಟೂಲ್ಗಳ ಸಂಗ್ರಹಗಳು, ಇವು ಏಜೆಂಟ್ಗೆ ಸಿಸ್ಟಮ್-ಅಡ್ಮಿನಿಸ್ಟ್ರೇಷನ್ ಸಹಾಯ ಅಥವಾ ಕೋಡ್-ರಿವ್ಯೂ ಆಟೊಮೇಷನ್ನಂತಹ ಡೊಮೇನ್-ನಿರ್ದಿಷ್ಟ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ನೀಡುತ್ತವೆ.
ಈ ಆರ್ಕಿಟೆಕ್ಚರ್ ಮೂರು ವಿಷಯಗಳನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿಡುತ್ತದೆ: ಮಾಡೆಲ್ ಕೇವಲ ಪಠ್ಯವಾಗಿ ಉಳಿಯುತ್ತದೆ, core ಪ್ರಕ್ರಿಯೆಯನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ ಮತ್ತು tools ಮುಖ್ಯ ಕೆಲಸಗಳನ್ನು ಮಾಡುತ್ತವೆ. ಈ ಪ್ರತ್ಯೇಕತೆಯು ಇಡೀ ಸಿಸ್ಟಮ್ಗೆ ತೊಂದರೆಯಾಗದಂತೆ ಘಟಕಗಳನ್ನು (components) ಸುಲಭವಾಗಿ ಬದಲಾಯಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.
Hermes ಅನ್ನು ಪ್ರಾರಂಭಿಸುವುದು ಹೇಗೆ
- Clone the repo –
git clone https://github.com/NousResearch/hermes-agent.git - Enter the directory –
cd hermes-agent - Install dependencies –
pip install -r requirements.txt - Configure environment –
.env.exampleಅನ್ನು.envಗೆ ಕಾಪಿ ಮಾಡಿ ಮತ್ತು ಅಗತ್ಯವಿರುವ ಯಾವುದೇ API ಕೀಗಳನ್ನು (OpenRouter ಅಥವಾ ನೀವು ಬಳಸಲು ಯೋಜಿಸುವ ಇತರ ಸೇವೆಗಳಿಗಾಗಿ) ಸೇರಿಸಿ. - Launch – ಕಮಾಂಡ್ ಲೈನ್ನಿಂದ
hermesಅನ್ನು ರನ್ ಮಾಡಿ.
ಅಸಿಸ್ಟೆಂಟ್ ಅನ್ನು ವಿಸ್ತರಿಸುವುದು
ಹೊಸ ಸಾಮರ್ಥ್ಯವನ್ನು ಸೇರಿಸುವುದು ಮೂರು ಹಂತಗಳ ಮಾದರಿಯನ್ನು ಅನುಸರಿಸುತ್ತದೆ:
ಭದ್ರತಾ ಪರಿಗಣನೆಗಳು
ಕಮಾಂಡ್ಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಬಲ್ಲ AI ಏಜೆಂಟ್, ಅಧಿಕಾರವಿರುವ ಬಳಕೆದಾರನಂತೆ (privileged user) ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. .env ಫೈಲ್ನಲ್ಲಿ API ಕೀಗಳನ್ನು ಬಹಿರಂಗಪಡಿಸುವುದು ಅಥವಾ ಏಜೆಂಟ್ಗೆ ನಿರ್ಬಂಧವಿಲ್ಲದ ಫೈಲ್-ಸಿಸ್ಟಮ್ ಪ್ರವೇಶವನ್ನು ನೀಡುವುದು, ಮಾಡೆಲ್ ಮೇಲೆ ದಾಳಿ ನಡೆದರೆ ಅಥವಾ ದುರುದ್ದೇಶಪೂರಿತ ಪ್ರಾಂಪ್ಟ್ಗಳು ಮೀರಿದರೆ ಬ್ಯಾಕ್ಡೋರ್ (backdoor) ತೆರೆಯುವ ಸಾಧ್ಯತೆ ಇರುತ್ತದೆ. ಈ ಅಪಾಯವನ್ನು ಹೀಗೆ ಕಡಿಮೆ ಮಾಡಿ:
- ನಿರ್ಣಾಯಕ ಸೇವೆಗಳಿಂದ ಪ್ರತ್ಯೇಕವಾದ ಕಂಟೇನರ್ ಅಥವಾ ವರ್ಚುವಲ್ ಮೆಷಿನ್ ಒಳಗೆ ಏಜೆಂಟ್ ಅನ್ನು ರನ್ ಮಾಡಿ.
- ಸೀಕ್ರೆಟ್ಗಳನ್ನು ಎನ್ವಿರಾನ್ಮೆಂಟ್ ವೇರಿಯೇಬಲ್ಗಳಲ್ಲಿ ಸಂಗ್ರಹಿಸಿ ಮತ್ತು ಸಾಧ್ಯವಾದಲ್ಲಿ ಅವುಗಳನ್ನು ರೀಡ್-ಓನ್ಲಿ (read-only) ಆಗಿ ಹೊಂದಿಸಿ.
- ನೋಂದಾಯಿಸಲಾದ ಟೂಲ್ಗಳನ್ನು ನಿಮ್ಮ ವರ್ಕ್ಫ್ಲೋಗೆ ಅಗತ್ಯವಿರುವ ಕನಿಷ್ಠ ಮಟ್ಟಕ್ಕೆ ಸೀಮಿತಗೊಳಿಸಿ.
- ಅನಿರೀಕ್ಷಿತ ಟೂಲ್ ಬಳಕೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಏಜೆಂಟ್ನ ಲಾಗ್ಗಳನ್ನು ನಿಯಮಿತವಾಗಿ ಪರಿಶೀಲಿಸಿ (audit).
ವಹಿವಾಟು (Trade-off): ಮುಕ್ತತೆ vs ಅನುಕೂಲತೆ
Hermes Agent ನ ಮುಕ್ತತೆಯು ಡೆವಲಪರ್ಗಳಿಗೆ ಸಂಪೂರ್ಣ ನಿಯಂತ್ರಣವನ್ನು ನೀಡುತ್ತದೆ, ಆದರೆ ಇದು ಹೋಸ್ಟ್ ಮಾಡಲಾದ ಅಸಿಸ್ಟೆಂಟ್ಗಳ ಸುಲಭ ಅನುಭವವನ್ನು ಕಳೆದುಕೊಳ್ಳುವುದನ್ನೂ ಅರ್ಥೈಸುತ್ತದೆ. ನೀವು ಮಾಡೆಲ್ ಅಪ್ಡೇಟ್ಗಳು, ಸ್ಕೇಲಿಂಗ್ ಮತ್ತು ಸೆಕ್ಯುರಿಟಿ ಪ್ಯಾಚ್ಗಳನ್ನು ನೀವೇ ನಿರ್ವಹಿಸಬೇಕು. ಮೀಸಲಾದ DevOps ಸಂಪನ್ಮೂಲಗಳಿಲ್ಲದ ತಂಡಗಳು ನಿರ್ವಹಣಾ ಸೇವೆಗಳನ್ನು (managed services) ಇಷ್ಟಪಡಬಹುದು.
ಇದಕ್ಕೆ ವಿರುದ್ಧವಾಗಿ, ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಪ್ರಕ್ರಿಯೆಯ ಪ್ರತಿಯೊಂದು ಹಂತವನ್ನು ಪರಿಶೀಲಿಸುವುದು ಸೂಕ್ಷ್ಮ ಡೇಟಾವನ್ನು ನಿರ್ವಹಿಸುವ ಉದ್ಯಮಗಳಿಗೆ ನಿರ್ಣಾಯಕವಾಗಬಹುದು. ಇದರ ಮಾಡ್ಯುಲರ್ ವಿನ್ಯಾಸವು ಸಮುದಾಯದ ಕೊಡುಗೆಗಳಿಗೆ ಅವಕಾಶ ನೀಡುತ್ತದೆ, ಇದು ಯಾವುದೇ ಏಕೈಕ ಮಾರಾಟಗಾರನಿಗಿಂತ ವೇಗವಾಗಿ ಟೂಲ್ ಪರಿಸರ ವ್ಯವಸ್ಥೆಯನ್ನು ಬೆಳೆಸಬಹುದು.
ಸದ್ಯಕ್ಕೆ, ಈ ಫ್ರೇಮ್ವರ್ಕ್ ತನ್ನದೇ ಆದ ಹಾರ್ಡ್ವೇರ್ನಲ್ಲಿ ರನ್ ಆಗುವ, ತನ್ನದೇ ಆದ ವರ್ಕ್ಫ್ಲೋಗಳಿಗೆ ತಕ್ಕಂತೆ ರೂಪಿಸಿಕೊಳ್ಳಬಹುದಾದ ಮತ್ತು ಅದನ್ನು ನಡೆಸುವ ಜನರಿಗೆ ಪಾರದರ್ಶಕವಾಗಿರುವ AI ಅಸಿಸ್ಟೆಂಟ್ ಬೇಕಾದ ಯಾರಿಗಾದರೂ ಒಂದು ಸ್ಪಷ್ಟವಾದ ಮಾರ್ಗವನ್ನು ನೀಡುತ್ತದೆ. ಮುಂದಿನ ಹಂತ ಸರಳವಾಗಿದೆ: ರೆಪೊ (repo) ಅನ್ನು ಕ್ಲೋನ್ ಮಾಡಿ, ಅದನ್ನು ಪ್ರಾರಂಭಿಸಿ ಮತ್ತು ನೀವು ಪ್ರತಿ ವಾರ ಗಂಟೆಗಟ್ಟಲೆ ವ್ಯಯಿಸುವ ಕೆಲಸಗಳನ್ನು ಮಾಡಲು ನಿಮ್ಮ ಹೊಸ ಅಸಿಸ್ಟೆಂಟ್ಗೆ ಕಲಿಸಲು ಪ್ರಾರಂಭಿಸಿ.