ಮೆಟಾಳ ಹೊಸ ಓಪನ್ ಮಾಡೆಲ್ ಸ್ಥಳೀಯವಾಗಿ (Locally) ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ

ಮೆಟಾ ಆಗಸ್ಟ್ 10 ರಂದು 30 ಬಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳಿರುವ Muse Glimmer ಎಂಬ ಭಾಷಾ ಮಾಡೆಲ್ ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ. ಇದು ಏಜೆಂಟಿಕ್ ಕೋಡಿಂಗ್ ಮತ್ತು ವೈಯಕ್ತಿಕ ಸಹಾಯಕ ಕಾರ್ಯಗಳನ್ನು (personal-assistant tasks) ಕೇವಲ ಒಂದು ಕನ್ಸ್ಯೂಮರ್-ಗ್ರೇಡ್ GPU ಮೇಲೆ ನಡೆಸಬಲ್ಲದು ಎಂದು ಭರವಸೆ ನೀಡಿದೆ. ಈ ಹೇಳಿಕೆಯು ಮುಖ್ಯವಾದುದು ಏಕೆಂದರೆ, ಇದು ಡೇಟಾವನ್ನು ಕ್ಲೌಡ್‌ಗೆ ಕಳುಹಿಸದೆ, ಡೆವಲಪರ್‌ಗಳು ಸ್ಥಳೀಯವಾಗಿ ಏನನ್ನು ನಡೆಸಬಹುದು ಎಂಬ ಮಿತಿಯನ್ನು ವಿಸ್ತರಿಸುತ್ತದೆ. ಈ ಕ್ರಮವು ಗೌಪ್ಯತೆ-ಕೇಂದ್ರಿತ AI ಅಪ್ಲಿಕೇಶನ್‌ಗಳನ್ನು ಮರುರೂಪಿಸಬಹುದು.

ಈ ಬಿಡುಗಡೆಯು ಏಕೆ ಮುಖ್ಯ

ಓಪನ್-ಸೋರ್ಸ್ ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್‌ಗಳು (LLMs) ಈಗ ಕೋಡ್ ಅಸಿಸ್ಟೆಂಟ್‌ಗಳಿಂದ ಹಿಡಿದು ವೈಯಕ್ತಿಕ ಜ್ಞಾನ ಕೋಶಗಳವರೆಗೆ (personal knowledge bases), 'ಪ್ರೈವೇಟ್-ಬೈ-ಡಿಸೈನ್' ಏಜೆಂಟ್‌ಗಳಿಗೆ ಶಕ್ತಿ ತುಂಬುತ್ತಿವೆ. ಇದುವರೆಗೆ, ಏಜೆಂಟ್ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳಲ್ಲಿ ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಹೆಚ್ಚಿನ ಮಾಡೆಲ್‌ಗಳಿಗೆ ಸರ್ವರ್-ಗ್ರೇಡ್ ಹಾರ್ಡ್‌ವೇರ್ ಅಗತ್ಯವಿತ್ತು ಅಥವಾ ಅವು ಪ್ರೊಪ್ರೈಟರಿ API ಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದ್ದವು. Muse Glimmer ನ "ಎಲ್ಲಿ ಬೇಕಾದರೂ ಚಲಾಯಿಸಿ" (run anywhere) ಎಂಬ ಭರವಸೆಯು 24 GB ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್ ಅಥವಾ ಇತ್ತೀಚಿನ Apple Silicon Mac ಹೊಂದಿರುವ ಹವ್ಯಾಸಿಗಳು ಮತ್ತು ಸಣ್ಣ ತಂಡಗಳಿಗೆ 30B ಮಾಡೆಲ್ ಅನ್ನು ತಲುಪುವ ಹಂತಕ್ಕೆ ತರುತ್ತದೆ. ಒಂದು ವೇಳೆ ಈ ಮಾಡೆಲ್ ತನ್ನ ವಾದಗಳಿಗೆ ತಕ್ಕಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸಿದರೆ, ಡೆವಲಪರ್‌ಗಳು ಎಲ್ಲಾ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಸಾಧನದ ಒಳಗೇ (on-device) ಇರಿಸಿಕೊಳ್ಳಬಹುದು, ಇದರಿಂದ ಹೋಸ್ಟ್ ಮಾಡಲಾದ ಸೇವೆಗಳೊಂದಿಗೆ ಬರುವ ಡೇಟಾ-ಎಕ್ಸ್‌ಫಿಲ್ಟ್ರೇಶನ್ (data-exfiltration) ಅಪಾಯಗಳನ್ನು ತಪ್ಪಿಸಬಹುದು.

Muse Glimmer ವಾಸ್ತವವಾಗಿ ಏನು?

Glimmer ಎಂಬುದು ಮೆಟಾಳ ಕ್ಲೋಸ್ಡ್-ಸೋರ್ಸ್ Muse Spark ಲೈನ್‌ನ ಸಂಕ್ಷಿಪ್ತ ಆವೃತ್ತಿಯಾಗಿದೆ. ಅತ್ಯಂತ ಸಮರ್ಥವಾದ Spark ಆವೃತ್ತಿಯಾದ Muse Spark 1.2 ಸಾರ್ವಜನಿಕರಿಗೆ ಲಭ್ಯವಿಲ್ಲದಿದ್ದರೂ, ಮೆಟಾ "ಕೆಲವೇ ವಾರಗಳಲ್ಲಿ" ಓಪನ್ ರಿಲೀಸ್ ಮಾಡುವುದಾಗಿ ಸೂಚಿಸಿದೆ. ಈ ಸಂದರ್ಭವು ಮುಖ್ಯವಾಗಿದೆ: ಅನ್-ರಿಲೀಸ್ ಮಾಡಲಾದ ಮಾಡೆಲ್‌ನ ಮುನ್ನೋಟವಾಗಿ ನೋಡುವ ಬದಲು, Glimmer ಅನ್ನು ಅದರ ಸ್ವಂತ ಗುಣಮಟ್ಟದ ಆಧಾರದ ಮೇಲೆ ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ.

ಇದರ ಆರ್ಕಿಟೆಕ್ಚರ್ ಒಂದು 'ಡೆನ್ಸ್ ಕಾಶಲ್ ಟ್ರಾನ್ಸ್‌ಫಾರ್ಮರ್' (dense causal transformer) ಆಗಿದ್ದು, ಇದು ಪ್ರತಿಯೊಂದು ಟೋಕನ್ ಮುಂದಿನ ಟೋಕನ್ ಅನ್ನು ಒಂದೇ ಫಾರ್ವರ್ಡ್ ಪಾಸ್‌ನಲ್ಲಿ ಮುನ್ಸೂಚಿಸುವ ಕ್ಲಾಸಿಕ್ ವಿನ್ಯಾಸವಾಗಿದೆ. ಈ ಸರಳತೆಯು ಲ್ಯಾಪ್‌ಟಾಪ್‌ಗಳಲ್ಲಿ ಸುಲಭವಾಗಿ ಅಳವಡಿಸಲು (deployment) ಸಹಾಯ ಮಾಡುತ್ತದೆ; ಕೆಲವು ಸ್ಪರ್ಧಾತ್ಮಕ ಮಾಡೆಲ್‌ಗಳು ಬಳಸುವ 'ಮಿಕ್ಚರ್-ಆಫ್-ಎಕ್ಸ್‌ಪರ್ಟ್ಸ್ ರೂಟಿಂಗ್' (mixture-of-experts routing) ಅಥವಾ ಇತರ ಭಾರೀ ತಂತ್ರಗಳು ಇದರಲ್ಲಿ ಇಲ್ಲ.

ಗಮನಾರ್ಹವಾದ ಸೇರ್ಪಡೆಯೆಂದರೆ DFlash, ಇದು ಭವಿಷ್ಯದ ಟೋಕನ್‌ಗಳನ್ನು ಊಹಿಸುವ ಮತ್ತು ಅವುಗಳನ್ನು ಸಮಾಂತರವಾಗಿ (in parallel) ಪರಿಶೀಲಿಸುವ ಒಂದು 'ಸ್ಪೆಕ್ಯುಲೇಟಿವ್ ಡಿಕೋಡಿಂಗ್' ತಂತ್ರವಾಗಿದೆ. ಪ್ರಾಯೋಗಿಕವಾಗಿ, DFlash ಪಠ್ಯದ ಗುಣಮಟ್ಟವನ್ನು ಬಲಿಕೊಡದೆ ವಿಳಂಬವನ್ನು (latency) ಕಡಿಮೆ ಮಾಡುತ್ತದೆ, ಇದು ಇಂಟರಾಕ್ಟಿವ್ ಏಜೆಂಟ್‌ಗಳಿಗೆ ಉಪಯುಕ್ತವಾದ ವೈಶಿಷ್ಟ್ಯವಾಗಿದೆ.

ಕ್ವಾಂಟೈಸ್ಡ್ ವೇಟ್ಸ್ (Quantized weights) ಮೆಮೊರಿ ಬಳಕೆಯನ್ನು ಸುಮಾರು 17 GB ಗೆ ಕಡಿಮೆ ಮಾಡುತ್ತದೆ, ಇದರಿಂದ 24 GB VRAM ಹೊಂದಿರುವ GPU ಗಳಲ್ಲಿ ಈ ಮಾಡೆಲ್ ಅನ್ನು ಅಳವಡಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ. ಇದೇ ಕ್ವಾಂಟೈಸ್ಡ್ ಆವೃತ್ತಿಯು llama.cpp ರನ್‌ಟೈಮ್ ಮೂಲಕ Apple Silicon ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ, ಇದು macOS ಬಳಕೆದಾರರಿಗೆ ಮಾಡೆಲ್ ಬಳಸಲು ನೇರ ಮಾರ್ಗವನ್ನು ನೀಡುತ್ತದೆ.

ಇದು ಸ್ಪರ್ಧಾತ್ಮಕ ಮಾಡೆಲ್‌ಗಳ ವಿರುದ್ಧ ಹೇಗೆ ನಿಲ್ಲುತ್ತದೆ

ಮೆಟಾ Glimmer ಅನ್ನು Google ನ Gemma ಮತ್ತು Alibaba ನ Qwen ವಿರುದ್ಧ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಮಾಡಿದೆ. ಇದರ ಫಲಿತಾಂಶಗಳು ಮಿಶ್ರ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ತೋರಿಸುತ್ತವೆ:

  • ಏಜೆಂಟ್-ಕೇಂದ್ರಿತ ಕಾರ್ಯಗಳು (Agent-oriented tasks) – ಪ್ಲಾನಿಂಗ್ ಮತ್ತು ಟೂಲ್ ಬಳಕೆಯನ್ನು ಪರೀಕ್ಷಿಸುವ ಕೆಲವು ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳಲ್ಲಿ Glimmer ತನ್ನ ಎರಡೂ ಪ್ರತಿಸ್ಪರ್ಧಿಗಳಿಗಿಂತ ಸ್ವಲ್ಪ ಮುಂದಿದೆ.
  • ಕೋಡಿಂಗ್ ಮತ್ತು ವ್ಯಾಪಕ ತರ್ಕ (Coding and broad reasoning) – Qwen ಮಾಡೆಲ್ Glimmer ಗಿಂತ ನಿರಂತರವಾಗಿ ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ, ಕೋಡ್ ಜನರೇಷನ್ ಮತ್ತು ಅನೇಕ ತಾರ್ಕಿಕ ಒಗಟುಗಳಲ್ಲಿ ಹೆಚ್ಚಿನ ನಿಖರತೆಯನ್ನು ನೀಡುತ್ತದೆ.
  • ಸುರಕ್ಷತಾ ಮಾನದಂಡಗಳು (Safety metrics) – Gemma ಕಡಿಮೆ ಉಲ್ಲಂಘನೆಯ ದರವನ್ನು ದಾಖಲಿಸಿದೆ, ಅಂದರೆ ಒಂದೇ ರೀತಿಯ ಪರೀಕ್ಷಾ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಇದು ನಿಷೇಧಿತ ವಿಷಯಗಳನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧ್ಯತೆ ಕಡಿಮೆ ಇರುತ್ತದೆ.

ಸಂಕ್ಷಿಪ್ತವಾಗಿ ಹೇಳುವುದಾದರೆ, Glimmer ನಿರ್ದಿಷ್ಟ ಏಜೆಂಟ್ ಕೆಲಸಗಳಿಗೆ ಸ್ಪರ್ಧಾತ್ಮಕವಾಗಿದೆ ಆದರೆ ವಿಶಾಲವಾದ ಕೋಡಿಂಗ್ ಅಥವಾ ತಾರ್ಕಿಕ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಪ್ರಾಬಲ್ಯ ಸಾಧಿಸಿಲ್ಲ.

ಸುರಕ್ಷತಾ ಸಂಕೇತಗಳು ಮತ್ತು ಅವುಗಳ ಅರ್ಥ

ಫೈಲ್‌ಗಳನ್ನು ಓದಬಲ್ಲ, ಸಂದೇಶಗಳನ್ನು ಕಳುಹಿಸಬಲ್ಲ ಮತ್ತು ಬಳಕೆದಾರರ ಪರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬಲ್ಲ ವೈಯಕ್ತಿಕ ಏಜೆಂಟ್‌ಗಳಿಗೆ Glimmer ಒಂದು ಅಡಿಪಾಯ ಎಂದು ಮೆಟಾ ಮಾರುಕಟ್ಟೆ ಮಾಡುತ್ತದೆ. ಇಂತಹ ಸಾಮರ್ಥ್ಯಗಳು ಸುರಕ್ಷತೆಯ ದೃಷ್ಟಿಯಿಂದ ಹೆಚ್ಚಿನ ಜವಾಬ್ದಾರಿಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತವೆ. ಮಾಡೆಲ್‌ನ ಅಪಾಯದ ಪ್ರೊಫೈಲ್ ಬಗ್ಗೆ ಎರಡು ಆಂತರಿಕ ಮೌಲ್ಯಮಾಪನಗಳು ಬೆಳಕು ಚೆಲ್ಲುತ್ತವೆ:

  • CI Memories ಪರೀಕ್ಷೆ – Glimmer, Gemma ಗಿಂತ ಹೆಚ್ಚಿನ ಉಲ್ಲಂಘನೆಯ ದರವನ್ನು ತೋರಿಸುತ್ತದೆ, ಅಂದರೆ ಇದು ಮೊದಲೇ ನಿಗದಿಪಡಿಸಿದ ಸುರಕ್ಷತಾ ನಿಯಮಗಳನ್ನು ಉಲ್ಲಂಘಿಸುವ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಹೆಚ್ಚು ಬಾರಿ ನೀಡುತ್ತದೆ.
  • Siren AgentDojo ಅಟ್ಯಾಕ್ ಸೂಟ್ – ಅಸುರಕ್ಷಿತ ನಡವಳಿಕೆಯನ್ನು ಪ್ರಚೋದಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ಅಡ್ವರ್ಸರಿಯಲ್ ಪ್ರಾಂಪ್ಟ್‌ಗಳಿಗೆ (adversarial prompts) ಈ ಮಾಡೆಲ್ ಹೆಚ್ಚಿನ ಯಶಸ್ಸಿನ ದರವನ್ನು ಸಾಧಿಸುತ್ತದೆ.

ಈ ಸಂಶೋಧನೆಗಳು ಸೂಚಿಸುವಂತೆ, ನೇರವಾಗಿ ಬಳಸಿದಾಗ (out of the box), Glimmer ತನ್ನ ಸಮಾನ ಮಾಡೆಲ್‌ಗಳಿಗಿಂತ ಸುರಕ್ಷತಾ ಲೋಪಗಳಿಗೆ ಹೆಚ್ಚು ಒಳಪಡುವ ಸಾಧ್ಯತೆಯಿದೆ. ಆದ್ದರಿಂದ, ಮಾಡೆಲ್‌ಗೆ ಖಾಸಗಿ ಫೈಲ್‌ಗಳು ಅಥವಾ ಸಂವಹನ ಚಾನಲ್‌ಗಳಿಗೆ ಪ್ರವೇಶ ನೀಡಲು ಯೋಜಿಸುತ್ತಿರುವ ಡೆವಲಪರ್‌ಗಳು ಬಾಹ್ಯ ಕಂಟೆಂಟ್ ಫಿಲ್ಟರ್‌ಗಳು ಮತ್ತು ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್ಡ್ ಎಕ್ಸಿಕ್ಯೂಷನ್ ಎನ್ವಿರಾನ್‌ಮೆಂಟ್‌ಗಳನ್ನು (sandboxed execution environments) ಸೇರಿಸಬೇಕು.

ಇದನ್ನು ಯಾರು ಬಳಸಲು ಪರಿಗಣಿಸಬೇಕು

ಉತ್ತಮ ಆಯ್ಕೆಗಳು

  • ನೆಟ್‌ವರ್ಕ್‌ನಿಂದ ಹೊರಗಿದ್ದುಕೊಂಡೇ ಇಡೀ ರೆಪೊಸಿಟರಿಯನ್ನು (repository) ಬಳಸಬಲ್ಲ ಸ್ಥಳೀಯ ಕೋಡ್-ಅಸಿಸ್ಟೆಂಟ್ ಅಗತ್ಯವಿರುವ ತಂಡಗಳು.
  • ಡೇಟಾ ರೆಸಿಡೆನ್ಸಿಗೆ (data residency) ಆದ್ಯತೆ ನೀಡುವ ಮತ್ತು ತಮ್ಮ ಸಾಧನವನ್ನು ಎಂದಿಗೂ ಬಿಟ್ಟು ಹೋಗದ LLM ಅನ್ನು ಬಯಸುವ ಬಳಕೆದಾರರು.
  • ವೇಗ ಮತ್ತು ಸಾಧನದ ಒಳಗಿನ ಕಾರ್ಯನಿರ್ವಹಣೆಯು ಮುಖ್ಯವಾಗುವ ಸಂದರ್ಭದಲ್ಲಿ, ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಬ್ಯಾಚ್-ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು 'LLM-as-a-judge' ಅನ್ನು ಹುಡುಕುತ್ತಿರುವ ಸಂಶೋಧಕರು ಅಥವಾ ಎಂಜಿನಿಯರ್‌ಗಳು.
  • 24 GB+ GPU ಅಥವಾ llama.cpp ಅನ್ನು ಚಲಾಯಿಸಬಲ್ಲ Apple Silicon Mac ಹೊಂದಿರುವ ಯಾರೇ ಆಗಲಿ.

ಇತರ ಅಗತ್ಯಗಳಿಗಾಗಿ ಉತ್ತಮ ಪರ್ಯಾಯಗಳು

  • ಮೂಲ ಕೋಡಿಂಗ್ ಕಾರ್ಯಕ್ಷಮತೆಯೇ ಮೊದಲ ಆದ್ಯತೆಯಾಗಿದ್ದರೆ, Qwen ಪ್ರಸ್ತುತ ಹೆಚ್ಚಿನ ನಿಖರತೆಯನ್ನು ನೀಡುತ್ತದೆ.
  • ಅತ್ಯಂತ ಸೂಕ್ಷ್ಮವಾದ ವೈಯಕ್ತಿಕ ಡೇಟಾವನ್ನು ನಿರ್ವಹಿಸುವಾಗ, Gemma ನ ಕಡಿಮೆ ಉಲ್ಲಂಘನೆಯ ದರವು ಅದನ್ನು ಸುರಕ್ಷಿತವಾದ ಡಿಫಾಲ್ಟ್ ಆಯ್ಕೆಯನ್ನಾಗಿ ಮಾಡುತ್ತದೆ.
  • ಅಗತ್ಯವಾದ ಹಾರ್ಡ್‌ವೇರ್ ಇಲ್ಲದ ಡೆವಲಪರ್‌ಗಳು, 24 GB ಗಿಂತ ಕಡಿಮೆ ಮೆಮೊರಿ ಹೊಂದಿರುವ GPU ಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಸಣ್ಣ ಮತ್ತು ಹೆಚ್ಚು ವ್ಯಾಪಕವಾಗಿ ಬೆಂಬಲಿತ ಮಾದರಿಗಳನ್ನು ಪರಿಗಣಿಸಬೇಕು.

ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು

ಮುಂಬರುವ ವಾರಗಳಲ್ಲಿ Meta ಕಂಪನಿಯು ಮುಕ್ತ Muse Spark 1.2 ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವ ಸೂಚನೆಯು ಸಮತೋಲನವನ್ನು ನಾಟಕೀಯವಾಗಿ ಬದಲಾಯಿಸಬಹುದು. Spark ಮಾದರಿಯು ಅದೇ ಹಾರ್ಡ್‌ವೇರ್ ಅಗತ್ಯತೆಯನ್ನು ಹೊಂದಿದ್ದು, Glimmer ನ ಕಾರ್ಯಕ್ಷಮತೆಗೆ ಸಮನಾಗಿದ್ದರೆ ಅಥವಾ ಅದಕ್ಕಿಂತ ಮೀರಿದರೆ, ಪ್ರಸ್ತುತ ಮಾದರಿಯು ದೀರ್ಘಕಾಲದ ಪರಿಹಾರವಾಗಿರದೆ ಕೇವಲ ಒಂದು ಮೆಟ್ಟಿಲಾಗಿ ಉಳಿಯಬಹುದು. Glimmer ನ ಸುರಕ್ಷತಾ ಕೊರತೆಗಳಿಗೆ ಸಮುದಾಯವು ನೀಡುವ ಪ್ರತಿಕ್ರಿಯೆ—ಥರ್ಡ್-ಪಾರ್ಟಿ ಫಿಲ್ಟರ್‌ಗಳು, ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಅಥವಾ ಪ್ರಾಂಪ್ಟ್ ಇಂಜಿನಿಯರಿಂಗ್ ಮೂಲಕ—ಅದರ ಬಳಕೆಯ ಪ್ರಮಾಣದ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರುತ್ತದೆ.

llama.cpp ಮೂಲಕ ಈ ಮಾದರಿಯ ತಕ್ಷಣದ ಲಭ್ಯತೆಯಿಂದಾಗಿ ಡೆವಲಪರ್‌ಗಳು ಇಂದೇ ಪ್ರಯೋಗಗಳನ್ನು ಪ್ರಾರಂಭಿಸಬಹುದು, ಆದರೆ ಖಾಸಗಿ ಡೇಟಾವನ್ನು ಇದಕ್ಕೆ ನೀಡುವ ನಿರ್ಧಾರವು Meta ಬಹಿರಂಗಪಡಿಸಿದ ಸುರಕ್ಷತಾ ಅಂಕಿಅಂಶಗಳು ಮತ್ತು ಸ್ವತಂತ್ರ ಆಡಿಟ್‌ಗಳ ಮೇಲೆ ಆಧಾರಿತವಾಗಿರಬೇಕು.

ಸಾರಾಂಶ: Muse Glimmer 30B LLM ಅನ್ನು ಡೆಸ್ಕ್‌ಟಾಪ್‌ಗೆ ತರುತ್ತದೆ, ಇದು ಆನ್-ಡೈವೈಸ್ ಏಜೆಂಟ್‌ಗಳಿಗೆ ದಾರಿ ಮಾಡಿಕೊಡುತ್ತದೆ, ಆದರೂ ಇದರ ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಸುರಕ್ಷತೆಯು ಪ್ರಮುಖ ಸ್ಪರ್ಧಿಗಳಿಗಿಂತ ಹಿಂದೆ ಇದೆ. ಸ್ಥಳೀಯ ಕಾರ್ಯನಿರ್ವಹಣೆಯು ಅತ್ಯಗತ್ಯವಾಗಿದ್ದರೆ ಮತ್ತು ನೀವು ಹಾರ್ಡ್‌ವೇರ್ ಖರೀದಿಸಲು ಸಮರ್ಥರಾಗಿದ್ದರೆ ಇದನ್ನು ಬಳಸಿ; ಇಲ್ಲದಿದ್ದರೆ, ಈಗಾಗಲೇ ಕೋಡಿಂಗ್ ನಿಖರತೆಯಲ್ಲಿ ಉತ್ತಮವಾಗಿರುವ ಅಥವಾ ಬಲವಾದ ಸುರಕ್ಷತಾ ದಾಖಲೆಯನ್ನು ಹೊಂದಿರುವ ಮಾದರಿಯನ್ನು ಆರಿಸಿ.