Anthropic ತನ್ನ Fable 5 ಮಾಡೆಲ್‌ಗೆ ಗಮನಾರ್ಹ ಅಪ್‌ಡೇಟ್ ಅನ್ನು ಜಾರಿಗೆ ತಂದಿದೆ, ಇದು ಅದರ ಸುರಕ್ಷತಾ ಪದರಗಳಿಂದ (safety layers) ತಡೆಯಲ್ಪಟ್ಟ ಹಾನಿಕಾರಕವಲ್ಲದ (benign) ಜೈವಿಕ ಪ್ರಶ್ನೆಗಳ ಸಂಖ್ಯೆಯನ್ನು ಗಣನೀಯವಾಗಿ ಕಡಿಮೆ ಮಾಡಿದೆ. ಈ ಕಾರ್ಯತಂತ್ರದ ಹೊಂದಾಣಿಕೆಯು ಹೆಚ್ಚಿನ ಅಪಾಯದ ಜೈವಿಕ ಬೆದರಿಕೆಗಳ ವಿರುದ್ಧ ಕಟ್ಟುನಿಟ್ಟಿನ ರಕ್ಷಣೆಯನ್ನು ಕಾಯ್ದುಕೊಳ್ಳುವ ಜೊತೆಗೆ, ಕಾನೂನುಬದ್ಧ ವೈಜ್ಞಾನಿಕ ಸಂಶೋಧನೆಗೆ ಉಪಯುಕ್ತತೆಯನ್ನು ಮರುಸ್ಥಾಪಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ.

ವೈಜ್ಞಾನಿಕ ಸಂಶೋಧನೆಗಾಗಿ ಅಡೆತಡೆಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು

ವೈಜ್ಞಾನಿಕ ಸಮುದಾಯದ ಟೀಕೆಯಿಂದ ಪ್ರೇರಿತವಾದ ಕ್ರಮವಾಗಿ, Anthropic ತನ್ನ Fable 5 ರ ಜೈವಿಕ ಸುರಕ್ಷತಾ ಫಿಲ್ಟರ್‌ಗಳಲ್ಲಿನ 'ಫಾಲ್ಸ್ ಪಾಸಿಟಿವ್‌'ಗಳನ್ನು (ತಪ್ಪಾದ ತಡೆಗಳು) ಸುಮಾರು ಶೇಕಡಾ 85 ರಷ್ಟು ಯಶಸ್ವಿಯಾಗಿ ಕಡಿಮೆ ಮಾಡಿದೆ. ಈ ಹಿಂದೆ, ಮಾಡೆಲ್‌ನ ಸುರಕ್ಷತಾ ವರ್ಗೀಕರಣಕಾರಿಯು (safety classifier) ಅತಿಯಾದ ಕಟ್ಟುನಿಟ್ಟನ್ನು ಹೊಂದಿದ್ದು, ಕಾನೂನುಬದ್ಧ ವೈಜ್ಞಾನಿಕ ವಿಚಾರಣೆಗಳನ್ನು ಪದೇ ಪದೇ ತಡೆದು ಬಳಕೆದಾರರನ್ನು ಕಡಿಮೆ ಸಾಮರ್ಥ್ಯದ Opus 5 ಮಾಡೆಲ್‌ಗೆ ವರ್ಗಾಯಿಸುತ್ತಿತ್ತು.

ಈ ಅಪ್‌ಡೇಟ್ ಸಂಶೋಧಕರು ಮತ್ತು ವೈದ್ಯಕೀಯ ವೃತ್ತಿಪರರಿಗೆ ವೈವಿಧ್ಯಮಯ ಹಾನಿಕಾರಕವಲ್ಲದ ಕಾರ್ಯಗಳಿಗಾಗಿ Fable 5 ರ ಸಂಪೂರ್ಣ ತಾರ್ಕಿಕ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಬಳಸಿಕೊಳ್ಳಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಬಳಕೆದಾರರು ಈಗ ಪ್ರಯೋಗಾಲಯದ ಫಲಿತಾಂಶಗಳನ್ನು ಅರ್ಥೈಸಿಕೊಳ್ಳುವುದು, ಕ್ಲಿನಿಕಲ್ ಲಕ್ಷಣಗಳನ್ನು ವಿಶ್ಲೇಷಿಸುವುದು ಮತ್ತು ಸಂಕೀರ್ಣ ವೈದ್ಯಕೀಯ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸುವಂತಹ ಕಠಿಣ ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು, ಈ ಹಿಂದೆ ಉತ್ಪಾದಕತೆಯನ್ನು ಕುಂಠಿತಗೊಳಿಸುತ್ತಿದ್ದ "ಸುರಕ್ಷತಾ ಗೋಡೆ"ಯನ್ನು (safety wall) ಎದುರಿಸದೆ ಮಾಡಬಹುದು.

ದ್ವಿ-ಬಳಕೆಯ (Dual-Use) ಅಪಾಯಗಳ ಮೇಲೆ ಕಾವಲುಗೋಲುಗಳನ್ನು ಕಾಯ್ದುಕೊಳ್ಳುವುದು

ಸಾಮಾನ್ಯ ಜೈವಿಕ ನಿರ್ಬಂಧಗಳ ಸಡಿಲಿಕೆಯ ಹೊರತಾಗಿಯೂ, Anthropic "ದ್ವಿ-ಬಳಕೆಯ" ಸಂಶೋಧನೆಯ ಮೇಲೆ ಕಟ್ಟುನಿಟ್ಟಾದ ನಿಲುವನ್ನು ಹೊಂದಿದೆ—ಅಂದರೆ ಹಾನಿಗಾಗಿ ಮರುಬಳಕೆ ಮಾಡಬಹುದಾದ ಮಾಹಿತಿ. ವೈರಾಲಜಿ (virology), ಟಾಕ್ಸಿಕಾಲಜಿ (toxicology) ಮತ್ತು ಸುಧಾರಿತ ಅಣು ವಿನ್ಯಾಸದಂತಹ (advanced molecular design) ಅತ್ಯಂತ ಸೂಕ್ಷ್ಮ ವಿಷಯಗಳ ಮೇಲಿನ ನಿರ್ಬಂಧಗಳನ್ನು ಕಂಪನಿಯು ತೆಗೆದುಹಾಕಿಲ್ಲ.

Anthropic ನ ತರ್ಕವು ಜೈವಿಕ ಬೆದರಿಕೆಗಳ ವಿಶಿಷ್ಟ ಸ್ವರೂಪದ ಮೇಲೆ ಆಧಾರಿತವಾಗಿದೆ. ಪ್ಯಾಚ್‌ಗಳು ಮತ್ತು ಸಿಸ್ಟಮ್ ಶಟ್‌ಡೌನ್‌ಗಳ ಮೂಲಕ ತಗ್ಗಿಸಬಹುದಾದ ಸೈಬರ್ ದಾಳಿಯಂತೆಲ್ಲಾ ಅಲ್ಲದೆ, ಬಿಡುಗಡೆಯಾದ ಜೈವಿಕ ಏಜೆಂಟ್ ಹರಡಲು ಪ್ರಾರಂಭಿಸಿದರೆ ಅದನ್ನು "ಶಟ್ ಡೌನ್" ಮಾಡುವುದು ಅಸಾಧ್ಯ. ಈ ಎಚ್ಚರಿಕೆಗೆ ಕಾರಣವಾದ ಹಲವಾರು ಪ್ರಮುಖ ಕಾಳಜಿಗಳನ್ನು ಕಂಪನಿಯು ಉಲ್ಲೇಖಿಸಿದೆ, ಅವುಗಳೆಂದರೆ:

  • ಜೈವಿಕ ಅಪಾಯಗಳಿಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಅಮೆರಿಕದ ಗುಪ್ತಚರ ಸಂಸ್ಥೆಗಳ ವಿಶ್ಲೇಷಣೆ.
  • AI ಅನ್ನು ಸಂಪೂರ್ಣ ಕೃತಕ ವೈರಸ್‌ಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಲು ಬಳಸಬಹುದು ಎಂದು ತೋರಿಸುವ ಸಂಶೋಧನೆ.
  • ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ LLMಗಳಿಂದ ಜೈವಿಕ ಅಸ್ತ್ರಗಳ ಸೂಚನೆಗಳನ್ನು ಪಡೆಯಲು ಬಳಕೆದಾರರು ನಡೆಸಿದ ದಾಖಲಿತ ಪ್ರಯತ್ನಗಳು.

ವಿಶೇಷ ಪ್ರವೇಶದೊಂದಿಗೆ ಸುರಕ್ಷತೆಯನ್ನು ಸಮತೋಲನಗೊಳಿಸುವುದು

ಮುಕ್ತ ವೈಜ್ಞಾನಿಕ ಪ್ರಗತಿ ಮತ್ತು ವಿನಾಶಕಾರಿ ದುರುಪಯೋಗದ ತಡೆಗಟ್ಟುವಿಕೆಯ ನಡುವಿನ ಉದ್ವಿಗ್ನತೆಯನ್ನು ನಿಭಾಯಿಸುವುದು AI ಪ್ರಯೋಗಾಲಯಗಳಿಗೆ ದೊಡ್ಡ ಸವಾಲಾಗಿದೆ. Anthropic ಇದನ್ನು ವಿಶೇಷ ಪ್ರವೇಶ ಕಾರ್ಯಕ್ರಮಗಳನ್ನು (specialized access programs) ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ಮೂಲಕ ಪರಿಹರಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದೆ. ಈ ಕಾರ್ಯಕ್ರಮಗಳು ಪರಿಶೀಲಿಸಲ್ಪಟ್ಟ ಸಂಶೋಧಕರು ನಿಯಂತ್ರಿತ ಮತ್ತು ಲೆಕ್ಕಪರಿಶೋಧಿತ (audited) ಪರಿಸರದಲ್ಲಿ ವೈರಾಲಜಿ ಅಥವಾ ಅಣು ಮಾದರಿ ಮಾಡುವಿಕೆಯಂತಹ (molecular modeling) ನಿರ್ಬಂಧಿತ ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಬಳಸಲು ಅನುವು ಮಾಡಿಕೊಡಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.

ಹಾನಿಕಾರಕವಲ್ಲದ ವೈದ್ಯಕೀಯ ವಿಚಾರಣೆ ಮತ್ತು ಅಪಾಯಕಾರಿ ದ್ವಿ-ಬಳಕೆಯ ಸಂಶೋಧನೆಯ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸುವ ಮೂಲಕ, ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್‌ಗಳು (frontier models) "ಜೈವಿಕ ಗಡಿಯನ್ನು" (biological frontier) ಹೇಗೆ ನಿರ್ವಹಿಸಬೇಕು ಎಂಬುದಕ್ಕೆ Anthropic ಒಂದು ಮಾದರಿಯನ್ನು ರೂಪಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದೆ. ಇದು ಆಧುನಿಕ ವೈದ್ಯಕೀಯ ಸಾಧನಗಳು ಅಜಾಗರೂಕತೆಯಿಂದ ಬಯೋಟೆರರಿಸಂನ (bioterrorism) ಸಾಧನಗಳಾಗದಂತೆ ಖಚಿತಪಡಿಸುತ್ತದೆ.

ಪ್ರಮುಖ ಅಂಶಗಳು

  • 85% ಫಾಲ್ಸ್ ಪಾಸಿಟಿವ್‌ಗಳ ಕಡಿತ: Anthropic ಕಾನೂನುಬದ್ಧ ಜೈವಿಕ ಪ್ರಶ್ನೆಗಳ ಅಡೆತಡೆಯನ್ನು ಗಣನೀಯವಾಗಿ ಕಡಿಮೆ ಮಾಡಿದೆ, ಇದರಿಂದ ಬಳಕೆದಾರರು ಡೌನ್‌ಗ್ರೇಡ್ ಮಾಡಲಾದ Opus 5 ನಿಂದ ದೂರವಾಗಬಹುದು.
  • ಅಧಿಕ ಅಪಾಯದ ಡೊಮೇನ್‌ಗಳ ಮೇಲೆ ಕಟ್ಟುನಿಟ್ಟಾದ ಕಾವಲುಗೋಲುಗಳು: ಜೈವಿಕ ಅಸ್ತ್ರಗಳ ತಯಾರಿಕೆಯನ್ನು ತಡೆಯಲು ವೈರಾಲಜಿ, ಟಾಕ್ಸಿಕಾಲಜಿ ಮತ್ತು ಅಣು ವಿನ್ಯಾಸದ ಮೇಲೆ ಕಟ್ಟುನಿಟ್ಟಿನ ನಿರ್ಬಂಧಗಳು ಮುಂದುವರಿಯುತ್ತವೆ.
  • ಸಂಶೋಧಕರಿಗಾಗಿ ನಿಯಂತ್ರಿತ ಪ್ರವೇಶ: ಪರಿಶೀಲಿಸಲ್ಪಟ್ಟ ವಿಜ್ಞಾನಿಗಳಿಗೆ ಅವರ ಕಾನೂನುಬದ್ಧ ಸಂಶೋಧನೆಗೆ ಅಗತ್ಯವಿರುವ ನಿರ್ಬಂಧಿತ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಒದಗಿಸಲು Anthropic ನಿರ್ದಿಷ್ಟ ಪ್ರವೇಶ ಕಾರ್ಯಕ್ರಮಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತಿದೆ.

Anthropic ತನ್ನ Fable 5 ಮಾಡೆಲ್‌ನಲ್ಲಿ ಹಾನಿಕಾರಕವಲ್ಲದ ಜೈವಿಕ ಪ್ರಶ್ನೆಗಳ ಮೇಲಿನ ಫಾಲ್ಸ್-ಪಾಸಿಟಿವ್ ತಡೆಗಳನ್ನು ಸುಮಾರು ಶೇಕಡಾ 85 ರಷ್ಟು ಕಡಿಮೆ ಮಾಡಿದೆ, ಇದು ಸಂಶೋಧಕರಿಗೆ ಮಾಡೆಲ್‌ನ ಸಂಪೂರ್ಣ ತಾರ್ಕಿಕ ಸಾಮರ್ಥ್ಯಗಳ ಪ್ರವೇಶವನ್ನು ಮರುಸ್ಥಾಪಿಸಿದೆ. ಈ ಬದಲಾವಣೆಯು ದ್ವಿ-ಬಳಕೆಯ ಜೈವಿಕ ವಿಷಯಗಳ ಮೇಲೆ ಕಟ್ಟುನಿಟ್ಟಿನ ರಕ್ಷಣೆಯನ್ನು ಕಾಯ್ದುಕೊಳ್ಳುತ್ತದೆ ಮತ್ತು ಜೈವಿಕ ಅಸ್ತ್ರಗಳನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಬಹುದಾದ ಸೂಚನೆಗಳನ್ನು ನೀಡದಂತೆ ಮಾಡೆಲ್ ಅನ್ನು ನಿರ್ಬಂಧಿಸುತ್ತದೆ.

ಈ ಅಪ್‌ಡೇಟ್ ಏಕೆ ಮುಖ್ಯ

Fable 5 ರ ಸುರಕ್ಷತಾ ಪದರವನ್ನು ಮೂಲತಃ ಎಚ್ಚರಿಕೆಯ ದೃಷ್ಟಿಯಿಂದ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿತ್ತು, ಇದು ವ್ಯಾಪಕವಾದ ಕಾನೂನುಬದ್ಧ ವೈಜ್ಞಾನಿಕ ಪ್ರಶ್ನೆಗಳನ್ನು ಹೆಚ್ಚಿನ ಅಪಾಯವೆಂದು ಗುರುತಿಸುತ್ತಿತ್ತು. ದಿನನಿತ್ಯದ ಪ್ರಯೋಗಾಲಯದ ಫಲಿತಾಂಶಗಳ ವ್ಯಾಖ್ಯಾನ ಅಥವಾ ಕ್ಲಿನಿಕಲ್ ಲಕ್ಷಣಗಳ ವಿಶ್ಲೇಷಣೆಯನ್ನು ಕೇಳಿದ ಬಳಕೆದಾರರನ್ನು ನಿಯಮಿತವಾಗಿ ಕಡಿಮೆ ಸಾಮರ್ಥ್ಯದ Opus 5 ಮಾಡೆಲ್‌ಗೆ ವರ್ಗಾಯಿಸಲಾಗುತ್ತಿತ್ತು. ಈ ಅತಿಯಾದ ತಡೆಗಳು ವೈಜ್ಞಾನಿಕ ಸಮುದಾಯದಿಂದ ಟೀಕೆಗೆ ಒಳಗಾದವು, ಇದು ಸಂಶೋಧನೆಯನ್ನು ಕುಂಠಿತಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ವೈದ್ಯಕೀಯ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವಿಕೆಯನ್ನು ನಿಧಾನಗೊಳಿಸುತ್ತದೆ ಎಂದು ಅವರು ವಾದಿಸಿದರು. ಫಾಲ್ಸ್-ಪಾಸಿಟಿವ್ ದರವನ್ನು ಸುಮಾರು ನಾಲ್ಕನೇ ಒಂದು ಭಾಗದಷ್ಟು ಕಡಿಮೆ ಮಾಡುವ ಮೂಲಕ, Anthropic ಮಾಡೆಲ್‌ನ ಸುಧಾರಿತ ತಾರ್ಕಿಕತೆಯನ್ನು ವೈದ್ಯರು, ಜೀವವಿಜ್ಞಾನಿಗಳು ಮತ್ತು ದೈನಂದಿನ ಕಾರ್ಯಗಳಿಗಾಗಿ ಅದನ್ನು ಅಗತ್ಯಪಡಿಸಿಕೊಳ್ಳುವ ಇತರ ವೃತ್ತಿಪರರ ಕೈಗೆ ಮರಳಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ.

ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಹೇಗೆ ಬದಲಾಯಿಸಲಾಯಿತು

ಈ ಸುಧಾರಣೆಯು ಮರುಹೊಂದಿಸಲಾದ ವರ್ಗೀಕೃತ ವ್ಯವಸ್ಥೆಯಿಂದ (classifier) ಉಂಟಾಗಿದೆ, ಇದು ಸಾಮಾನ್ಯ ಬಯೋಮೆಡಿಕಲ್ ಪ್ರಶ್ನೆಗಳು ಮತ್ತು "ದ್ವಿ-ಬಳಕೆಯ" (dual-use) ಸಂಶೋಧನೆಗೆ ಸಂಬಂಧಿಸಿದ ಪ್ರಶ್ನೆಗಳ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸುತ್ತದೆ—ಅಂದರೆ ಹಾನಿಗಾಗಿ ಮರುಬಳಕೆ ಮಾಡಬಹುದಾದ ಮಾಹಿತಿಯನ್ನು ಇದು ಗುರುತಿಸುತ್ತದೆ. ಹೊಸ ವರ್ಗೀಕೃತ ವ್ಯವಸ್ಥೆಯು ವೈರಾಲಜಿ, ಟಾಕ್ಸಿಕಾಲಜಿ ಮತ್ತು ಸುಧಾರಿತ ಅಣು ವಿನ್ಯಾಸಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ವಿನಂತಿಗಳನ್ನು ಇನ್ನೂ ತಡೆಹಿಡಿಯುತ್ತದೆ, ಆದರೆ ಇದು ಸಾಮಾನ್ಯ ರೋಗನಿರ್ಣಯ, ಲಕ್ಷಣಗಳ ವರ್ಗೀಕರಣ ಮತ್ತು ದತ್ತಾಂಶ ವ್ಯಾಖ್ಯಾನದ ಬಗ್ಗೆ ಇರುವ ಪ್ರಶ್ನೆಗಳಿಗೆ ಅವಕಾಶ ನೀಡುತ್ತದೆ.

Anthropic ನ ಎಂಜಿನಿಯರ್‌ಗಳು ಜೈವಿಕ ಬೆದರಿಕೆಗಳು ಸೈಬರ್ ಬೆದರಿಕೆಗಳಿಗಿಂತ ಭಿನ್ನವಾಗಿವೆ ಎಂದು ಗಮನಿಸಿದ್ದಾರೆ: ಒಮ್ಮೆ ರೋಗಕಾರಕವನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದರೆ, ಅದನ್ನು ಸರಿಪಡಿಸಲು ಅಥವಾ ನಿಲ್ಲಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಈ ವಾಸ್ತವವು ಹೆಚ್ಚಿನ ಅಪಾಯವಿರುವ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಕಟ್ಟುನಿಟ್ಟಾದ ಕ್ರಮಗಳನ್ನು ಕೈಗೊಳ್ಳುವ ಮತ್ತು ದೈನಂದಿನ ವೈದ್ಯಕೀಯ ವಿಚಾರಣೆಗಳ ಸುತ್ತಲಿನ ನಿರ್ಬಂಧಗಳನ್ನು ಸಡಿಲಗೊಳಿಸುವ ನಿರ್ಧಾರಕ್ಕೆ ಕಾರಣವಾಯಿತು.

ಯಾವುವು ನಿಷೇಧಿತವಾಗಿವೆ

ಹಾನಿಕಾರಕ ಏಜೆಂಟ್‌ಗಳ ತಯಾರಿಕೆಗೆ ಅನುಕೂಲ ಮಾಡಿಕೊಡುವ ವಿನಂತಿಗಳನ್ನು ಈ ಮಾಡೆಲ್ ನಿರಾಕರಿಸುವುದನ್ನು ಮುಂದುವರಿಸುತ್ತದೆ. ನಿರ್ದಿಷ್ಟವಾಗಿ, ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಬಯಸುವ ಯಾವುದೇ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಇದು ತಡೆಯುತ್ತದೆ:

  • ವೈರಸ್ ಸಂಶ್ಲೇಷಣೆಗೆ ಸಹಾಯ ಮಾಡಬಹುದಾದ ವಿವರವಾದ ವೈರಾಲಜಿ ಪ್ರೋಟೋಕಾಲ್‌ಗಳು,
  • ಶಸ್ತ್ರಾಸ್ತ್ರಗಳನ್ನಾಗಿ ಬಳಸಬಹುದಾದ ರಾಸಾಯನಿಕಗಳ ಟಾಕ್ಸಿಕಾಲಜಿ ಮಾರ್ಗಗಳು, ಅಥವಾ
  • ಹಂತ-ಹಂತದ ಅಣು ಎಂಜಿನಿಯರಿಂಗ್ ಸೂಚನೆಗಳು.

Anthropic ತನ್ನ ಎಚ್ಚರಿಕೆಗೆ ಮೂರು ಮೂಲಗಳನ್ನು ಉಲ್ಲೇಖಿಸಿದೆ: ಜೈವಿಕ ಅಪಾಯವನ್ನು ಎತ್ತಿ ತೋರಿಸುವ ಅಮೆರಿಕದ ಗುಪ್ತಚರ ಸಂಸ್ಥೆಗಳ ವಿಶ್ಲೇಷಣೆಗಳು, AI ಸಂಪೂರ್ಣ ಕೃತಕ ವೈರಸ್‌ಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಬಲ್ಲದು ಎಂದು ತೋರಿಸುವ ಸಂಶೋಧನೆಗಳು, ಮತ್ತು ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್‌ಗಳಿಂದ ಜೈವಿಕ ಅಸ್ತ್ರಗಳ ಸೂಚನೆಗಳನ್ನು ಪಡೆಯಲು ಬಳಕೆದಾರರು ನಡೆಸಿದ ದಾಖಲಿತ ಪ್ರಯತ್ನಗಳು.

ಪರಿಶೀಲಿಸಲ್ಪಟ್ಟ ವಿಜ್ಞಾನಿಗಳಿಗಾಗಿ ಪ್ರವೇಶ ಕಾರ್ಯಕ್ರಮ

ಮುಕ್ತ ಸಂಶೋಧನೆ ಮತ್ತು ಭದ್ರತೆಯ ನಡುವೆ ಸಮತೋಲನವನ್ನು ಕಾಪಾಡಲು, Anthropic ಒಂದು ವಿಶೇಷ ಪ್ರವೇಶ ಕಾರ್ಯಕ್ರಮವನ್ನು ಜಾರಿಗೆ ತರುತ್ತಿದೆ. ದೃಢೀಕರಿಸಲ್ಪಟ್ಟ ಸಂಶೋಧಕರು ನಿಯಂತ್ರಿತ ಪರಿಸರಕ್ಕಾಗಿ ಅರ್ಜಿ ಸಲ್ಲಿಸಬಹುದು, ಅಲ್ಲಿ ಆಡಿಟ್ ಅಡಿಯಲ್ಲಿ ನಿರ್ಬಂಧಿತ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಅನ್ಲಾಕ್ ಮಾಡಲಾಗುತ್ತದೆ. ಈ ಕಾರ್ಯಕ್ರಮವು ಕಾನೂನುಬದ್ಧ ವಿಜ್ಞಾನಿಗಳು ಹೆಚ್ಚಿನ ಅಪಾಯವಿರುವ ವಿಷಯಗಳನ್ನು—ಹೊಸ ಲಸಿಕಾ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳು ಅಥವಾ ರೋಗಕಾರಕ ಮಾದರಿ ತಯಾರಿಕೆ ನಂತಹವುಗಳನ್ನು—ಸಾಮಾನ್ಯ ಜನರಿಗೆ ಅಪಾಯಕಾರಿ ಮಾರ್ಗದರ್ಶನವನ್ನು ನೀಡದೆ ಅನ್ವೇಷಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುವಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.

ಮುಖ್ಯಾಂಶಗಳು

ಕಟ್ಟುನಿಟ್ಟಾದ ದ್ವಿ-ಬಳಕೆಯ ನಿಷೇಧಗಳನ್ನು ಕಾಯ್ದುಕೊಳ್ಳುವ ಜೊತೆಗೆ, 85% ತಪ್ಪು-ಧನಾತ್ಮಕ (false-positive) ನಿರ್ಬಂಧಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಮೂಲಕ, Anthropic ಜೈವಿಕ ಅಸ್ತ್ರ ವಿನ್ಯಾಸಕ್ಕೆ ದಾರಿ ಮಾಡಿಕೊಡದೆ ತನ್ನ ಅತ್ಯಂತ ಸಮರ್ಥ ಮಾಡೆಲ್‌ನ ಶಕ್ತಿಯನ್ನು ಸಂಶೋಧಕರಿಗೆ ನೀಡುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ. ಈ ಅಳತೆ ಮಾಡಲಾದ ಸುರಕ್ಷತಾ ತಂತ್ರದ ಯಶಸ್ಸು, ಮುಂಚೂಣಿಯಲ್ಲಿರುವ AI ಮಾಡೆಲ್‌ಗಳು ಇತರ ಹೆಚ್ಚಿನ ಅಪಾಯವಿರುವ ವೈಜ್ಞಾನಿಕ ಕ್ಷೇತ್ರಗಳನ್ನು ಹೇಗೆ ನಿರ್ವಹಿಸಬೇಕು ಎಂಬುದಕ್ಕೆ ಒಂದು ಮಾದರಿಯಾಗಬಹುದು.