Claude Fable 5.1 ഇപ്പോൾ വിപണിയിൽ ലഭ്യമാണ്. സാധാരണ ചാറ്റിന് 25% കുറഞ്ഞ ചിലവും, പല ഓട്ടോമേഷൻ ടൂളുകളിലും ഉപയോഗിക്കുന്ന ആവർത്തിച്ചുള്ള പ്രോംപ്റ്റ് ഏജന്റ് ലൂപ്പുകൾക്ക് (repeated-prompt agent loops) 45% കുറഞ്ഞ ചിലവുമാണ് പുതിയ മോഡലിനുള്ളതെന്ന് Anthropic പറയുന്നു. കമ്പനി നേരത്തെ പ്രോസസ്സ് ചെയ്ത് സംഭരിച്ചു വെച്ചിട്ടുള്ള വിവരങ്ങൾ അഥവാ കാഷഡ് ഡാറ്റ (cached data) കുറഞ്ഞ ചിലവിൽ ലഭ്യമാകുന്നതാണ് ഈ വിലക്കുറവിന് കാരണം.

വിലക്കുറവ് പ്രധാനമാകുന്നത് എന്തുകൊണ്ട്

ഒരു ലാംഗ്വേജ് മോഡലിലേക്ക് വലിയ തോതിൽ കോളുകൾ നടത്തുന്ന ഡെവലപ്പർമാർക്ക് പലപ്പോഴും വലിയ ബില്ലുകൾ നേരിടേണ്ടി വരാറുണ്ട്. കാരണം, പ്രൊവൈഡർ പക്കൽ നേരത്തെ തന്നെ ഉള്ള വിവരങ്ങൾ ആവർത്തിച്ച് ആവശ്യപ്പെടുമ്പോഴും ഓരോ റിക്വസ്റ്റിനും മോഡലിന്റെ per-token നിരക്കിലാണ് ബില്ല് വരുന്നത്. കാഷഡ് ഡാറ്റ ഉപയോഗിക്കുന്നതിലൂടെ, Fable 5.1 "standard" റിക്വസ്റ്റുകളുടെ ചിലവ് കുറയ്ക്കുകയും, ഒരേ സിസ്റ്റം പ്രോംപ്റ്റും ടൂൾ സ്കീമയും ആവർത്തിച്ച് ഉപയോഗിക്കുമ്പോൾ വലിയ ഇളവ് നൽകുകയും ചെയ്യുന്നു. ഓട്ടോണമസ് കോഡ് റിവ്യൂവർമാർ, ടിക്കറ്റ് ട്രയാജ് ബോട്ടുകൾ, അല്ലെങ്കിൽ ഡാറ്റാ എക്സ്ട്രാക്ഷൻ ലൂപ്പുകൾ തുടങ്ങിയ ഏജന്റ് പൈപ്പ്‌ലൈനുകൾ നിർമ്മിച്ച ടീമുകളെ സംബന്ധിച്ചിടത്തോളം ഈ 45% ലാഭം നിർണ്ണായകമാണ്.

മാറ്റം ലാഭകരമാണോ എന്ന് എങ്ങനെ തീരുമാനിക്കാം

  1. നിങ്ങളുടെ കാഷെ ഹിറ്റ് റേറ്റ് (cache hit rate) അളക്കുക – നിങ്ങളുടെ കോളുകളിൽ ഭൂരിഭാഗവും കാഷഡ് ഉള്ളടക്കത്താണെങ്കിൽ, കുറഞ്ഞ per-token ചിലവ് നേരിട്ട് ബില്ലിൽ കുറവ് വരുത്തും.
  2. നിങ്ങളുടെ വർക്ക് ലോഡിന്റെ സ്വഭാവം തിരിച്ചറിയുക – ഒരേ പ്രോംപ്റ്റും ടൂൾ ഡെഫനിഷനുകളും ഉപയോഗിക്കുന്ന ആവർത്തിച്ചുള്ള ഏജന്റ് ലൂപ്പുകൾക്ക് 45% ഡിസ്കൗണ്ട് ലഭിക്കും. മാറിക്കൊണ്ടിരിക്കുന്ന പ്രോംപ്റ്റുകളുള്ള ഒറ്റപ്പെട്ട ചാറ്റുകൾക്ക് 25% കുറവ് മാത്രമേ ലഭിക്കൂ.
  3. ടാസ്കിന്റെ മൊത്തത്തിലുള്ള ചിലവ് താരതമ്യം ചെയ്യുക – വെറും per-token വില മാത്രം നോക്കിയാൽ പോരാ. ഒരു ടാസ്കിനെ കൂടുതൽ കോളുകളായി വിഭജിക്കാൻ നിർബന്ധിക്കുന്ന കുറഞ്ഞ വിലയുള്ള മോഡൽ മൊത്തത്തിൽ കൂടുതൽ ചിലവ് വരുത്തിയേക്കാം.
  4. ഒരു സൈഡ്-ബൈ-സൈഡ് ടെസ്റ്റ് നടത്തുക – നിലവിലുള്ള മോഡൽ ഉപയോഗിച്ചുകൊണ്ട് തന്നെ, നിങ്ങളുടെ ട്രാഫിക്കിന്റെ ഒരു ഭാഗത്ത് Fable 5.1 പരീക്ഷിച്ചു നോക്കുക. ലേറ്റൻസി (latency), ടോക്കൺ ഉപയോഗം, ഔട്ട്പുട്ട് ഗുണനിലവാരത്തിലുണ്ടാകുന്ന മാറ്റങ്ങൾ എന്നിവ നിരീക്ഷിക്കുക.

നിങ്ങളുടെ കാഷെ ഹിറ്റ് റേറ്റ് കുറവാണെങ്കിലോ അല്ലെങ്കിൽ ഒറ്റപ്പെട്ട പ്രോംപ്റ്റുകളാണ് കൂടുതലാണെങ്കിലോ, സാമ്പത്തിക നേട്ടം വളരെ കുറവായിരിക്കാം. അങ്ങനെയെങ്കിൽ, കാഷെ വീണ്ടും ഉപയോഗിക്കാൻ പാകത്തിൽ പ്രോംപ്റ്റുകൾ പുനർനിർമ്മിക്കാൻ കഴിയുന്നതുവരെ നിലവിലുള്ള മോഡൽ തന്നെ ഉപയോഗിക്കുന്നതാകും ബുദ്ധി.

സുരക്ഷാ പരിഷ്കാരങ്ങൾ

Anthropic മോഡലിന്റെ സുരക്ഷാ സംവിധാനങ്ങൾ ശക്തമാക്കിയിട്ടുണ്ട്. പുതിയ പതിപ്പ് സാധാരണ ബയോളജിക്കൽ ക്വറികൾ (biological queries) തടയുന്നത് കുറയ്ക്കുന്നു, ഇതിനർത്ഥം ലൈഫ് സയൻസ് മേഖലയിലുള്ള ഡെവലപ്പർമാർക്ക് തെറ്റായ റിജക്ഷനുകൾ (false positives) കുറവായിരിക്കും എന്നാണ്. കൂടാതെ, സോഫ്റ്റ്‌വെയർ സുരക്ഷാ പിഴവുകൾ (software vulnerabilities) തിരിച്ചറിയാനുള്ള ശേഷിയും ഇതിലുണ്ട്; ഇത് സെക്യൂരിറ്റി ടീമുകളെ പ്രത്യേക മോഡൽ ഇല്ലാതെ തന്നെ അപകടകരമായ കോഡുകൾ കണ്ടെത്താൻ സഹായിക്കും.

ഉയർന്ന റിസ്കുള്ള പ്രവർത്തനങ്ങളിൽ മോഡൽ ഇപ്പോഴും കർശനമായ നിയന്ത്രണങ്ങൾ പാലിക്കുന്നു. ഇതിന് പെനട്രേഷൻ ടെസ്റ്റിംഗ് നടത്താനോ എക്സ്പ്ലോയിറ്റ് കോഡ് (exploit code) നിർമ്മിക്കാനോ കഴിയില്ല; അത്തരം സാഹചര്യങ്ങൾ Anthropic-ന്റെ Opus മോഡലിന്റെ പരിധിയിലാണ്. കർശനമായ ഡാറ്റാ കൈകാര്യം ചെയ്യൽ ആവശ്യമുള്ള എന്റർപ്രൈസുകൾക്കായി, ഈ വർഷം ശരത്കാലത്ത് പുറത്തിറങ്ങുന്ന “Enterprise Frontier Safeguards” വഴി ഡാറ്റ ഒട്ടും സൂക്ഷിക്കില്ലെന്ന് (zero data retention) ഉറപ്പുനൽകുന്നു. അതുവരെ, API-ലേക്ക് അയക്കുന്ന ഏത് ഡാറ്റയും മോഡൽ മെച്ചപ്പെടുത്തുന്നതിനായി ഉപയോഗിച്ചേക്കാം എന്ന് കരുതേണ്ടതാണ്.

ഉപയോഗിക്കുന്നതിന് മുൻപ് എന്തൊക്കെ പരിശോധിക്കണം

  • കാഷെ പെർഫോമൻസ് (Cache performance) – Fable 5.1-ന്റെ വിലനിർണ്ണയ നിയമങ്ങൾ അനുസരിച്ച് എത്രത്തോളം റിക്വസ്റ്റുകൾ കാഷെ ഉപയോഗിച്ചേക്കാം എന്ന് നിങ്ങളുടെ നിലവിലുള്ള ലോഗുകൾ ഉപയോഗിച്ച് കണക്കാക്കുക.
  • സുരക്ഷാ പരിധികൾ (Safeguard boundaries) – മുമ്പ് ബ്ലോക്ക് ചെയ്യപ്പെട്ടിരുന്ന പ്രോംപ്റ്റുകൾ (ഉദാഹരണത്തിന് അടിസ്ഥാന ബയോളജി ചോദ്യങ്ങൾ) നൽകി അവ ഇപ്പോൾ പാസാവുന്നുണ്ടോ എന്ന് പരിശോധിക്കുക.
  • ബെഞ്ച്മാർക്ക് സ്കോറുകൾ (Benchmark scores) – Terminal-Bench 4.0, Humanity’s Last Exam എന്നിവയിൽ മികച്ച ഫലങ്ങൾ ലഭിച്ചതായി ആദ്യകാല റിപ്പോർട്ടുകൾ സൂചിപ്പിക്കുന്നു. പ്രകടനം നിങ്ങളുടെ ഗുണനിലവാര പ്രതീക്ഷകൾക്കനുസരിച്ചാണോ എന്ന് ഉറപ്പാക്കാൻ പബ്ലിക് ബെഞ്ച്മാർക്ക് റിപ്പോർട്ടുകൾ ശ്രദ്ധിക്കുക.

ഇന്ന് ആർക്കൊക്കെ ഇത് ലഭ്യമാണ്

ക്ലൗഡ് പ്ലാറ്റ്‌ഫോമുകൾ വഴിയും API എൻഡ് പോയിന്റുകൾ വഴിയും Fable 5.1 പൊതുജനങ്ങൾക്ക് ലഭ്യമാണ്. Anthropic-ന്റെ “Mythos 5.1” സൈബർ സെക്യൂരിറ്റി, ലൈഫ് സയൻസ് റിസർച്ച് എന്നീ മേഖലകളിലെ ചുരുക്കം ചില പങ്കാളികൾക്ക് മാത്രമായി പരിമിതപ്പെടുത്തിയിരിക്കുന്നു, അതിനാൽ നിലവിൽ ഡെവലപ്പർ കമ്മ്യൂണിറ്റിക്ക് Fable 5.1 ഉപയോഗിക്കേണ്ടി വരും.

ചുരുക്കത്തിൽ

നിങ്ങളുടെ ആപ്ലിക്കേഷനുകൾ ഏജന്റ് ലൂപ്പുകളെ അഥവാ പ്രോംപ്റ്റുകളെ ആവർത്തിച്ച് ഉപയോഗിക്കുന്നവയാണെങ്കിൽ, കാഷഡ് ഓപ്പറേഷനുകൾക്ക് ലഭിക്കുന്ന 45% ഡിസ്കൗണ്ട് Claude Fable 5.1-ലേക്ക് മാറാൻ മികച്ചൊരു കാരണമാണ്. മിക്കവാറും ഒറ്റപ്പെട്ട പ്രോംപ്റ്റുകൾ ഉപയോഗിക്കുന്ന ടീമുകൾക്ക് 25% കുറവ് മാത്രമേ ലഭിക്കൂ, ഇത് മാറ്റത്തിനായുള്ള പ്രയത്നത്തിന് അർഹമായ ലാഭമായിരിക്കില്ല. മെച്ചപ്പെട്ട സുരക്ഷാ സംവിധാനങ്ങൾ നിയന്ത്രിത മേഖലകളിൽ മോഡലിന്റെ ഉപയോഗക്ഷമത വർദ്ധിപ്പിക്കുന്നുണ്ടെങ്കിലും, ഡാറ്റ സൂക്ഷിക്കാത്ത (zero-retention) ഓപ്ഷൻ വരാൻ സമയമെടുക്കും എന്നതിനാൽ എന്റർപ്രൈസുകൾ ഒരു പരിധിവരെ തയ്യാറെടുപ്പുകൾ നടത്തേണ്ടതുണ്ട്. കാഷെ ഹിറ്റ് റേറ്റ് അളക്കുക, ഒരു പൈലറ്റ് ടെസ്റ്റ് നടത്തുക, ടാസ്കിന്റെ മൊത്തത്തിലുള്ള ചിലവ് താരതമ്യം ചെയ്ത് അന്തിമ തീരുമാനമെടുക്കുക.