பிராந்திய அனுமானம் (Regional inference): கணக்கீட்டுப் படிநிலையை ஐரோப்பிய ஒன்றியத்திற்குள் வைத்திருத்தல்

தனிப்பட்ட அல்லது நிதித் தரவுகளை ஐரோப்பிய எல்லைகளுக்குள் வைத்திருக்க வேண்டிய நிறுவனங்கள், இப்போது தங்களது API அழைப்புகளை api.eu.mistral.ai-க்கு மாற்றிக்கொள்ளலாம். மாதிரியின் செயலாக்கம் (processing) – அதாவது கோரிக்கை வன்பொருளில் (hardware) இயங்கும் தருணம் – ஐரோப்பிய ஒன்றியத்திலேயே இருக்கும், இது பல தரவுத் தங்குமிட விதிகளை (data-residency rules) பூர்த்தி செய்கிறது. அமெரிக்க வாடிக்கையாளர்களுக்காக ஒரு இணைய முகவரி (api.us.mistral.ai) அதே புவியியல் உத்தரவாதத்தை வழங்குகிறது.

இந்த நன்மையானது முழுமையான தனிமைப்படுத்தலை வழங்காது. கணக்கு மெட்டாடேட்டா (account metadata), API சாவிகள் (API keys), கட்டணப் பதிவுகள் மற்றும் பயன்பாட்டுப் புள்ளிவிவரங்கள் ஆகியவை தேர்ந்தெடுக்கப்பட்ட பிராந்தியத்திற்கு வெளியே கையாளப்படலாம் என்று Mistral-ன் ஆவணங்கள் கூறுகின்றன. கோரிக்கை பதிவுகள் (request logs) சேமிக்கப்படுவதைத் தவிர்க்க, பயனர்கள் "Zero Data Retention" என்ற கொடியை (flag) செயல்படுத்த வேண்டும்; இல்லையெனில், கோரிக்கை மெட்டாடேட்டா வேறு எங்கோ சேமிக்கப்படலாம். பிராந்திய விருப்பத்தேர்வு (regional option), நிலையான டோக்கன் விலையுடன் கூடுதலாக 10% கூடுதல் கட்டணத்தைச் சேர்க்கிறது.

பிராந்திய இணைய முகவரிகளால் (regional endpoints) இன்னும் என்ன செய்ய முடியாது

இன்று, ஐரோப்பிய ஒன்றிய இணைய முகவரி 'stateless' செயல்பாடுகளை மட்டுமே ஆதரிக்கிறது. "Stateless" என்பது ஒவ்வொரு கோரிக்கையும் தனித்தனியாகச் செயலாக்கப்படும் என்பதைக் குறிக்கிறது; அதாவது அழைப்புகளுக்கு இடையே சேவை எந்த இடைநிலைத் தரவையும் வைத்திருக்காது. இந்தத் தடை பல உயர்நிலை அம்சங்களைத் தடுக்கிறது:

  • பல அழைப்புகளை ஒரு பல-படிநிலை தர்க்கப் பணிப்பாய்வாக (multi-step reasoning workflow) இணைக்கும் AI முகவர்கள் (AI agents).
  • பெரிய தரவுத் தொகுப்புகளில் (data sets) ஒத்திசைவற்ற முறையில் (asynchronously) இயங்கும் தொகுப்பு செயலாக்கப் பணிகள் (Batch processing jobs).
  • ஆவணங்கள் அல்லது பிற சொத்துக்களைப் பதிவேற்றப் பயன்படுத்தப்படும் Files API.

தொடர்ச்சியான சேமிப்பு வசதி (persistent storage) இல்லாததே தொழில்நுட்பத் தடையாகத் தெரிகிறது. கூடுதலாக, ஐரோப்பிய ஒன்றிய இணைய முகவரியில் கிடைக்கும் மாதிரிகளின் பட்டியல் (catalog of models) உலகளாவிய பட்டியலிலிருந்து மாறுபடலாம்; எந்த மாதிரிகள் அங்கு உண்மையில் பயன்படுத்தப்படுகின்றன என்பதைப் பார்க்க வாடிக்கையாளர்கள் அந்த இணைய முகவரியைத் தொடர்பு கொள்ள வேண்டும்.

முன்னுரிமைத் அடுக்கு (Priority tier): தாமத உணர்திறன் கொண்ட பணிகளுக்கான விரைவுப் பாதை

தற்போது திறந்த பீட்டாவில் (open beta) உள்ள Mistral-ன் Priority அடுக்கு, கணினி பிஸியாக இருக்கும்போது, பணம் செலுத்தும் வாடிக்கையாளரின் கோரிக்கைகள் சாதாரணப் போக்குவரத்திற்கு முன்னால் செல்லும் என்று உறுதியளிக்கிறது. இந்த அடுக்கு மூன்று நிறுவனத் தர உத்தரவாதங்களை வழங்குகிறது:

  • Uptime SLA – ஒப்பந்தப்படி 99.5% கிடைக்கும் தன்மை, அதாவது மாதத்திற்கு சுமார் 3.5 மணிநேரத் தடங்கல் மட்டுமே அனுமதிக்கப்படும். நிலையான அடுக்கு எந்த முறையான நேரடித் தொடர்ச்சி உத்தரவாதத்தையும் வழங்கவில்லை.
  • Predictable latency – அழைப்பாளர்கள் service_tier என்ற அளவுருவை (parameter) அமைக்கலாம், இது கோரிக்கைக்கு முன்னுரிமை அளிக்க கணினிக்குத் தெரியப்படுத்தும், இதன் மூலம் பதிலளிக்கும் நேர மாறுபாட்டைத் தவிர்க்கலாம்.
  • Premium pricing – prompt-caching தள்ளுபடிகள் வழங்கப்பட்ட பிறகு, இந்த அடுக்கு 75% கூடுதல் கட்டணத்தைச் (அடிப்படை விலையின் 1.75 மடங்கு) சேர்க்கிறது.

Priority அடுக்கைப் பயன்படுத்துவது சுயசேவை (self-service) முறை அல்ல; வணிகங்கள் Mistral-ன் விற்பனைத் குழுவுடன் ஒப்பந்தம் செய்து, தனிப்பயனாக்கப்பட்ட விகித வரம்புகளுக்கு (rate limits) ஒப்புக்கொள்ள வேண்டும். நேரலை சாட்பாட்கள் (live chatbots) போன்ற நிகழ்நேரப் பயன்பாடுகளை இது இலக்காகக் கொண்டுள்ளது, அங்கு சில மில்லி விநாடிகள் கூட வருவாயைப் பாதிக்கலாம்.

மூன்றாம் தரப்பு மாதிரிகள் மூலம் தளத்தை விரிவுபடுத்துதல்

Mistral தன்னை ஒரு ஒற்றை மாதிரி வழங்குநராக மட்டும் பார்க்காமல், ஒரு விரிவான தளமாக நிலைநிறுத்திக் கொள்கிறது. அதன் உள்கட்டமைப்பு இப்போது வெளி டெவலப்பர்களிடமிருந்து மாதிரிகளைப் பெறுகிறது, இதில் சீன நிறுவனமான Z.ai-ன் GLM-5.2 முதல் முறையாகப் பெறப்பட்டுள்ளது. அதிகரித்த கணக்கீட்டுத் தேவை மற்றும் புதிய ஐரோப்பிய தரவு மையங்களை ஆதரிக்க, Mistral "European Compute Units"-ஐ விற்கிறது – இது பெரிய நிறுவனங்களிடமிருந்து பெறப்படும் பல ஆண்டு கால கொள்முதல் உறுதிமொழிகளாகும், இது பிராந்திய வன்பொருள் கட்டுமானத்திற்கு நிதியளிக்கிறது.

சவால்கள் மற்றும் சாத்தியமான எதிர்ப்புகள்

ஒழுங்குமுறை நிறுவனங்கள் (Regulated firms) கணக்கீட்டை ஐரோப்பிய ஒன்றியத்திற்குள் வைத்திருப்பதன் மூலம் இணக்கத்தைப் (compliance) பெறுவதற்கான தெளிவான பாதையைப் பெறுகின்றன, மேலும் தாமத உணர்திறன் கொண்ட சேவைகள் Priority அடுக்கைப் பயன்படுத்தித் தங்களின் செயல்திறனை உறுதிப்படுத்திக் கொள்ளலாம். இருப்பினும், 10% அல்லது 75% கூடுதல் விலையைத் தாங்க முடியாத சிறிய நிறுவனங்களை இந்த கூடுதல் செலவுகள் தடுக்கலாம். 'Stateless' வரம்பு, முகவர்கள் அல்லது தொகுப்புப் பணிகளைச் சார்ந்திருக்கும் பணிப்பாய்வுகளை (workflows) மறுவடிவமைப்பு செய்ய டெவலப்பர்களைக் கட்டாயப்படுத்துகிறது, இது பொறியியல் பணிச்சுமையை (engineering overhead) அதிகரிக்கக்கூடும்.

ஏற்கனவே முழுமையான இறையாண்மை கொண்ட கட்டமைப்புகளை (sovereign stacks) அல்லது குறைந்த செலவில் தாமத உத்தரவாதங்களை வழங்கும் போட்டியாளர்கள், விலை உணர்திறன் கொண்ட வாடிக்கையாளர்களை ஈர்க்கக்கூடும். பிராந்திய இணைய முகவரிகளில் மாதிரிகளின் வகைப்பாடு குறைவாகவே இருந்தால், நிறுவனங்கள் சில திறன்களுக்காக உலகளாவிய இணைய முகவரிகளையே சார்ந்திருக்க வேண்டியிருக்கும், இது இறையாண்மை என்ற கூற்றைக் कमजोरப்படுத்தும்.

அடுத்து கவனிக்க வேண்டியவை

  • Model availability – ஐரோப்பிய ஒன்றிய இணைய முகவரியில் Mistral எத்தனை மாதிரிகளை விரிவுபடுத்துகிறது என்பது அதன் பயன்பாட்டைத் தீர்மானிக்கும்.
  • Pricing adjustments – கூடுதல் கட்டண விகிதங்களில் ஏற்படும் எந்த மாற்றமும் நிறுவனங்களுக்கான செலவு-பயன் சமநிலையை மாற்றக்கூடும்.
  • Feature rollout – பிராந்திய இணைய முகவரிகளில் 'stateful' திறன்களை (முகவர்கள், தொகுப்புப் பணிகள், கோப்பு கையாளுதல்) அறிமுகப்படுத்துவது ஒரு முக்கிய இடைவெளியை நிரப்பும்.
  • Adoption of European Compute Units – பெரிய வாடிக்கையாளர்கள் இந்த நீண்டகால ஒப்பந்தங்களில் எவ்வளவு விரைவாக ஈடுபடுகிறார்கள் என்பதைப் பொறுத்து, Mistral தனது ஐரோப்பிய ஒன்றிய உள்கட்டமைப்பை எவ்வளவு வேகமாக விரிவுபடுத்த முடியும் என்பது தெரியவரும்.

இந்த வெளியீடு, தரவுத் தங்குமிடம் மற்றும் மிகக்குறைந்த தாமதத்திற்காக கூடுதல் விலை கொடுக்கத் தயாராக இருக்கும் ஒரு சந்தையின் மீது Mistral பந்தயம் கட்டியிருப்பதைச் சுட்டிக்காட்டுகிறது. விலை மற்றும் செயல்பாட்டுத் தடைகள் ஏற்றுக்கொள்ளத்தக்கதாக இருக்குமா என்பது, இந்த புதிய நிலைகள் ஒரு போட்டித்திறன் மிக்க சாதகமாக மாறுமா அல்லது ஒரு குறிப்பிட்ட சிறிய சந்தைக்கான தயாரிப்பாக இருக்குமா என்பதைத் தீர்மானிக்கும்.