AI हेल्प डेस्क: वारंवार विचारल्या जाणाऱ्या AI प्रश्नांवर पैसे वाया घालवणे कसे थांबवावे

वापरकर्ते AI ॲप्सना वारंवार तेच प्रश्न विचारतात. प्रत्येक वेळी AI ला विचारणे संथ असते. यामुळे तुमचे पैसेही खर्च होतात.

उत्तरे लक्षात ठेवणारी प्रणाली वापरून तुम्ही ही समस्या सोडवू शकता. याला एक 'हेल्प डेस्क' समजा.

हेल्प डेस्क कसे काम करते ते खालीलप्रमाणे आहे:

  • तज्ज्ञ (The Expert - LLM) हे GPT किंवा Claude सारखे AI मॉडेल आहे. ते हुशार आहे पण संथ आणि महाग आहे. नवीन प्रश्नांसाठीच तज्ज्ञाची मदत घेणे हे आपले उद्दिष्ट आहे.

  • नोटबुक (The Notebook - Cache) डेस्क येथे उत्तरे लिहून ठेवते. नोटबुक वाचणे त्वरित आणि मोफत आहे. • शब्दशः नोटबुक (Exact Cache): पूर्णपणे जुळणारी उत्तरे शोधते. • समान अर्थाची नोटबुक (Semantic Cache): शब्दांची रचना बदलली तरी योग्य उत्तरे शोधते.

  • अर्थ ओळखणारे साधन (The Meaning-Reader - Embedding Model) हे साधन प्रश्नाचे "अर्थाच्या फिंगरप्रिंटमध्ये" (meaning fingerprint) रूपांतर करते. जर दोन प्रश्नांचे फिंगरप्रिंट्स सारखे असतील, तर त्यांचा अर्थ एकच असतो.

  • अनुक्रमणिका (The Table of Contents - Vector Store) एक स्मार्ट इंडेक्स जो डेस्कला त्वरित योग्य पान शोधण्यास मदत करतो. याशिवाय, लाखो उत्तरे शोधणे खूप संथ होईल.

  • फ्रंट-डेस्क क्लर्क (The Front-Desk Clerk - Router) हा व्यक्ती प्रथम प्रश्न स्वीकारतो. तज्ज्ञाला बोलावण्यापूर्वी ते नोटबुक तपासतात.

  • लेबल्स (The Labels - Scope/Tenant Tags) प्रत्येक उत्तराला एक लेबल दिले जाते. "Anyone" म्हणजे उत्तर सार्वजनिक आहे. "Private" म्हणजे ते फक्त एक विशिष्ट वापरकर्ता पाहू शकतो. यामुळे वैयक्तिक डेटा सुरक्षित राहतो.

प्रश्न डेस्कमधून कसा प्रवास करतो:

  1. एक प्रश्न येतो.
  2. क्लर्क त्वरित तपासणीसाठी शब्दशः (word-for-word) नोटबुक तपासतो.
  3. जर काही जुळले नाही, तर क्लर्क फिंगरप्रिंट्स वापरून समान अर्थाची नोटबुक तपासतो.
  4. तरीही काही जुळले नाही, तर नवीन उत्तर लिहिण्यासाठी तज्ज्ञाला (LLM) बोलावले जाते.
  5. डेस्क ते उत्तर पुढच्या वेळेसाठी नोटबुकमध्ये जतन करते.

परिणाम: जर तुमचे ॲप १,००,००० प्रश्नांची हाताळणी करत असेल आणि कॅशे (cache) त्यातील अर्धे प्रश्न पकडत असेल तर:

  • तुमच्या AI बिलामध्ये ५०% बचत होते.
  • प्रतीक्षा वेळ सेकंदांवरून मिलीसेकंदपर्यंत कमी होतो.
  • तुमचे खर्च वापरकर्त्यांच्या संख्येपेक्षा खूप कमी वेगाने वाढतात.

स्रोत: https://dev.to/abhiram_paidi/the-ai-help-desk-how-to-stop-your-ai-app-from-re-answering-the-same-question-4650

ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi