𝗖𝗿𝗮𝘄𝗹 𝗕𝘂𝗱𝗴𝗲𝘁 𝗥𝗲𝗰𝗹𝗮𝗺𝗮𝘁𝗶𝗼𝗻
Google तुमच्या साइटवरील किती URLs क्रॉल करेल हे ठरवते. यालाच तुमचे 'क्रॉल बजेट' (crawl budget) म्हणतात. याचे दोन भाग आहेत: क्रॉल क्षमता (crawl capacity) आणि क्रॉल मागणी (crawl demand).
क्रॉल क्षमता तुमच्या सर्व्हरच्या वेगावर अवलंबून असते. जर तुमचा सर्व्हर वेगाने प्रतिसाद देत असेल, तर Google अधिक क्रॉल करते.
क्रॉल मागणी तुमच्या कंटेंटवर अवलंबून असते. जर तुमचा कंटेंट ताजा आणि लोकप्रिय असेल, तर Google त्याला वारंवार पाहू इच्छिते.
बहुतेक लहान साइट्सना याबद्दल काळजी करण्याची गरज नसते. जर तुमच्याकडे १०,००० पेक्षा कमी पेजेस असतील, तर त्याऐवजी एका चांगल्या साइटमॅपवर (sitemap) लक्ष केंद्रित करा.
तुम्हाला फक्त खालील परिस्थितीत कारवाई करण्याची गरज आहे:
- १ दशलक्षाहून अधिक युनिक पेजेस (unique pages).
- दररोज बदलणारी १०,००० पेक्षा जास्त पेजेस.
- Search Console मध्ये अनेक URLs "Discovered – currently not indexed" म्हणून अडकलेले असतील.
वाया गेलेले क्रॉल बजेट सहसा स्ट्रक्चरल समस्यांमुळे (structural issues) होते. सामान्य समस्यांमध्ये खालील गोष्टींचा समावेश होतो:
- फॅसेटेड नेव्हिगेशन (Faceted navigation) आणि URL पॅरामीटर्स.
- अनंत फिल्टर साखळी (infinite filter chains) किंवा कॅलेंडर.
- सॉफ्ट ४०४ (Soft 404) एरर्स.
- डुप्लिकेट किंवा थिन कंटेंट (thin content).
- लांब रिडायरेक्ट साखळी (long redirect chains).
- सर्व्हरचा संथ प्रतिसाद वेळ (slow server response times).
तुमचे क्रॉल बजेट सुधारण्यासाठी या पायऱ्या फॉलो करा:
- डुप्लिकेट पेजेस एकत्र करा आणि कॅनोनिकल टॅग्स (canonical tags) वापरा.
- अनावश्यक URLs ब्लॉक करण्यासाठी robots.txt वापरा. यासाठी noindex वापरू नका. noindex टॅग पाहण्यासाठी Google ला पेज क्रॉल करावे लागते, ज्यामुळे बजेट वाया जाते.
- काढून टाकलेल्या पेजेससाठी 404 किंवा 410 स्टेटस कोड्स वापरा.
- तुमच्या साइटमॅप्समध्ये योग्य lastmod तारखा अपडेट करा.
- क्षमता वाढवण्यासाठी तुमच्या सर्व्हरचा वेग सुधारा.
काही तज्ज्ञ ट्रॅफिक वाढवण्यासाठी कमी दर्जाचा कंटेंट काढून टाकण्याचा सल्ला देतात. एका अभ्यासानुसार, जुने आणि शून्य ट्रॅफिक असलेले पोस्ट काढून टाकल्यानंतर ६७% वाढ दिसून आली. मात्र, सावध राहा. कंटेंट काढून टाकल्यामुळे साइटची गुणवत्ता आणि फोकस सुधारतो, परंतु ही वाढीची खात्रीशीर युक्ती नाही.
क्रॉल बजेट रिक्लॅमेशन हे कार्यक्षमतेबद्दल (efficiency) आहे. यामुळे Google ला तुमचे सर्वोत्तम पेजेस वेगाने शोधणे सुनिश्चित होते. यामुळे तुमच्या रँकिंगमध्ये थेट बदल होत नाही.
काहीही काढून टाकण्यापूर्वी तुमच्या साइटचे ऑडिट करा. केवळ एखादा आकडा गाठण्यासाठी नाही, तर गुणवत्तेसाठी कंटेंटची छाटणी (prune) करा.
Source: https://dev.to/mrtd/crawl-budget-reclamation-what-it-is-who-needs-it-and-the-pruning-playbook-139g