आपने एक ऐसा उत्पाद बनाया है जिसे लोग वास्तव में उपयोग करना चाहते हैं। ट्रैफ़िक बढ़ने पर आपको ऊपर रहने के लिए इसकी ज़रूरत होती है, बिना यह अनुमान लगाए कि कौन सा नॉब घुमाना है।
प्रत्येक ग्राहक के लिए एक मुफ़्त सेशन: विशेषज्ञ के साथ पहले 4 घंटे, साथ ही उपकरण के रूप में असीमित AI।
एक असली वरिष्ठ विशेषज्ञ नेतृत्व करता है। नाम पहले जवाब में। AI एक उपकरण है; एक इंसान परिणाम जाँचता है।
01
यह समस्या कैसी दिखती है, आप कैसे पहचानें, और अगर यह बनी रहे तो क्या दांव पर है।
लोड से संबंधित दुर्घटना कैसी दिखती है, किसी अभियान से पहले यह कैसा महसूस होता है, और विकास एक जुआ क्यों नहीं होना चाहिए।
साइट या एपीआई धीमी हो जाती है, फिर त्रुटियाँ, फिर ख़त्म हो जाती है। एक एकल पूल, एक हॉट एंडपॉइंट, या एक चैटिंग क्वेरी पूरे ऐप को अपने साथ ले जा सकती है। यदि डिज़ाइन में बाधा है तो दूसरा सर्वर जोड़ने से मदद नहीं मिलती है।
आप अगले स्पाइक से डरते हैं। मार्केटिंग आगे बढ़ाना चाहती है, लेकिन आप सिस्टम को एक बार मरते हुए देख चुके हैं।
जो उत्पाद मांग स्वीकार नहीं कर सकता, वह पूर्ण कार्य नहीं है। विकास बिक्री की समस्या होनी चाहिए, न कि यह आशा करने की कि साइट दोपहर तक टिकी रहेगी।
जब कोई ऐप लोड के तहत क्रैश हो जाता है, तो विफलता आम तौर पर एक विशिष्ट बाधा होती है: एक हॉट क्वेरी, एक थका हुआ पूल, एक लॉक, एकल इंस्टेंस होल्डिंग सत्र, या एक निर्भरता जो जारी नहीं रह सकती।
टीमें अक्सर सार्वजनिक रूप से सीमा का पता लगाती हैं: एक लॉन्च, एक समाचार पत्र, एक प्रेस उल्लेख, या उपयोग किए गए स्टेजिंग परीक्षणों की तुलना में बस एक व्यस्त कार्यदिवस। लॉग टाइमआउट से भर जाते हैं।
ये व्यावहारिक संकेत हैं कि मुद्दा क्षमता या विवाद का है, किसी एक अनुरोध पर एकबारगी बग का नहीं।
एक शांत सुबह काम करती है।
आप अनुरोध टाइमआउट देखते हैं, फिर और भी अधिक टाइमआउट देखते हैं, क्योंकि काम तेजी से विफल होने के बजाय ढेर हो रहा है।
डेटाबेस, रेडिस, एक खोज सेवा, या एक भुगतान एपीआई धीमा हो जाता है, और प्रत्येक उपयोगकर्ता-सामना वाला अनुरोध बिना किसी टाइमआउट या फ़ॉलबैक के प्रतीक्षा करता है।
आप उदाहरण जोड़ते हैं और त्रुटि दर वही रहती है, क्योंकि बाधा एक साझा डेटाबेस, एक वैश्विक लॉक, या एक चिपचिपा सत्र स्टोर है।
मोटे तौर पर भी कोई नहीं कह सकता कि सिस्टम कितने समवर्ती चेकआउट या खोजें कर सकता है।
पहले — अगर आप इसे छोड़ दें
यदि यह गिरता रहता है, तो आप वह क्षण खो देते हैं जिसे बनाने के लिए आपने पैसा खर्च किया था। ग्राहक आप पर भरोसा नहीं करना सीखते हैं, और हर रिलीज़ अपटाइम के लिए जोखिम जैसा लगता है।
बाद — अगर हम इसे बंद करें
गर्म पथ वास्तव में आपके पास मौजूद भार के नीचे रहता है। आप सीमा जानते हैं, हमने क्या बदला है, और क्या बड़े काम की आवश्यकता होगी।
स्थिति पहचानी? हमें लिखें, हम इसे सुलझाएँगे।
02
यह आमतौर पर कहाँ से आता है, तेज़ या AI-सहायता प्राप्त काम में क्यों दिखता है, और आप खुद कैसे जाँचें।
अधिकांश अधिभार रहस्यमय नहीं है। यह एक ऐसा डिज़ाइन है जो कम ट्रैफ़िक में अदृश्य था और पथ व्यस्त होने पर स्पष्ट था।
एक सूची पृष्ठ या डैशबोर्ड कुछ पंक्तियों के साथ सस्ता दिखता है और वास्तविक डेटा के साथ एक टेबल स्कैन बन जाता है।
बहुत कम कनेक्शन और अनुरोध कतार। बहुत अधिक और डेटाबेस क्लाइंट के अंतर्गत ढह जाता है।
इमेज प्रोसेसिंग, पीडीएफ जेनरेशन, आउटबाउंड ईमेल, या धीमी थर्ड-पार्टी कॉल HTTP अनुरोध के अंदर बैठती है।
प्रत्येक अनुरोध मूल से टकराता है।
एक वैश्विक लॉक, एक एकल-थ्रेडेड टोंटी, या एक सत्र को इस तरह से संग्रहीत किया जाता है जो उदाहरणों के बीच नहीं जा सकता है, इससे कोई फर्क नहीं पड़ता कि आप कितने सर्वर खरीदते हैं।
जेनरेटेड बैकएंड अक्सर एक सरल क्वेरी, इन-मेमोरी स्टोर, या बिना पेजिनेशन के एक फीचर प्रदर्शित करते हैं। डेमो के लिए यह काफी है.
एक संक्षिप्त, ईमानदार जांच अक्सर अड़चन दिखाती है। यदि आप कर सकते हैं तो इसे नियंत्रित तरीके से करें; यदि स्टेजिंग वातावरण मौजूद है तो भुगतान करने वाले ट्रैफ़िक के विरुद्ध विनाशकारी परीक्षण न चलाएं।
घटना के आसपास एक्सेस लॉग या एपीएम ट्रेस खींचें।
सीपीयू, आई/ओ, कनेक्शन, और लॉक डेटाबेस पर प्रतीक्षा करता है; ऐप पर सीपीयू, इवेंट-लूप विलंब और कतार की गहराई।
कितने डेटाबेस कनेक्शन खुले हैं? क्या HTTP क्लाइंट हमेशा प्रतीक्षा कर रहे हैं?
धीमी-क्वेरी लॉग, एक EXPLAIN योजना, या एक ट्रेस स्पैन अक्सर एक ही कथन या एक HTTP कॉल पर इंगित करेगा जो समय पर हावी है।
यदि बाधा एकल डेटाबेस लेखक, एक अद्वितीय लॉक, या तृतीय-पक्ष दर सीमा है, तो अधिक ऐप सर्वर केवल उसी संसाधन पर अधिक दबाव डालेंगे।
स्थिति पहचानी? हमें लिखें, हम इसे सुलझाएँगे।
03
एक वरिष्ठ विशेषज्ञ नेतृत्व करता है। AI एक उपकरण है। एक इंसान परिणाम जाँचता है।
स्केलिंग समस्याएँ शायद ही कभी एक 'लापता सर्वर' होती हैं। वे लगभग हमेशा एक बाधा होती हैं जो कम ट्रैफ़िक में अदृश्य होती थी और उच्च ट्रैफ़िक में स्पष्ट होती थी।
डेवहीरो मानव प्रथम है। लगभग 20 वर्षों के अनुभव वाला एक विशेषज्ञ सत्र का नेतृत्व करता है। हम मापते हैं, अनुमान नहीं लगाते और एक मानव विशेषज्ञ परिणाम की जाँच करता है। AI हमें लॉग पढ़ने में मदद कर सकता है। यह तय नहीं करता कि 'निश्चित' का क्या अर्थ है।
लोड समस्याएँ धैर्य और उपकरण का प्रतिफल देती हैं।
How a typical weekday case moves
व्हाट्सएप या टेलीग्राम पर लिखें। हम कठिन स्केलिंग कार्य करते हैं, प्रत्येक प्रदर्शन जिज्ञासा नहीं, और हम यह वादा नहीं करते कि प्रत्येक उत्पाद एक दिन में स्केल हो जाएगा।
हमें बताएं कि जब ऐप लोड के तहत क्रैश हुआ तो क्या हो रहा था: एक अभियान, एक तैनाती, एक बैच कार्य, और उपयोगकर्ताओं ने क्या देखा।
आपको एक मिनट के भीतर विशेषज्ञ का नाम दिख जाना चाहिए। उन्हें सतर्क कर दिया गया है और यदि वे जवाब नहीं देते हैं तो उन्हें बुलाया जा सकता है।
एक सामान्य कार्यदिवस पर हमारा लक्ष्य बाधा की पहचान करना और एक सुरक्षित सुधार या रोकथाम लागू करना है, फिर उसकी जांच करना है।
हम मापते हैं, हम वास्तविक बाधा को बदलते हैं, और एक मानव जाँचता है कि पथ सही है या नहीं। हम किसी फैशनेबल प्लेटफ़ॉर्म पुनर्लेखन से शुरुआत नहीं करते हैं।
हम असफलता से शुरुआत करते हैं, फिर उस बाधा को ठीक करते हैं जो वास्तव में आपको मार रही है। यदि कार्य एक बड़ा वास्तुशिल्प परिवर्तन है, तो हम ऐसा कहते हैं। हम यह वादा नहीं करते कि हर उत्पाद 24 घंटे में स्केल हो जाएगा।
ट्रैफ़िक, तैनाती, नौकरियाँ और त्रुटियाँ एक पंक्ति में चलती हैं इसलिए हम यह अनुमान नहीं लगा रहे हैं कि रिलीज़ या स्पाइक पहले थी या नहीं।
यदि कोई उपयोगी निशान नहीं हैं, तो हम केवल क्वेरी, लॉक, या आउटबाउंड कॉल को देखने के लिए पर्याप्त जोड़ते हैं जो हावी है।
वह एक सूचकांक, एक क्वेरी, एक कैश, एक कतार, एक टाइमआउट, एक पूल आकार या एक लॉक हो सकता है।
लोड शेडिंग, सख्त टाइमआउट, या एक अस्थायी फीचर फ़्लैग उचित फिक्स लैंड होने तक उत्पाद को ऊपर रख सकता है।
आपको पता होना चाहिए कि हमने क्या बदला और हमने वास्तव में कितना भार देखा, न कि 'असीम रूप से स्केलेबल' होने का नारा।
दायरे में आने वाले एक सामान्य कार्यदिवस मामले के लिए, उद्देश्य एक निदानित बाधा और एक सुरक्षित सुधार है, न कि कोई नया मंच।
क्रैश या मंदी का एक नामित कारण, एक पथ, एक क्वेरी, या एक निर्भरता से जुड़ा हुआ - सामान्य नहीं 'आपको अधिक सर्वर की आवश्यकता है।'
एक परिवर्तन जो उस बाधा पर दबाव को कम करता है, या एक स्पष्ट नियंत्रण यदि गहरे परिवर्तन के लिए अधिक समय की आवश्यकता होती है।
इस पर एक संक्षिप्त टिप्पणी कि क्या अधिक उदाहरणों से मदद मिलेगी, या केवल दर्द कम होगा।
एक मानव-जाँचा हुआ परिणाम और किसी भी शेष सीमा के बारे में एक चेतावनी जो हम देख सकते हैं।
पहुंच और घटना की तस्वीर एक लंबे निबंध से अधिक मायने रखती है। लाइव सीक्रेट्स को चैट में पेस्ट न करें.
टाइम्स, समय क्षेत्र, और लक्षण: 5xx, टाइमआउट, खाली कार्ट, लॉगिन विफलताएँ।
एपीएम, क्लाउड मॉनिटरिंग, धीमी-क्वेरी लॉग, या यहां तक कि विंडो के आसपास सीपीयू और त्रुटि दर के स्क्रीनशॉट।
एक रिलीज़, एक माइग्रेशन, एक अभियान, एक क्रॉलर, या एक बैच कार्य जो मेल्ट के साथ मेल खाता है।
ऐप और डेटाबेस देखने के लिए पर्याप्त दृश्यता। हम पहले आपसे पहुंच के लिए सहमत हैं।
यहां तक कि एक रफ स्क्रिप्ट भी उपयोगी है, खासकर अगर यह विफलता को पुन: उत्पन्न नहीं करती है।
विशेषज्ञ के साथ पहले 4 घंटे + असीमित AI: मुफ़्त, प्रति ग्राहक एक बार। उसके बाद का काम भुगतान योग्य है, अनुरोध पर। एक इंसान नेतृत्व करता है और परिणाम जाँचता है।
मुफ़्त (पहला सेशन)
बड़े काम की दर अलग होती है, अनुरोध पर। आगे बढ़ने से पहले हम यह बताते हैं।
अनुरोध पर
मूल योजना केवल कार्यदिवसों के लिए है। सप्ताहांत का काम एक अलग उत्पाद है। कोई भी अधिभार किसी भी कॉल से पहले, जटिलता के अनुसार, पहले से बताया जाता है। राशि: अनुरोध पर।
अनुरोध पर
पहला सेशन मुफ़्त है: विशेषज्ञ के साथ पहले 4 घंटे, साथ ही असीमित AI, प्रति ग्राहक एक बार। उसके बाद का काम, जटिल परियोजना की दर और सप्ताहांत की दर भुगतान योग्य हैं, अनुरोध पर।
प्रत्येक ग्राहक के लिए एक मुफ़्त सेशन: विशेषज्ञ के साथ पहले 4 घंटे, साथ ही उपकरण के रूप में असीमित AI।
स्थिति पहचानी? हमें लिखें, हम इसे सुलझाएँगे।
04
आगे क्या नहीं करना चाहिए, इस तरह के काम में हमें जो स्टैक दिखते हैं, और सुधार को कैसे बनाए रखें।
पैनिक स्केलिंग में पैसे खर्च हो सकते हैं और फिर भी वास्तविक बाधा बनी रह सकती है।
यदि डेटाबेस सीमित है, तो अधिक ऐप सर्वर अक्सर आउटेज को बदतर बना देते हैं। खर्च करने से पहले माप लें.
पुनरारंभ एक गतिरोध या लीक हुए कनेक्शन को साफ़ कर सकता है और सबूत भी नष्ट कर सकता है।
स्वास्थ्य जांच या टाइमआउट को अक्षम करने से विफलता छिप जाती है और भ्रष्ट या आंशिक प्रतिक्रियाएँ मिल सकती हैं।
एक औचक परीक्षण दूसरी घटना बन सकता है। स्टेजिंग वातावरण, या कसकर सहमत विंडो को प्राथमिकता दें।
मार्केटिंग को एक ऐसे नंबर की आवश्यकता है जिसका आप बचाव कर सकें, भले ही वह नंबर 'तैयार न हो।'
हमें पहले संदेश में वास्तविक स्टैक बताएं। नहीं लेना चाहिए तो हम कहेंगे.
विशिष्ट वेब फ्रेमवर्क और एपीआई गेटवे सहित नोड, पायथन, रूबी, पीएचपी, जेवीएम और .NET सेवाएं।
PostgreSQL, MySQL, Redis, MongoDB, और इसी तरह के स्टोर जो समवर्ती के तहत वास्तविक सीमा बन जाते हैं।
AWS, GCP, Azure, और सरल PaaS या कंटेनर सेटअप। क्लाउड का ब्रांड टोंटी से कम मायने रखता है।
सीडीएन और लोड-बैलेंसर व्यवहार, पृष्ठभूमि कार्यकर्ता, और नौकरी कतारें जो स्पाइक के दौरान वापस आती हैं।
एक बार जब तात्कालिक बाधा कम हो जाती है, तो कुछ आदतें अगले उछाल को आश्चर्यचकित होने से रोक देती हैं।
किस पथ की सीमा थी, हमने क्या बदला, और एक बड़े प्रोजेक्ट की क्या आवश्यकता होगी।
अगला मेल्ट अक्सर पहले p95 विलंबता या पूल थकावट के रूप में दिखाई देता है।
एक धीमे साझेदार को हर अनुरोध को खुला रखने की अनुमति नहीं दी जानी चाहिए।
कतारें किसी कारण से मौजूद हैं।
एक हरा मुखपृष्ठ ख़त्म हो रहे चेकआउट को छुपा सकता है।
एक ज्ञात सीमा के आसपास योजना बनाना, अपेक्षित सीमा की तुलना में आसान है।
स्थिति पहचानी? हमें लिखें, हम इसे सुलझाएँगे।
05
इस समस्या, सेशन और आगे क्या होता है, इसके सीधे जवाब।
जरूरी नहीं।
हाँ, यह एक कठिन मामला है जिसे हम लेते हैं। व्हाट्सएप या टेलीग्राम पर लिखें.
नहीं, यदि हार्डवेयर सही कदम है तो हम ऐसा कहेंगे।
नहीं। हम केवल उस बारे में बात करेंगे जो हमने आपके सिस्टम पर मापा है, किसी आविष्कृत क्षमता के बारे में नहीं।
वे ओवरलैप होते हैं। यह पृष्ठ लोड बढ़ने पर ट्रैफ़िक कम होने या अस्वीकार करने के लिए है।
सिंथेटिक परीक्षण अक्सर उत्पादन डेटा आकार, कैश व्यवहार, तृतीय-पक्ष सीमाएं, या उपयोगकर्ताओं द्वारा वास्तव में अपनाए गए पथ से चूक जाते हैं।
व्हाट्सएप या टेलीग्राम पर लिखें। कोई फॉर्म नहीं, कोई वेब चैट नहीं. आपको एक मिनट के भीतर विशेषज्ञ का नाम दिख जाना चाहिए।
ऐसा कहो. धीमी या लॉक की गई क्वेरीज़ लोड क्रैश का एक सामान्य कारण हैं।
हाँ। प्रत्येक ग्राहक को एक मुफ़्त सेशन मिलता है: विशेषज्ञ के साथ पहले 4 घंटे, साथ ही उपकरण के रूप में असीमित AI। 24 घंटे की रेखा वह समय है जिसमें हम दायरे के एक सामान्य कार्यदिवस केस को शुरू और बंद करना चाहते हैं, न कि 24 घंटे का बिना भुगतान का काम। आगे का काम भुगतान योग्य है, अनुरोध पर।
यदि लोगों के आने पर उत्पाद पहले ही गिर जाता है, तो व्हाट्सएप या टेलीग्राम पर लिखें। आप किसी व्यक्ति से बात करेंगे.
प्रत्येक ग्राहक के लिए एक मुफ़्त सेशन: विशेषज्ञ के साथ पहले 4 घंटे, साथ ही उपकरण के रूप में असीमित AI।