क्लॉड इंटीग्रेशन गाइड

क्लॉड लागत की कीमत तुलना क्यों करें?

क्लाउड मूल्य निर्धारण संरचनाएं मॉडल टियर और कॉन्टेक्स्ट लंबाई के बीच काफी भिन्न होती हैं, उच्च-वॉल्यूम अनुप्रयोगों के लिए अप्रत्याशित बिलिंग चक्र बनाती हैं। जब आप एक ऐसा अनुरोध भेजते हैं जो बेस कॉन्टेक्स्ट विंडो से अधिक होता है, तो प्रति टोकन कीमत अक्सर प्रीमियम दर पर कूद जाती है। यह टियर्ड दृष्टिकोण मासिक खर्च की सटीक भविष्यवाणी करना कठिन बनाता है। हमारा अनकैप्ड LLM सर्विस संवाद इतिहास की लंबाई की परवाह किए बिना फ्लैट रेट का उपयोग करता है। आप 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50 भुगतान करते हैं। त्रुटियां मुफ्त हैं। अस्वीकृतियां मुफ्त हैं। यह सरलता आपको बिना किसी अचानक बिल स्पाइक के भय के स्केल करने की अनुमति देती है।

क्लाइंट सेटअप

अपने पसंदीदा भाषा के लिए मानक लाइब्रेरी का उपयोग करके अपने मौजूदा SDK क्लाइंट को इनिशियलाइज़ करें। लक्ष्य एक अलग बेस URL पर क्लाइंट को इंगित करना है जबकि विधि हस्ताक्षर समान रखना है। यह सुनिश्चित करता है कि आपकी एप्लिकेशन लॉजिक अपरिवर्तित रहे। आपको केवल कनेक्शन स्ट्रिंग और प्रमाणीकरण कुंजी में संशोधन करने की आवश्यकता है। मॉडल पहचानकर्टर "uncensored" में बदल जाता है। यह इसलिए काम करता है क्योंकि API मानक का पालन करता है openai compatible API प्रोटोकॉल। संदेश भेजने और प्रतिक्रियाओं को हैंडल करने के लिए आपका मौजूदा कोड बिना किसी संशोधन के काम करता रहेगा।

हम Python, Node.js और अन्य सामान्य SDKs सपोर्ट करते हैं। सेटअप एक मिनट से कम समय लेता है। आप अपनी कुंजी जनरेट करने के तुरंत बाद कनेक्शन का परीक्षण कर सकते हैं। नई लाइब्रेरी की आवश्यकता नहीं है। क्लाइंट हमारे एंडपॉइंट को एक मानक LLM प्रदाता की तरह ही व्यवहार करता है। यह टीमों के लिए डेवलपमेंट समय कम करता है जो विकल्पों का मूल्यांकन कर रही हैं।

बेस यूआरएल को कॉन्फ़िगर करें

क्लाइंट को हमारे होस्टेड एंडपॉइंट पर निर्देशित करें। इंटीग्रेशन के लिए यह एकमात्र इंफ्रास्ट्रक्चर परिवर्तन आवश्यक है। URL संरचना मानक OpenAI प्रारूप को दर्शाती है। आपको अपने क्लाइंट इंस्टेंस में बेस URL कॉन्फ़िगरेशन अपडेट करना होगा। यह बताता है कि SDK आपके HTTP अनुरोधों को कहाँ रूट करना है। एंडपॉइंट है https://api.openaipriceapi.com/v1. तापमान और top_p जैसे अपनी कॉन्फ़िगरेशन पैरामीटर को बिल्कुल वैसे ही रखें। सर्वर मानक पैरामीटरों को समझता है। स्ट्रीमिंग उसी तरह काम करती है। आपको अपने डेटा पार्सिंग लॉजिक को फिर से लिखने की आवश्यकता नहीं है। रिस्पॉन्स फॉर्मेट उद्योग मानक से मेल खाता है। यह सुनिश्चित करता है कि आपकी एरर हैंडलिंग और सक्सेस कॉलबैक मान्य रहें।

अपनी कुंजी के साथ प्रमाणीकरण

प्रमाणीकरण एक एकल API कुंजी का उपयोग करता है जो हेडर में पास की जाती है। यह कुंजी साइनअप करते समय जनरेट की जाती है। आप Google या ईमेल का उपयोग खाता बनाने के लिए कर सकते हैं। फोन नंबर की आवश्यकता नहीं है। कुंजी तुरंत प्रदर्शित होती है। इसे Authorization हेडर Bearer स्कीमा। हेडर का नाम है api-key यदि आप उस शैली को प्राथमिकता देते हैं। दोनों काम करते हैं। सर्वर आपके खाता शेष के खिलाफ कुंजी को सत्यापित करता है। यदि शेष अपर्याप्त है, तो अनुरोध 402 त्रुटि के साथ विफल हो जाता है। यह भविष्यवाणी योग्य है। आप dashboard में अपने शेष की निगरानी कर सकते हैं। टॉप-अप तत्काल हैं। क्रिप्टो भुगतान तेजी से प्रसंस्कृत होते हैं। आपकी कुंजी तब तक सक्रिय रहती है जब तक आप इसे बदलते नहीं हैं। एक खाते के लिए एक कुंजी उपयोग लॉग के लिए स्पष्ट attribution सुनिश्चित करती है।

चैट कंप्लीशन रिक्वेस्ट भेजना

एक मानक चैट कंप्लीशन पेलोड तैयार करें। संरचना Claude या OpenAI फॉर्मेट के समान है। आप संदेशों की एक सूक्षा प्रदान करते हैं। प्रत्येक संदेश में एक भूमिका (role) और सामग्री (content) होती है। मॉडल फ़ील्ड को "uncensored" पर सेट किया जाता है। यह सर्वर को हमारे विशिष्ट बड़े भाषा मॉडल का उपयोग करने का संकेत देता है। मॉडल कम रिफ्यूजल के लिए ट्यून्ड है। यह बिना गेटकीपिंग के वयस्क सामग्री, विवादास्पद विषयों और रचनात्मक लेखन को संभालता है। आप पैरामीटर सेट कर सकते हैं जैसे temperature और top_p. सर्वर इन मान्यों का सम्मान करता है। प्रतिक्रिया में जनरेटेड टेक्स्ट शामिल है। आप JSON मोड भी अनुरोध कर सकते हैं। यह आउटपुट को एक कड़ा JSON संरचना में मजबूर करता है। यह प्रोग्रामेटिक एकीकरण के लिए उपयोगी है। अनुरोध बॉडी 8 MB से कम रहनी चाहिए। यह सीमा तेज प्रसंस्करण सुनिश्चित करती है। बड़े पेलोड अभी भी समर्थित हैं जब तक कि वे इस बाधा के भीतर फिट बैठते हैं।

स्ट्रीमिंग रिस्पॉन्सेस हैंडल करना

स्ट्रीमिंग को सक्षम करने के लिए stream पैरामीटर को true सेट करें। सर्वर सर्वर-सेंट इवेंट्स की एक श्रृंखला भेजता है। प्रत्येक इवेंट में पाठ का एक आंशिक चंक होता है। आप इन चंक को एकत्र करके पूर्ण प्रतिक्रिया को पुनर्स्थापित करते हैं। यह चैट इंटरफ़ेस के लिए बेहतर उपयोगकर्ता अनुभव प्रदान करता है। विलंबता कम हो जाती है क्योंकि पहला टोकन जल्दी आ जाता है। अंतिम चंक में टोकन उपयोग आंकड़े होते हैं। इससे आप लागत को रियल-टाइम में ट्रैक कर सकते हैं। आप टोकन जनरेट होते जैसे UI को अपडेट कर सकते हैं। स्ट्रीम एक पूर्ण इवेंट के साथ समाप्त होती है। आपको पूर्ण प्रतिक्रिया का इंतजार करने की आवश्यकता नहीं है रेंडर करने के लिए। यह किसी भी मानक SSE क्लाइंट के साथ काम करता है। प्रोटोकॉल अच्छी तरह से दस्तावेजित है। आपका मौजूदा स्ट्रीमिंग लॉजिक इसे बिना किसी बदलाव के संभालना चाहिए। बस सुनिश्चित करें कि आप delta field सही ढंग से।

टोकन उपयोग और लागतों की निगरानी

प्रतिक्रिया हेडर से इनपुट और आउटपुट टोकन को जोड़कर लागत ट्रैक करें। दर $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन के लिए निर्धारित है। लागत प्राप्त करने के लिए टोकन गणना को दर से गुणा करें। त्रुटियां क्रेडिट नहीं खर्च करतीं। अस्वीकृतियां क्रेडिट नहीं खर्च करतीं। इससे बजट बनाना सरल हो जाता है। आप टोकन गणना के आधार पर लागत की भविष्यवाणी कर सकते हैं। डैशबोर्ड आपकी शेष राशि दिखाता है। टॉप-अप तुरंत क्रेडिट जोड़ते हैं। बड़ी राशियों के लिए बोनस क्रेडिट लागू होता है। $50 के लिए आपको 5% बोनस मिलता है। $100 के लिए 10%। $200 के लिए 15%। यह बोनस आपकी शेष राशि में जोड़ा जाता है। यह आपके क्रेडिट की अवधि बढ़ाता है। आप रियल-टाइम में उपयोग की निगरानी कर सकते हैं। यह अप्रत्याशित विघटन को रोकने में मदद करता है। कम शेष राशि के लिए अलर्ट सेट करें। प्रणाली पारदर्शी है। आप देखते हैं कि आपके लिए क्या भुगतान करना है।

सामान्य त्रुटियों का निवारण

सामान्य समस्याओं में प्रमाणीकरण विफलताएँ, दर सीमाएँ और पेलोड साइज त्रुटियाँ शामिल हैं। एक 401 त्रुटि का अर्थ है कि API कुंजी अमान्य या समाप्त हो चुकी है। सही कुंजी के लिए अपने डैशबोर्ड की जाँच करें। एक 429 त्रुटि संकेत देती है कि आपने दर सीमा को पार कर लिया है। सीमा प्रति मिनट 300 मांगें है। आप 8 मांगों की संयुक्तता सीमा पर भी पहुँच सकते हैं। अपना प्रतीक्षा समय बढ़ाएं या मांगों को कई कुंजियों में वितरित करें। एक 413 त्रुटि का अर्थ है कि अनुरोध बॉडी बहुत बड़ी है। इसे 8 MB से कम रखें। एक 400 त्रुटि आमतौर पर एक खराब JSON पेलोड संकेत देती है। अपनी सिंटैक्स की जाँच करें। स्ट्रीमिंग त्रुटियाँ दुर्लभ हैं। यदि स्ट्रीम अप्रत्याशित रूप से बंद हो जाती है, तो अनुरोध को पुनः प्रयास करें। सर्वर विश्वसनीय है। लॉग डैशबोर्ड में उपलब्ध हैं। समस्याओं का निदान करने के लिए उनका उपयोग करें। डैशबोर्ड के माध्यम से सहायता उपलब्ध है।