मुख्य सामग्री पर जाएँ
साइन इन करेंमुफ़्त शुरू करें
AI बैच प्रसंस्करण

AI पर कम खर्च करें, बिना गुणवत्ता का जोखिम लिए

AI मॉडलों और प्रदाता कीमतों की तुलना करें, बैच लागत का अनुमान लगाएँ और केवल किए गए काम का भुगतान करें।

लागत का अनुमान लगाएँमुफ़्त शुरू करेंमूल्य कैसे तय होते हैं
  • कीमत जानने के लिए पंजीकरण नहीं
  • न सदस्यता, न न्यूनतम खर्च
  • किसी एक प्रदाता की बाध्यता नहीं
स्वचालित मूल्यांकन जल्द आ रहे हैं। अभी प्रकाशित मॉडल और कीमतों की तुलना करें।

पैसा कहाँ खर्च होता है

उदाहरण · प्रति $100

मानक रीयल-टाइम खर्चसंदर्भ दर पर वही कार्यभार।
$100.00
प्रदाता बैच मूल्यबैच दर 50% कम मानें।
$50.00−50%
योग्य प्रदाता की कम लागतमूल कीमत 12% कम मानें।
$44.00−12%
मूल प्रदाता छूटप्रदाता लागत पर 10% छूट।
$39.60−10%
Batchrouter सेवा शुल्कछूट से पहले $44 मूल पर 5.90%।
+$2.60+5.90%
उदाहरण टोकन कुल
$42.20
यह काल्पनिक उदाहरण है, मौजूदा कोटेशन नहीं। रूट और टूल के शुल्क शामिल नहीं हैं। आपकी कीमत मॉडल, मात्रा और मौजूदा दरों पर निर्भर करती है।
समान मॉडल पर OpenAI और Anthropic की बैच बनाम मानक दरें
≈50%
मूल OpenAI और Anthropic रूट पर अतिरिक्त छूट
−10%
अनुमान आरक्षित करता है; रसीद वास्तविक उपयोग का शुल्क लेती है
वास्तविक उपयोग
समय सीमा चूकने पर सेवा शुल्क वापस
Standard 24 घंटे
हर बैच के लिए तुलना
  • OpenAI Batch
  • Anthropic
  • Mistral
  • xAI
  • DeepInfra
लागत की समझ

बचत कहाँ से होती है

बैच की कीमत, प्रदाता का चुनाव और वास्तविक उपयोग के आधार पर हिसाब। अपना काम स्थानांतरित करने से पहले लागत को प्रभावित करने वाले पहलुओं को समझें।

जिन्हें तुरंत उत्तर नहीं चाहिए, उन्हें बैच में चलाएँ

रात का डेटा संवर्धन, दस्तावेज़ पाइपलाइन, पुराने डेटा का प्रसंस्करण और लेबलिंग बैच में चल सकते हैं। कार्य इंतज़ार कर सके तो प्रकाशित बैच दरें उपयोग करें।

हर रन में प्रदाताओं की तुलना करें

प्रदाता दरें अलग हैं और सबसे सस्ता योग्य रूट हर रन में बदल सकता है। एक प्रदाता से जुड़ने पर उसकी दर तक सीमित रहते हैं। हम हर बैच में फिर जाँचते हैं।

गुणवत्ता की शर्त पूरी करने वाली बचत ही गिनें

गलत उत्तर देने वाला सस्ता मॉडल बचत नहीं करता। उत्पादन कार्य बदलने से पहले अपने डेटा पर उम्मीदवार जाँचें। स्वचालित मूल्यांकन जल्द आएँगे।

केवल चले हुए काम का भुगतान करें

काम शुरू होने से पहले लागत देखें और अंत में वास्तविक उपयोग का निपटान हो। अप्रयुक्त आरक्षित राशि वापस आती है। न सदस्यता, न न्यूनतम खर्च।

OpenAI और Anthropic की प्रकाशित बैच दरें उनकी सामान्य API दरों से 50% कम हैं। मॉडल की पात्रता और मौजूदा दरें फिर भी मायने रखती हैं।

OpenAI की बैच कीमतेंAnthropic की बैच कीमतें
बैचिंग किस काम आती है

जो कार्य कुछ घंटे इंतज़ार कर सके, उसकी लागत भी कम होनी चाहिए

यदि उत्तर के लिए कोई तुरंत प्रतीक्षा नहीं कर रहा, तो तत्काल डिलीवरी के बजाय बैच की कम कीमत चुन सकते हैं। उदाहरण देखें, फिर प्रकाशित सूची से अपनी मात्रा की लागत निकालें।

उदाहरण मामला · ई-कॉमर्स

रात में सूची संवर्धन

बाज़ार को रोज़ हज़ारों नई लिस्टिंग मिलती हैं: छोटे शीर्षक, गायब विशेषताएँ और असंगत श्रेणियाँ।

कार्य
हर नई लिस्टिंग का शीर्षक सुधारें, आकार, रंग, सामग्री निकालें और श्रेणी दें।
यह इंतज़ार क्यों कर सकता है
लिस्टिंग अगली सुबह लाइव होती हैं। एक पंक्ति का तत्काल इंतज़ार नहीं, इसलिए तुरंत उत्तर का अधिक शुल्क क्यों दें।
उदाहरण गुणवत्ता लक्ष्य
लेबल किए नमूने के कम से कम 95% में श्रेणी मानव समीक्षक से मेल खाए।
उदाहरण मात्रा
हर रात लगभग 1.2 लाख लिस्टिंग

ये अपने डेटा पर जाँचने के उदाहरण लक्ष्य हैं, मापे गए परिणाम नहीं। स्वचालित मूल्यांकन जल्द आ रहे हैं।

उदाहरण मासिक लागत

ई-कॉमर्स
मानक रीयल-टाइम खर्च
$9,600.00
बैच और रूटिंग खर्च
$4,050.00
−58%
$5,550.00मासिक बचत (58%)
केवल उदाहरण की धारणाएँ हैं; रूट और उपकरण शुल्क अलग हैं। वर्तमान सूची दरों के लिए कैलकुलेटर का उपयोग करें।
अपने कार्य की लागत निकालें
उदाहरण में हर $100 का खर्च

राशियाँ काल्पनिक हैं, ग्राहक के परिणाम या कोटेशन नहीं। इसमें प्रदाता की बैच दर में 50% कमी, योग्य प्रदाता की मूल लागत में काल्पनिक 12% कमी, मूल प्रदाता की 10% छूट और छूट से पहले की लागत पर 5.90% सेवा शुल्क माना गया है। रूट व उपकरण शुल्क अलग हैं। वास्तविक लागत मॉडल, मात्रा और प्रकाशित दरों पर निर्भर है।

$100 का गणना उदाहरण

मानक रीयल-टाइम खर्च
$100.00
प्रदाता बैच लागत
$50.00
योग्य प्रदाता की काल्पनिक कम लागत
$44.00
मूल प्रदाता छूट के बाद
$39.60
छूट से पहले प्रदाता लागत पर सेवा शुल्क
$2.60
उदाहरण टोकन कुल
$42.20
केवल उदाहरण की धारणाएँ हैं; रूट और उपकरण शुल्क अलग हैं। वर्तमान सूची दरों के लिए कैलकुलेटर का उपयोग करें।

जाँच आसान है

अच्छे बैच कार्यभार में तीन बातें होती हैं:

  • कई आइटम, हर एक के लिए समान निर्देश।
  • परिणाम बाद में पढ़ा जाता है: तालिका, इंडेक्स, रिपोर्ट या कतार।
  • आप बता सकते हैं कि अच्छा उत्तर कैसा होगा।

इनके लिए Realtime रखें

जब कोई प्रतीक्षा कर रहा हो, तत्काल उत्तर दें:

  • चैट उत्तर जिसका व्यक्ति इंतज़ार कर रहा हो
  • ऑटोकंप्लीट या उत्पाद में सुझाव
  • बातचीत के बीच में वॉइस या सहायता एजेंट
  • ऐसा कोई कार्य जिसे सेकंडों में उत्तर चाहिए

Realtime स्तर POST /v1/chat/completions से सर्वोत्तम प्रयास पर उत्तर देता है और रूट की सीधी दर पर शुल्क लेता है।

मूल्यांकन · जल्द आ रहा है

कम कीमत तभी उपयोगी है जब गुणवत्ता हो पर्याप्त

सार्वजनिक बेंचमार्क दूसरों के डेटा पर चलते हैं। अपने डेटा से विकल्पों को अंक दें, अपने व्यवसाय की ज़रूरत के अनुसार कसौटी तय करें और उसे पार करने वाले मॉडलों में कीमत के आधार पर चुनें।

  • अपने काम का नमूना दें और बताएँ कि अच्छा उत्तर कैसा होगा।
  • हर उम्मीदवार प्रदाता इसे एक साथ चलाता है: एक कार्य, एक कीमत, एक निपटान।
  • अंक हम देते हैं, उसका कोई शुल्क नहीं। आप केवल इन्फ़रेंस का भुगतान करते हैं।
  • मॉडल को आपका स्तर पार करना साबित करना होगा, केवल औसत पर पहुँचना पर्याप्त नहीं।
प्रदाताओं की तुलना देखें

स्कोरकार्ड

आपकी कसौटी: 0.92
मॉडलअंकलागत / 1 हज़ारनिष्कर्ष
Sonnet वर्ग0.96$2.41उत्तीर्ण · 2.8 गुना कीमत
Haiku वर्ग0.94$0.86सबसे सस्ता उत्तीर्ण · यहाँ रूट होगा
Mini वर्ग0.91$0.71आपकी सीमा से नीचे
खुले वज़न 70B0.78$0.34आपकी सीमा से नीचे

हम तालिका का सबसे सस्ता मॉडल नहीं चुनते। हम आपकी कसौटी पार करने वाला सबसे सस्ता मॉडल चुनते हैं।

उदाहरण स्कोरकार्ड: आपके मॉडल, अंक और लागत आपके अपने रन से मिलते हैं।

निर्णय से पहले आज़माएँ

शुरुआत कीमत से करें

बात करने से पहले बचत का अनुमान लगाएँ और उत्पादन कार्य बदलने से पहले गुणवत्ता की जाँच करें।

चरण 1

कीमत निकालें

कैलकुलेटर में असली मात्रा भरें और प्रदाताओं की लागत देखें। खाता या कार्ड नहीं चाहिए।

चरण 2

साबित करें (जल्द आ रहा है)

एक साथ कई मॉडलों पर अपना नमूना चलाने वाले मूल्यांकन जल्द आएँगे। तब तक रैंकिंग में प्रदाताओं की कीमत और गति की तुलना करें।

चरण 3

कार्य रूट करें

मॉडल और रूटिंग शर्तें चुनें। हर बैच योग्य प्रदाता को जाता है और Standard के 24 घंटों में मिलता है। स्वचालित गुणवत्ता मूल्यांकन जल्द आएँगे।

अपने सिस्टम में जोड़ना चाहते हैं? दस्तावेज़ों में API, फ़ाइल प्रारूप, वेबहुक और मौजूदा बैच व्यवस्था से माइग्रेशन की जानकारी है।

दस्तावेज़ पढ़ें
Realtime · सर्वोत्तम प्रयास

सीधा चैट कंप्लीशन

मानक OpenAI अनुरोध पर तत्काल उत्तर। सर्वर से भेजे इवेंट में उत्तर के लिए "stream": true दें।

POST /v1/chat/completions

Standard · 24 घंटे

एक अनुरोध, बैच की तरह कतार में

वही अनुरोध एक-आइटम बैच में चलेगा। तुरंत 202 और कार्य आईडी मिलेगी; फिर GET /v1/chat/completions/{id} या वेबहुक से परिणाम लें।

POST /v1/chat/completions with "batch": true

Standard · 24 घंटे

बड़े बैच

मूल API या JSONL से कई अनुरोध एक साथ। मौजूदा OpenAI Batch क्लाइंट में केवल आधार URL बदलें।

POST /v1/batches, or /v1/openai/v1 for OpenAI Batch clients

प्रकाशित स्तर Realtime (सर्वोत्तम प्रयास), Priority (4 घंटे), Standard (24 घंटे), Relaxed (48 घंटे), Flex (72 घंटे) और Economy (7 दिन) हैं। API इस परिवेश के उपलब्ध स्तर बताता है।

वर्तमान शुल्क और SLA उपलब्धता
बाज़ार देखें

देखें कि अभी क्या उपलब्ध है

प्रकाशित मॉडल देखें और उनके प्रदाता विकल्पों की तुलना करें। कीमत, क्षमताएँ और रूट की स्थिति देखने के लिए मॉडल खोलें।

आपका अगला कदम

जानें कि आप वाकई कितनी बचत कर सकते हैं

एक मिनट से भी कम समय में अपनी वास्तविक मात्रा की कीमत जानें। न खाता, न कार्ड, न कॉल की ज़रूरत।

लागत का अनुमान लगाएँमुफ़्त शुरू करें