आउटलुक थीम 1 / 5
हर जगह इन्फ़रेंस
ट्रेनिंग दिमाग़ बनाती है। इन्फ़रेंस है काम करता हुआ दिमाग़, हर दिन, हर पल।
बड़ी तस्वीर
किसी AI मॉडल के जीवन में दो चरण होते हैं। ट्रेनिंग वह है जब मॉडल सीखता है: विशाल डेटा सेंटर में चलने वाला एक बहुत बड़ा, एक-बार का प्रयास। इन्फ़रेंस वह है जब प्रशिक्षित मॉडल का असल में उपयोग होता है: किसी प्रश्न का उत्तर देना, ईमेल लिखना, कॉन्ट्रैक्ट की समीक्षा करना, प्रोडक्शन लाइन पर किसी ख़राबी को पकड़ना।
AI ख़र्च की पहली लहर पर ट्रेनिंग हावी थी। अगली लहर इन्फ़रेंस की है। हर नया यूज़र, हर नया ऐप और बैकग्राउंड में काम करता हर AI एजेंट और ज़्यादा इन्फ़रेंस माँग पैदा करता है, और ट्रेनिंग के विपरीत यह कभी रुकती नहीं।
अभी क्यों
AI प्रयोग से निकलकर रोज़मर्रा का टूल बन चुका है। असिस्टेंट फ़ोन, ऑफ़िस सॉफ़्टवेयर और सर्च में बने हुए हैं; कारोबार ऐसे एजेंट लगा रहे हैं जो चौबीसों घंटे काम करते हैं। अब कंप्यूट की माँग का मुख्य कारण मॉडल बनाना नहीं, उनका उपयोग है।
अवसर कहाँ है
जिन परतों पर मैं रिसर्च कर रहा हूँ
कुशल इन्फ़रेंस चिप
एक्सेलरेटर और कस्टम सिलिकॉन, जो सिर्फ़ ट्रेनिंग के लिए नहीं, बल्कि बड़े पैमाने पर मॉडल को सस्ते में चलाने के लिए बने हैं।
विकेंद्रित डेटा सेंटर
यूज़र के क़रीब छोटी सुविधाएँ, जो रियल-टाइम AI सेवाओं में देरी घटाती हैं।
मेमोरी और नेटवर्किंग
मॉडल को तेज़ी से चलाना हाई-बैंडविड्थ मेमोरी और कम-लेटेंसी कनेक्शन पर निर्भर है।
ऑन-डिवाइस AI
फ़ोन, PC और कारें स्थानीय रूप से मॉडल चला रही हैं, जिससे हार्डवेयर अपग्रेड का नया चक्र शुरू हो रहा है।
जिन संकेतों पर मेरी नज़र है
मुझे कैसे पता चलेगा कि यह काम कर रहा है
- ↗बड़े AI प्लेटफ़ॉर्म पर रोज़ के सक्रिय यूज़र और क्वेरी में वृद्धि
- ↗क्लाउड प्रदाताओं की AI आमदनी में इन्फ़रेंस का बढ़ता हिस्सा
- ↗प्रति AI क्वेरी लागत में गिरावट, जिससे ऐतिहासिक रूप से कुल उपयोग बढ़ता है
- ↗ख़ास तौर पर कुशल इन्फ़रेंस के लिए डिज़ाइन किए गए चिप का लॉन्च
जोखिम
क्या ग़लत हो सकता है
- !दक्षता में तेज़ सुधार प्रति क्वेरी ख़र्च को उपयोग बढ़ने से भी तेज़ी से घटा सकता है
- !AI प्रदाताओं के बीच क़ीमत की होड़ मार्जिन को दबा सकती है
- !आज ट्रेनिंग चिप में आगे रहने वाले ज़रूरी नहीं कि इन्फ़रेंस में भी आगे रहें
मेरा दृष्टिकोण
मैं अपने कंप्यूट निवेश का झुकाव ट्रेनिंग-केंद्रित कंपनियों से हटाकर उन कारोबारों की ओर कर रहा हूँ जिन्हें उपयोग की मात्रा से फ़ायदा होता है: इन्फ़रेंस-केंद्रित सिलिकॉन, मेमोरी, नेटवर्किंग और वे प्लेटफ़ॉर्म जो AI को प्रति क्वेरी बेचते हैं।
“ट्रेनिंग एक बार होती है। इन्फ़रेंस रोज़ अरबों बार होता है, और अगले दशक की माँग वहीं है।”
ये व्यक्तिगत, भविष्य से जुड़े विचार हैं, भविष्यवाणियाँ या सिफ़ारिशें नहीं। ये ग़लत भी साबित हो सकते हैं।