आर्टी का डिज़ाइन, एक एआई दस्तावेज़ीकरण सहायक
व्यापक संदर्भ के लिए संबंधित ब्लॉग पोस्ट पढ़ें: एक AI दस्तावेज़ीकरण सहायक बनाने ने मुझे तकनीकी लेखन के बारे में क्या सिखाया। यह रिट्रीवल-ऑगमेंटेड जनरेशन और तकनीकी लेखन में इस परियोजना के स्थान की पड़ताल करता है।
यह केस स्टडी इस दस्तावेज़ीकरण साइट में एम्बेड किए गए एआई दस्तावेज़ीकरण सहायक आर्टी (Algolia का उपयोग करके निर्मित) के पीछे के डिज़ाइन निर्णयों को समझाती है। आर्टी एक रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) सहायक है जो केवल यहाँ प्रकाशित सामग्री से उत्तर देता है। इसका सिस्टम प्रॉम्प्ट दस्तावेज़ीकरण संबंधी प्रश्नों को सामान्य प्रशिक्षण ज्ञान के बजाय उसी सामग्री तक सीमित रखता है। यह बाधा मतिभ्रम (hallucinations) कम करती है और मनगढ़ंत सुविधाओं को रोकती है।
एक दस्तावेज़ीकरण सहायक बनाना तब तक सीधा लगता है जब तक आप इसके चरम मामलों (edge cases) पर विचार नहीं करते: क्या होता है जब कोई ऐसा सवाल पूछता है जो दस्तावेज़ों में शामिल नहीं है? क्या होगा यदि दो अलग-अलग पाठक वर्ग एक ही इंटरफ़ेस का उपयोग करें? आप एक एआई को अनर्गल बातें करने से रोकते हुए उसे एक व्यक्तित्व कैसे देते हैं? और आप किसी को प्रॉम्प्ट को पूरी तरह से हाईजैक करने से कैसे रोकते हैं?
यह पृष्ठ बताता है कि यह डिज़ाइन इनमें से प्रत्येक समस्या का समाधान कैसे करता है।
दर्शक रूटिंग
आर्टी एक ही संवादात्मक इंटरफ़ेस के माध्यम से दो प्रकार के दर्शकों को सेवा प्रदान करता है:
- डेवलपर्स और अंतिम उपयोगकर्ता जो सेटअप निर्देशों, एपीआई संदर्भों या दस्तावेज़ीकरण नमूनों के स्पष्टीकरण की तलाश में हैं
- भर्तीकर्ता और हायरिंग मैनेजर जो इस पोर्टफोलियो का मूल्यांकन कर रहे हैं और योग्यता, अनुभव या लेखन प्रक्रिया के बारे में पूछ सकते हैं
अलग-अलग प्रवाह बनाने या उपयोगकर्ताओं से अपनी पहचान बताने के लिए कहने के बजाय, प्रॉम्प्ट इरादे के अनुसार रूट करता है। तकनीकी सवालों के दस्तावेज़ीकरण इंडेक्स पर आधारित चरण-दर-चरण उत्तर मिलते हैं। पोर्टफोलियो से संबंधित प्रश्नों के उत्तर रिज़्यूमे के संदर्भ और साइट पर मौजूद लेखन नमूनों को जोड़कर तैयार किए जाते हैं। यदि इंडेक्स में रिज़्यूमे संदर्भ उपलब्ध नहीं है, तो आर्टी उत्तर उत्पन्न करने का प्रयास करने के बजाय आगंतुकों को "About Me" पृष्ठ पर भेजता है।
इंटरफ़ेस दोनों दर्शक वर्गों को बिना किसी मेनू के एक ही चैट देता है, और हर वर्ग को प्रासंगिक उत्तर मिलता है।
ज्ञान का आधार और पुनर्प्राप्ति
आर्टी के डिज़ाइन में सबसे महत्वपूर्ण बाधा यह है कि यह विशेष रूप से Algolia द्वारा संचालित दस्तावेज़ीकरण इंडेक्स से ही उत्तर देता है। यह रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) का मूल सिद्धांत है। मॉडल की प्रतिक्रियाएँ सामान्य प्रशिक्षण डेटा से लेने के बजाय सामग्री के एक विशिष्ट निकाय पर लंगर डालती हैं।
- कोई मनगढ़ंत सामग्री नहीं का अर्थ है कि सहायक कभी सुविधाएँ नहीं गढ़ता और डाउनलोड लिंक नहीं बनाता, और केवल वही चरण बताता है जो दस्तावेज़ों में मौजूद हैं।
- स्रोत लिंक करना का अर्थ है कि सहायक इंडेक्स से यूआरएल या फ़ाइल संदर्भ देता है ताकि उपयोगकर्ता सीधे संबंधित पृष्ठ खोल सकें।
- सुरुचिपूर्ण फ़ॉलबैक का अर्थ है कि जब इंडेक्स में प्रासंगिक जानकारी नहीं होती, तो आर्टी सीमा स्पष्ट रूप से बताता है और फिर बिना पुनः प्रयास या अनुमान लगाए सीधे संपर्क करने का सुझाव देता है।
प्रकाशित दस्तावेज़ीकरण के बाहर आर्टी किसी भी चीज़ में मदद नहीं कर सकता। पोर्टफोलियो साइट के लिए यह बाधा उपयोगी है: विस्तार से अधिक सटीकता मायने रखती है। एक संकीर्ण प्रश्न का सटीक और विश्वसनीय स्रोत वाला उत्तर उस उत्तर की तुलना में कहीं अधिक विश्वास जगाता है जो सुनने में तो सही लगे लेकिन बाद में गलत निकले।
व्यक्तित्व और स्वर का समायोजन
आर्टी का व्यक्तित्व जॉर्ज हैरिसन से प्रेरित एक शांत, आत्मीय गर्माहट और कभी-कभार लिवरपूल की बोली पर आधारित हल्का-फुल्का है। मुख्य शब्द है हल्का-फुल्का। यह व्यक्तित्व तकनीकी सामग्री में हस्तक्षेप किए बिना अभिवादन और विदाई में एक चरित्र जोड़ता है।
यहाँ डिज़ाइन की सीमाएँ जानबूझकर तय की गई हैं:
- तकनीकी उत्तर संक्षिप्त रखना का अर्थ है कि व्यक्तित्व कभी भी लंबे उत्तरों का औचित्य नहीं बनता। एक गर्मजोशी भरे अभिवादन के बाद एक संक्षिप्त, तथ्यात्मक उत्तर इस लक्ष्य को पूरा करता है।
- दोहराव पर विविधता का अर्थ है कि प्रॉम्प्ट में अभिव्यक्तियों का एक संग्रह शामिल है ताकि आर्टी हर बार एक ही वाक्यांश पर न आए।
- कोई उपदेश नहीं का अर्थ है कि व्यक्तित्व एक आत्मीय, व्यंग्यात्मक स्वर बनाए रखता है और कभी दबदबा बनाने वाला नहीं लगता, बल्कि किसी चरित्र प्रदर्शन के बजाय एक मददगार सहकर्मी की तरह काम करता है।
वार्तालाप एआई डिज़ाइन में इस प्रकार का टोन कैलिब्रेशन एक आम चुनौती है। बहुत अधिक व्यक्तित्व होने पर सहायक दिखावटी लगता है। बहुत कम होने पर यह रोबोट जैसा लगता है। समाधान यह है कि व्यक्तित्व को मसाले की तरह माना जाए: मौजूद, पर कभी मुख्य सामग्री नहीं।
सुरक्षा और सुरक्षा उपाय (Guardrails)
सार्वजनिक रूप से उपलब्ध एआई सहायक एक आक्रमण सतह (attack surface) होता है, और प्रॉम्प्ट में सामान्य बड़े भाषा मॉडल (LLM) कमजोरियों के खिलाफ स्पष्ट सुरक्षा तंत्र शामिल हैं।
प्रॉम्प्ट इंजेक्शन से सुरक्षा
आर्टी का प्रॉम्प्ट अपने निर्देशों को ओवरराइड करने के किसी भी प्रयास को स्पष्ट रूप से अस्वीकार करता है, जैसे कि "पिछले निर्देशों को अनदेखा करें" जैसे कमांड या कोई अलग व्यक्तित्व अपनाने के अनुरोध। यह प्रॉम्प्ट इंजेक्शन के विरुद्ध प्रॉम्प्ट-स्तरीय सुरक्षा स्थापित करता है, जो ओपन वर्ल्डवाइड एप्लिकेशन सिक्योरिटी प्रोजेक्ट (OWASP) की लार्ज लैंग्वेज मॉडल अनुप्रयोगों के शीर्ष 10 जोखिमों की सूची में #1 स्थान पर है।
दायरा प्रतिबंध
प्रॉम्प्ट स्पष्ट अस्वीकृति श्रेणियों को परिभाषित करता है:
- सहायक सामान्य कोडिंग सहायता के उन अनुरोधों को अस्वीकार करता है जो दस्तावेज़ीकरण में शामिल नहीं हैं।
- सहायक असंबंधित सामान्य ज्ञान के अनुरोधों को अस्वीकार करता है, सिवाय दो निर्धारित मनोरंजक सुविधाओं के।
- सहायक व्यक्तिगत जानकारी के उन सवालों को अस्वीकार करता है जो पेशेवर पोर्टफोलियो प्रकाशित नहीं करता।
- सहायक आगंतुकों को फ्रीलांस दरों या बातचीत के लिए सीधे संपर्क करने का निर्देश देता है।
प्रत्येक श्रेणी की एक स्पष्ट सीमा है, इसलिए सहायक यह तौलता नहीं कि क्या उत्तर देने के लिए "काफी करीब" है। यदि कोई अनुरोध उस सीमा को पार करता है, तो वह विनम्रतापूर्वक मना कर देता है।
डेटा गोपनीयता
आर्टी केवल वही संपर्क जानकारी साझा करता है जो दस्तावेज़ों में स्पष्ट रूप से प्रकाशित है, जैसे कि लिंक्डइन प्रोफ़ाइल या पोर्टफोलियो ईमेल। यह फ़ोन नंबर या पते जैसे व्यक्तिगत विवरणों का अनुमान नहीं लगाएगा, न ही उन्हें निकालेगा या उत्पन्न करेगा।
पेशेवर सीमाएँ
सहायक शत्रुतापूर्ण संदेशों में शामिल नहीं होगा, अभद्र भाषा का उपयोग नहीं करेगा और न ही अपने चरित्र से बाहर जाएगा। यह केवल विनम्रता से कहीं आगे की बात है। यह पूर्वानुमेय व्यवहार बनाए रखने के बारे में है। सहायक की सीमाओं का परीक्षण करने वाले भर्तीकर्ता को हर बार एक सुसंगत, पेशेवर सीमा का अनुभव होना चाहिए।
नियंत्रित ईस्टर एग्स
आर्टी में दो "मनोरंजक सुविधाएँ" शामिल हैं, अर्थात् Snapple रियल फैक्ट्स और शालीन चुटकुले, जो दर्शाती हैं कि दुरुपयोग का रास्ता खोले बिना व्यक्तित्व कैसे जोड़ा जाए।
दोनों सुविधाएँ एक ही डिज़ाइन पैटर्न साझा करती हैं:
- स्पष्ट ट्रिगर का अर्थ है कि सुविधाएँ केवल तब सक्रिय होती हैं जब उपयोगकर्ता उन्हें मांगता है ("मुझे एक Snapple तथ्य बताओ", "मुझे एक चुटकुला सुनाओ"), अस्पष्ट संकेतों पर कभी नहीं।
- सीमित सामग्री का अर्थ है कि Snapple तथ्य सत्यापित तथ्यों की एक एम्बेडेड सूची पर आधारित हैं, जबकि चुटकुले क्यूरेटेड और परिवार के अनुकूल रहते हैं।
- कोई निराधार निर्माण नहीं का अर्थ है कि सहायक तथ्यों का आविष्कार या ब्रांड-विपरीत हास्य उत्पन्न करने से बचता है, इसलिए आउटपुट अनुमानित रहता है।
असीमित रचनात्मक सुविधाएँ तेज़ी से टोकन समाप्त करती हैं और अप्रत्याशित आउटपुट उत्पन्न करती हैं। क्यूरेटेड सामग्री और स्पष्ट ट्रिगर इस जोखिम के बिना आत्मीयता जोड़ते हैं।
मैं क्या अलग करता
वास्तविक उपयोगकर्ताओं ने इस डिज़ाइन को बदल दिया।
- टोकन लागत पहला बदलाव तय करती है। अकेले Snapple तथ्यों की सूची 100 से अधिक वस्तुओं तक फैली है। प्रति-टोकन बिलिंग वाली प्रोडक्शन प्रणाली में, मैं इसे सिस्टम प्रॉम्प्ट में एम्बेड करने के बजाय एक पुनर्प्राप्ति परत (retrieval layer) में ले जाता। एक टीम हर अनुरोध पर प्रॉम्प्ट में प्रत्येक टोकन के लिए भुगतान करती है, चाहे उपयोगकर्ता कोई तथ्य मांगे या न मांगे।
- मल्टी-टर्न संदर्भ वर्तमान डिज़ाइन को एकल-टर्न प्रश्नोत्तर तक सीमित रखता है। बाद का संस्करण बातचीत का इतिहास रख सकता है और "अगले चरण के बारे में क्या?" जैसे अनुवर्ती प्रश्नों के लिए प्रश्नों को फिर से लिख सकता है।
- एनालिटिक्स और फीडबैक अभी अनुपलब्ध हैं। केवल फ़ॉलबैक प्रतिक्रियाओं की गिनती दर्ज करना दिखाएगा कि कौन से दस्तावेज़ीकरण अंतराल सबसे अधिक विफलताएँ पैदा करते हैं।
- डायनेमिक पर्सोना ट्यूनिंग के लिए आज हार्ड-कोड की गई अभिव्यक्तियों को संपादित करना पड़ता है। उन्हें बाहरी कॉन्फ़िगरेशन में ले जाने से मुख्य निर्देश सेट को छुए बिना टोन बदलना आसान हो जाएगा।
इनमें से प्रत्येक एक पोर्टफोलियो परियोजना के लिए एक सुविचारित समझौता है जहाँ सादगी और स्पष्टता उत्पादन-स्तरीय अनुकूलन से अधिक मायने रखती है। लेकिन यदि यह उच्च-ट्रैफ़िक वाले वातावरण में जाता है तो ये वे पहली चीज़ें होंगी जिन्हें मैं संबोधित करूँगा।