AI-जनरेटेड सॉफ़्टवेयर के लिए CISO चेकलिस्ट

AI-जनरेटेड कोड पर सिक्योरिटी का सवाल आमतौर पर उल्टा पूछा जाता है। "क्या AI कोड इंसानी कोड से कम सुरक्षित है?" यह सवाल स्टडी-उद्धरणों की प्रतियोगिता बुलाता है और ऑपरेशनल मुद्दा चूक जाता है: AI कोड की मात्रा, रफ़्तार और लेखकत्व बदल देता है, और ये तीन बदलाव उन्हीं मान्यताओं को तोड़ते हैं जिन पर आपका मौजूदा अश्योरेंस प्रोग्राम बना था। सालाना पेन टेस्ट मानते हैं कि कोडबेस धीरे-धीरे बदलता है। मैनुअल समीक्षा मानती है कि लेखक एक इंसान है जो बदलाव को समझता था और उसके लिए जवाब दे सकता है। सैंपलिंग मानती है कि बिना-सैंपल किया कोड सैंपल किए कोड जैसा है। AI डेवलपमेंट के तहत इनमें से कोई भी नहीं टिकती।

इसलिए CISO-स्तर की आवश्यकता मॉडल की गुणवत्ता पर फ़ैसला नहीं है, मॉडल तो वैसे भी आपके नीचे बदलते रहेंगे। वह उन गुणों का सेट है जो डेवलपमेंट सिस्टम में होने ही चाहिए, कोड चाहे किस मॉडल ने लिखा हो: हर बदलाव किसी प्रॉम्प्ट, किसी व्यक्ति और किसी मंज़ूरी तक ट्रेस हो; गंभीर बदलाव मर्ज से पहले पॉलिसी से गेट हों; सिक्योरिटी टेस्टिंग लगातार चले और निष्कर्ष स्टैटिक शोर की बाढ़ की बजाय लाइव एप्लिकेशन के खिलाफ़ पुष्ट हों; और एक अपरिवर्तनीय रिकॉर्ड इतना पक्का हो कि किसी ऑडिटर या इंसिडेंट समीक्षा के लिए कोई भी बदलाव दोबारा खड़ा किया जा सके।

इस तरह देखें तो AI डेवलपमेंट कोई नई जोखिम-श्रेणी नहीं है जो नया सिद्धांत मांगे। यह एक जानी-पहचानी श्रेणी है, बड़े पैमाने पर चेंज मैनेजमेंट, जो बेहतर मशीनरी मांगती है। नीचे की चेकलिस्ट वही मशीनरी है, ऐसी आवश्यकताओं के रूप में लिखी हुई जिन्हें आप किसी भी वेंडर या अंदरूनी प्लेटफ़ॉर्म टीम के सामने रख सकते हैं।

नियंत्रणों जितना ही रवैया भी मायने रखता है। उपयोगी रुख यह मान लेना है कि AI-जनरेटेड सॉफ़्टवेयर आपके संगठन में पहले से मौजूद है, क्योंकि है, और गवर्न्ड रास्ते को आकर्षक बनाना, बजाय ऐसी पाबंदी घोषित करने के जो निर्माण को और गहरे साये में धकेल दे। जो सिक्योरिटी टीमें साफ़ नियंत्रणों वाला एक स्वीकृत रास्ता प्रकाशित करती हैं, उन्हें विज़िबिलिटी और अपनाना दोनों मिलते हैं; जो मना करती हैं, उन्हें दोनों में से कुछ नहीं मिलता, और जोखिम वही का वही रहता है। नीचे की हर आवश्यकता इसी रणनीति की सेवा करती है: हर एक बनाने के सुरक्षित तरीक़े को ही जवाब देने का आसान तरीक़ा भी बनाती है।

उससे शुरू कीजिए जो पहले से सच है: बिज़नेस यूनिटें आज AI टूल्स से एप्लिकेशन जनरेट कर रही हैं, ज़्यादातर सिक्योरिटी की नज़र से बाहर। नज़दीकी भविष्य की यथार्थवादी घटना कोई विदेशी मॉडल-हमला नहीं है; वह है बिना समीक्षा की एक AI-निर्मित ऐप जिसकी ज़रूरत से ज़्यादा खुली डेटाबेस पॉलिसी चुपचाप ग्राहक रिकॉर्ड उघाड़ रही है, और खोजता है एक ग्राहक। शैडो AI डेवलपमेंट दरअसल कोड जनरेटर जुड़ा हुआ शैडो IT है, और उसे हर क्लासिक नाकामी विरासत में मिलती है, अनजान डेटा फ़्लो, बिना पैच की डिपेंडेंसी, कोई मालिक नहीं, कहीं ऊंची उत्पादन-रफ़्तार पर।

इंजीनियरिंग के भीतर जोखिम महीन है: मात्रा के नीचे समीक्षा का क्षरण। जब एजेंट-जनरेटेड पुल रिक्वेस्ट तीन गुना हो जाएं और समीक्षकों की गिनती नहीं, तो मंज़ूरी या तो वह अड़चन बनती है जो उत्पादकता का फ़ायदा मार देती है, या वह रबर स्टैम्प जो नियंत्रण मार देता है। दोनों नतीजे बुरे हैं, और जिन संगठनों ने यह चुनाव कभी खुलकर किया ही नहीं, उन्हें आमतौर पर डिफ़ॉल्ट से दूसरा मिलता है। इकलौता स्थिर जवाब है पॉलिसी से ट्राइएज, रोज़मर्रा का काम मशीनें निपटाएं, इंसान वह देखें जिसे नियम गंभीर ठहराएं, और पॉलिसी की मालिक खुद सिक्योरिटी हो, न कि वह जिसने प्रॉम्प्ट लिखा।

और जब कुछ गड़बड़ हो ही जाए, तो इंसिडेंट-रिस्पॉन्स का सवाल ही पूरा खेल बन जाता है: क्या आप दोबारा खड़ा कर सकते हैं कि क्या बदला, किसने या किस चीज़ ने बदला, कौन सी टेस्टिंग चली, और किसने मंज़ूर किया? अगर ईमानदार जवाब है किसी जा चुके कॉन्ट्रैक्टर के अकाउंट का चैट लॉग, तो आपके पास AI डेवलपमेंट का अश्योरेंस प्रोग्राम नहीं है। आपके पास नेक इरादों वाला एक्सपोज़र है।

बाहरी दबाव के बढ़ने की भी उम्मीद रखिए। ऑडिटर, साइबर बीमाकर्ता और एंटरप्राइज़ ग्राहक सिक्योरिटी प्रश्नावलियों और वेंडर असेसमेंट में AI-जनरेटेड कोड पर सीधे सवाल पूछने लगे हैं, उसकी समीक्षा कैसे होती है, कौन सी टेस्टिंग उसे गेट करती है, प्रोवेनेंस मौजूद है या नहीं। जो संगठन ऑडिट ट्रेल से जवाब दे सकते हैं, वे उन समीक्षाओं को रूटीन की तरह पास करेंगे; जो जवाब गढ़ते हैं, उन्हें हर समीक्षा एक फ़ायर ड्रिल लगेगी। सबूत की मशीनरी अभी खड़ी करना, किसी ख़ास ऑडिटर के मांगने से पहले, किसी फ़ाइंडिंग के दौरान खड़ी करने से कहीं सस्ता है।

Ciao की गवर्नेंस परत ठीक इसी चेकलिस्ट के खिलाफ़ डिज़ाइन हुई थी। Guardrails कोड को बिज़नेस क्षेत्रों में मैप करता है, जोखिम भरे बदलाव पकड़ता है, सरल भाषा में लिखी पॉलिसी लागू करता है, मानव समीक्षा दर्ज करता है और हर मर्ज के पीछे ऑडिट ट्रेल छोड़ता है; ट्रेल अपेंड-ओनली है और प्रॉम्प्ट, मर्ज, डिप्लॉय व एडमिन कार्रवाइयों को कवर करता है। Security स्टैटिक स्कैनिंग, डिपेंडेंसी जांचें और एक्सेस-कंट्रोल प्रोब चलाता है, और फ़्लैग करने से पहले लाइव ऐप के खिलाफ़ कमज़ोरियों की पुष्टि करता है, यही फ़र्क़ है उस फ़ाइंडिंग-फ़ीड में जिस पर आपकी टीम भरोसा करती है और उस फ़ीड में जिसे वह म्यूट कर देती है। QA हर पब्लिश को डिटरमिनिस्टिक ब्राउज़र रीप्ले से गेट करता है और बाद में प्रोडक्शन जांचें चलाता है।

वेंडर-जोखिम के पक्ष में: SOC 2 Type II रिपोर्ट NDA के तहत उपलब्ध हैं; प्लेटफ़ॉर्म SAML और OIDC से SSO, वैकल्पिक MFA और रोल-आधारित एक्सेस कंट्रोल सपोर्ट करता है; ग्राहक का कोड मॉडल ट्रेनिंग में इस्तेमाल नहीं होता और इंफ़रेंस ज़ीरो-रिटेंशन मॉडल कॉन्ट्रैक्ट्स के तहत चलता है; और फ़ॉलबैक वाली मल्टी-प्रोवाइडर मॉडल सीढ़ी किसी एक मॉडल वेंडर पर निर्भरता घटाती है। डिप्लॉयमेंट ठिकानों में आपका अपना AWS, Azure या GCP अकाउंट, प्राइवेट VPC, या वर्गीकृत वर्कलोड के लिए अलग शर्तों के तहत ऑन-प्रेम शामिल हैं। गंभीर डेवलपमेंट प्रोग्राम USD 10,000 प्रति वर्ष से शुरू होते हैं। अगर आप AI डेवलपमेंट का अंदरूनी मानक बना रहे हैं, तो सिक्योरिटी पैक मांगिए और Ciao को ऊपर की हर पंक्ति पर स्कोर कीजिए।

जिन्होंने यह अच्छे से किया है उनका रोलआउट सुझाव: क्रम रखिए, पहले इन्वेंटरी, फिर स्वीकृत रास्ता, फिर माइग्रेशन। पहले खोजिए कि कौन सा AI-निर्मित सॉफ़्टवेयर पहले से मौजूद है और मालिक कौन है; दूसरे, गवर्न्ड प्लेटफ़ॉर्म खड़ा कीजिए और नए बिल्ड उसी से गुज़ारिए; तीसरे, मौजूदा टूल्स को ब्लास्ट-रेडियस के क्रम में उस पार ले जाइए। चेकलिस्ट को ही अपना अंदरूनी मानक बनाकर प्रकाशित करना, प्लेटफ़ॉर्म चाहे जो चुनें, एक धुंधली चिंता को स्कोर होने वाले, मालिक वाले प्रोग्राम में बदल देता है, और बिज़नेस यूनिटों को बंद दरवाज़े की बजाय "क्या करें कि यह ठीक हो जाए?" का साफ़ जवाब देता है।