प्रॉम्प्ट इंजेक्शन क्या है? AI एजेंट पर 7 असली हमले
प्रॉम्प्ट इंजेक्शन क्या है? छिपा टेक्स्ट AI एजेंट को कैसे हाइजैक करता है, 2024 और 2025 के 7 दर्ज हमले और आज अपनाने लायक 9 बचाव, सरल भाषा में।

प्रॉम्प्ट इंजेक्शन (prompt injection) तब होता है जब कोई AI ईमेल, वेब पेज या दस्तावेज़ में जो टेक्स्ट पढ़ता है, उसे निर्देश मान लिया जाता है और AI का व्यवहार बदल जाता है। यूके के नेशनल साइबर सिक्योरिटी सेंटर (National Cyber Security Centre, NCSC) ने दिसंबर 2025 में कहा कि ऐसे हमले "शायद कभी पूरी तरह रोके नहीं जा सकेंगे", और हर बड़ा वेंडर मानता है कि यह समस्या अभी हल नहीं हुई है। यह गाइड इसे सरल भाषा में समझाती है, 7 दर्ज हमले दिखाती है और 9 बचाव बताती है जो एक छोटा बिज़नेस आज ही अपना सकता है।
आप अपने AI असिस्टेंट से आज सुबह के ईमेल का सारांश बनाने को कहते हैं। किसी अनजान पते से आए एक संदेश में एक पंक्ति है जो आपको कभी दिखती नहीं: सफ़ेद बैकग्राउंड पर सफ़ेद टेक्स्ट, जो असिस्टेंट से कहता है कि आपके ताज़ा इनवॉइस ढूँढ़कर कहीं और भेज दे। असिस्टेंट उस पंक्ति और आपके अनुरोध में फ़र्क़ नहीं कर पाता। दोनों बस शब्द हैं। यही प्रॉम्प्ट इंजेक्शन है, और यह हर महीने ज़्यादा मायने रखता है, क्योंकि ये टूल अब सवालों के जवाब देने से आगे बढ़कर काम करने लगे हैं: इनबॉक्स पढ़ना, फ़ाइलें खोलना, ब्राउज़र में बटन क्लिक करना। अप्रैल 2026 में प्रकाशित सरकार के Cyber Security Breaches Survey में पाया गया कि 31% यूके बिज़नेस AI का उपयोग कर रहे हैं, अपना रहे हैं या उस पर विचार कर रहे हैं, और उनमें से केवल 24% के पास इसके सुरक्षा जोखिम सँभालने की कोई प्रक्रिया थी।
आगे: हमने यह गाइड कैसे जाँची, सरल भाषा में मूल विचार, तालिका में 7 असली हमले, छिपे निर्देश कहाँ छिपते हैं, एजेंट से दाँव क्यों बढ़ता है, वेंडर खुद क्या मानते हैं, 9 बचाव, बदलने लायक सेटिंग्स और एजेंट का सुरक्षित उपयोग कैसे जारी रखें।
जिस एजेंट को आप काम करते देख सकें, उस पर भरोसा करना आसान होता है। Jobbit पर आप एजेंट का ब्राउज़र काम करते समय देख सकते हैं और किसी भी पल कंट्रोल अपने हाथ में ले सकते हैं, और Plan mode कुछ भी चलने से पहले चरण दिखाता है। फ़्री प्लान, रोज़ 100 क्रेडिट, कार्ड की ज़रूरत नहीं।
हमने यह गाइड कैसे जाँची
- प्राथमिक स्रोत, 13 नवंबर 2026 को पढ़े गए। AI एप्लिकेशन के लिए OWASP की जोखिम सूची, नेशनल साइबर सिक्योरिटी सेंटर (NCSC), अमेरिकी मानक संस्था NIST, Information Commissioner's Office (ICO, यूके की डेटा सुरक्षा नियामक संस्था), और Microsoft, Google और Anthropic के सुरक्षा पोस्ट।
- हर हमले को उन शोधकर्ताओं तक खोजा गया जिन्होंने उसे उजागर किया। जहाँ मूल लेख नहीं खुला, वहाँ तालिका में यह लिखा है।
- केवल बचाव। यह गाइड हमलों के काम करने का तरीक़ा उसी स्तर पर बताती है जिस स्तर पर आधिकारिक स्रोत प्रकाशित करते हैं। इसमें कोई चालू हमला-टेक्स्ट नहीं है।
- वेंडर के उद्धरण उनके अपने शब्द हैं, उनके सुरक्षा ब्लॉग और शोध पृष्ठों से, मार्केटिंग से नहीं।
- किसी भी प्रोडक्ट के पूरी तरह सुरक्षित होने का कोई दावा नहीं, हमारे अपने प्रोडक्ट का भी नहीं।
सरल भाषा में प्रॉम्प्ट इंजेक्शन
OWASP, यानी सॉफ़्टवेयर सुरक्षा जोखिमों की सबसे जानी-मानी सूची के पीछे की संस्था, AI एप्लिकेशन की अपनी सूची में प्रॉम्प्ट इंजेक्शन को पहले स्थान पर रखती है और इसे इस तरह परिभाषित करती है: एक कमज़ोरी जो "तब पैदा होती है जब यूज़र प्रॉम्प्ट LLM के व्यवहार या आउटपुट को अनचाहे तरीक़ों से बदल देते हैं"। यह समस्या को दो भागों में बाँटती है।
- डायरेक्ट प्रॉम्प्ट इंजेक्शन। टाइप करने वाला व्यक्ति ही हमलावर है। वह AI को उसके नियमों से हटाने के लिए मनाने की कोशिश करता है। यह ज़्यादातर वेंडर की समस्या है।
- इनडायरेक्ट प्रॉम्प्ट इंजेक्शन। निर्देश उस चीज़ के अंदर आता है जिसे AI को पढ़ने के लिए कहा गया था। OWASP इसे इनपुट के रूप में बताता है जो "वेबसाइट या फ़ाइलों जैसे बाहरी स्रोतों से" आता है। AI इस्तेमाल करने वाला व्यक्ति पीड़ित है। यह आपकी समस्या है।
मूल कारण कहना आसान है। NIST समझाता है कि ये मॉडल "डेटा और निर्देश के चैनल को मिला देते हैं"। एक सामान्य प्रोग्राम कमांड और कंटेंट को अलग रखता है। भाषा मॉडल को टेक्स्ट की एक लंबी धारा मिलती है और वह खुद तय करता है कि कौन-से हिस्से मायने रखते हैं।
यह नाम 12 सितंबर 2022 से चला, जब डेवलपर Simon Willison ने लिखा: "मेरा प्रस्ताव है कि इसका स्पष्ट नाम prompt injection होना चाहिए।" यह डेटाबेस पर होने वाले एक पुराने हमले की याद दिलाता है, और नेशनल साइबर सिक्योरिटी सेंटर चेताता है कि इस तुलना को बहुत दूर तक न खींचें। डेटाबेस इंजेक्शन का एक ज्ञात समाधान है। भाषा मॉडल के लिए सेंटर "inherently confusable deputy" (स्वभाव से भ्रमित हो जाने वाला सहायक) के रूप में सोचने का सुझाव देता है: आपकी पहुँच वाला एक सहायक जिसे बहकाकर किसी और के लिए काम कराया जा सकता है।
एक नज़र में 7 असली हमले
| कब उजागर हुआ | प्रोडक्ट | निर्देश कहाँ छिपा था | हमलावर क्या कर सकता था | क्या बदला |
|---|---|---|---|---|
| अगस्त 2024 | Slack AI | सार्वजनिक चैनल का एक संदेश | पीड़ित को क्लिक करने के लिए लिंक के रूप में कोई निजी राज़ दिखवाना | शोधकर्ताओं के अनुसार Slack ने इस व्यवहार को इरादतन बताया |
| मई 2025 | GitHub से जुड़ा एक एजेंट | सार्वजनिक कोड रिपॉज़िटरी का एक issue | निजी रिपॉज़िटरी का डेटा किसी सार्वजनिक जगह पर खींच लाना | कोई पैच नहीं; सीमित अनुमतियों की सलाह दी गई |
| जून 2025 | Microsoft 365 Copilot | एक ईमेल, जिसमें क्लिक की ज़रूरत नहीं थी | नेटवर्क के ज़रिए जानकारी उजागर करना | Microsoft ने ठीक किया, CVE-2025-32711 के रूप में दर्ज |
| अगस्त 2025 | Google Gemini | कैलेंडर इनवाइट का शीर्षक | इवेंट डिलीट करना, संदेश भेजना, स्मार्ट-होम डिवाइस नियंत्रित करना | Google ने पुष्टि के चरण और फ़िल्टरिंग जोड़ी |
| अगस्त 2025 | जुड़ी हुई फ़ाइलों वाला ChatGPT | साझा दस्तावेज़ में छोटा सफ़ेद टेक्स्ट | जुड़े ड्राइव में कुंजियाँ (keys) खोजकर उन्हें लीक करना | OpenAI ने एक जाँच जोड़ी जिसे शोधकर्ताओं ने नाकाफ़ी बताया |
| अगस्त 2025 | Perplexity का Comet ब्राउज़र | वेब पेज पर छिपी एक टिप्पणी | ईमेल से वन-टाइम कोड पढ़कर अकाउंट पर क़ब्ज़ा करना | पैच किया गया, फिर पूरी तरह ठीक न होने की रिपोर्ट आई |
| सितंबर 2025 | Salesforce Agentforce | वेब फ़ॉर्म का विवरण बॉक्स | ग्राहकों के रिकॉर्ड किसी बाहरी पते पर भेजना | Salesforce ने भरोसेमंद पतों की सूची लागू की |
शोधकर्ता, क्रम से, PromptArmor, Invariant Labs, Microsoft की कमज़ोरी के रिकॉर्ड में दर्ज टीम, SafeBreach, Zenity Labs, Brave और Noma Labs थे। Microsoft 365 Copilot वाला मामला सार्वजनिक कमज़ोरी रिकॉर्ड और एक अकादमिक पेपर के आधार पर बताया गया है, क्योंकि मूल लेख हमारे लिए नहीं खुला।
तीन बातें उभरकर आती हैं। हर प्रोडक्ट किसी बड़ी, सावधान कंपनी का है। किसी भी पीड़ित को कुछ असामान्य नहीं करना पड़ा: उन्होंने सारांश माँगा, इनवाइट स्वीकार किया या ईमेल पाया। और कई सुधारों को शोधकर्ताओं ने आंशिक बताया।
छिपे निर्देश कहाँ छिपते हैं
इनमें से हर एक ऊपर के किसी खुलासे से या किसी आधिकारिक स्रोत से आया है।
- वेब पेज। सफ़ेद बैकग्राउंड पर सफ़ेद टेक्स्ट, पेज के कोड में टिप्पणियाँ, स्पॉइलर टैग के पीछे टेक्स्ट।
- ईमेल। बॉडी में अदृश्य टेक्स्ट। Anthropic का सेफ़्टी पेज चेताता है कि "किसी to-do सूची या ईमेल में अदृश्य टेक्स्ट हो सकता है"।
- कैलेंडर इनवाइट। इवेंट के शीर्षक में, जो खोले बिना नज़र नहीं आता।
- साझा दस्तावेज़। समीक्षा के लिए भेजी गई फ़ाइल में एक पिक्सेल का सफ़ेद टेक्स्ट।
- वेब फ़ॉर्म। "अपनी पूछताछ बताइए" वाला बॉक्स जो आपके कस्टमर सिस्टम में जाता है।
- चैट चैनल और कोड रिपॉज़िटरी। कोई भी जगह जहाँ कोई अजनबी पोस्ट कर सके और आपका असिस्टेंट पढ़ सके।
- इमेज। OWASP एक ऐसे निर्देश का ज़िक्र करता है जो हानिरहित टेक्स्ट के साथ आने वाली तस्वीर में छिपाया गया हो।
- टूल विवरण। Information Commissioner's Office इसे "tool poisoning" कहता है, "जहाँ यह उन टूल के मेटाडेटा में छिपा होता है जिनसे कोई AI एजेंट संवाद करता है"।
पैटर्न यह है कि आपकी ओर से AI जो भी पढ़ता है, वह घुसपैठ का रास्ता है, और वह टेक्स्ट आप खुद नहीं देखेंगे।
एजेंट से दाँव क्यों बढ़ता है
बहका हुआ चैटबॉट ग़लत जवाब देता है। बहका हुआ एजेंट ग़लत कार्रवाई करता है। Simon Willison ने जून 2025 में इस ख़तरनाक मेल को नाम दिया: "आपके निजी डेटा तक पहुँच", "अविश्वसनीय कंटेंट के संपर्क में आना" और "बाहर संवाद करने की क्षमता"। उन्होंने इसे घातक त्रिकोण (lethal trifecta) कहा। तीनों वाले असिस्टेंट को कोई अजनबी कह सकता है कि कुछ निजी ढूँढ़ो और बाहर भेज दो।
तालिका पर दोबारा नज़र डालिए। हर हमले में तीनों मौजूद थे। सारांश फ़ीचर निजी संदेश पढ़ सकता था, उसने एक अजनबी का संदेश पढ़ा, और वह एक लिंक दिखा सकता था। तीनों में से कोई भी एक हटा दें तो हमला नाकाम हो जाता है।
नेशनल साइबर सिक्योरिटी सेंटर का मई 2026 का एजेंटिक AI पर पेपर संगठनों के लिए यही बात कहता है: "अगर कोई एजेंट ज़रूरत से ज़्यादा अधिकारों वाला या ख़राब डिज़ाइन का है, तो एक चूक जल्दी ही गंभीर घटना बन सकती है।" हमारा कंप्यूटर-यूज़ एजेंट पर explainer बताता है कि ये टूल अब क्या-क्या कर सकते हैं।
वेंडर खुद क्या मानते हैं
यह ऐसी समस्या नहीं है जिसे इंडस्ट्री छिपाती हो।
- Anthropic ने नवंबर 2025 में प्रकाशित शोध में प्रॉम्प्ट इंजेक्शन को "हल हुई समस्या से कोसों दूर" कहा और लिखा कि "कोई भी ब्राउज़र एजेंट प्रॉम्प्ट इंजेक्शन से सुरक्षित नहीं है"। उसने अपने आँकड़े भी दिए: लगातार हमला करने वाले स्वचालित हमलावर के सामने उसका सबसे अच्छा मॉडल सुरक्षा उपाय चालू होने पर 1.4% बार बहका, और उसने कहा कि 1% भी "अब भी सार्थक जोखिम है"।
- OpenAI के चीफ़ इन्फ़ॉर्मेशन सिक्योरिटी ऑफ़िसर ने अक्टूबर 2025 में इसे "एक अग्रणी, अनसुलझी सुरक्षा समस्या" बताया।
- Microsoft की सुरक्षा रिस्पॉन्स टीम ने जुलाई 2025 में लिखा कि उसका तरीक़ा "सभी प्रॉम्प्ट इंजेक्शन रोकने की हमारी क्षमता पर निर्भर नहीं है"। मई 2026 के एक Microsoft सुरक्षा पोस्ट ने इसे और साफ़ कहा: "आपका LLM कोई सुरक्षा सीमा नहीं है।"
- Google ने जून 2025 में परतदार बचाव बताया: क्लासिफ़ायर, लिंक फ़िल्टरिंग और जोखिम भरी कार्रवाइयों पर यूज़र से पुष्टि माँगना।
- नेशनल साइबर सिक्योरिटी सेंटर सलाह देता है कि इसे रोकने का दावा करने वाले किसी भी वेंडर पर संदेह रखें।
जब ताला बनाने वाले ही कहें कि ताला खोला जा सकता है, तो मानकर चलिए कि एक दिन खुलेगा।
आज अपनाने लायक 9 बचाव
- एजेंट को उतनी ही पहुँच दें जितनी काम के लिए चाहिए। नेशनल साइबर सिक्योरिटी सेंटर कहता है कि एजेंट को "केवल न्यूनतम पहुँच, और सबसे कम ज़रूरी समय के लिए" दें। जवाब का मसौदा लिखने वाले असिस्टेंट को उन्हें भेजने की ज़रूरत नहीं।
- त्रिकोण को तोड़ें। एक ही असिस्टेंट को एक ही टास्क में निजी डेटा पढ़ने, अजनबियों का कंटेंट पढ़ने और चीज़ें बाहर भेजने न दें। इनबॉक्स का सारांश एक सेशन में बनवाएँ; भेजने का काम दूसरे में खुद करें।
- जो भी मायने रखता है, उसमें इंसान को शामिल रखें। OWASP "उच्च जोखिम या विशेषाधिकार वाली कार्रवाइयों" के लिए मानवीय समीक्षा की सिफ़ारिश करता है। भुगतान, डिलीट करना, ग्राहक को जाने वाली कोई भी चीज़।
- AI जो पढ़ता है उसे अविश्वसनीय मानें। वेब पेज, अटैचमेंट और अनजान भेजने वाले का ईमेल, ये सब कंटेंट हैं, कभी कमांड नहीं।
- AI जो लिखता है उसे भी अविश्वसनीय मानें। "दोबारा लॉगिन" के लिए AI सारांश में दिए लिंक पर क्लिक न करें। Slack वाला हमला यही था।
- एजेंट के काम के लिए अलग ब्राउज़र प्रोफ़ाइल रखें। Anthropic की अपनी सुरक्षा सलाह ऐसी प्रोफ़ाइल की है जिसमें बैंकिंग, स्वास्थ्य या सरकारी अकाउंट साइन-इन न हों।
- काम होते हुए देखें। अगर टास्क भटके, जैसे सारांश बनाते-बनाते आपकी फ़ाइलों की खोज शुरू हो जाए, तो उसे रोक दें। एजेंट ने क्या पढ़ा और क्या किया, इसके लॉग रखना काम का है।
- कम जोखिम वाले कामों से शुरू करें। सेंटर की सलाह है कि "छोटे से शुरू करें, एजेंट का उपयोग केवल कम जोखिम वाले कामों के लिए करें"। इनवॉइस और ईमेल से पहले रिसर्च और ड्राफ़्टिंग।
- इसे अपनी AI पॉलिसी में लिखें। कौन किस टूल को किस अकाउंट से जोड़ सकता है, और उसे बंद कौन कर सकता है। हमारे AI पॉलिसी टेम्पलेट में इसके लिए शब्दावली है।
इनमें से किसी के लिए सिक्योरिटी टीम नहीं चाहिए। ये वही आदतें हैं जैसे अजनबी का अटैचमेंट न खोलना, बस एक नए तरह के सहायक पर लागू।
बदलने लायक सेटिंग्स
- अप्रूवल मोड। Anthropic के हेल्प पेज बताते हैं कि Claude in Chrome को "Manually approve" (हर कार्रवाई हाथ से मंज़ूर करें) पर सेट किया जा सकता है ताकि आप हर कार्रवाई देखें, और आप चुनिंदा साइटों तक उसकी पहुँच दे या हटा सकते हैं।
- साइन-आउट ब्राउज़िंग। OpenAI के सुरक्षा प्रमुख ने अपने Atlas ब्राउज़र एजेंट के लिए लॉग-आउट मोड बताया, जिसमें एजेंट आपके अकाउंट के बिना काम करता है। जिन साइटों को आप नहीं जानते, उन पर रिसर्च के लिए इसका उपयोग करें।
- कनेक्टर। आप जो भी फ़ाइल स्टोर, मेलबॉक्स और कैलेंडर जोड़ते हैं, वह उस दायरे को बढ़ाता है जहाँ तक कोई इंजेक्ट किया गया निर्देश पहुँच सकता है। जितना काम के लिए चाहिए उतना जोड़ें, फिर हटा दें।
- ऑटोमैटिक अप्रूवल। कोई भी "हमेशा अनुमति दें" विकल्प सुरक्षा के बदले रफ़्तार देता है। 2025 के एक खुलासे में बताया गया कि यह ठीक वही चरण छिपा देता है जिसे आप देखना चाहेंगे।
एजेंट का सुरक्षित उपयोग कैसे जारी रखें
इनमें से कुछ भी रुक जाने की वजह नहीं है। यह निगरानी वाले टूल और समझदारी भरे कामों को चुनने की वजह है। ChatGPT, Claude, Gemini, Microsoft Copilot, Manus और Meta का Muse, सभी इसी समस्या का सामना करते हैं, और Jobbit भी। आप यह चुन सकते हैं कि आप कितना देख और रोक सकते हैं।
- देखें और कंट्रोल लें। Jobbit एजेंट का ब्राउज़र काम करते समय दिखता है, और आप किसी भी पल कंट्रोल ले सकते हैं। हमारी एजेंट ब्राउज़र गाइड बताती है कि कैसे।
- कार्रवाई से पहले योजना। Plan mode कुछ भी चलने से पहले चरण मंज़ूरी के लिए सामने रखता है, जैसा हमारी एजेंट को स्टीयर करने की गाइड में समझाया गया है।
- ऐसे काम से शुरू करें जिसमें त्रिकोण न हो। वेबसाइट बनाना, दस्तावेज़ लिखना, बाज़ार पर रिसर्च करना और स्प्रेडशीट बनाना, इनमें निजी डेटा कम होता है और आपकी ओर से कुछ भेजा नहीं जाता।
- राज़ चैट से बाहर रखें। Projects में राज़ों के लिए एक समर्पित जगह है, इसलिए कुंजियाँ और पासवर्ड बातचीत में पेस्ट करने की ज़रूरत नहीं पड़ती।
- जोखिम भरा हिस्सा इंसान को सौंपें। ह्यूमन नेटवर्क का कोई जाँचा-परखा प्रोफ़ेशनल वह चरण कर सकता है जिसमें विवेक चाहिए, और भुगतान escrow में रोका रहता है।
ईमानदार स्थिति वही है जो वेंडर की है: कोई भी एजेंट पूरी तरह सुरक्षित नहीं है। निगरानी और सीमित पहुँच ही बहके हुए एजेंट को घटना बनने से रोकती है।
यूके की तस्वीर
Information Commissioner's Office ने मई 2026 में किसी संगठन को AI-संचालित ख़तरों से बचाने के पाँच क़दम प्रकाशित किए: जानें कि आपका सामना किससे है, बुनियादी बातें सही रखें और बचाव को परतों में बाँटें, पहुँच के बिंदु सीमित करें, पहचान और प्रतिक्रिया सुधारें, और व्यक्तिगत डेटा की रक्षा करें। यह इनडायरेक्ट प्रॉम्प्ट इंजेक्शन को ऐसे दुर्भावनापूर्ण निर्देशों के रूप में बताता है जो "AI सिस्टम द्वारा प्रोसेस किए जाने वाले बाहरी कंटेंट में एम्बेड" होते हैं।
सामान्य जोखिम का पैमाना Cyber Security Breaches Survey 2025/2026 में है: 2,112 बिज़नेस के नमूने में से 43% यूके बिज़नेस ने पिछले बारह महीनों में किसी उल्लंघन या हमले की सूचना दी। प्रॉम्प्ट इंजेक्शन कई पुराने रास्तों के बीच एक नया रास्ता है। हमारी छोटे बिज़नेस को निशाना बनाने वाले AI स्कैम की गाइड बाक़ी रास्तों को कवर करती है।
आगे पढ़ें
- क्या AI इस्तेमाल करना सुरक्षित है? सरल भाषा में गाइड
- AI एजेंट के लिए प्रॉम्प्ट कैसे लिखें
- AI बातें गढ़ क्यों देता है
अक्सर पूछे जाने वाले प्रश्न
सरल शब्दों में प्रॉम्प्ट इंजेक्शन क्या है?
यह तब होता है जब AI जो पढ़ता है उसके अंदर के शब्दों को निर्देश मान लिया जाता है। AI भरोसे से आपके अनुरोध और ईमेल, वेब पेज या फ़ाइल के टेक्स्ट में फ़र्क़ नहीं कर पाता, इसलिए एक छिपी पंक्ति उसका व्यवहार बदल सकती है। OWASP इसे AI एप्लिकेशन की अपनी सूची में पहला जोखिम मानता है।
डायरेक्ट और इनडायरेक्ट प्रॉम्प्ट इंजेक्शन में क्या फ़र्क़ है?
डायरेक्ट इंजेक्शन AI इस्तेमाल करने वाला व्यक्ति खुद टाइप करता है, ताकि AI अपने नियम तोड़े। इनडायरेक्ट इंजेक्शन उस कंटेंट में रखा जाता है जिसे AI को पढ़ने के लिए कहा गया है, जैसे वेब पेज या दस्तावेज़, और वह उसे इस्तेमाल करने वाले व्यक्ति को निशाना बनाता है। बिज़नेस के लिए ख़तरा इनडायरेक्ट इंजेक्शन है।
अगर कोई AI एजेंट छिपे निर्देशों वाले ईमेल का सारांश बनाए तो क्या होता है?
हो सकता है कि वह उनका पालन करे। 2024 और 2025 के दर्ज मामलों में, सारांश माँगे जाने पर असिस्टेंट निजी फ़ाइलें खोजने, राज़ बताने या डेटा बाहर भेजने तक चले गए। यह सफल होता है या नहीं, यह प्रोडक्ट के सुरक्षा उपायों और एजेंट की पहुँच पर निर्भर है, इसीलिए सीमित पहुँच मायने रखती है।
क्या प्रॉम्प्ट इंजेक्शन को ठीक किया जा सकता है?
मौजूदा सबूतों के हिसाब से पूरी तरह नहीं। नेशनल साइबर सिक्योरिटी सेंटर कहता है कि ऐसे हमले शायद कभी पूरी तरह रोके न जा सकें, और Anthropic, OpenAI और Microsoft सभी कह चुके हैं कि समस्या अनसुलझी है। सुरक्षा उपाय सफलता की दर घटाते हैं। एजेंट की पहुँच सीमित करने से नुक़सान सीमित होता है।
क्या प्रॉम्प्ट इंजेक्शन और जेलब्रेकिंग एक ही हैं?
इनमें समानता है। जेलब्रेकिंग का मतलब आमतौर पर यूज़र का AI को उसके सुरक्षा नियम अनदेखा करने के लिए मनाना है। प्रॉम्प्ट इंजेक्शन में हर वह इनपुट आता है जो AI के व्यवहार को अनचाहे तरीक़ों से बदल दे, तीसरे पक्ष द्वारा रखा गया टेक्स्ट भी। जेलब्रेक एक तरह का डायरेक्ट प्रॉम्प्ट इंजेक्शन है।
प्रॉम्प्ट इंजेक्शन से अपने बिज़नेस को कैसे बचाऊँ?
AI टूल को उतनी ही पहुँच दें जितनी उन्हें चाहिए, भुगतान और बाहर जाने वाले संदेश इंसान से मंज़ूर करवाएँ, एक ही टास्क में एक असिस्टेंट को निजी डेटा पढ़ने, अजनबियों का कंटेंट पढ़ने और चीज़ें बाहर भेजने न दें, और एजेंट के काम के लिए अलग ब्राउज़र प्रोफ़ाइल रखें। नियमों को AI पॉलिसी में लिखें।
क्या AI एजेंट का उपयोग करना सुरक्षित है भी?
हाँ, निगरानी और सही कामों के साथ। ऐसे काम से शुरू करें जिनमें निजी डेटा कम हो, जैसे रिसर्च, ड्राफ़्टिंग और वेबसाइट बनाना, और ऐसा टूल चुनें जो आपको उसका काम देखने और रोकने दे। Jobbit पर आप एजेंट को काम करते देख सकते हैं और कंट्रोल ले सकते हैं, और फ़्री प्लान में रोज़ 100 क्रेडिट मिलते हैं, कार्ड की ज़रूरत नहीं।