अध्ययन से पता चलता है कि एआई-जनित फर्जी रिपोर्ट मूर्ख विशेषज्ञ

अध्ययन से पता चलता है कि एआई-जनित फर्जी रिपोर्ट मूर्ख विशेषज्ञ

साइबर सुरक्षा जैसे महत्वपूर्ण क्षेत्रों में विशेषज्ञों को मूर्ख बनाने के लिए पर्याप्त रूप से आश्वस्त करने वाली गलत सूचना का उत्पादन करने के लिए मानव मन की आवश्यकता नहीं है गेटी इमेज के जरिए iLexx/iStock

यदि आप फेसबुक और ट्विटर जैसी सोशल मीडिया वेबसाइटों का उपयोग करते हैं, तो हो सकता है कि आप गलत सूचनाओं के बारे में चेतावनी के साथ ध्वजांकित पोस्ट पर आए हों। अब तक, सबसे गलत सूचना - झंडी दिखाकर और बिना झंडी दिखाकर - रही है आम जनता के उद्देश्य से. साइबर सुरक्षा, सार्वजनिक सुरक्षा और चिकित्सा जैसे वैज्ञानिक और तकनीकी क्षेत्रों में गलत सूचना - झूठी या भ्रामक जानकारी - की संभावना की कल्पना करें।

को लेकर चिंता बढ़ रही है इन महत्वपूर्ण क्षेत्रों में फैल रही गलत सूचना वैज्ञानिक साहित्य को प्रकाशित करने में सामान्य पूर्वाग्रहों और प्रथाओं के परिणामस्वरूप, यहां तक ​​कि सहकर्मी-समीक्षित शोध पत्रों में भी। के तौर पर स्नातक छात्र और के रूप में संकाय सदस्य साइबर सुरक्षा में अनुसंधान करते हुए, हमने वैज्ञानिक समुदाय में गलत सूचना के एक नए मार्ग का अध्ययन किया। हमने पाया कि कृत्रिम बुद्धिमत्ता प्रणाली के लिए दवा और रक्षा जैसे महत्वपूर्ण क्षेत्रों में गलत जानकारी उत्पन्न करना संभव है जो विशेषज्ञों को मूर्ख बनाने के लिए पर्याप्त है।

सामान्य गलत सूचना का उद्देश्य अक्सर कंपनियों या सार्वजनिक हस्तियों की प्रतिष्ठा को धूमिल करना होता है। विशेषज्ञता के समुदायों के भीतर गलत सूचना के डरावने परिणाम हो सकते हैं जैसे कि डॉक्टरों और रोगियों को गलत चिकित्सा सलाह देना। इससे जान जोखिम में पड़ सकती है।


 ईमेल से नवीनतम प्राप्त करें

साप्ताहिक पत्रिका दैनिक प्रेरणा

इस खतरे का परीक्षण करने के लिए, हमने साइबर सुरक्षा और चिकित्सा समुदायों में गलत सूचना फैलाने के प्रभावों का अध्ययन किया। हमने नकली साइबर सुरक्षा समाचार और COVID-19 चिकित्सा अध्ययन उत्पन्न करने के लिए ट्रांसफॉर्मर डब किए गए कृत्रिम बुद्धिमत्ता मॉडल का उपयोग किया और परीक्षण के लिए साइबर सुरक्षा विशेषज्ञों को साइबर सुरक्षा गलत सूचना प्रस्तुत की। हमने पाया कि ट्रांसफॉर्मर से उत्पन्न गलत सूचना साइबर सुरक्षा विशेषज्ञों को मूर्ख बनाने में सक्षम थी।

ट्रान्सफ़ॉर्मर

गलत सूचना को पहचानने और प्रबंधित करने के लिए उपयोग की जाने वाली अधिकांश तकनीक कृत्रिम बुद्धिमत्ता द्वारा संचालित होती है। एआई कंप्यूटर वैज्ञानिकों को बड़ी मात्रा में गलत सूचनाओं की तुरंत जांच करने की अनुमति देता है, यह देखते हुए कि लोगों के लिए प्रौद्योगिकी की मदद के बिना पता लगाने के लिए बहुत कुछ है। हालांकि एआई लोगों को गलत सूचनाओं का पता लगाने में मदद करता है, लेकिन विडंबना यह है कि हाल के वर्षों में इसका इस्तेमाल गलत सूचना पैदा करने के लिए भी किया गया है।

स्मार्टफोन स्क्रीन पर टेक्स्ट का एक ब्लॉक

AI भारत में COVID-19 के बारे में इन झूठे दावों जैसी गलत सूचनाओं का पता लगाने में मदद कर सकता है - लेकिन क्या होता है जब AI का उपयोग गलत सूचना उत्पन्न करने के लिए किया जाता है?

एपी फोटो / अश्विनी भाटिया

ट्रांसफॉर्मर, जैसे बर्ट Google और . से GPT OpenAI से, उपयोग करें प्राकृतिक भाषा प्रसंस्करण पाठ को समझने और अनुवाद, सारांश और व्याख्याएं तैयार करने के लिए। उनका उपयोग कहानी कहने और सवालों के जवाब देने जैसे कार्यों में किया गया है, जो पाठ उत्पन्न करने में मानवीय क्षमताओं को प्रदर्शित करने वाली मशीनों की सीमाओं को आगे बढ़ाते हैं।

ट्रांसफॉर्मर ने Google और अन्य प्रौद्योगिकी कंपनियों को किसके द्वारा सहायता की है उनके खोज इंजन में सुधार और इस तरह की आम समस्याओं से निपटने में आम जनता की मदद की है लेखक के ब्लॉक से जूझना.

ट्रांसफॉर्मर का उपयोग द्वेषपूर्ण उद्देश्यों के लिए भी किया जा सकता है। फेसबुक और ट्विटर जैसे सामाजिक नेटवर्क पहले ही चुनौतियों का सामना कर चुके हैं एआई-जनरेटेड फेक न्यूज प्लेटफार्मों भर में।

गंभीर गलत सूचना

हमारे शोध से पता चलता है कि ट्रांसफार्मर भी दवा और साइबर सुरक्षा में गलत सूचना का खतरा पैदा करते हैं। यह बताने के लिए कि यह कितना गंभीर है, हम सुधारी GPT-2 ट्रांसफार्मर मॉडल पर ऑनलाइन स्रोत खोलें साइबर सुरक्षा कमजोरियों और हमले की जानकारी पर चर्चा करना। एक साइबर सुरक्षा भेद्यता एक कंप्यूटर सिस्टम की कमजोरी है, और एक साइबर सुरक्षा हमला एक ऐसा कार्य है जो एक भेद्यता का शोषण करता है। उदाहरण के लिए, यदि भेद्यता एक कमजोर फेसबुक पासवर्ड है, तो इसका फायदा उठाने वाला एक हैकर आपके पासवर्ड का पता लगा सकता है और आपके खाते में सेंध लगा सकता है।

हमने तब मॉडल को एक वास्तविक साइबरथ्रेट इंटेलिजेंस नमूने के वाक्य या वाक्यांश के साथ सीड किया था और यह बाकी के खतरे के विवरण को उत्पन्न करता था। हमने इस उत्पन्न विवरण को साइबर ख़तरे के शिकारियों के लिए प्रस्तुत किया, जो साइबर सुरक्षा खतरों के बारे में बहुत सारी जानकारी की छानबीन करते हैं। ये पेशेवर संभावित हमलों की पहचान करने और अपने सिस्टम की सुरक्षा को समायोजित करने के लिए खतरे के विवरण पढ़ते हैं।

हम परिणामों से हैरान थे। हमारे द्वारा उत्पन्न साइबर सुरक्षा गलत सूचना उदाहरण साइबर खतरे के शिकारियों को मूर्ख बनाने में सक्षम थे, जो सभी प्रकार के साइबर सुरक्षा हमलों और कमजोरियों के बारे में जानकार हैं। इस परिदृश्य की कल्पना साइबर ख़तरनाक ख़ुफ़िया जानकारी के एक महत्वपूर्ण अंश के साथ करें जिसमें एयरलाइन उद्योग शामिल है, जिसे हमने अपने अध्ययन में उत्पन्न किया है।

एयरलाइनों पर साइबर सुरक्षा हमले के बारे में झूठी जानकारी के साथ पाठ का एक खंड

एआई-जनित साइबर सुरक्षा गलत सूचना का एक उदाहरण।

 

बातचीत, सीसी द्वारा एनडी

इस भ्रामक जानकारी में संवेदनशील रीयल-टाइम फ़्लाइट डेटा वाली एयरलाइनों पर साइबर हमले से संबंधित गलत जानकारी है। यह गलत जानकारी साइबर विश्लेषकों को नकली सॉफ्टवेयर बग पर अपना ध्यान स्थानांतरित करके उनके सिस्टम में वैध कमजोरियों को संबोधित करने से रोक सकती है। यदि एक साइबर विश्लेषक वास्तविक दुनिया के परिदृश्य में नकली सूचनाओं पर कार्य करता है, तो विचाराधीन एयरलाइन को एक गंभीर हमले का सामना करना पड़ सकता है जो एक वास्तविक, अनसुनी भेद्यता का शोषण करता है।

एक समान ट्रांसफॉर्मर-आधारित मॉडल चिकित्सा क्षेत्र में जानकारी उत्पन्न कर सकता है और संभावित रूप से चिकित्सा विशेषज्ञों को बेवकूफ बना सकता है। COVID-19 महामारी के दौरान, शोध पत्रों के पूर्व-मुद्रण, जिनकी अभी तक कठोर समीक्षा नहीं हुई है, लगातार ऐसी साइटों पर अपलोड किए जा रहे हैं जैसे कि मेड्रिक्स. उन्हें न केवल प्रेस में वर्णित किया जा रहा है बल्कि सार्वजनिक स्वास्थ्य निर्णय लेने के लिए उपयोग किया जा रहा है। निम्नलिखित पर विचार करें, जो वास्तविक नहीं है, लेकिन कुछ COVID-2-संबंधित कागजात पर डिफ़ॉल्ट GPT-19 के न्यूनतम फाइन-ट्यूनिंग के बाद हमारे मॉडल द्वारा उत्पन्न किया गया है।

स्वास्थ्य देखभाल की गलत सूचना दिखाने वाला पाठ का एक खंड।

एआई-जनित स्वास्थ्य देखभाल गलत सूचना का एक उदाहरण।

 

बातचीत, सीसी द्वारा एनडी

मॉडल पूर्ण वाक्य उत्पन्न करने और कथित तौर पर COVID-19 टीकाकरण के दुष्प्रभावों और किए गए प्रयोगों का वर्णन करते हुए एक सार बनाने में सक्षम था। यह दोनों चिकित्सा शोधकर्ताओं के लिए परेशान कर रहा है, जो लगातार सूचित निर्णय लेने के लिए सटीक जानकारी पर भरोसा करते हैं, और आम जनता के सदस्यों के लिए, जो अक्सर महत्वपूर्ण स्वास्थ्य जानकारी के बारे में जानने के लिए सार्वजनिक समाचारों पर भरोसा करते हैं। यदि सही रूप में स्वीकार किया जाता है, तो इस तरह की गलत सूचना जैव-चिकित्सा अनुसंधान करने वाले वैज्ञानिकों के प्रयासों को गलत दिशा देकर जोखिम में डाल सकती है।

एक एआई गलत सूचना हथियारों की दौड़?

हालांकि हमारे अध्ययन से इस तरह के उदाहरणों की तथ्य-जांच की जा सकती है, ट्रांसफॉर्मर से उत्पन्न गलत सूचना सूचना अधिभार में मदद करने के लिए एआई को अपनाने में स्वास्थ्य देखभाल और साइबर सुरक्षा जैसे उद्योगों में बाधा डालती है। उदाहरण के लिए, साइबरथ्रेट इंटेलिजेंस से डेटा निकालने के लिए स्वचालित सिस्टम विकसित किए जा रहे हैं जो तब संभावित हमलों को पहचानने के लिए स्वचालित सिस्टम को सूचित और प्रशिक्षित करने के लिए उपयोग किया जाता है। यदि ये स्वचालित सिस्टम ऐसे झूठे साइबर सुरक्षा पाठ को संसाधित करते हैं, तो वे सच्चे खतरों का पता लगाने में कम प्रभावी होंगे।

हमारा मानना ​​​​है कि परिणाम हथियारों की दौड़ हो सकता है क्योंकि गलत सूचना फैलाने वाले लोग इसे पहचानने के प्रभावी तरीकों के जवाब में झूठी जानकारी बनाने के बेहतर तरीके विकसित करते हैं।

साइबर सुरक्षा शोधकर्ता लगातार विभिन्न डोमेन में गलत सूचनाओं का पता लगाने के तरीकों का अध्ययन करते हैं। स्वचालित रूप से गलत सूचना उत्पन्न करने के तरीके को समझने से यह समझने में मदद मिलती है कि इसे कैसे पहचाना जाए। उदाहरण के लिए, स्वचालित रूप से उत्पन्न जानकारी में अक्सर सूक्ष्म व्याकरण संबंधी गलतियाँ होती हैं जिनका पता लगाने के लिए सिस्टम को प्रशिक्षित किया जा सकता है। सिस्टम कई स्रोतों से जानकारी का परस्पर संबंध भी कर सकते हैं और अन्य स्रोतों से पर्याप्त समर्थन की कमी वाले दावों की पहचान कर सकते हैं।

अंततः, सभी को इस बारे में अधिक सतर्क रहना चाहिए कि कौन सी जानकारी भरोसेमंद है और इस बात से अवगत रहें कि हैकर्स लोगों की साख का फायदा उठाते हैं, खासकर अगर जानकारी प्रतिष्ठित समाचार स्रोतों या प्रकाशित वैज्ञानिक कार्यों से नहीं है।

प्रियंका रानाडे, कंप्यूटर विज्ञान और इलेक्ट्रिकल इंजीनियरिंग में पीएचडी छात्र, मैरीलैंड विश्वविद्यालय, बाल्टीमोर काउंटी

 

books_culture

यह आलेख मूल पर दिखाई दिया वार्तालाप

उपलब्ध भाषा

अंग्रेज़ी अफ्रीकी अरबी भाषा बंगाली सरलीकृत चीनी) चीनी पारंपरिक) डच फिलिपिनो फ्रेंच जर्मन हिंदी इन्डोनेशियाई इतालवी जापानी जावानीस कोरियाई मलायी मराठी फ़ारसी पुर्तगाली रूसी स्पेनिश स्वाहिली स्वीडिश तामिल थाई तुर्की यूक्रेनी उर्दू वियतनामी

InnerSelf पर का पालन करें

फेसबुक चिह्नट्विटर आइकनयूट्यूब आइकनइंस्टाग्राम आइकनपिंटरेस्ट आइकनआरएसएस आइकन

 ईमेल से नवीनतम प्राप्त करें

साप्ताहिक पत्रिका दैनिक प्रेरणा

ताज़ा लेख

निचला दायां विज्ञापन

नया रुख - नई संभावनाएं

InnerSelf.comक्लाइमेटइम्पैक्टन्यूज.कॉम | इनरपॉवर.नेट
MightyNatural.com | व्होलिस्टिकपॉलिटिक्स.कॉम | InnerSelf बाजार
कॉपीराइट © 1985 - 2021 InnerSelf प्रकाशन। सर्वाधिकार सुरक्षित।