कृत्रिम बुद्धिमत्ता अर्थात् एआईले मानिसको दैनिक जीवनलाई धेरै सहज बनाइरहेको छ। केही सेकेन्डमै तस्बिर बनाउन, भिडियो सम्पादन गर्न, आवाज परिवर्तन गर्न वा लामो सामग्री तयार गर्न सकिने प्रविधि अहिले सामान्य बन्दै गएको छ।

तर, यही सहजता अहिले अर्को गम्भीर समस्याको कारण पनि बनिरहेको छ। कसैको अनुमति बिना उसको अनुहार प्रयोग गरेर अश्लील तस्बिर वा भिडियो बनाउने, नक्कली घटना देखाउने र त्यस्ता सामग्री सामाजिक सञ्जालमा फैलाउने क्रम बढ्दै गएको छ। प्रविधिले वास्तविक र नक्कलीबीचको सीमा मेटाउँदै जाँदा यसको सबैभन्दा ठूलो असर महिला तथा बालबालिकामाथि पर्न थालेको छ।

भारतीय अभिनेत्री गिरिजा ओकको घटना यसको पछिल्लो उदाहरण हो। एउटा पोडकास्टपछि अचानक सामाजिक सञ्जालमा चर्चित भएकी गिरिजाका तस्बिरलाई एआईको माध्यमबाट छेडछाड गरी अश्लील बनाइयो। सुरुमा उनले त्यस्ता सामग्रीलाई बेवास्ता गरिन्। तर जब उनका १२ वर्षीय छोराको अनुहारसमेत जोडिएको आपत्तिजनक तस्बिर उनको हातमा पुग्यो, उनी प्रहरीसमक्ष पुगिन्।

यो घटना एउटा अभिनेत्रीको व्यक्तिगत पीडामा मात्र सीमित छैन। यसले एआईको विकाससँगै समाजले सामना गर्नुपर्ने एउटा गम्भीर प्रश्न अघि सारेको छ- प्रविधि कति शक्तिशाली भयो भन्नेभन्दा त्यसको दुरुपयोग रोक्ने हाम्रो क्षमता कति बलियो छ?

लोकप्रियताको मूल्य एआईको दुरुपयोग बन्न थालेपछि

गिरिजा ओक मराठी चलचित्र क्षेत्रमा चर्चित नाम हुन्। उनले ‘तारे जमीन पर’, ‘शोर इन द सिटी’ र ‘जवान’ लगायत हिन्दी चलचित्रमा पनि अभिनय गरेकी छन्। नोभेम्बर २०२५ मा पत्रकार सौरभ द्विवेदीसँगको पोडकास्टमा सहभागी भएपछि उनी सामाजिक सञ्जालमा निकै चर्चित भइन्। नीलो सारीमा आत्मविश्वासका साथ प्रस्तुत भएकी गिरिजालाई दर्शकले रुचाए। कतिपयले उनलाई ‘नेशनल क्रस’ भन्न थाले।

तर, लोकप्रियताको अर्को पाटो केही समयमै देखियो। उनका सामान्य तस्बिरलाई एआई प्रयोग गरेर बिकिनी लगाएको जस्तो बनाइयो। कतिपय तस्बिरमा कपडा हटाइएको देखाइयो। केही भिडियोमा उनको अनुहारलाई प्रयोग गरेर आपत्तिजनक दृश्यसमेत तयार गरियो।

यस्ता सामग्री सुरुमा उनले बेवास्ता गरिन्। तर, एउटा तस्बिरले उनलाई प्रहरीसम्म पुग्न बाध्य बनायो। त्यसमा अत्यन्त कम कपडा लगाएकी महिलाको शरीरमा उनको अनुहार जोडिएको थियो भने एक पुरुषको शरीरमा उनका १२ वर्षीय छोराको अनुहार राखिएको थियो।

त्यो क्षणमा एआई मनोरञ्जनको प्रविधि रहेन, अपराधको औजार बन्यो। गिरिजाले डिसेम्बर २०२५ मा ओशिवाराको प्रहरी थानामा उजुरी दर्ता गराइन्। त्यसपछि उनका धेरै आपत्तिजनक तस्बिर तथा भिडियो इन्टरनेटबाट हटाइए।

एउटा तस्बिर बनाउन अब ठूलो प्राविधिक ज्ञान चाहिँदैन

डीपफेक प्रविधिको सबैभन्दा ठूलो जोखिम यही हो। पहिले कसैको तस्बिर वा भिडियोमा गम्भीर छेडछाड गर्न विशेष प्राविधिक ज्ञान र महँगा उपकरण आवश्यक पर्थे। अहिले सामान्य मोबाइल फोन र सजिलै उपलब्ध हुने एआई उपकरणबाट पनि यस्तो सामग्री बनाउन सकिने अवस्था आएको छ। यसले अपराधको स्वरूप नै बदलिदिएको छ।

अपराधीले पीडितको वास्तविक तस्बिर पाउँछ। त्यसपछि एआईको सहायताले अनुहार अर्को शरीरमा जोड्न सक्छ, कपडा हटाइएको जस्तो देखाउन सक्छ वा वास्तविक हुँदै नभएको घटना भएको जस्तो भिडियो बनाउन सक्छ। समस्या यति मात्र होइन। यस्तो सामग्री एकपटक इन्टरनेटमा पुगेपछि त्यसलाई पूर्ण रूपमा हटाउन निकै कठिन हुन्छ। एउटा सामाजिक सञ्जालबाट हटाए पनि अर्को खातामा, अर्को वेबसाइटमा वा निजी समूहमा फेरि फैलिन सक्छ। अर्थात्, पीडितले अपराध एकपटक होइन, पटक–पटक भोग्नुपर्ने अवस्था आउन सक्छ।

महिलामाथि केन्द्रित किन?

एआईबाट बनाइने अश्लील सामग्रीको ठूलो हिस्सा महिलालाई लक्षित देखिन्छ। भारतको गृह मन्त्रालयका अनुसार सन् २०२५ मा राष्ट्रिय साइबर अपराध पोर्टलमा महिलाविरुद्ध साइबर अपराधसम्बन्धी ७६ हजार ६५७ उजुरी परेका थिए। सन् २०२४ मा यस्तो उजुरीको संख्या ४८ हजार ३३५ थियो।

यो वृद्धि केवल प्रविधिको विस्तारको परिणाम होइन। यसभित्र समाजमा अझै कायम रहेको महिलालाई वस्तुका रूपमा हेर्ने मानसिकता पनि जोडिएको छ। एआईले पुरानो समस्या सिर्जना गरेको होइन। पुरानो महिलाविरोधी सोचलाई नयाँ र अझ शक्तिशाली उपकरण दिएको हो।

कुनै महिलाको शरीर, पहिरन वा व्यक्तिगत जीवनलाई उसको अनुमति बिना सार्वजनिक उपभोगको वस्तु बनाउने सोच पहिले पनि थियो। फरक यति हो कि अहिले त्यसलाई केही क्लिकमै नक्कली तस्बिर र भिडियोमा बदल्न सकिन्छ। यसले समस्या अझ गम्भीर बनाएको छ।

सहर मात्र होइन, साना ठाउँ पनि जोखिममा

यो समस्या ठूला सहर र चर्चित व्यक्तिसम्म मात्र सीमित छैन। रति फाउन्डेशनकी सह-संस्थापक उमा सुब्रमणियनका अनुसार साना सहरका युवतीहरू पनि डीपफेक र एआईबाट बनाइएका अश्लील सामग्रीको सिकार भइरहेका छन्। यसले एउटा महत्वपूर्ण कुरा देखाउँछ- डिजिटल अपराधको पहुँच प्रविधिसँगै भूगोलभन्दा बाहिर पुगिसकेको छ।

पहिले साइबर अपराधलाई कम्प्युटर र इन्टरनेटको राम्रो ज्ञान भएका व्यक्तिको अपराध मानिन्थ्यो। अहिले एआई उपकरणले त्यसको प्रवेशद्वार निकै फराकिलो बनाइदिएको छ।त्यसैले सामान्य सामाजिक सञ्जाल प्रयोगकर्ता पनि यसको जोखिममा छन्।

सबैभन्दा खतरनाक पक्ष : वास्तविक र नक्कली छुट्याउन कठिन

डीपफेकको प्रभाव केवल पीडितको व्यक्तिगत प्रतिष्ठामा सीमित हुँदैन। कल्पना गरौँ, कुनै व्यक्तिले गर्दै नगरेको काम गरेको भिडियो सामाजिक सञ्जालमा फैलियो। भिडियो हेर्ने धेरै मानिसले त्यसलाई वास्तविक ठान्न सक्छन्। त्यसपछि तथ्य जाँच हुनुअघि नै हजारौँ वा लाखौँ मानिससम्म पुग्न सक्छ।

यसले व्यक्तिगत प्रतिष्ठा मात्र होइन, परिवार, व्यवसाय र सार्वजनिक जीवनमा समेत असर पार्न सक्छ। यही कारण एआईबाट बनाइएको झुटो सामग्रीलाई सामान्य ‘तस्बिर सम्पादन’ भनेर हेर्न मिल्दैन। यो सूचना, प्रतिष्ठा र व्यक्तिगत सुरक्षासँग जोडिएको विषय हो।

बालबालिका जोडिएपछि जोखिम अझ गम्भीर

गिरिजा ओकको घटनामा सबैभन्दा गम्भीर पक्ष उनका १२ वर्षीय छोराको अनुहार प्रयोग गरिनु हो। बालबालिकाको तस्बिर सामाजिक सञ्जालमा सामान्य रूपमा उपलब्ध हुन्छ। विद्यालय, खेलकुद, जन्मदिन वा पारिवारिक कार्यक्रमका तस्बिर पनि सामाजिक सञ्जालमा पुगिरहेका हुन्छन्।

त्यसैले अभिभावकले एउटा सामान्य तस्बिर सार्वजनिक गर्दा त्यसको दुरुपयोग कहाँसम्म हुन सक्छ भन्ने विषयमा पनि सचेत हुनुपर्ने अवस्था आएको छ। बालबालिकाको डिजिटल सुरक्षालाई अब केवल पासवर्ड र सामाजिक सञ्जालको गोपनीयतासम्म सीमित राख्न सकिँदैन।

समस्या प्रविधिमा मात्र छैन

एआईलाई दोष दिएर मात्र समस्या समाधान हुँदैन। एआई आफैंमा अपराधी होइन। यही प्रविधिले स्वास्थ्य, शिक्षा, व्यवसाय, अनुसन्धान र सिर्जनशील क्षेत्रमा ठूलो सम्भावना खोलिरहेको छ। समस्या त्यसको दुरुपयोगमा छ।

त्यसैले समाधान पनि प्रविधिमाथि पूर्ण प्रतिबन्ध होइन। प्रविधिको जिम्मेवार प्रयोग, कडा कानुनी व्यवस्था, सामाजिक सञ्जाल कम्पनीको जवाफदेहिता र डिजिटल सचेतना सँगसँगै आवश्यक हुन्छ। विशेषगरी एआई कम्पनीले दुरुपयोग हुने सम्भावना भएका उपकरणमा सुरक्षा व्यवस्था बलियो बनाउनुपर्नेछ। सामाजिक सञ्जाल कम्पनीले पनि उजुरी परेपछि सामग्री हटाउने मात्र होइन, त्यही सामग्री पुनः अपलोड हुन नदिने प्रणाली विकास गर्नुपर्नेछ।

पीडितले के गर्ने?

डीपफेक वा एआईबाट बनाइएको अश्लील सामग्री देखिएपछि डराएर चुप लाग्नु समाधान होइन। विशेषज्ञहरूका सुझावअनुसार सबैभन्दा पहिले प्रमाण सुरक्षित राख्नुपर्छ। तस्बिर वा भिडियो, त्यसको लिङ्क, प्रयोग भएको खाताको विवरण र अन्य उपलब्ध प्रमाण सुरक्षित राख्नु उपयोगी हुन्छ। त्यसपछि सम्बन्धित सामाजिक सञ्जालमा सामग्री रिपोर्ट गर्नुपर्छ। आवश्यक परे प्रहरी वा सम्बन्धित साइबर अपराध निकायमा उजुरी दिनुपर्छ।

सबैभन्दा महत्वपूर्ण कुरा पीडितलाई नै दोष दिने प्रवृत्ति अन्त्य गर्नुपर्छ। कसैको वास्तविक तस्बिर प्रयोग गरेर नक्कली अश्लील सामग्री बनाउनु पीडितको गल्ती होइन।

नेपालले पनि अहिले नै गम्भीर हुनुपर्छ

भारतमा देखिएका यी घटना नेपालका लागि पनि चेतावनी हुन्। नेपालमा सामाजिक सञ्जालको प्रयोग तीव्र रूपमा बढिरहेको छ। फेसबुक, टिकटक, इन्स्टाग्राम, युट्युब लगायतका माध्यममा नेपाली नागरिकका लाखौँ तस्बिर र भिडियो सार्वजनिक छन्। एआई उपकरणको पहुँच बढ्दै जाँदा नेपालमा पनि यस्ता घटनाको जोखिम बढ्न सक्छ। त्यसैले घटना भएपछि मात्र कानुनी प्रक्रिया अघि बढाउनेभन्दा घटना हुन नदिन पूर्वतयारी आवश्यक छ।

नेपालमा साइबर अपराध अनुसन्धान गर्ने निकायको प्राविधिक क्षमता बढाउनुपर्नेछ। प्रहरी, अदालत र सम्बन्धित सरकारी निकायलाई डीपफेक तथा एआईबाट सिर्जित सामग्री पहिचान गर्ने सीप आवश्यक हुनेछ। त्यसैगरी विद्यालय तथा विश्वविद्यालय तहबाटै डिजिटल सुरक्षा र एआईको जिम्मेवार प्रयोगबारे शिक्षा दिनुपर्ने समय आएको छ।

एआईको वास्तविक परीक्षा अब सुरु हुँदैछ

कृत्रिम बुद्धिमत्ताको विकास रोकिँदैन। यसको प्रयोग झन् बढ्नेछ। आज तस्बिरमा देखिएको समस्या भोलि आवाज, भिडियो र प्रत्यक्ष प्रसारणसम्म पुग्न सक्छ। त्यसैले प्रश्न एआई प्रयोग गर्ने कि नगर्ने भन्ने होइन। प्रश्न हो- एआईको शक्ति कसको हातमा छ र त्यसको दुरुपयोग हुँदा कसले जिम्मेवारी लिन्छ?

गिरिजा ओकको घटना एउटा अभिनेत्रीको व्यक्तिगत अनुभवजस्तो देखिए पनि यसको अर्थ त्यसभन्दा धेरै ठूलो छ। यसले डिजिटल संसारमा हाम्रो अनुहार, आवाज र पहिचानमाथि हाम्रो नियन्त्रण कति कमजोर हुँदै गएको छ भन्ने देखाउँछ।

प्रविधि मानिसको जीवन सजिलो बनाउन बनेको हो। तर यदि कसैको अनुमति बिना उसको पहिचान चोरेर उसको प्रतिष्ठा नष्ट गर्न त्यही प्रविधि प्रयोग हुन थाल्यो भने समाजले त्यसलाई केवल ‘नयाँ प्रविधि’ भनेर स्वीकार गर्न सक्दैन। एआईको भविष्य कति शक्तिशाली हुन्छ भन्ने प्रश्नभन्दा पनि त्यसको शक्ति कति जिम्मेवार ढंगले प्रयोग हुन्छ भन्ने प्रश्न  महत्वपूर्ण भएको छ। गिरिजाको घटनाले दिएको सबैभन्दा ठूलो सन्देश यही हो- डिजिटल दुनियाँमा कुनै तस्बिर केवल तस्बिर रहेन। त्यो गलत हातमा पुग्यो भने कसैको प्रतिष्ठा, परिवार र जीवनमाथि नै आक्रमण बन्न सक्छ।