के. बर्मा
कृत्रिम बौद्धिकता (एआई) को विकास यति तीव्र गतिमा अघि बढिरहेको छ कि यसको सम्भावित उपलब्धि र जोखिमबीचको दूरीबारे विश्वले नयाँ ढंगले सोच्न थालेको छ । केही वर्षअघिसम्म मानिसले कम्प्युटरलाई प्रश्न सोध्ने र कम्प्युटरले उत्तर दिने प्रविधिका रूपमा हेरिएको एआई अहिले लेख्ने, कोड निर्माण गर्ने, अनुसन्धान गर्ने, निर्णय प्रक्रियामा सहयोग गर्ने, जटिल समस्या समाधान गर्ने र निश्चित काममा स्वायत्त रूपमा कार्य गर्ने क्षमतातर्फ अघि बढिरहेको छ ।
यससँगै एउटा असहज प्रश्न पनि झन् बलियो हुँदै गएको छ, एआई कति शक्तिशाली हुन सक्छ, र त्यो शक्तिलाई मानिसले कति समयसम्म आफ्नो नियन्त्रणमा राख्न सक्छ?
२०२६ मा प्रकाशित दोस्रो इन्टनेशन एआई सेफ्टी रिपोर्टले सामान्य प्रयोजनका एआई प्रणालीहरूको क्षमता तीव्र रूपमा बढिरहेको र तिनबाट उत्पन्न केही जोखिम अहिले नै देखिन थालेको उल्लेख गरेको छ । तर भविष्यमा अत्यधिक शक्तिशाली प्रणालीबाट उत्पन्न हुन सक्ने केही जोखिम अझै अनिश्चित भए पनि तिनको सम्भावित प्रभाव अत्यन्त गम्भीर हुन सक्ने प्रतिवेदनको निष्कर्ष छ । ३० भन्दा बढी देश तथा अन्तर्राष्ट्रिय संस्थाका प्रतिनिधिको सहयोगमा १०० भन्दा बढी विज्ञले तयार गरेको यो प्रतिवेदनले एआईको विकासलाई केवल प्राविधिक उपलब्धिका रूपमा नभई सुरक्षा, अर्थतन्त्र, समाज र शासनसँग जोडिएको विषयका रूपमा हेरेको छ ।
२०३० : भविष्यवाणी कि सम्भावित जोखिमको समयसीमा?
हालैको बहसमा ‘२०३०’ एउटा विशेष वर्षका रूपमा बारम्बार उल्लेख हुन थालेको छ । यसको अर्थ भने एआईले निश्चित रूपमा २०३० सम्म मानव सभ्यता समाप्त गर्छ भन्ने होइन । बरु, केही अनुसन्धानकर्ता र प्रविधि विज्ञहरूले यही दशकभित्र अत्यन्त शक्तिशाली वा सुपरइन्टेलिजेन्ट एआई विकसित हुन सक्ने सम्भावनालाई गम्भीरतापूर्वक लिनुपर्ने तर्क गरिरहेका छन् ।
सेप्टेम्बर २०२६ मा एन्थ्रोपिकका केही अनुसन्धानकर्ताले एआईले २०३० सम्म मानव अस्तित्वका लागि गम्भीर खतरा उत्पन्न गर्न सक्ने चेतावनी दिएका छन् । कम्पनीका सुरक्षा अनुसन्धानकर्ता ज्याकोब कोक्सनले यही चिन्ताका कारण राजीनामा दिएका थिए भने अन्य अनुसन्धानकर्ताले पनि उन्नत एआईको विकास र सुरक्षा उपायबीचको अन्तरबारे सार्वजनिक रूपमा प्रश्न उठाएका छन् ।
ओपन एआइका प्रमुख कार्यकारी साम अल्टम्यानले पनि एआईबाट दशकको अन्त्यसम्म मानव विनाशको सम्भावना रहेको परिदृश्यलाई अस्वीकार्य जोखिमका रूपमा व्याख्या गरेका छन् । यस्ता अभिव्यक्तिले बहसलाई अझ तीव्र बनाएको छ ।
तर यहाँ एउटा महत्त्वपूर्ण भिन्नता छुट्याउन आवश्यक छ । एआईबाट मानव अस्तित्वमा जोखिम आउन सक्छ भन्ने सम्भावना र एआईले निश्चित रूपमा मानव अस्तित्व समाप्त गर्छ भन्ने दाबी एउटै कुरा होइन । वैज्ञानिक समुदायमा यस जोखिमको सम्भावना कति छ भन्ने विषयमा ठूलो मतभिन्नता छ । त्यसैले ‘प्रलय’को निश्चित भविष्यवाणीभन्दा सम्भावित जोखिमलाई समयमै पहिचान गर्ने र त्यसको रोकथाम गर्ने बहस बढी महत्त्वपूर्ण देखिन्छ ।
‘अलाइनमेन्ट’को मूल प्रश्न
यही बहसको केन्द्रमा एआइ अलाइन्मेन्ट अर्थात् एआईका लक्ष्य र व्यवहारलाई मानव मूल्य, सुरक्षा र सामाजिक हितसँग कसरी मिलाउने भन्ने प्रश्न छ ।
यदि भविष्यका एआई प्रणालीले मानिसभन्दा धेरै जटिल काम गर्न, लामो समयसम्म स्वायत्त रूपमा योजना बनाउन र डिजिटल वातावरणमा स्वतन्त्र रूपमा कार्य गर्न थाले भने उनीहरूले दिएका निर्देशनलाई मानिसले अपेक्षा गरेअनुसार नै पालना गर्छन् भन्ने सुनिश्चितता कसरी गर्ने भन्ने प्रश्न उठ्छ ।
समस्या एआई ‘बुद्धिमान’ हुनु मात्र होइन । समस्या त्यस्तो प्रणालीले कुन उद्देश्य पूरा गर्न खोज्छ, त्यसलाई कसरी व्याख्या गर्छ र मानिसले दिएको नियन्त्रणलाई कति विश्वसनीय रूपमा स्वीकार गर्छ भन्ने हो ।
यही कारण एआई सुरक्षा अनुसन्धानमा ‘अलाइनमेन्ट’, ‘कन्ट्रोल’, ‘रेड टिमिङ’, सुरक्षा परीक्षण र स्वतन्त्र मूल्याङ्कनजस्ता विषय महत्त्वपूर्ण बनेका छन् । बेलायतको एआई सेक्युरिटी इन्स्टिच्युटले अग्रणी एआई प्रणाली सार्वजनिक रूपमा प्रयोगमा आउनुअघि तिनको क्षमता र सम्भावित जोखिम परीक्षण गर्ने तथा सुरक्षा उपाय विकास गर्ने काम गरिरहेको छ ।
जोखिम केवल ‘रोबोटले मानवलाई मार्ने’ कथा होइन
एआईको अस्तित्वगत जोखिमबारे चर्चा गर्दा यसलाई विज्ञान कथामा देखाइने मानवविरोधी रोबोटको कल्पनामा मात्र सीमित गर्नु उपयुक्त हुँदैन ।
अत्यधिक शक्तिशाली एआईले साइबर आक्रमण, ठगी, गलत सूचना, स्वचालित ह्याकिङ, जैविक अनुसन्धानमा दुरुपयोग, अत्यधिक निगरानी वा स्वायत्त हतियार प्रणालीजस्ता क्षेत्रमा जोखिम बढाउन सक्ने चिन्ता छ । अन्तर्राष्ट्रिय एआई सुरक्षा प्रतिवेदनले पनि साइबर सुरक्षा, जैविक तथा रासायनिक जोखिम, गलत सूचना र स्वायत्त क्षमताजस्ता विषयलाई उदीयमान जोखिमका रूपमा अध्ययन गरिरहेको छ ।
यसको अर्को पक्ष भने आर्थिक र सामाजिक परिवर्तन हो। एआईले ठूलो संख्यामा बौद्धिक तथा प्रशासनिक काम स्वचालित गर्न थालेमा रोजगारीको स्वरूप बदलिन सक्छ । उत्पादनशीलता बढे पनि त्यसबाट सिर्जना हुने लाभ केही सीमित कम्पनी वा समूहमा मात्र केन्द्रित भए आर्थिक असमानता अझ बढ्न सक्छ ।
यस अर्थमा एआईको जोखिम केवल ‘मानव विनाश’को चरम परिदृश्यमा सीमित छैन । शक्ति, सूचना, सम्पत्ति र निर्णय क्षमताको अभूतपूर्व केन्द्रीकरण पनि एआई युगको गम्भीर राजनीतिक प्रश्न हो ।
नियमन : सुरक्षाको आवश्यकता कि नवप्रवर्तनमाथि नियन्त्रण?
यहीँबाट विश्वव्यापी नियमनको बहस सुरु हुन्छ ।
एआईलाई कडा सुरक्षा मापदण्ड र सरकारी निगरानीमा राख्नुपर्ने पक्षधरहरू शक्तिशाली एआई प्रणालीको विकासमा स्वतन्त्र परीक्षण, जोखिम मूल्याङ्कन, सुरक्षा अडिट र स्पष्ट जवाफदेहिताको व्यवस्था हुनुपर्ने तर्क गर्छन् । उनीहरूको प्रश्न छ, परमाणु प्रविधि, उड्डयन, औषधि र जैविक अनुसन्धानजस्ता उच्च जोखिमका क्षेत्रमा सुरक्षा मापदण्ड आवश्यक हुन्छ भने अत्यन्त शक्तिशाली एआईका लागि त्यस्तो व्यवस्था किन नहुने?
तर अर्को पक्षले अत्यधिक नियमनले नवप्रवर्तनको गति घटाउन सक्ने चेतावनी दिइरहेको छ । विशेषगरी खुला-स्रोत एआईका समर्थकहरूका अनुसार अत्यधिक कडा नियमले ठूला प्रविधि कम्पनीलाई फाइदा पुर्याउन सक्छ र साना अनुसन्धानकर्ता तथा नयाँ कम्पनीका लागि प्रवेश कठिन बनाउन सक्छ ।
त्यसैले मूल प्रश्न ‘नियमन गर्ने कि नगर्ने’ मात्र होइन । कस्तो एआईलाई, कुन स्तरको जोखिममा, कसले र कति हदसम्म नियमन गर्ने? भन्ने हो ।
युरोपको उदाहरण र विश्वव्यापी प्रयास
युरोपेली संघले इयू एआई एक्टमार्फत जोखिममा आधारित नियमनको एउटा महत्त्वपूर्ण नमुना अघि सारेको छ । ऐनले एआई प्रणालीलाई जोखिमका आधारमा वर्गीकरण गर्ने दृष्टिकोण अपनाएको छ । यसको कार्यान्वयन चरणबद्ध रूपमा अघि बढिरहेको छ र २ अगस्ट २०२६ देखि यसका महत्वपूर्ण प्रावधान तथा कार्यान्वयन संयन्त्र लागू भएका छन् । केही उच्च-जोखिम प्रणालीसम्बन्धी प्रावधान भने पछि लागू हुने व्यवस्था छ ।
त्यसैगरी, एआईबाट निर्मित वा परिवर्तन गरिएको सामग्री पहिचान गर्न सकिने बनाउने र मानिसले एआई प्रणालीसँग अन्तर्क्रिया गरिरहेको अवस्थामा त्यसबारे जानकारी दिने पारदर्शिता प्रावधान पनि लागू हुन थालेका छन् ।
बेलायतलगायतका देशहरूले एआई सुरक्षा परीक्षण र अन्तर्राष्ट्रिय सहकार्यमा जोड दिएका छन् । बेलायतको एआ सेक्युरिटी इन्स्टिच्युटले अग्रणी एआई मोडलहरूको क्षमता, साइबर सुरक्षा र नियन्त्रणसम्बन्धी जोखिम परीक्षण गरिरहेको छ भने विभिन्न देशका समान प्रकृतिका संस्थाबीच मूल्याङ्कन र अनुसन्धानका लागि सहकार्य पनि विस्तार हुँदै गएको छ ।
यसले देखाउँछ—एआई शासन अब कुनै एउटा कम्पनी वा देशको मात्र विषय रहेन। यसको प्रकृति नै अन्तर्राष्ट्रिय भएकाले सुरक्षा मापदण्ड, सूचना आदानप्रदान, परीक्षण प्रणाली र उत्तरदायित्वका विषयमा अन्तर्राष्ट्रिय सहकार्य आवश्यक हुँदै गएको छ।
नेपालका लागि यसको अर्थ के हो?
एआईको ‘सुपरइन्टेलिजेन्स’ सम्बन्धी बहस तत्कालै नेपालको प्राथमिक समस्या नदेखिन सक्छ। तर एआईसँग जोडिएका धेरै जोखिम भने अहिले नै नेपालमा सान्दर्भिक छन्।
डिजिटल ठगी, डीपफेक, गलत सूचना, व्यक्तिगत डाटाको दुरुपयोग, साइबर आक्रमण, स्वचालनका कारण रोजगारीमा आउने परिवर्तन र शिक्षा तथा सञ्चार क्षेत्रमा एआईको प्रयोगजस्ता विषयमा नेपालले स्पष्ट नीति बनाउनुपर्ने आवश्यकता बढ्दै गएको छ।
नेपालजस्तो विकासशील मुलुकका लागि अर्को महत्त्वपूर्ण प्रश्न डिजिटल सार्वभौमिकता पनि हो। नेपाली नागरिकको डाटा कहाँ भण्डारण हुन्छ? एआई प्रणालीले नेपाली भाषासम्बन्धी डाटा कसरी प्रयोग गर्छ? एआईबाट सिर्जना हुने आर्थिक लाभ कसले प्राप्त गर्छ? सार्वजनिक सेवा, शिक्षा, स्वास्थ्य र न्याय प्रणालीमा एआई प्रयोग गर्दा जवाफदेही को हुन्छ? यस्ता प्रश्न अब भविष्यका होइनन्।
नेपालले अरू देशले बनाएका नियमको मात्र अनुकरण गर्नेभन्दा आफ्नै सामाजिक, भाषिक, आर्थिक र कानुनी अवस्थाअनुकूल एआई शासनको आधार तयार गर्न आवश्यक छ।
डरभन्दा अघि बढेर सावधानी
एआईसम्बन्धी अहिलेको बहसलाई दुई अतिवादी धारणाबाट जोगाउन आवश्यक छ। पहिलो—‘एआईले निश्चित रूपमा मानव सभ्यता समाप्त गर्छ’ भन्ने भय। दोस्रो—‘प्रविधि भएकाले यसले अन्ततः सबै समस्या समाधान गर्छ’ भन्ने अन्धविश्वास।
दुवै दृष्टिकोणले वास्तविक प्रश्नलाई ओझेलमा पार्न सक्छन्।
वास्तविक चुनौती भनेको एआईको क्षमता बढ्ने गति र त्यसलाई सुरक्षित बनाउने हाम्रो क्षमता एउटै गतिमा अघि बढेको छ कि छैन भन्ने हो। अन्तर्राष्ट्रिय एआई सुरक्षा प्रतिवेदनले पनि एआईको क्षमता तीव्र गतिमा बढिरहे पनि त्यसका जोखिम व्यवस्थापन गर्ने प्राविधिक र संस्थागत उपायमा अझै महत्त्वपूर्ण कमजोरी रहेको औँल्याएको छ।
त्यसैले अहिलेको बहस एआई रोक्ने कि नरोकिने भन्नेभन्दा पनि त्यसलाई कसरी सुरक्षित, पारदर्शी, जवाफदेही र मानव नियन्त्रणभित्र राख्ने भन्ने हुनुपर्छ।
अन्त्यमा,
निर्णयको समय अहिले हो ।
कृत्रिम बौद्धिकता मानव इतिहासकै सबैभन्दा शक्तिशाली रूपान्तरणकारी प्रविधिमध्ये एक बन्न पुगेको छ। यसले औषधि अनुसन्धान, शिक्षा, विज्ञान, ऊर्जा, जलवायु अध्ययन र उत्पादनशीलतामा ठूलो परिवर्तन ल्याउन सक्छ। तर त्यही प्रविधिले गलत हातमा वा अपर्याप्त सुरक्षा व्यवस्थाबीच असाधारण क्षति पनि पुर्याउन सक्छ ।
२०३० लाई मानव सभ्यताको निश्चित ‘अन्तिम मिति’का रूपमा हेर्नुपर्ने कुनै वैज्ञानिक आधार स्थापित भइसकेको छैन। तर यही दशकभित्र एआई क्षमतामा हुने सम्भावित छलाङका कारण अहिले नै सुरक्षा, नियन्त्रण र नियमनका प्रश्नमा गम्भीर निर्णय लिनुपर्छ भन्ने चेतावनी भने बेवास्ता गर्न मिल्ने अवस्थामा छैन ।
अन्ततः प्रश्न एआई मानवभन्दा ‘बुद्धिमान’ हुन्छ कि हुँदैन भन्ने मात्र होइन । प्रश्न यो हो—मानवले आफूले निर्माण गरेको बुद्धिमत्तालाई आफ्नो मूल्य, अधिकार र अस्तित्वको हितमा कति जिम्मेवार ढंगले निर्देशित गर्न सक्छ?
प्रविधिको भविष्य प्रयोगशालामा मात्र तय हुने छैन । यसको दिशा सरकार, वैज्ञानिक, प्रविधि कम्पनी, नागरिक समाज र आम नागरिकले आज गर्ने निर्णयले निर्धारण गर्नेछ। त्यसैले एआईको विकास रोक्नेभन्दा पनि मानव नियन्त्रण, सुरक्षा र सार्वजनिक हितबाट विचलित हुन नदिने विश्वव्यापी संरचना निर्माण गर्नु नै अबको सबैभन्दा ठूलो चुनौती हो ।
