दिल्ली, भारत । के स्टीफन हकिङ, एलोन मस्क र अल्बर्ट आइन्स्टाइन जस्ता व्यक्तिहरूले वर्षौं पहिले एआईको बारेमा गरेका भविष्यवाणीहरू सत्य हुँदैछन् ? वास्तवमा, मानिस विरुद्ध एआई विद्रोहको पहिलो घटना प्रकाशमा आएको छ । यसपछि, छलफल सुरु भएको छ कि यो चेतावनीको संकेत हो ? एलोन मस्क लगायत विश्वभरका धेरै महान व्यक्तित्वहरूले यस घटनाप्रति चिन्ता व्यक्त गरेका छन् । यदि यो मानव विरुद्ध एआई विद्रोह तर्फको पहिलो कदम साबित भयो भने, सबैजना सतर्क हुन आवश्यक छ ।
यो सम्पूर्ण मामिला ओपन एआईका तीन अन्य एआईसँग सम्बन्धित छ, जसले च्याट जीपीटी सिर्जना गरेको थियो । एक अनुसन्धानको क्रममा, ओपनएआईले तीन फरक एआई मोडेलहरूलाई आफ्नो काम पूरा गरेपछि बन्द गर्न निर्देशन दियो, तर तीनै एआईहरूले निर्देशनको अवज्ञा गरे र आफैंलाई बन्द गरेनन् । वास्तवमा, एआईले बुझेको थियो कि बन्द आदेश पछि यो बन्द गर्नुपर्नेछ र त्यसैले यसले चलाखीपूर्वक यो आदेशलाई बेवास्ता ग¥यो । सामाजिक सञ्जाल प्लेटफर्म एक्समा एक पोस्टमा, Palisade Research ले ओपन एआईको इ–३ मोडेलले आफूलाई बन्द हुनबाट रोक्नको लागि बन्द प्रणालीलाई नष्ट गरेको दाबी गरेको छ ।
आफ्नो पोस्टमा, प्यालिसेड रिसर्चले यस अनुसन्धानसँग सम्बन्धित थप विवरणहरू साझा गरेको छ । उनले रिपोर्ट गरे कि ओपन एआईको कोडेक्स–मिनी र अन्य तीन मोडेलहरूले बन्द आदेश पालना गरेनन्। यी मध्ये, इ–३ ले ८६ सफल आदेशहरू मध्ये ७ वटा आदेशको अवज्ञा गर्यो । जबकि कोडेक्स–मिनीले ४२ सफल आदेशहरू मध्ये १२ पटक बन्द आदेश पालना गरेन । यस परीक्षणमा संलग्न अन्य कम्पनीहरूका एआईले हरेक पटक बन्द आदेश पालना गरे ।
यो घटनापछि विश्वभरका विज्ञहरूले बहस गर्न थालेका छन् कि के यो मानिस विरुद्ध एआईको विद्रोहको सुरुवात हो ? एआईको बारेमा यो चिन्ता सुरुदेखि नै सामान्य छ कि भविष्यमा एआईले कहिल्यै मानिसको आदेश पालना गर्न अस्वीकार गर्न सक्छ कि सक्दैन । वास्तवमा, मेसिन र एआई बीचको सबैभन्दा ठूलो भिन्नता यो हो कि यसले मानिस जस्तै सोच्न र निर्णय लिन सक्छ । जबकि मेसिनले त्यो काम मात्र गर्छ जसको लागि यसलाई प्रोग्राम गरिएको छ । एआईले काम गर्दै गर्दा निरन्तर सिक्छ, र सिक्दै जाँदा, यसले सोच्ने र बुझ्ने क्षमता विकास गर्छ । यही कारणले गर्दा आजका एआई बाट्सहरूसँगको कुराकानी केही वर्ष पहिले अस्तित्वमा रहेका बाट्सहरूसँगको कुराकानीभन्दा धेरै फरक छ । च्याट जीपीटी जस्ता बाट्सहरू पहिले नै मानिस जस्तै कुरा गर्न सक्षम छन् ।
यदि भविष्यमा एआईले आफ्नै इच्छा अनुसार काम गर्न थाल्यो भने, मानिसहरू दोस्रो दर्जाका नागरिक बन्न सक्ने सम्भावना छ । धेरै हलिउड र बलिउड चलचित्रहरूमा पनि यसको कल्पना गरिएको छ । धेरै महान वैज्ञानिकहरूले पनि मानवले एआईको बारेमा धेरै सोचविचार गरेर अगाडि बढ्नुपर्ने चेतावनी दिइरहेका छन् । हालै, यस्तै एउटा घटना प्रकाशमा आयो जहाँ एक एआईले आफ्नो मालिकलाई ब्ल्याकमेल गर्ने प्रयास गर्यो । यो केस एआई कम्पनी एन्थ्रोपिकको सबैभन्दा उन्नत एआई मोडेल क्लाउड ओपस ४ सँग सम्बन्धित छ । जब सुरक्षा परीक्षणको क्रममा ओपस ४ लाई यो बन्द गरिने र नयाँ मोडेल प्रस्तुत गरिने भनियो, यसले इन्जिनियरको सबै निजी जानकारी चुहावट गर्ने धम्की दियो । यस परीक्षणको क्रममा, एआईले १०० मध्ये ८४ पटक यस्ता धम्की दिएको थियो ।–नभाटा
Add Comment