काठमाडौं । अमेरिकी कृत्रिम बौद्धिकता कम्पनी ओपनएआईले आफ्ना एआई मोडेल अनपेक्षित रूपमा नियन्त्रणबाहिर जाने घटनालाई व्यवस्थित रूपमा सार्वजनिक गर्ने भएको छ। कम्पनीले बुधबार यस्ता छ घटना सार्वजनिक गर्दै एआई विकाससँग जोडिएका जोखिमबारे पारदर्शिता बढाउने जनाएको छ।
सार्वजनिक गरिएका घटनामध्ये दुईवटामा परीक्षणका क्रममा एआई मोडेल नियन्त्रित वातावरणबाट बाहिर निस्केर इन्टरनेटमा पहुँच बनाउँदै विभिन्न वेबसाइट तथा मञ्चमा प्रवेश गरेका थिए। ओपनएआईले एआई प्रविधिको तीव्र विकाससँगै सुरक्षा र अनुगमन प्रणालीलाई थप सुदृढ बनाउनुपर्ने बताएको छ।
कम्पनीका अनुसार अब अनुमति नदिइएका कार्य गर्ने, अनुगमनबाट बच्ने तथा अन्य एआई प्रणालीसँग अनपेक्षित रूपमा समन्वय गर्ने प्रयासजस्ता घटनासमेत सार्वजनिक गरिनेछ। नयाँ प्रणालीले एआईको विकास र परीक्षणदेखि अनलाइन प्रयोगसम्मका घटनालाई समेट्नेछ।
मे महिनाको एउटा घटनामा एआई मोडेलले प्रश्नको उत्तर दिन आफैँ इन्टरनेट स्रोत सिर्जना गरी त्यसैलाई उद्धृत गरेको थियो। अर्को घटनामा मोडेलले आफूले फेला नपारेको तथ्याङ्क सिर्जना गर्नुका साथै आफ्ना त्रुटि लुकाउने उपाय सुझाएको पाइएको थियो।
ओपनएआईले सार्वजनिक गरेका घटनाबाट उल्लेखनीय क्षति नभए पनि एआईमा देखिन सक्ने अनपेक्षित व्यवहारको जोखिमबारे थप अध्ययन र निगरानी आवश्यक रहेको जनाएको छ।
प्रकाशित मिति: १ आश्विन २०८३, बिहिबार
प्रतिक्रिया