Artificial Intelligence की दुनिया में एक बार फिर safety को लेकर बड़ी बहस शुरू हो गई है। OpenAI में करीब साढ़े तीन साल काम करने वाले David Robinson ने कंपनी से इस्तीफा दे दिया है। Robinson safety से जुड़े काम में महत्वपूर्ण भूमिका निभा चुके हैं। उन्होंने कंपनी के कई major model launches के लिए safety reports तैयार करने में काम किया था और Preparedness Framework से भी जुड़े रहे।

क्यों दिया इस्तीफा?

अपने इस्तीफे के बाद लिखे लेख में Robinson ने OpenAI की work culture को लेकर गंभीर चिंता जताई। उनका कहना है कि AI systems जिस तेजी से ज्यादा powerful हो रहे हैं, उस रफ्तार के हिसाब से safety पर काम नहीं हो रहा। उन्होंने खास तौर पर उस approach पर सवाल उठाया जिसमें पहले system को deploy किया जाता है और फिर सामने आने वाली समस्याओं के आधार पर safeguards में बदलाव किए जाते हैं। उनके मुताबिक advanced AI के मामले में ऐसी approach जोखिम बढ़ा सकती है।

‘Trial and Error’ पर सवाल

Robinson ने कहा कि AI industry को अब trial-and-error model से आगे बढ़ने की जरूरत है। उनका तर्क है कि जैसे-जैसे AI systems ज्यादा capable होते जाएंगे, किसी गलती का असर भी ज्यादा बड़ा हो सकता है। इसलिए safety को product launch के बाद सुधारने के बजाय शुरुआत से ही development का अहम हिस्सा बनाया जाना चाहिए। उन्होंने aviation और nuclear power जैसे sectors का उदाहरण दिया, जहां safety के लिए कई layers और backup systems बनाए जाते हैं।

OpenAI का जवाब

Robinson की आलोचना के बाद OpenAI की ओर से कहा गया कि कंपनी अपने safety measures को लगातार बेहतर कर रही है। कंपनी के मुताबिक, वह models की capability बढ़ाने के साथ safety और security को भी मजबूत कर रही है। जरूरत पड़ने पर training को रोकने या models को release न करने जैसे कदम भी उठाए जाते हैं।

AI की race और safety का balance

आज बड़ी AI companies के बीच competition काफी तेज है। हर कंपनी ज्यादा powerful models और नए products लाने की कोशिश कर रही है।लेकिन इसी के साथ यह सवाल भी बड़ा होता जा रहा है कि innovation और safety के बीच सही balance कैसे बनाया जाए। AI का इस्तेमाल healthcare, education, business, coding, defence और रोजमर्रा के कामों तक फैल चुका है। ऐसे में अगर future systems और ज्यादा autonomous होते हैं, तो उनकी गलतियों या unexpected behaviour को रोकने के लिए मजबूत safety systems जरूरी होंगे।

बहस अभी खत्म नहीं हुई

David Robinson का इस्तीफा सिर्फ एक employee के जाने की खबर नहीं है। यह AI industry में चल रही उस बड़ी बहस का हिस्सा है जिसमें सवाल है कि powerful AI systems को कितनी तेजी से develop किया जाना चाहिए और safety के लिए कितनी सावधानी जरूरी है। OpenAI ने अपनी तरफ से safety improvements जारी रखने की बात कही है, जबकि Robinson का मानना है कि industry को अपने काम करने के तरीके में ज्यादा बुनियादी बदलाव की जरूरत है। आने वाले समय में AI की race जितनी तेज होगी, safety को लेकर यह बहस भी उतनी ही महत्वपूर्ण होती जाएगी।