AI मॉडलों- Fable 5 और Mythos 5 पर रोक लगाए जाने से एआई कंपनी एंथ्रोपिक नाराज है। अपने बयान में उसने कहा है कि अमेरिकी सरकार ने उसे कोई लिखित सबूत नहीं दिए। कंपनी का मानना है कि यह एक गलतफहमी है और वह जल्द से जल्द अपनी सर्विस को दोबारा शुरू करने के लिए काम कर रही है। एंथ्रोपिक के अनुसार, सरकार ने जिन कमियों की बात एआई मॉडलों में की है, वो बहुत मामूली हैं।
अमेरिकी सरकार को क्या पता चला Fable 5 और Mythos 5 के बारे में?
एंथ्रोपिक के अनुसार, उसे अमेरिकी सरकार से जो लेटर मिला, उसमें राष्ट्रीय सुरक्षा से जुड़े खतरों की कोई खास जानकारी नहीं दी गई है। एंथ्रोपिक ने कहा- सरकार को लगता है कि उसे Fable 5 को बाइपास करने या ‘जेलब्रेक’ (Jailbreak) करने का कोई तरीका पता चला है। हमने इस तकनीक के डेमो देखा है। इसका उपयोग कुछ पुराने और छोटी-मोटे बग्स ढूंढने के लिए किया गया था। ये सामान्य बात है और मार्केट में मौजूद बाकी एआई मॉडल्स भी बिना किसी जेलब्रेक के इन्हें ढूंढ सकते हैं। Fable 5 की सिक्योरिटी पर एंथ्रोपिक का क्या स्टैंड है?
अभी तक कोई भी ऐसा ‘यूनिवर्सल जेलब्रेक’ यानी ऐसा तरीका जो मॉडल की सभी सुरक्षा दीवारों को एक साथ तोड़ दे, नहीं ढूंढ पाया है।
एंथ्रोपिक ने पहले ही स्पष्ट कर दिया था कि Fable 5, उसके मायथॉस टूल का सेफ वर्जन है।
कंपनी के अनुसार, उसे ऐसे सुरक्षा इंतजाम किए हैं जो साइबर सुरक्षा से जुड़े कामों में Fable के गलत इस्तेमाल को बहुत हद तक रोकते हैं। कंपनी के अनुसार, उसके फिल्टर्स इतने मजबूत हैं कि कई यूजर्स ने शिकायत की थी कि ये जरूरत से ज्यादा सख्त हैं।
एंथ्रोपिक के मुताबिक, Fable को लॉन्च करने से पहले उसने अमेरिकी सरकार, यूके एआई सेफ्टी इंस्टीट्यूट, कई प्राइवेट कंपनियों और अपनी इंटरनल टीमों के साथ मिलकर हजारों घंटों तक इसकी जांच की थी।
टेस्ट्स से साबित हुआ कि Fable के सुरक्षा इंतजाम पहले लॉन्च किए गए किसी भी AI मॉडल से कहीं ज्यादा असरदार हैं।
