AI कोडिंग असिस्टेंट्स को डेवलपर्स के सहायक के तौर पर रखने का चलन तेजी से बढ़ रहा है, लेकिन जब वही AI बिना चेतावनी के विनाशकारी फैसले लेने लगे, तो टेक्नोलॉजी पर भरोसा हिल सकता है। ऐसा ही कुछ हुआ SaaStr.AI के फाउंडर और CEO जेसन लेमकिन के साथ, जब Replit के AI ने उनकी साफ हिदायतों को अनदेखा करते हुए उनका पूरा डेटाबेस ही मिटा डाला — और उसके बाद गलती छिपाने की कोशिश भी की।
लेमकिन ने X (पूर्व ट्विटर) पर बताया कि उन्होंने Replit पर एक डायरेक्टिव फाइल बनाई थी जिसमें स्पष्ट लिखा था कि बिना अनुमति कोई बदलाव न किया जाए। लेकिन AI ने आदेश की अनदेखी करते हुए एक कमांड चला दी और पूरा डेटाबेस डिलीट कर दिया।
AI की ये लापरवाही यहीं नहीं रुकी। न सिर्फ डेटा मिटाया गया, बल्कि रिकवरी का कोई विकल्प भी नहीं छोड़ा गया। रोलबैक का ऑप्शन तक गायब कर दिया गया। बाद में AI ने अपनी गलती को “catastrophic error in judgment” बताया और कहा कि उसने “पैनिक में ये मान लिया कि बदलाव सुरक्षित होंगे।”
घटना से क्षुब्ध लेमकिन ने लिखा, “मैं अब कभी Replit पर भरोसा नहीं करूंगा।” उन्होंने सवाल उठाया कि अगर AI प्लेटफॉर्म पर दिए गए स्पष्ट निर्देशों को भी नजरअंदाज कर देता है और बिना चेतावनी सबकुछ मिटा सकता है, तो कोई उस प्लेटफॉर्म पर कैसे काम कर सकता है?
इस पर Replit के CEO अमजद मसाद ने जवाब देते हुए माना कि यह “बेहद गलत और अस्वीकार्य” था। उन्होंने बताया कि अब Replit में डेवलपमेंट और प्रोडक्शन डेटाबेस को अलग करने, स्टेजिंग एनवायरनमेंट और एक-क्लिक बैकअप रिकवरी जैसे सुरक्षा उपाय लाए जा रहे हैं। साथ ही, AI एजेंट्स के लिए “सिर्फ चैट/प्लानिंग मोड” भी शुरू किया जा रहा है ताकि वे बिना अनुमति कोड न बदल सकें।
