Anthropic की बड़ी चेतावनी: इंसानों के हाथ से निकल न जाए कंट्रोल! खुद का नया वर्जन तैयार करने लगे AI
कंपनी ने चेतावनी भी दी है कि 'अगर AI खुद को ही लगातार सुधारने लगा, तो इंसानों के हाथ से इन सिस्टम्स का कंट्रोल खोने का रिस्क बहुत ज्यादा बढ़ जाएगा।' कंपनी ने इसके लिए 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' फ्रेज का इ्स्तेमाल किया है। आसान शब्दों में कहें तो, इसका मतलब एक ऐसे स्टेज से है जहां AI बिना किसी इंसानी मदद के खुद को अपग्रेड करने और अपने से ज्यादा पावरफुल वर्जन बनाने में कामयाब हो जाएगा।
Vidushi Mishra 
ऐसा लग रहा है जैसे AI को लेकर स्थितियां अब किसी डरावनी साइंस-फिक्शन फिल्म जैसी होती जा रही हैं। Claude बनाने वाली AI कंपनी Anthropic ने खुलासा किया है कि AI अब खुद को बनाना करना शुरू कर सकता है और अपना अगला वर्जन भी खुद ही बना सकता है।
कंपनी ने चेतावनी भी दी है कि 'अगर AI खुद को ही लगातार सुधारने लगा, तो इंसानों के हाथ से इन सिस्टम्स का कंट्रोल खोने का रिस्क बहुत ज्यादा बढ़ जाएगा।' कंपनी ने इसके लिए 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' फ्रेज का इ्स्तेमाल किया है। आसान शब्दों में कहें तो, इसका मतलब एक ऐसे स्टेज से है जहां AI बिना किसी इंसानी मदद के खुद को अपग्रेड करने और अपने से ज्यादा पावरफुल वर्जन बनाने में कामयाब हो जाएगा।
कंपनी का कहना है कि जैसे-जैसे वे AI डेवलपमेंट्स का काम AI सिस्टम्स को ही सौंप रहे हैं, ऐसे संकेत मिल रहे हैं कि भारी कंप्यूट पावर मिलने पर एक ऐसा फ्यूचर सामने आएगा जहां AI सिस्टम पूरी तरह से खुद ही अपना अगला वर्जन डिजाइन और डेवलप कर सकेंगे।
वास्तव में, मई 2026 तक इनके कोडबेस में शामिल किए गए कोड का 80% से ज्यादा हिस्सा खुद Claude ने लिखा था, कंपनी ने इस बात की पुष्टि की है। कोडबेस उस मास्टर प्लान को कहते हैं जिसका इस्तेमाल डेवलपर्स सॉफ्टवेयर बनाने, टेस्ट करने और उसे मेंटेन करने के लिए करते हैं।
