एंथ्रोपिक ने साइबर और जैविक खतरों के लिए AI के दुरुपयोग को रोकने के लिए सुरक्षा उपाय लागू किए

एंथ्रोपिक, जो अपने क्लॉड मॉडल्स के लिए जानी जाने वाली AI सुरक्षा-केंद्रित कंपनी है, ने कहा कि उसने नए तकनीकी और नीति सुरक्षा उपाय पेश किए हैं। इन उपायों का उद्देश्य इसके AI के साइबर हमलों या जैविक खतरों के विकास के प्रयासों को रोकना है।

कंपनी ने कहा कि वह उपयोग पैटर्न की निरंतर निगरानी करेगी और हानिकारक intención का पता लगाने पर एक्सेस प्रतिबंधित कर देगी। एंथ्रोपिक ने जिम्मेदार AI तैनाती और दोहरे उपयोग जोखिमों को रोकने के प्रति अपनी प्रतिबद्धता पर जोर दिया।

सुरक्षा उपायों के विशिष्ट विवरण का खुलासा नहीं किया गया, लेकिन इस घोषणा से उद्योग में बढ़ती चिंता दिखती है कि शक्तिशाली AI प्रणालियों का सुरक्षा-संवेदनशील क्षेत्रों में दुरुपयोग हो सकता है।