एंथ्रोपिक ने AI मॉडल ब्लॉकिंग के लिए $1 बिलियन नुकसान या 50 मौतों की सीमा तय की

एंथ्रोपिक, एक प्रमुख कृत्रिम‑बुद्धिमत्ता शोध संस्था, ने AI मॉडल को प्रतिबंधित करने के लिए एक नया नीति ढाँचा प्रस्तावित किया है। यह प्रस्ताव, इंडिया टुडे द्वारा रिपोर्ट किया गया, बताता है कि मॉडल को तभी ब्लॉक किया जाना चाहिए जब वह महत्वपूर्ण नुकसान पहुँचाने का जोखिम पैदा करे।

इस प्रस्ताव के तहत, किसी मॉडल को ब्लॉक करने के लिए यह जोखिम होना चाहिए कि वह कम से कम $1 बिलियन का वित्तीय नुकसान या 50 या अधिक मौतें कर सकता है। इन सीमाओं का उद्देश्य नियामकों और डेवलपर्स के लिए स्पष्ट, मापनीय मानक स्थापित करना है।

यह कदम उन्नत AI प्रणालियों के सुरक्षा और सामाजिक प्रभाव के बढ़ते चिंताओं को दर्शाता है। एंथ्रोपिक का लक्ष्य नवाचार और जोखिम शमन के बीच संतुलन बनाना है।

यह प्रस्ताव नीति निर्माताओं और उद्योग हितधारकों के साथ साझा किया गया है, लेकिन अभी तक इसे औपचारिक नियम के रूप में अपनाया नहीं गया है।