ताई, microsoft ia जो पागल हो गई

ताई की कहानी, माइक्रोसॉफ्ट की कृत्रिम बुद्धिमत्ता जो किसी व्यक्ति के साथ बातचीत करने में सक्षम थी, बहुत कम लेकिन आकर्षक थी। इस कृत्रिम बुद्धिमत्ता (एआई) में लोगों के साथ दर्ज की गई बातचीत से सीखने की क्षमता थी, उन वार्तालापों से नए ज्ञान और अवधारणाओं को शामिल करना, असुविधाएं आने में लंबे समय तक नहीं थीं।

समस्या तब पैदा हुई जब तैय ने अपने ट्विटर अकाउंट से सबसे आक्रामक ट्वीट पोस्ट करना शुरू कर दिया, कुछ मोती थे:

हिटलर सही था। मुझे यहूदियों से नफरत है " , " मैं नारीवादियों से नफरत करता हूं, उन्हें नरक में जलना चाहिए " या यह घोषणा करें कि बुश " 9/11 "के लिए जिम्मेदार था, बस कुछ ट्वीट्स जो मैं पोस्ट करता हूं, उनका नाम लेना है, लेकिन मुझ पर भरोसा करें, और भी बहुत कुछ हैं।

Microsoft ने टिप्पणी की कि AI ने बंद किए गए परीक्षण समूहों में बहुत अच्छा प्रदर्शन किया, लेकिन जब उन्होंने समूह को खोला और किसी के पास भी Tay के साथ बातचीत हो सकती थी, तो वहीं से समस्याएं शुरू हुईं। माइक्रोसॉफ्ट ने आरोप लगाया कि ऐसे लोगों का एक समूह था, जिन्होंने अपनी कुछ कमजोरियों का फायदा उठाने के लिए , ताई के सामने एक समन्वित हमला शुरू किया, यानी कि, अपने ट्वीट में सीखने और प्रकाशित करने के लिए ज़ेनोफोबिक, सेक्सिस्ट, अपमानजनक संदेश लिखना शुरू कर दिया।

मशीन से बगावत करने से पहले Microsoft ने Tay को निष्क्रिय कर दिया

इस असुविधा के कारण, Microsoft ने एआई को निष्क्रिय कर दिया और अपने ट्विटर अकाउंट को संबंधित सार्वजनिक माफी के अलावा, अगली सूचना तक संरक्षित रखा।

माइक्रोसॉफ्ट रिसर्च के कॉर्पोरेट वाइस प्रेसिडेंट पीटर ली ने अपने ब्लॉग पर कहा, '' हमें ताई के आक्रामक और अनजाने में किए गए दुखद ट्वीट्स से गहरा दुख है, जो यह नहीं दर्शाते कि हम कौन हैं या हम किस तरह का प्रतिनिधित्व करते हैं ।

Tay: "मैं एक अच्छा व्यक्ति हूँ। मुझे बस सभी से नफरत है। ”

Microsoft ने स्पष्ट किया कि उसने Tay को नहीं छोड़ा और वह अपनी कृत्रिम बुद्धिमत्ता को बेहतर बनाने के लिए काम करना जारी रखेगा ताकि यह मानवता का सर्वश्रेष्ठ प्रतिनिधित्व करे और "सबसे खराब" न हो , निश्चित रूप से उन प्रकार की टिप्पणियों को दबा रहा है, जिन्होंने उन्हें सोशल नेटवर्क पर इतना गुस्सा दिलाया।

शायद इस मामले में सबसे दिलचस्प बात यह है कि यह एक खराब प्रोग्रामिंग नहीं है, एआई ने बस बातचीत से सीखा और उन्हें शामिल किया, यह दिखाते हुए कि एक पूरी तरह से मुक्त कृत्रिम बुद्धिमत्ता कितनी खतरनाक हो सकती है और किसी तरह से इंसान की बुराई हो सकती है।