मेटा ने घोषणा की है कि वह कंटेंट की निगरानी के लिए उन्नत आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम शुरू कर रहा है। कंपनी का लक्ष्य आतंकवाद, बाल शोषण, ड्रग्स, धोखाधड़ी और घोटालों से संबंधित कंटेंट को पकड़ना और हटाना है।
कंपनी का कहना है कि इन उन्नत AI सिस्टम को अपने सभी ऐप्स पर तैनात किया जाएगा, जो मौजूदा कंटेंट प्रवर्तन विधियों से बेहतर प्रदर्शन करेंगे। इसके साथ ही, कंटेंट प्रवर्तन के लिए थर्ड-पार्टी विक्रेताओं पर निर्भरता कम की जाएगी।
मेटा के अनुसार, कंटेंट की समीक्षा करने के लिए लोग अभी भी मौजूद रहेंगे, लेकिन ये सिस्टम उन कामों को करने में सक्षम होंगे जो तकनीक के लिए बेहतर अनुकूल हैं, जैसे कि ग्राफिक कंटेंट की बार-बार समीक्षा करना या ऐसे क्षेत्र जहां विरोधी लगातार अपनी रणनीति बदल रहे हैं, जैसे कि अवैध ड्रग्स की बिक्री या घोटाले।
मेटा का मानना है कि ये AI सिस्टम अधिक सटीकता के साथ अधिक उल्लंघनों का पता लगा सकते हैं, घोटालों को बेहतर ढंग से रोक सकते हैं, वास्तविक दुनिया की घटनाओं पर अधिक तेज़ी से प्रतिक्रिया दे सकते हैं और ओवर-एनफोर्समेंट को कम कर सकते हैं।
कंपनी का कहना है कि AI सिस्टम के शुरुआती परीक्षण आशाजनक रहे हैं, क्योंकि वे समीक्षा टीमों की तुलना में दो गुना अधिक वयस्क यौन उत्पीड़न कंटेंट का पता लगा सकते हैं, जबकि त्रुटि दर को भी 60% से अधिक कम कर सकते हैं। सिस्टम सेलिब्रिटीज और अन्य हाई-प्रोफाइल व्यक्तियों से जुड़े अधिक प्रतिरूपण खातों की पहचान और रोकथाम कर सकते हैं, साथ ही नए स्थानों से लॉगिन, पासवर्ड परिवर्तन या प्रोफाइल में किए गए संपादन जैसे संकेतों का पता लगाकर खाता टेकओवर को रोकने में मदद कर सकते हैं।
मेटा का कहना है कि ये सिस्टम प्रतिदिन लगभग 5,000 घोटाले के प्रयासों की पहचान और उन्हें कम कर सकते हैं, जिसमें स्कैमर लोगों को उनकी लॉगिन जानकारी देने के लिए बरगलाने की कोशिश करते हैं।
मेटा के विशेषज्ञों का कहना है कि वे AI सिस्टम को डिजाइन, प्रशिक्षित, निरीक्षण और मूल्यांकन करेंगे, प्रदर्शन को मापेंगे और सबसे जटिल, उच्च प्रभाव वाले निर्णय लेंगे। लोग उच्चतम जोखिम और सबसे महत्वपूर्ण निर्णय लेने में महत्वपूर्ण भूमिका निभाते रहेंगे, जैसे कि खाता अक्षमता की अपील या कानून प्रवर्तन को रिपोर्ट।
यह कदम तब आया है जब मेटा कंटेंट मॉडरेशन नियमों को ढीला कर रहा है। कंपनी ने पहले ही थर्ड-पार्टी फैक्ट-चेकिंग प्रोग्राम को समाप्त कर दिया है।
मेटा ने एक Meta AI सपोर्ट असिस्टेंट भी लॉन्च किया है जो उपयोगकर्ताओं को 24/7 सहायता प्रदान करेगा। यह सहायक iOS और Android के लिए Facebook और Instagram ऐप्स पर और डेस्कटॉप पर Facebook और Instagram पर हेल्प सेंटर के भीतर विश्व स्तर पर शुरू हो रहा है।
