انستقرام ينشئ أدوات ذكاء اصطناعي جديدة لحذف منشورات إيذاء النفس

 

أطلق موقع التواصل الاجتماعي Instagram تقنية جديدة للكشف عن محتوى إيذاء النفس والانتحار في تطبيقه في المملكة المتحدة وأوروبا ، ويمكن للأدوات الجديدة تحديد الصور والكلمات التي تنتهك سياسات النشر الخبيثة وتجعل المنشورات أقل وضوحًا في التطبيق ، وفي الحالات القصوى ، سيتم حذفها تلقائيًا.

وقالت شركة فيسبوك ، التي تمتلك إنستغرام ، إنها "خطوة مهمة" ، لكن الشركة أرادت "أكثر من ذلك بكثير".

وشرح رئيس Instagram ، آدم موسيري ، تفاصيل النظام الجديد باستخدام الذكاء الاصطناعي في منشور نشر على موقعه على الإنترنت.

يمكن تمرير الرسائل التي تم تحديدها بواسطة الخوارزمية على أنها ضارة إلى المشرفين البشريين الذين يقررون اتخاذ مزيد من الإجراءات ، بما في ذلك توجيه المستخدم لمساعدة المؤسسات وإبلاغ خدمات الطوارئ.

لكن Instagram أخبر جمعية الصحافة البريطانية أن Human Referral ليس حاليًا جزءًا من الأدوات الجديدة في المملكة المتحدة وأوروبا بسبب مخاوف خصوصية البيانات المتعلقة باللائحة العامة لحماية البيانات.

قالت شركة التواصل الاجتماعي إن تنفيذ عملية الإحالة سيكون خطوتها التالية ، كما قالت تارا هوبكنز ، مديرة السياسة العامة لأوروبا في إنستغرام: "حاليًا ، في الاتحاد الأوروبي ، يمكننا فقط استخدام هذا المزيج من التقنيات المتطورة. وعنصر تحقق بشري إذا تم إبلاغنا بمشاركتنا. عضو مباشر في المجتمع ".

 

وأضافت أنه في عدد قليل من الحالات ، يقرر المدقق البشري ما إذا كان سيرسل موارد إضافية إلى المستخدم ، وقد ينظر المنظمون إلى هذا على أنه "تقييم للصحة العقلية" وبالتالي كجزء من فئة معينة من البيانات الأكثر أهمية. ... محمية بموجب اللائحة العامة لحماية البيانات ، حيث تعرض Facebook و Instagram لانتقادات شديدة في السنوات الأخيرة ؛ بسبب عدم وجود قواعد خاصة بالمواد المتعلقة بالانتحار وإيذاء النفس.