خوارزميات المصادر المفتوحة على Facebook للكشف عن استغلال الأطفال وصور الإرهاب
التعهيد الجماعي لحل أفضل للصور ومقاطع الفيديو المزعجة
قالت شركة "فيسبوك" اليوم إن خوارزميات مفتوحة المصدر تستخدمها لتحديد الاستغلال الجنسي للأطفال والدعاية الإرهابية والعنف الجرافيكي. قال فيسبوك في منشور بالمدونة إن PDQ و TMK + PDQF ، زوج من التقنيات التي تخزن الملفات كتجزئة رقمية ومقارنتها بأمثلة معروفة للمحتوى الضار ، تم إصدارهما على جيثب.
قال Facebook إنه يأمل في أن تستخدم شركات التكنولوجيا الأخرى والمنظمات غير الربحية والمطورين الأفراد التكنولوجيا لتحديد المحتوى الضار أكثر وإضافته إلى قواعد البيانات المشتركة. يساعد ذلك المنصات على إزالة المحتوى بسرعة أكبر عندما يحاول الأشخاص تحميله.
"بالنسبة لأولئك الذين يستخدمون بالفعل تقنية مطابقة المحتوى الخاصة بهم أو غيرها ، فإن هذه التقنيات هي طبقة دفاع أخرى وتسمح لأنظمة مشاركة التجزئة بالتحدث إلى بعضهم البعض ، مما يجعلهم أكثر قوة" ، قالت الشركة في منشور بالمدونة.
تعرضت الأنظمة الأساسية لضغط متزايد لإزالة المحتوى الضار هذا العام. بعد إطلاق النار في كرايستشيرش ، هددت أستراليا بمعاقبة المديرين التنفيذيين بغرامات كبيرة وفترة سجن إذا لم يزيلوا بسرعة فيديو الهجوم. في مايو ، انضم Facebook إلى منصات تقنية كبيرة أخرى في توقيع دعوة Christchurch ، وهو تعهد بتخصيص المزيد من الموارد لإزالة المحتوى الضار والتعاون بشكل أفضل مع الشركات الأخرى.
وقالت الشركة في منشور بالمدونة إن خطوة Facebook تأتي أيضًا في وقت يتم فيه نشر المزيد من مقاطع الفيديو الخاصة باستغلال الأطفال على الإنترنت.
وقال جون كلارك ، الرئيس والمدير التنفيذي للمركز الوطني للأطفال المفقودين والمستغلين (NCMEC): "في عام واحد فقط ، شهدنا زيادة بنسبة 541 ٪ في عدد مقاطع الفيديو المتعلقة بالإساءة الجنسية للأطفال التي أبلغت عنها صناعة التكنولوجيا إلى CyberTipline". في بلوق وظيفة. "نحن على ثقة من أن المساهمة السخية التي يقدمها Facebook لهذه التكنولوجيا مفتوحة المصدر ستؤدي في النهاية إلى تحديد وإنقاذ المزيد من ضحايا الاعتداء الجنسي على الأطفال."
صرحت اليوم بأن هذه الخطوة تعد المرة الأولى التي يكون فيها فيسبوك تكنولوجيا مطابقة للصور أو الفيديو مفتوحة المصدر. أسهمت Microsoft و Google في السابق في تقنيات مماثلة.
بالإضافة إلى الخطوة مفتوحة المصدر ، لدى Facebook شراكة مع جامعة ماريلاند وجامعة كورنيل ومعهد ماساتشوستس للتكنولوجيا وجامعة كاليفورنيا في بيركلي التي تبحث في طرق لمنع الناس من إجراء تعديلات طفيفة على الصور ومقاطع الفيديو المحظورة من التحايل على نظم السلامة.
أعلن فيسبوك الأخبار اليوم في hackathon السنوي الرابع لسلامة الطفل في مينلو بارك.
الإبتساماتإخفاء