کرایست‌چرچ و ضعف شبکه‌های اجتماعی در مقابله با نشر محتوای مجرمانه

حادثه حمله تروریستی به دو مسجد در کرایست‌چرچ نیوزلند، ضعف شبکه‌های اجتماعی در مقابله با نشر و بازنشر محتوای مجرمانه را نشان داد.

به گزارش بادیجی، «برنتون تارانت» دیروز جمعه ابتدا وارد مسجد نور در شهر کرایست‌چرچ نیوزلند شده و سپس بی‌رحمانه نمازگزاران را به رگبار بست. او تمام این واقعه هولناک را از طریق سرویس لایو فیس‌بوک به صورت زنده برای جهانیان پخش کرد.

پس از حادثه، فیس‌بوک به محض اطلاع، خیلی زود ویدئوی این قتل‌عام را به‌همراه اکانت برنتون تارانت از روی سرویس خود حذف کرد. با این حال، این کار نتوانست جلوی بازنشر سریع این ویدئو و بازخوردهای مرتبط با آن را درون فس‌یبوک و دیگر شبکه‌های اجتماعی بگیرد. پیش از آنکه فیس‌بوک بتواند ویدئو را از روی سرویس خود حذف کند، این ویدئوی ۱۷ دقیقه‌ای بارها دانلود شده و به‌سرعت روی یوتیوب آپلود شده بود.

یوتیوب نیز همانند فیس‌بوک به موضوع واکنش نشان داد اما بازنشر ویدئو همچنان ادامه یافت. این تصاویر با عبور از فیس‌بوک و یوتیوب به سرعت میان شبکه‌های اجتماعی مختلف بی محابا دست به دست شده و همچنان می‌شود.

تلاش برای کنترل بحران

به دنبال پخش زنده این حادثه و سپس انتشار ویدئوی آن در سطح شبکه‌های اجتماعی، مدیران و نمایندگان بسیاری از این شبکه‌ها تلاش کردند با انتشار بیانیه‌هایی ضمن محکوم کردن خشونت و بازنشر خشونت بگویند که انتشار نفرت و خشونت و کلا محتوای مجرمانه روی سرویس‌های آنها جایی ندارد. آنها حتی گفتند که تمام تلاش خود را برای مقابله با این موج و موج‌های مشابهی که هر از چندگاه شبکه‌های اجتماعی بزرگ دنیا را در می‌نوردد، به کار خواهند بست. تلاش‌هایی که میزان موفقیت آنها تا به امروز با اما و اگرهای زیادی مواجه بوده است.

اکثر شبکه‌های اجتماعی برای کنترل محتوا به الگوریتم‌های مشخصی متکی هستند، مثلا در مورد یوتیوب که در واقع شبکه اجتماعی مبتنی بر محتوای ویدئویی است، از الگوریتم‌های مشخص شناسایی محتوا کمک گرفته می‌شود. الگوریتم‌هایی که تلاش می‌کنند تا مثلا زمانی که یک کاربر، موسیقی یا محتوایی که شامل کپی‌رایت تجاری می‌شود را بارگزاری می‌کند، محتوای مورد نظر را به‌صورت خودکار شناسایی کرده و از همان ابتدا جلوی انتشار آن را بگیرد. با این حال بیشتر این الگوریتم‌ها در شناسایی محتوای خشن، غیر اخلاقی و نفرت‌پراکن واقعا چندان موثر نیستند. مشکلی که سالهاست تمامی شبکه‌های اجتماعی در مواجهه با آن دچار مشکل هستند.

برای مقابله با انتشار اینگونه محتوا هر کدام از شبکه‌های مجازی شگردهای خاص خود را دارند. شگردهایی که همچنان بخش قابل توجهی از آنها مستقیما به گزارش کاربران و بازنگری گزارش‌های رسیده متکی هستند. در این مورد خاص گوگل (مالک یوتیوب) هنوز نگفته است که از چه ابزاری برای شناسایی و مقابله با بارگزاری این ویدئو و ویدئوهایی از این دست استفاده خواهد کرد؛ با این حال گفته است که این کار را به صورت هوشمند انجام خواهد داد.

مشکلی که همچنان پابرجاست

حقیقت این است که جستجو، شناسایی و برخورد با ویدئو، پست و یا کامنت‌های خشونت‌بار، غیراخلاقی یا مروج نفرت در سطح شبکه‌های اجتماعی اصلا کار ساده‌ای نیست. تعریف و تحلیل چنین محتوایی از تکنیک، کار بسیار پیچیده‌ای شمرده می‌شود، خصوصا وقتی تصور کنیم که این کنترل شامل هزاران ویدئو و محتوای تصویری، نوشتاری و شنیداری است که هر لحظه در فضای مجازی بارگزاری می‌شوند.

حادثه تلخ تیراندازی در دو مسجد نیوزیلند نیز نمود بارز دیگری بر این مشکل بود. با وجود نزدیک به بیست دقیقه پخش زنده این حادثه از فیس‌بوک، این شبکه اجتماعی تا زمان تماس پلیس واکنش جدی نسبت به موضوع نداشت. تا اینکه پلیس نیوزیلند با دفتر فیس‌بوک در این کشور تماس گرفته و خواستار حذف ویدئو شده بود. پس از این واکنش بود که نماینده فیس‌بوک در نیوزیلند گفت که نه تنها این ویدئو بلکه هر نوع پستی در پشتیبانی یا طرفداری از حادثه ذکر شده را هم بدون بازنگری حذف خواهد کرد. با این حال هیچ‌یک از این تلاش‌ها نتوانست مانع ادامه بازنشر ویدئو یا دیدگاه‌های افراطی و نفرت‌پراکن موافق آن شود و دیگر دیر بود.

سواد معکوس

مشکل دیگری که این روزها بیش از پیش خودنمایی می‌کند سوءاستفاده از امکانات و آشنایی با کارکرد ابزارهای آنلاین و تکنیک‌های مارکتینگ دیجیتالی برای تبلیغ خشونت است. متهم اصلی در حادثه حمله تروریستی به مساجد کرایست‌چرچ، در جریان پخش زنده خود با نام بردن از برخی از اینفلونسرهای دنیای مجازی، حتی بینندگان را تشویق به دنبال کردن برخی از آنها کرده بود. در سال ۲۰۱۵ نیز کسی که خبرنگار و فیلمبردار شبکه تلویزیونی WDBJ را در ویرجینیای آمریکا به قتل رساند فیلم حادثه را روی فیس‌بوک خود منتشر کرده و آن را تبلیغ کرد. موارد مشابه خصوصا در اقدامات گروه‌هایی مثل داعش فراوانند.

تلاش‌های دامنه‌دار

با این حال تلاش برای کنترل دامنه گسترش انتشار و بازنشر محتوای مجرمانه و آزاردهنده در سال‌های اخیر جدی‌تر شده است.در سال ۲۰۱۶ روزنامه گاردین گزارش داد که فیس‌بوک و گوگل هر دو از الگوریتم‌های مشابهی برای مقابله با ویدئوهای بارگزاری شده توسط نیروهای داعش استفاده می‌کنند. این تکنولوژی به این ترتیب عمل می‌کرد که ابتدا ویدئوهای نشانه‌گذاری شده توسط کاربران به‌عنوان ویدئوی خشونت‌بار را شناسایی کرده و سپس براساس چند معیار مشخص حتی بدون دخالت ناظر انسانی انتشار آنها را متوقف می‌کرد. در سال ۲۰۱۷ فیس‌بوک مجددا از تکنولوژی مشابه برای مقابله با ویدئوهای مستهجن و غیراخلاقی که به‌عنوان انتقام علیه افراد و شخصیت‌های خاص در سطح این شبکه اجتماعی منتشر می‌شدند، استفاده کرد. در مورد اخیر، شرایط کمی متفاوت بود؛ خصوصا که مهاجم کاملا حساب شده و همانند یک ریالیتی شو برنامه خود را پیاده کرد.

گفتتی است دیروز، جمعه مهاجمانی مسلح با حمله به نمازگزاران دو مسجد در شهر کرایست چرچ در نیوزیلند، مردم بیگناه را به گلوله بستند. در این حادثه که یکی از افراد مهاجم آن را به‌صورت زنده در صفحه فیس‌بوک خود پخش می‌کرد، تاکنون ۵۰ تن کشته و نزدیک به ۵۰ نفر دیگر زخمی گزارش شده است. مظنون اصلی یک مرد ۲۸ ساله اهل استرالیا با تبار انگلیسی توصیف شده که پیشتر بارها در صفحات مجازی خود از حضور مهاجران مسلمان در سرزمین‌های اروپایی ابراز خشم کرده بود.

انتهای پیام/