إيف هنا. يصف راجيف سيثي دراسة رائعة وواسعة النطاق لسلوك وسائل التواصل الاجتماعي. لقد نظرت إلى “المحتوى السام” الذي يُفترض أنه حقيقي أو قريب جدًا مما يسمى غالبًا بخطاب الكراهية. ووجدت أنه عندما نجحت المنصة في تقليل كمية هذا المحتوى، فإن المستخدم الذي قام بتضخيمه بشكل أكبر قلل من مشاركته بشكل عام ولكنه زاد أيضًا من مستوى تعزيز المحتوى الذي يحض على الكراهية.
والآن لا أزال أحتفظ بالشكوك حول منهجية الدراسة. واستخدمت خوارزمية Google لتحديد المحتوى المسيء، وهو عبارة عن خطاب عدائي موجه إلى السكان المسلمين في الهند. لقد أحدثت خوارزميات Google فشلًا ذريعًا في تحديد النص المسيء في الرأسمالية العارية، لدرجة أنه عند الاعتراض عليها، أسقطت جميع شكاواها. ربما تكون هذه الخوارزمية أفضل ولكن هناك أسباب للتساؤل دون بعض الأدلة.
ما أجده أكثر إزعاجًا هو أن Sethi يروج لـ BlueSky كمنصة وسائط اجتماعية أقل ضررًا لوجود قواعد للحد من عرض المحتوى ومشاركته والتي تتوافق إلى درجة معقولة مع نتائج الدراسة. يؤكد سيثي أن BlueSky يمثل حلاً وسطًا أفضل بين مفاهيم حرية التعبير والقيود المفروضة على خطاب الكراهية مقارنة بالمنصات الكبيرة الحالية.
أواجه مشكلة مع فكرة أن BlueSky أقل كراهية بناءً على المعاملة المروعة التي تلقاها جيسي سينغال. لقد أثار سينغال غضب النشطاء المتحولين جنسيًا على BlueSky لمجرد كونه عادلاً. وشمل ذلك اتهامه زوراً بنشر سجلات طبية خاصة لأطفال متحولين جنسياً. دافع كويليت عن دفاعه في حملة الأكاذيب ضد الصحفي جيسي سينغال – ولماذا يهم. وهذا ما حدث لسينجال على BlueSky:
كانت هذه الجولة الثانية مدفوعة بحقيقة انضمامي إلى Bluesky، وهو بديل لتويتر يمتلك قاعدة من المستخدمين ذوي النفوذ من أقصى اليسار الذين يحصلون على حقًا غاضب عندما يظهر الأشخاص الذين لا يحبونهم. وسرعان ما أصبحت الحساب الأكثر حجبًا على الموقع، وخوفًا من التلوث من الدرجة الثانية، قام هؤلاء المستخدمون أيضًا بتطوير أدوات للسماح بالحظر الجماعي لأي شخص يتبع أنا. وبهذه الطريقة لن يضطروا إلى مواجهة التهديد برؤية أي محتوى مني أو من أي شخص يتابعني. مساحة آمنة حقًا، أخيرًا.
لكن هذا لم يكن كافيًا: لقد مارسوا أيضًا ضغطًا قويًا على رئيس الثقة والسلامة بالموقع، آرون رودريكس، لإبعادي (إليك مثال واحد: “أيها الأحمق. أيها الأحمق. أيها الأحمق. أيها الأحمق. أنت تريد”. أنت تريدني ميتًا، أراهن أنك ستمنعني وسأختفي من الوجود فورًا كما دخلته بهذا المنشور لن أهتم. أنت تحب صديقك كثيرًا لدرجة أنه مريض.”). العديد من هذه الشكاوى تأتي من أشخاص يبدون غير منظمين للغاية لدرجة أنهم سيواجهون مشكلة في رعاية مطعم Waffle House بنجاح، ولكن نظرًا لنشاطهم الكبير عبر الإنترنت، يمكن أن يكون لهم تأثير في العالم الحقيقي.
لذلك، لم يكتفوا بمجرد حظري وحظر أي شخص يتابعني، والصراخ على الأشخاص الذين يرفضون حظري، فقد بدأوا أيضًا في إعادة نشر كل شائعة سلبية عني تم نشرها عبر الإنترنت منذ عام 2017 أو نحو ذلك – وهناك عودة ثرية الكتالوج، للتأكد. لقد أطلقوا حتى واحدة جديدة: أنا شاذ جنسيا. (نعم، إنهم يقولون ذلك حقًا!)
انتبه، هذا ليس سوى القسم الأول من كتالوج طويل من الإساءات اللاذعة على BlueSky.
لم يقدم IM Doc الكثير من التفاصيل، لكن مجموعة من الأطباء الذين يمكن وصفهم بالمبتدعين فيما يتعلق بأمور كوفيد، ذهبوا إلى BlueSky وسرعان ما عادوا إلى تويتر. ويبدو أنهم قوبلوا بعداء شديد. وآمل أن يوضح أكثر في التعليقات.
السبب الآخر الذي يجعلني أشعر بالقلق من القيود المفروضة على الرأي، حتى تلك التي تدعي أنها مصممة بشكل أساسي للحد من حرية التعبير، هو الطريقة التي نجح بها الصهاينة في إقناع العديد من الحكومات بالتعامل مع أي انتقاد للإبادة الجماعية التي ترتكبها إسرائيل أو الدعوة إلى حركة المقاطعة وسحب الاستثمارات وفرض العقوبات لمحاولة التحقق من ذلك على أنه أمر لا مفر منه. معاداة السامية. ويتم استخدام مفاهيم الكراهية المتوترة كسلاح لفرض رقابة على انتقاد السياسات الأمريكية.
لذلك ربما سيأخذ سيثي في الاعتبار أن السبب الذي يجعل BlueSky يبدو أكثر ملاءمة هو أن بعض المستخدمين ينخرطون في إجراءات إنفاذ معايير عدوانية للغاية، كما هو الحال في كثير من الأحيان، لسحق التعبير عن وجهات النظر والمعلومات التي تتعارض مع أيديولوجيتهم. لا أعتبر ذلك تحسينًا للمعايير في أماكن أخرى.
بقلم راجيف سيثي، أستاذ الاقتصاد بكلية بارنارد بجامعة كولومبيا. أستاذ خارجي، معهد سانتا في. نشرت أصلا في موقعه
تتسارع وتيرة منشورات وسائل التواصل الاجتماعي حول الأبحاث الجديدة في الاقتصاد مع اقتراب نهاية العام، حيث تتم جدولة المقابلات لشغل وظائف أعضاء هيئة التدريس ويحاول المرشحون لفت الانتباه إلى عملهم. قبل بضعة أعوام، عثرت على بحث رائع صدمني على الفور لأنه ينطوي على آثار كبيرة على الطريقة التي نفكر بها بشأن الجدارة. وتخضع هذه الورقة الآن للمراجعة في مجلة رائدة، والمؤلف الرئيسي هو عضو هيئة التدريس في جامعة تافتس.
لقد كنت هذا العام في حالة تأهب للعمل على الاستقطاب، وهو موضوع ندوة سأقوم بتدريسها في الفصل الدراسي القادم. إحدى الأبحاث الجديدة المثيرة للاهتمام بشكل خاص تأتي من أروشي كالرا، طالب الدكتوراه في جامعة براون والذي أجرى تجربة واسعة النطاق عبر الإنترنت بالتعاون مع إحدى منصات التواصل الاجتماعي في الهند. تشبه المنصة (غير المسماة) TikTok، الذي حظرته البلاد في عام 2020. وهناك الآن العديد من التطبيقات التي تتنافس في هذا المجال، من الفروع متعددة الجنسيات مثل Instagram Reels إلى البدائل المحلية مثل Moj.
تضم المنصة في هذه التجربة حوالي 200 مليون مستخدم شهريًا، وتمكنت كالرا من معالجة حوالي مليون منهم وتتبع أربعة ملايين آخرين كمجموعة مراقبة.1 تضمن العلاج استبدال المعالجة الخوارزمية بتغذية عشوائية، بهدف تحديد التأثيرات على التعرض والمشاركة التي تنطوي على محتوى سام. على وجه الخصوص، كان المؤلف مهتمًا بمشاهدة ومشاركة المواد التي تم تصنيفها على أنها مسيئة استنادًا إلى واجهة برمجة التطبيقات Perspective من Google، وكانت تستهدف على وجه التحديد الأقلية المسلمة في الهند.
النتائج واقعية. استجاب أفراد المجموعة المعالجة والذين كانوا في السابق أكثر تعرضًا للمحتوى السام (استنادًا إلى الاستجابات الخوارزمية لمشاركتهم السابقة) لانخفاض التعرض على النحو التالي. لقد خفضوا المشاركة الإجمالية، وقضوا وقتًا أقل على المنصة (والمزيد على المواقع المنافسة، بناءً على استطلاع لاحق). لكنهم زادوا أيضًا من معدل مشاركة المحتوى السام مشروط بمواجهته. أي أن نسبة مشاركتهم للمحتوى السام انخفضت بنسبة أقل من تعرضهم له. كما قاموا أيضًا بزيادة بحثهم النشط عن مثل هذه المواد على المنصة، وبالتالي انتهى بهم الأمر إلى حد ما أكثر تعرضًا من المستخدمين الذين تم التعامل معهم والذين كانوا الأقل تعرضًا في الأساس.
الآن يمكن للمرء أن يجادل بأن التحول إلى التغذية العشوائية هو أداة صريحة للغاية، وليست أداة يمكن للمنصات تنفيذها أو يفضلها المنظمون. حتى أولئك الذين كانوا أكثر تعرضًا للمحتوى السام بموجب المعالجة الخوارزمية كانت لديهم خلاصات غير سامة في الغالب. على سبيل المثال، كانت نسبة المحتوى المصنف على أنه سام حوالي خمسة بالمائة في خلاصات الشريحة الخمسية الأكثر تعرضًا في الأساس – أما باقي المنشورات فكانت تلبي أنواعًا أخرى من الاهتمامات. ليس من المستغرب إذن أن يؤدي التدخل إلى انخفاض حاد في المشاركة.
يمكنك رؤية ذلك بوضوح شديد من خلال النظر إلى شريحة المستخدمين الذين تم علاجهم الأقلتتعرض لمحتوى سام في الأساس. بالنسبة لهذه المجموعة من المستخدمين، أدى التحول إلى التغذية العشوائية إلى أهمية إحصائية يزيد عند التعرض للمشاركات السامة:
المصدر: الشكل 1 في كالرا (2024)
كان هؤلاء المستخدمون يرفضون التعامل مع المحتوى السام في الأساس، وبالتالي تجنبت الخوارزمية تقديم مثل هذه المواد لهم. لكن التغذية العشوائية لم تفعل ذلك. ونتيجة لذلك، انتهى الأمر حتى هؤلاء المستخدمين بمشاركة أقل بكثير:
من حيث المبدأ، يمكن للمرء أن يتصور التدخلات التي تؤدي إلى تدهور تجربة المستخدم إلى درجة أقل. يستخدم المؤلف عمليات محاكاة مضادة قائمة على النماذج لاستكشاف تأثيرات التوزيع العشوائي لنسبة فقط من الخلاصة لمستخدمين محددين (الذين هم الأكثر تعرضًا للمحتوى السام في الأساس). وهذا أمر مثير للاهتمام، ولكن سياسات الإشراف الحالية تستهدف عادة المحتوى وليس المستخدمين، وقد يكون من المفيد استكشاف تأثيرات التعرض المكبوت أو المنخفض فقط للمحتوى المصنف على أنه سام، مع الحفاظ على التنظيم الخوارزمي بشكل عام. أعتقد أن النموذج والبيانات ستسمح بذلك.
ومع ذلك، هناك فيل في الغرفة – شبح الرقابة. ومن وجهة نظر قانونية وسياسية وأخلاقية، يعد هذا أكثر أهمية بالنسبة للقرارات السياسية من ربحية المنصة. إن فكرة أن للناس الحق في الوصول إلى المواد التي قد يجدها الآخرون معادية للمجتمع أو مسيئة هي فكرة متأصلة بعمق في العديد من الثقافات، حتى لو لم يتم تقنينها دائمًا في القانون. في مثل هذه البيئات، يُنظر إلى قمع الخطاب السياسي من خلال المنصات بعين الشك، وهو أمر مفهوم.
وفي الوقت نفسه، ليس هناك شك في أن نظريات المؤامرة المنتشرة عبر الإنترنت يمكن أن يكون لها آثار حقيقية مدمرة. إحدى طرق الهروب من هذه المعضلة قد تكون من خلال الإشراف على المحتوى القابل للتركيب، والذي يتيح للمستخدمين قدرًا كبيرًا من المرونة في تصنيف المحتوى وتحديد التصنيفات التي يريدون تنشيطها.
يبدو أن هذا هو النهج المتبع في Bluesky، كما تمت مناقشته في منشور سابق. تمنح المنصة الأشخاص القدرة على إخفاء الرد المسيء عن جميع المستخدمين، مما يضعف استراتيجية نشر المحتوى المسيء من خلال الرد على منشور مرئي للغاية. تسمح المنصة أيضًا للمستخدمين بفصل منشوراتهم عند الاقتباس، مما يجبر أولئك الذين يريدون السخرية أو السخرية على استخدام لقطات الشاشة (الأقل فعالية) بدلاً من ذلك.
يعاني Bluesky حاليًا من بعض آلام النمو الخطيرة.2 لكنني متفائل بشأن النظام الأساسي على المدى الطويل، لأن قدرة المستخدمين على ضبط الإشراف على المحتوى يجب أن تسمح بتنوع الخبرات والعزل عن الهجوم دون الحاجة إلى رقابة مركزية أو طرد.
لقد كان من المثير للاهتمام مشاهدة مجتمعات بأكملها (مثل الاقتصاديين الأكاديميين) تنتقل إلى منصة مختلفة مع الحفاظ على المحتوى والاتصالات سليمة إلى حد كبير. تعتبر مثل هذه التحولات الجماعية نادرة نسبيًا لأن تأثيرات الشبكة تعمل على ترسيخ استخدام النظام الأساسي. ولكن بمجرد حدوثها، فمن الصعب عكسها. يمنح هذا Bluesky مساحة صغيرة للتنفس حيث تحاول الشركة معرفة كيفية التعامل مع الشكاوى بطريقة متسقة. أعتقد أن المنصة سوف تزدهر إذا تجنبت الحظر والحظر لصالح وضع العلامات والإشراف اللامركزي. وينبغي لهذا أن يسمح لأولئك الذين يعطون الأولوية للسلامة بعزل أنفسهم عن الأذى، دون إسكات الأصوات الأكثر إثارة للجدل بيننا. في بعض الأحيان يتبين لنا، في وقت لاحق، أن مثل هذه الأصوات كانت الأكثر نبوة.
