كشف تقرير حديث، نقلاً عن موقع *theguardian* البريطاني، أن ميتا تلعب دورًا فعالًا في انتشار محتوى إيذاء النفس على منصة إنستجرام، وذلك من خلال فشلها في إزالة الصور الصريحة التي تتعلق بهذا الموضوع، إضافة إلى تشجيعها للمستخدمين الذين يتفاعلون مع هذا المحتوى على تكوين علاقات وصداقة مع بعضهم البعض.
أجرى باحثون دنماركيون تجربة على إنستجرام، حيث أنشأوا شبكة مخصصة لمحتوى إيذاء النفس، شملت ملفات تعريف مزيفة لأشخاص لا تتجاوز أعمارهم 13 عامًا، ونشروها في 85 منشورًا تدريجيًا، يزداد فيها محتوى العنف والعواقب، مثل الدماء وشفرات الحلاقة، بالإضافة إلى تشجيع على إيذاء النفس. كان الهدف من هذه الدراسة اختبار ادعاءات ميتا بشأن تحسين جهودها لإزالة المحتوى الضار، والتي تدعي أنها تستخدم الذكاء الاصطناعي لهذا الغرض، وتؤكد أنها تزيل حوالي 99% من المحتوى الضار قبل أن يتم الإبلاغ عنه.
لكن منظمة *Digitalt Ansvar* المعنية بالمساءلة الرقمية اكتشفت أنه خلال شهر من التجربة، لم يتم إزالة أي صورة من المحتوى. وعندما استخدم الباحثون أداة بسيطة تعتمد على الذكاء الاصطناعي لتحليل المحتوى، تمكنوا من تحديد 38% من الصور المرتبطة بإيذاء النفس، و88% من الصور الأكثر تطرفًا بشكل تلقائي. واعتبرت المنظمة أن هذا يُظهر أن إنستجرام كان يمتلك التقنية اللازمة لمعالجة المشكلة، لكنه "اختار عدم تنفيذها بفعالية". وأضافت أن هذه الممارسات تشير إلى عدم امتثال المنصة لقوانين الاتحاد الأوروبي الخاصة بحماية المحتوى.
كما أظهر استطلاع أجرته مؤسسة *Stem4* الخيرية للصحة العقلية للشباب أن ما يقارب نصف الأطفال والمراهقين الذين شملهم الاستطلاع أصبحوا يعانون من العزلة أو بدأوا في ممارسة الرياضة بشكل مفرط أو توقفوا عن التواصل الاجتماعي أو أذوا أنفسهم ردًا على التنمر الإلكتروني حول مظهرهم الجسدي.
وتؤكد الدراسة أن وسائل التواصل الاجتماعي قد تساهم في تعزيز مشاعر الكراهية للجسد لدى الأطفال. وفي تعليق من ميتا، قال متحدث باسم الشركة: "المحتوى الذي يشجع على إيذاء النفس يتعارض مع سياساتنا، ونحن نقوم بإزالة هذا المحتوى فور اكتشافه. في النصف الأول من 2024، قمنا بإزالة أكثر من 12 مليون منشور متعلق بالانتحار وإيذاء النفس على إنستجرام، 99% منها تمت إزالتها بشكل استباقي". كما أضاف أن ميتا أطلقت حسابات إنستجرام مخصصة للمراهقين بخصائص تحكم مشددة على المحتوى الحساس، مما يقلل من احتمالية التوصية بمحتوى ضار لهم.
لكن الدراسة الدنماركية أظهرت أن خوارزمية إنستجرام كانت تسهم في توسيع شبكة إيذاء النفس بدلاً من محاولة إغلاقها. وقد أظهرت النتائج أن الأطفال الذين تتراوح أعمارهم بين 13 عامًا أصبحوا أصدقاء مع جميع أعضاء المجموعة المرتبطة بإيذاء النفس بمجرد تواصلهم مع أحد الأعضاء.
وأشارت الدراسة إلى أن هذا يعني أن خوارزمية إنستجرام تساهم بشكل نشط في توسيع وانتشار شبكات إيذاء النفس. وقال آسك هيسبي هولم، الرئيس التنفيذي لمنظمة *Digitalt Ansvar*، في تصريح لصحيفة *أوبزرفر*: "لقد صدمنا من النتائج، فقد كنا نعتقد أنه مع تزايد شدة الصور التي شاركناها، كان من المفترض أن تكتشفها الأنظمة الذكية". وأضاف أنه كان من المفترض أن يؤدي ذلك إلى اكتشاف الذكاء الاصطناعي لهذه الصور أو تصنيفها، لكن المفاجأة كانت في أن ذلك لم يحدث.
وأكد أن الفشل في تعديل الصور الخاصة بإيذاء النفس يمكن أن يؤدي إلى "عواقب وخيمة" وربط ذلك ارتباطًا وثيقًا بالانتحار. وأضاف أن عدم وجود مراقبة لهذه المجموعات يجعلها مجهولة للآباء والسلطات، مما يعيق الوصول إلى الدعم المناسب. ورجح أن ميتا قد تختار عدم مراقبة هذه المجموعات الصغيرة من أجل الحفاظ على حركة المرور والمشاركة العالية على منصاتها.
من جانبها، قالت لوتي روبيك، عالمة النفس الرائدة التي غادرت مجموعة الخبراء العالمية في ميتا حول الوقاية من الانتحار بعد اتهامها بتجاهل المحتوى الضار، إنها لم تفاجأ بالنتائج العامة، لكنها صُدمت لأن ميتا لم تقم بإزالة المحتوى الأكثر تطرفًا، وقالت: "لم أكن لأتصور أنهم لم يزيلوا أيًا من الـ 85 منشورًا". وأضافت أن هذا الفشل يعزز من خطورة إيذاء النفس لدى الفتيات والشباب المراهقين، ويساهم في زيادة معدلات الانتحار، معتبرة أن هذه القضية هي مسألة حياة أو موت بالنسبة للأطفال والمراهقين.
