يتضمن التقرير محتوًى حساسًا يشمل إشارات إلى إيذاء النفس والانتحار
لقد تبين من بحث أجرته منظّمة العفو الدوليّة أن صفحة “فور يو” (For You) على تيك توك تدفع الأطفال والشباب الفرنسيين المتابعين لمحتوى الصحة النفسية إلى دوامة محتوى يسبب الاكتئاب، وإيذاء النفس، والانتحار.
ويسلط البحث، الانجرار إلى المتاهة، الضوء على تقاعس تطبيق تيك توك المتواصل عن معالجة مخاطر تصميمه النظامي الذي يؤثر على الأطفال والشباب.
وقالت ليزا ديتمر، الباحثة في مجال الحقوق الرقمية للأطفال والشباب في منظمة العفو الدولية: “يبين بحثنا التقني مدى سرعة انجرار المراهقين الذين يعبرون عن اهتمامهم بمحتوى يتعلق بالصحة النفسية إلى متاهات مؤذية. في غضون ثلاث إلى أربع ساعات فقط من الاطلاع على صفحة “فور يو” على تيك توك، تعرّضت الحسابات التجريبية للمراهقين إلى مقاطع فيديو تجمّل فكرة الانتحار أو تظهر شبابًا يعبرون عن نياتهم بإنهاء حياتهم، بما في ذلك معلومات حول طرق الانتحار.
تكشف شهادات الشباب والآباء والأمهات الثكالى في فرنسا كيف أن تيك توك طبَّع إيذاء النفس والتفكير الانتحاري وفاقمهما لدرجة التوصية بمحتوى يتعلق ’بتحديات الانتحار‘”.
ليزا ديتمر، الباحثة في مجال الحقوق الرقمية للأطفال والشباب في منظمة العفو الدولية
وتكشف شهادات الشباب والآباء والأمهات الثكالى في فرنسا كيف أن تيك توك طبَّع إيذاء النفس والتفكير الانتحاري وفاقمهما لدرجة التوصية بمحتوى يتعلق ’بتحديات الانتحار‘”.
إن صفحة “فور يو” على تيك توك هي تتابُع شخصي لمقاطع فيديو قصيرة توصي بمحتوى يستند إلى المشاهدة.
فتح باحثو منظمة العفو الدولية ثلاثة حسابات لمراهقين، فتاتين وفتى واحد، مسجلين بعمر 13 سنة ومقيمين في فرنسا من أجل الفحص اليدوي للتضخيم الخوارزمي للمحتوى على صفحة “فور يو” على تيك توك. وفي غضون خمس دقائق من التصفح وقبل الإشارة إلى أي محتويات مفضلة، وقعت الحسابات على مقاطع فيديو حول الحزن أو الإحباط.
وزادت مشاهدة مقاطع الفيديو هذه من كمية المحتوى المتعلق بالحزن والصحة النفسية. وفي غضون 15 إلى 20 دقيقة من بدء التجربة، مُلئت جميع الحسابات الثلاثة على نحو شبه حصري بمقاطع فيديو تتعلق بالصحة النفسية، وتضمَّن نصفها تقريبًا محتوًى يسبب الاكتئاب. وعُرضت في حسابين مقاطع فيديو تعبّر عن أفكار انتحارية في غضون 45 دقيقة.
وأُجريت تجارب إضافية مع معهد الشفافية الخوارزمية (Algorithmic Transparency Institute) باستخدام حسابات تجريبية مؤتمتة لأشخاص بعمر 13 سنة في فرنسا. وتبين فيها أن نظام التوصيات في تيك توك زاد حصة المحتوى الذي يبعث على الحزن والاكتئاب بأكثر من الضعفين عندما تضمنت تواريخ المشاهدة مستويات مختلفة من مقاطع الفيديو هذه.
وأُجري البحث في فرنسا حيث يخضع تيك توك لقانون الخدمات الرقمية (DSA) لدى الاتحاد الأوروبي، وهو قانون يلزم منذ 2023 المنصات بتحديد المخاطر النظامية على حقوق الأطفال والتخفيف من حدتها.
في الوقت الراهن، يناقش المشرّعون الفرنسيون ثغرات في اللوائح المنظمة لوسائل التواصل الاجتماعي، ويضيف هذا البحث إلى الأدلة المسبقة التي توصلت إليها منظمة العفو الدولية بأن تيك توك لم يعالج المخاطر النظامية المرتبطة بنموذج العمل لديه القائم على التفاعل.
التأثير على الشباب
على الرغم من تدابير التخفيف من المخاطر التي أعلنها تيك توك منذ 2024، تواصل المنصة عرض محتوى يطبّع إيذاء النفس، واليأس، والتفكير الانتحاري على المستخدمين المعرضين للأذى.
وتكشف الشهادات التي أدلى بها الشباب المصابون بالاكتئاب والآباء والأمهات المتضررون أو الثكالى مدى مخاطر وأضرار نموذج عمل تيك توك على الصحة النفسية والجسدية للشباب الذين يواجهون مشاكل أصلًا.
فوصفت ماييل، 18 عامًا، كيف استُدرجت إلى محتوى يسبب الاكتئاب وإيذاء النفس على صفحة “فور يو” على تيك توك عام 2021 قائلةً: “هناك مقاطع فيديو لا تزال محفورة في ذاكرتي”. وعلى مدى السنوات الثلاث التالية، استمرت الصراعات المتعلقة بصحتها النفسية والمرتبطة بإيذاء النفس في الانحدار فيما استنزفها المحتوى الضار على الإنترنت.
وأضافت: “إن مشاهدة الأشخاص وهم يجرحون أنفسهم، والأشخاص الذين يعدّدون الأدوية التي تتناولها لتنهي حياتك، تؤثر عليك وتشجعك على إيذاء نفسك”.
وقالت والدتها مورغان: “أغرقتها مشاهدة هذا المحتوى أكثر في ظلامها الداخلي. مهما فعلنا أو قلنا، بدت وكأنها عالقة في عالم موازٍ ولم يعد للعالم الحقيقي أي تأثير على مشاعرها أو هويتها”.
وفي حين أن التقرير يركز على تضخيم المحتوى الضار، فإن الشهادات التي جُمعت تشير أيضًا إلى تقاعس تيك توك عن الإشراف على المحتوى. ولم يُزَل المحتوى الذي يُحرّض على إيذاء النفس أو الانتحار من المنصة بحسب المشاركين في البحث، على الرغم من البلاغات المتكررة الواردة من الشباب وعائلاتهم.
فعلى سبيل المثال، عثر باحثو منظمة العفو الدولية على مقطعي فيديو لـ “تحدي مرهم الشفاه” (lip balm challenge) في حساب تجريبيي يدار يدويًا في صيف 2025. ومن المفترض أن هذا التوجه الاجتماعي بدأ كتحدٍ لتخمين رائحة مرهم الشفاه على شخص آخر. وتطورت الفكرة إلى نسخة مختلفة تشجع الأشخاص على إزالة قطعة من مرهم شفاههم في كل مرة يشعرون فيها بالحزن وإيذاء النفس أو محاولة الموت انتحارًا عند انتهاء مرهم الشفاه.
وقالت ستيفاني ميستر، والدة ماري لو تييك، البالغة من العمر 15 عامًا، وهي طفلة فرنسية وقعت في دوامة المحتوى الاكتئابي على تيك توك وأنهت حياتها في 2021: “يصبح أطفالنا بالنسبة لهذه المنصات منتجات وليس بشر. فهي تستخدم أطفالنا كمنتجات بخوارزمية وأداة تصفية، وتُغويهم من خلال عواطفهم. تلتقط هذه الخوارزمية اهتماماتك، وهذا ليس شيئًا طبيعيًا. وتقتحم الحياة الخاصة للطفل. لكن الأطفال لديهم حقوق”.
تدابير عاجلة وملزمة لجعل تطبيق تيك توك آمن
أظهر هذا البحث تقاعس تيك توك عن معالجة المخاطر النظامية لتصميم منصته المسبب للإدمان على الشباب. وتتقاعس الشركة عن تحمل مسؤوليتها في احترام حقوق الإنسان بما يتماشى مع المبادئ التوجيهية للأمم المتحدة بشأن الأعمال التجارية وحقوق الإنسان ولا تفي بجميع الواجبات المترتبة عليها بموجب قانون الخدمات الرقمية.
يجب إدراج هذا الدليل الجديد على الانتهاكات الواضحة لقانون الخدمات الرقمية من جانب تيك توك بصورة ملحة في التحقيق الجاري للمفوضية الأوروبية. وينبغي اتخاذ تدابير ملزمة وفعالة لإجبار تيك توك على جعل تطبيقه آمنًا بالنسبة للشباب في الاتحاد الأوروبي وحول العالم.
كاتيا رو، مسؤولة كسب التأييد في فرع منظمة العفو الدولية في فرنسا
وقالت كاتيا رو، مسؤولة كسب التأييد في فرع منظمة العفو الدولية في فرنسا: “يجب إدراج هذا الدليل الجديد على الانتهاكات الواضحة لقانون الخدمات الرقمية من جانب تيك توك بصورة ملحة في التحقيق الجاري للمفوضية الأوروبية. وينبغي اتخاذ تدابير ملزمة وفعالة لإجبار تيك توك على جعل تطبيقه آمنًا بالنسبة للشباب في الاتحاد الأوروبي وحول العالم”.
يثير استهتار تيك توك بالأضرار النظامية المرتبطة بنموذجه القائم على التفاعل بواعث قلق جدية تتعلق بالتقيّد بقانون الخدمات الرقمية، ويؤكد على الحاجة إلى تدابير مشددة للمساءلة التنظيمية ومساءلة المنصات لحماية الأطفال والمستخدمين المعرضين للأذى.
وقد شاركت منظمة العفو الدولية النتائج الهامة التي توصلت إليها مع تيك توك. لكن الشركة لم ترد.
خلفية
نشرت منظّمة العفو الدوليّة في عام 2023 تقريرين متكاملين معنونَيْن يُدفعون إلى هاوية الظلام: كيف يشجع تيك توك على إيذاء النفس والتفكير الانتحاري و“أشعر أنني مراقَب: عالق في شبكة الرقابة العنكبوتية على تيك توك”، يسلطان الضوء على الانتهاكات التي يتعرض لها الأطفال والشباب الذين يستخدمون تيك توك.
يمكن العثور على مزيد من المساعدة بشأن القضايا التي يشملها هذا التقرير في دليل منظمة العفو الدولية guide on StayingResilient While Trying to Save the World (Volume 2): A Well-being Workbook for Youth Activists.