دو شبکه اجتماعی پرمخاطب تیک تاک و اینستاگرام به دلیل نمایش و پیشنهاد مکرر محتوای مرتبط با خودکشی و خودآزاری به نوجوانان، هدف انتقادات گسترده سازمان‌های حامی سلامت روان و برخی نهادهای نظارتی قرار گرفته‌اند.
جزئیات گزارش
بر اساس یافته‌های یک نهاد مستقل تحقیقاتی، حساب‌های کاربری آزمایشی که برای نوجوانان ۱۳ تا ۱۷ سال ایجاد شده بودند، تنها طی چند دقیقه پس از ثبت‌نام و بدون جستجوی خاص، در معرض محتوایی قرار گرفتند که شامل تصاویری از خودزنی، پیام‌های ناامیدکننده و ویدئوهای تشویق‌کننده رفتارهای پرخطر بود.
این محتواها بیشتر از طریق الگوریتم‌های بخش «For You» در تیک تاک و «Explore» در اینستاگرام پیشنهاد شده‌اند.
نگرانی کارشناسان
پژوهشگران هشدار می‌دهند که اینگونه محتوا می‌تواند اثرات روانی جدی و فوری بر نوجوانان آسیب‌پذیر بگذارد؛ از جمله افزایش اضطراب، تشدید علائم افسردگی و حتی تحریک به رفتارهای خودآزاری. تحقیقات پیشین نشان داده است که مصرف طولانی‌مدت محتوای منفی در فضای مجازی می‌تواند منجر به شکل‌گیری «مارپیچ روانی» شود که خروج از آن برای کاربران جوان دشوار است.
واکنش شرکت‌ها
سخنگوی متا، شرکت مالک اینستاگرام، و نمایندگان تیک تاک اعلام کرده‌اند که در حال بهبود ابزارهای شناسایی خودکار و سیستم‌های گزارش محتوای مضر هستند. آن‌ها تاکید کرده‌اند که حذف چنین محتواهایی اولویت فوری دارد، اما اذعان کرده‌اند که شناسایی و مسدودسازی کامل آن در مقیاس میلیاردها پست روزانه چالش‌برانگیز است.
فشار بر قانون‌گذاران
گروه‌های مدافع حقوق کودکان این توضیحات را ناکافی توصیف کرده و خواستار تدوین قوانین شفاف برای محدود کردن عملکرد الگوریتم‌ها شده‌اند. به گفته آن‌ها، پلتفرم‌ها باید ملزم شوند تا گزارش‌های دوره‌ای از نحوه عملکرد سیستم‌های پیشنهاد محتوا منتشر کنند و به والدین امکان کنترل دقیق‌تری بدهند.
نمونه‌های مشابه
در سال‌های گذشته، گزارش‌هایی مشابه درباره یوتیوب، اسنپ‌چت و فیسبوک منتشر شده بود که نشان می‌داد الگوریتم‌ها، محتوای افراطی یا خطرناک را به کاربران نوجوان پیشنهاد می‌کنند. هرچند برخی از این پلتفرم‌ها تغییراتی در سیاست‌های خود ایجاد کردند، اما تحقیقات جدید نشان می‌دهد که ابعاد مشکل فراتر از مرزهای یک شبکه اجتماعی است و نیازمند اقدامی هماهنگ در سطح بین‌المللی است.
