کمپانی توییتر روز چهارشنبه (۱۱ اسفند، ۱ مارس) اعلام کرد از این پس برای تشخیص کاربرانی که رفتارهای آزاردهنده و هنجارشکن و نفرت‌پراکن از خود نشان می‌دهند دیگر فقط به گزارش‌های دیگر کاربران بسنده نخواهد کرد و با الگوریتم‌هایی هوشمند آنها را کشف و تنبیه خواهد کرد.

پیش از این در توییتر رسم بر این بود که کاربران می‌توانستند رفتارهای هنجارشکن و نفرت‌پراکنی را گزارش کنند و مسئولان این کمپانی پس از بررسی گزارش‌ها تصمیم می‌گرفتند که آیا از قوانین این سرویس مایکروبلاگینگ تخطی شده یا نه؛ فرآیندی طولانی که معمولا بدون ارائه پاسخ روشن به کاربران درباره پی‌آمد گزارش‌ها خاتمه می‌یافت.

توییتر اعلام کرده که کارکردهای حساب‌های کاربری کسانی که با تکنولوژی جدیدش به عنوان کاربرهای هنجارشکن و نفرت‌پراکن شناسایی می‌شوند را برای مدت‌زمانی نامشخص محدود خواهد کرد. یکی از این محدودیت‌ها این است که توییت‌های این افراد را فقط فالوئرهای آنها می‌توانند ببینند و محتوایی که منتشر می‌کنند برای دیگران قابل رویت نخواهد بود.

بیشتر بخوانید: توییتر متهم به بی‌عملی در مبارزه با نفرت‌پراکنی علیه زنان

در حال حاضر اگر کسی به عنوان کاربر هنجارشکن ثبت شود، حساب کاربری‌اش حذف یا برای مدتی معلق خواهد شد. اد هو، از مدیران ارشد توییتر، در پستی در وبلاگ توییتر گفت: «هدف ما این است که صرفا به اکانت‌هایی واکنش نشان دهیم که بر اساس یافته‌های الگوریتم‌هایمان درباره هنجارشکن بودن آنها اطمینان حاصل کرده‌ایم.»

اد هو همچنین گفت: «از آنجایی که این ابزارها (الگوریتم‌ها) تازه‌واردند، برای مدتی مرتکب برخی خطاها خواهند شد، اما ما فعالانه روی آنها کار خواهیم کرد تا کیفیت کار ارتقا یابد.»

توییتر در کنار راه‌اندازی این ابزارها برای مقابله با هنجارشکنی و نفرت‌پراکنی، قصد دارد گزینه‌های جدیدی را هم برای فیلتر کردن نوتیفیکیشن‌ها ارائه کند تا کاربران بتوانند به سادگی محتوایی که به نظرشان نامطلوب می‌رسد را از دیدرس خود دور کنند؛ مثلا اگر کسی می‌خواهد توییت‌های کسانی که عکس پروفایل ندارند را نبیند، با یک کلیک می‌تواند خود را برای همیشه از محتوای تولیدی آنها دور کند.

بیشتر بخوانید: پیام کاربران ایرانی توییتر: «پرچم را آتش نزن»

گذشته از این‌ها، توییتر قرار است کاربران را در جریان پی‌آمد‌های گزارش‌هایی که می‌دهند قرار دهد. از این پس اگر شما کاربری را به عنوان کاربر هنجارشکن گزارش کنید، توییتر در تماس مستقیم با شما اعلام خواهد کرد که چه تصمیمی درباره این کاربر اتخاذ شده است.

توییتر، فیس‌بوک و دیگر غول‌های دنیای آنلاین در سال‌های اخیر بارها به خاطر بی‌عملی در برابر نفرت‌پراکنی و هنجارشکنی هدف انتقادات گسترده کاربران بوده‌اند. شیوه نظارت و کنترل این کمپانی‌ها بر محتوایی که کاربران در آن به اشتراک می‌گذارند سوالات بسیاری برانگیخته است. استدلال این کمپانی‌ها این بوده که می‌خواهند از سانسور محتوا تا جایی که ممکن است خودداری کنند، اما عمیق‌تر شدن این چالش‌ها حالا آنها را بر آن داشته تا با توانمندی‌های مهندسی خود به مقابله با آفت‌های جاری در شبکه‌های اجتماعی برخیزند.