×
جستجو
درباره نظربین
نظربین نظرات کاربران را به صورت هوشمند و خودکار بررسی و نظرات نا متعارف را فیلتر می کند. سرویس نظربین با بهره گیری از هوش مصنوعی، یادگیری ماشین و پردازش زبان طبیعی قابلیت هایی را به شما ارائه می دهد: تشخیص زبان محاوره، غلط املایی و تکرار لیست کلمات وجملات سفارشی راه‌اندازی آسان به‌روزرسانی لحظه‌ای ارایه سرویس به صورت 24 / 7 حذف ایمیل، تلفن و آدرس تبلیغاتی
گالری تصاویر
جستجو
درباره نظربین
نظربین اولین بستر سالم سازی هوشمند محتوای تولید شده کاربران در اینترنت (UGC) به زبان فارسی است که محتوای تولید شده توسط کاربران، از جمله متن و عکس را پیش از انتشار به صورت هوشمند و خودکار بررسی کرده و تنها محتوای سالم را منتشر می‌کند؛ همچنین در این سامانه از الگوریتم‌های هوشمند بومی استفاده شده است.
گالری تصاویر
پنج حقیقت تلخ شبکه‌های اجتماعی
يكشنبه 20 خرداد 1397

مرکز تحقیقاتی Pew، مطالعه‌ای در ارتباط با محتوای آزار ‌دهنده‌ی بزرگسالان در فضای مجازی انجام داده است. این تحقیقات در مورد انواع آزار و اذیت آنلاین و میزان افزایش این محتوا، فضایی که اینگونه محتوا در آن منتشر می شود و عکس‌العملی که افراد در‌مقابل آن دارند، انجام شده ‌است. رفتارهای آزار ‌دهنده در فضای مجازی مانند انتشار محتوای توهین‌آمیز (ترولرها)، انتشار عکس‌های خصوصی افراد به خصوص افراد مشهور، انتشار محتوای غیر‌اخلاقی در فضای مجازی و غیره است.

 

۱-    انواع محتوای آزار ‌دهنده

محتوای آزار‌ دهنده به ۶ دسته تقسیم می‌شود:
•    استفاده از نام‌ها و الفاظ توهین‌آمیز برای اهانت به افراد
•    خدشه‌دار کردن آبرو و خجالت‌زده کردن افراد در این فضا به صورت هدفمند
•    تهدیدات فیزیکی
•    آزار و اذیت مداوم
•    آزار جنسی
•    تحت نظر داشتن افراد به طور مداوم (stalking)

محتوای آزار ‌دهنده آنلاین به دو سطح سبک و شدید تقسیم می‌شود: دسته اول شامل استفاده از اسامی و الفاظ توهین‌آمیز و خدشه‌دار کردن آبرو افراد و شرمسار ساختن آن‌ها است؛ دسته دوم، آزار و اذیت شدیدتر، از جمله تهدیدات فیزیکی، آزار مداوم، آزار جنسی و stalking است.
بر اساس آمارهای منتشر شده (تحقیق بر‌روی ۲۸۳۹ نفر)، ۴۰٪ کاربران اینترنتی شخصا آزار و اذیت در فضای مجازی را تجربه کرده‌اند. ۲۲٪ کاربران اینترنتی، سطح اول (سبک) و ۱۸٪ کاربران دیگر، سطح دوم آزار و اذیت (شدید) را تجربه کرده‌اند.

نجربه آزار و اذیت آنلاین

۲-   جوانان، در معرضِ بیشترین آسیب

جوانان بیشتر از هر گروه دیگری در معرض آسیب‌ در فضای مجازی هستند. بر اساس آمار منتشر شده حدود ۶۵٪ کاربران اینترنتیِ بین ۱۸ تا ۲۹ سال، در معرض محتوای آزار ‌دهنده قرار دارند. از این بین، کاربران اینترنتی بین ۱۸ تا ۲۴ سال، نه‌تنها این مسئله را تجربه کرده‌اند بلکه ۷۰٪ آن‌ها نیز قربانی حداقل یکی از انواع آزار و اذیت شدید، مانند تهدیدات فیزیکی (۲۴٪)، آزار جنسی (۱۹٪)، آزار مداوم (۱۷٪) و stalking (۱۰٪)  بوده‌اند.

درصد جوانان در معرض آسیب

۳-    تفاوت جنسیتی

افراد بر حسب جنسیت، تجارب متفاوتی از برخورد با محتوای آزار ‌دهنده دارند. بر اساس مطالعات انجام شده، ۴۴٪ کاربران اینترنتیِ مرد و ۳۷٪ کاربران اینترنتیِ زن، حداقل یکی از انواع آزار و اذیت را تجربه کرده‌اند. مردان معمولا در معرض آزار‌هایی همچون استفاده از اسامی توهین‌آمیز و تهدیدات فیزیکی، قرار دارند.

زنان، به خصوص زنان جوان، به طور معمول با آزار و اذیت‌های شدید مانند stalking و محتوای آزار‌ دهنده جنسی رو‌به‌رو هستند. طبق تحقیق انجام‌ شده بر روی زنان بین ۱۸ تا ۲۴ سال، ۲۶٪ زنان با stalking و ۲۵٪ دیگر با آزار جنسی آنلاین مواجه شده‌اند.

 

درصد زنان در معرض آسیب

 

۴-    هویت فرد خاطی

بیش از نیمی از افراد خاطی هیچ‌گاه شناخته نمی‌شوند. ۳۸٪ افرادی که تجربه آزار آنلاین داشته‌اند، از قبل شناختی از فرد خاطی نداشته و در فضای مجازی با وی آشنا شده‌اند، ۲۶٪ آنان، هیچ‌گاه متوجه هویت واقعی فرد خاطی نشده‌اند - در واقع فرد خاطی با هویت جعلی در این فضا فعالیت داشته است – و فقط ۳۶٪ این افراد متوجه شده‌اند که فرد خاطی از میان دوستان و آشنایان آن‌ها بوده است. امکان فعالیت با هویت جعلی در فضای آنلاین، راه را برای انجام هرگونه فعالیت غیر‌اخلاقی و آزار و اذیت همواره می‌سازد.

 

۵- رسانه‌های‌ اجتماعی، در صدر جدول

بالاترین آمار انتشار محتوای آزار ‌دهنده از طریق بستر رسانه‌های ‌اجتماعی است. ۶۶٪ افراد، از طریق محتوای منتشر شده در اپلیکیشن‌ها و رسانه‌های اجتماعی، مورد آزار و اذیت آنلاین قرار گرفته‌اند. حدود ۲۲٪ از این افراد از طریق کامنت‌های منتشر شده در سایت‌ها، ۱۶٪ از طریق بازی‌های آنلاین یا ایمیل شخصی، حدود ۱۰٪ از طریق گفتگو‌های آنلاین و مابقی افراد از طریق اپلیکیشن‌ها و سایت‌های دوست‌یابی آنلاین مورد آزار قرار گرفته‌اند.

 

تلاش برای بهبود ارتباطات در فضای آنلاین

همان‌طور که گفته شد، آزار و اذیت در فضای مجازی با شدت و در روش‌های مختلفی رخ می‌دهد؛ فرد خاطی از راه‌های آنلاین مانند ایمیل، شبکه‌های اجتماعی، اپلیکیشن‌ها و وب‌سایت‌های مختلف برای ارسال محتوای آزار‌ دهنده و توهین‌آمیز استفاده می‌کند. بیشتر مواقع این آزار و اذیت‌ها فقط به کلمات نفرت‌انگیز و توهین‌آمیز ختم می‌شوند، اما گاهی اوقات به تهدیدات فیزیکی و یا بدتر از آن منجر می‌گردد. اینگونه محتواها، تاثیرات مخربی را همچون ترد شدن از گروه همسالان، افسردگی، بی‌خوابی، کاهش عزت‌نفس و انگیزه، دردهای فیزیکی و حتی خودکشی، برای قربانیان خود به همراه دارند.

در کنار آموزش چگونگی استفاده از رسانه‌های اجتماعی، بررسی محتوا قبل از انتشار نیز می‌تواند اثرات مخرب را در جامعه کاهش دهد. با روش‌های مختلفی می‌توان مانع انتشار محتوای آزار ‌دهنده شد؛ روش‌هایی مانند: استخدام نیروی انسانی، استفاده از ربات‌ها یا سیستم‌های بررسی کلمات، به کارگیری دانش هوش مصنوعی و پردازش زبان طبیعی.

 

هوش مصنوعی جایگزین انسان

پر‌هزینه‌ترین و زمان‌بر‌ترین روش، استفاده از نیروی انسانی برای بررسی محتوا، قبل از انتشار است. استفاده از ربات‌ها یا سیستم‌های بررسی کلمات در شبکه‌های اجتماعی (مانند فیلترینگ کامنت در اینستاگرام ) و وب‌سایت‌ها (مانند افزونه وردپرس)، محدودیت‌هایی را به همراه دارند. این دسته از سیستم‌ها، عینا کلمات و کلید واژه‌های وارد شده را بررسی می‌کنند و مانند یک ربات بدون هوش و یادگیری، فقظ اجرا کننده دستورات هستند.

در مقابل این روش‌ها، استفاده از دانش یادگیری‌ماشین در هوش‌مصنوعی به همراه پردازش‌زبان‌طبیعی است که می‌تواند مشابه یک انسان، بررسی محتوا را پیش از انتشار انجام دهد. این روش هزینه، زمان و محدودیت‌های بسیار کمتری نسبت به روش‌های گفته شده دارد.

الگوریتم‌های یادگیری ماشین  با استفاده از حجم وسیعی از داده‌های ورودی می‌توانند در طول زمان نتایج بهتر و قابل اعتماد‌تری را ایجاد کنند و نیاز به نظارت انسانی را بسیار کاهش ‌دهند. در صورتی که داده‌های ورودی این الگوریتم‌ها متن، تصویر و عکس باشند به همراه الگوریتم‌های پردازش‌زبان‌طبیعی، می‌توانند ابزاری مفید برای تحلیل و پالایش اتوماتیک و  ۷/۲۴ محتوا در فضای مجازی باشند. با به کارگیری این دانش می‌توان فضای مجازی را به فضایی ایمن و سالم تبدیل کرد تا افراد بتوانند بدون ترس از تهدید یا سوءاستفاده به راحتی در این فضا فعالیت کنند.