استفاده از هوش مصنوعی در تعدیل محتوا
آرشیو
چکیده
در این پژوهش استفاده از هوش مصنوعی در تعدیل محتوا برای مقابله با افراط گرایی های خشونت آمیز موجود در فضای مجازی، با دیدی انتقادی مورد بررسی قرار گرفت و در راستای تحقق این هدف از روش گردآوری داده ها به صورت کتابخانه ای بهره گرفته شد و ابزار گردآوری اطلاعات در این روش ترجمه، تلخیص، نقل قول مستقیم و غیر مستقیم است. در این راستا، تمرکر این پژوهش بر روی اندازه گیری دقت هوش مصنوعی در تعدیل محتوا، موارد وقوع مثبت و منفی کاذب و نقض آزادی بیان و دموکراسی استوار است و به این شکل استدلال شده است که استفاده از تکنولوژی حذف خودکار محتوا اثربخشی محدودی دارد و استفاده از هوش مصنوعی در تعدیل محتوا می تواند منجر به نقض اصولی چون: آزادی بیان و دموکراسی گردد. در این پژوهش تأکید شده است که استفاده از روش پلتفرم زدایی که در آن شناسایی محتوای خشونت آمیز و افراطی، توسط هوش مصنوعی انجام می گیرد ولی تصمیم نهایی حذف از پلتفرم معمولاً توسط مدیران یا مالکان پلتفرم اتخاذ می شود، نسبت به حذف محتوا که در آن شناسایی محتوای خشونت آمیز و افراطی، توسط هوش مصنوعی و به صورت خودکار و بدون تصمیم نهایی مدیران یا مالکان پلتفرم است، جهت مقابله با افراط گرایی خشونت آمیز آنلاین اثربخشی بیشتری دارد.The application of artificial intelligence in content moderation
This study critically examines the use of artificial intelligence (AI) in content moderation to counter violent extremism in digital spaces. Employing a library research method, data was collected through translation, summarization, and direct/indirect citation. The research focuses on evaluating AI's accuracy in content moderation, instances of false positives/negatives, and potential violations of freedom of expression and democratic principles. It argues that automated content removal technologies have limited efficacy and that AI-driven moderation risks undermining fundamental rights such as free speech and democracy. The study emphasizes that a deplatforming approach- where AI identifies violent/extremist content, but the final removal decision rests with human platform administrators- proves more effective against online violent extremism compared to fully automated removal systems lacking human oversight.
تبلیغات
