آسیب‌های تعامل در رسانه‌های اجتماعی
فیس بوک بی سر و صدا آزمایش می کند با کاهش مقدار محتوای سیاسی که در فیدهای خبری کاربران قرار می دهد. این حرکت یک اذعان ضمنی است که نحوه کار الگوریتم های شرکت می تواند مشکل ساز باشد .
اصل موضوع تمایز بین برانگیختن پاسخ و ارائه محتوای مورد نیاز افراد است. الگوریتم های رسانه های اجتماعی – قوانینی که رایانه های آنها در تصمیم گیری درباره محتوایی که مشاهده می کنید رعایت می کنند – برای تصمیم گیری در این مورد به رفتار افراد وابسته است.
به طور خاص ، آنها مراقب محتوایی هستند که افراد با دوست داشتن ، نظر دادن و اشتراک گذاری به آنها پاسخ می دهند یا با آنها درگیر می شوند.
به عنوان یک دانشمند رایانه که شیوه های ارتباط بسیاری از مردم با استفاده از فناوری را مطالعه می کند ، من منطق استفاده از حکمت جمعیت در این الگوریتم ها به من همچنین در نحوه انجام این کار از سوی شرکت های رسانه های اجتماعی ، اشکالات قابل توجهی می بینم.
از شیرهای ساوانا تا لایک در فیس بوک
مفهوم خرد جمعی فرض می کند که استفاده از سیگنال های اعمال ، نظرات و ترجیحات دیگران به عنوان راهنما منجر به تصمیم گیری های درست می شود.
برای مثال ، پیش بینی های جمعی به طور معمول دقیق تر از پیش بینی های فردی هستند. از هوش جمعی برای پیش بینی بازارهای مالی ، ورزشی ، استفاده می شود و حتی شیوع بیماری استفاده می‌شود.
اگر همه شروع به دویدن کردند ، شما نیز باید دویدن را شروع کنید. شاید کسی دید که یک شیر می آید و می دود می تواند زندگی شما را نجات دهد. شاید ندانید چرا ، اما عاقلانه است که بعداً سوال کنید.
مغز شما سرنخ هایی از محیط از جمله همسالان شما – دریافت می کند و از قوانین ساده ای استفاده می کند تا این سیگنال ها را به سرعت به تصمیم تبدیل کند: با برنده بروید ، اکثریت را دنبال کنید ، از همسایه خود تقلید کنید.
این قوانین به طور قابل ملاحظه ای در شرایط معمولی کار می کنند ، زیرا بر اساس مفروضات درست است. به عنوان مثال ، آنها فرض می کنند که مردم اغلب منطقی عمل می کنند ، بعید است که بسیاری اشتباه کنند ، گذشته آینده را پیش بینی می کند و غیره.
فناوری به افراد اجازه می دهد تا به سیگنال های تعداد بسیار بیشتری از افراد دیگر ، که بیشتر آنها را نمی شناسند ، دسترسی پیدا کنند.
برنامه های کاربردی هوش مصنوعی از این سیگنال های محبوبیت یا “تعامل” استفاده می کنند ، از انتخاب نتایج موتورهای جستجو گرفته تا توصیه موسیقی و فیلم ها ، و از پیشنهاد دوستان تا رتبه بندی پست ها در خبرهای خبری.
همه چیز ویروسی سزاوار نیست
تحقیقات ما نشان می دهد که تقریباً همه بسترهای فناوری وب ، مانند رسانه های اجتماعی و سیستمهای توصیه خبری ، دارای سوگیری محبوبیت هنگامی که برنامه های کاربردی به جای جستارهای صریح موتورهای جستجو از نشانه هایی مانند تعامل استفاده می کنند ، سوگیری از محبوبیت می تواند منجر به پیامدهای ناخواسته مضر شود.
رسانه های اجتماعی مانند فیس بوک ، اینستاگرام ، توییتر ، یوتیوب و TikTok برای رتبه بندی و توصیه محتوا به الگوریتم های هوش مصنوعی وابسته هستند.
در ظاهر این منطقی به نظر می رسد، اگر مردم اخبار معتبر نظرات متخصصان و فیلم های سرگرم کننده را دوست دارند. این الگوریتم ها باید محتوای با کیفیت بالا را شناسایی کنند. اما خرد جمعیت در اینجا یک فرض کلیدی را مطرح می کند: توصیه به آنچه محبوب است به محتوای باکیفیت “حباب” کمک می کند.
ما این فرض را آزمایش کردیم با مطالعه الگوریتمی که موارد را با استفاده از ترکیبی از کیفیت و محبوبیت رتبه بندی می کند. ما دریافتیم که به طور کلی ، سوگیری محبوبیت به احتمال زیاد کیفیت کلی محتوا را پایین می آورد.
دلیل این است که وقتی افراد کمی در معرض یک مورد قرار گرفته اند ، مشارکت شاخص قابل اعتماد کیفیت نیست. در این موارد ، درگیری سیگنال پر سر و صدا تولید می کند و الگوریتم احتمالاً این نویز اولیه را تقویت می کند. هنگامی که محبوبیت یک محصول با کیفیت پایین به اندازه کافی بزرگ شد ، همچنان تقویت می شود.
الگوریتم ها تنها چیزی نیستند که تحت تأثیر سوگیری مشارکت قرار می گیرند – می توانند افراد را نیز تحت تأثیر قرار دهند.
جمعیت نه چندان عاقل
ما اخیراً آزمایشی را با استفاده از برنامه سواد خبری به نام Fakey انجام دادیم. این یک بازی است که توسط آزمایشگاه ما توسعه داده شده و شبیه سازی یک خبر مانند فیس بوک و توییتر است.
ما متوجه شدیم که بازیکنان بیشتر دوست دارند یا به اشتراک می گذارند و کمتر از موارد دیگر دارای اعتبار کم استفاده می کنند منابع زمانی که بازیکنان می توانند ببینند که بسیاری از کاربران دیگر با آن مقالات درگیر شده اند. بنابراین قرار گرفتن در معرض معیارهای تعامل ، آسیب پذیری ایجاد می کند.
خرد جمعیت شکست می خورد زیرا بر فرض نادرست است که جمعیت از منابع متنوع و مستقل تشکیل شده است. ممکن است دلایل مختلفی وجود داشته باشد که چنین نیست.
- اول ، به دلیل تمایل مردم به معاشرت با افراد مشابه ، محله های آنلاین آنها بسیار متنوع نیست. سهولت استفاده از شبکه های اجتماعی با افرادی که با آنها مخالف هستند ، مردم را به سوی جوامع همگن سوق می دهد ، که اغلب به عنوان echo شناخته می شود. اتاق .
- دوم ، از آنجا که دوستان بسیاری از مردم دوست یکدیگر هستند ، بر یکدیگر تأثیر می گذارند. یک آزمایش مشهور نشان داد که دانستن اینکه موسیقی دوستان شما بر ترجیحات اعلام شده شما تأثیر می گذارد. میل اجتماعی شما برای سازگاری قضاوت مستقل شما را مخدوش می کند.
- سوم ، سیگنال های محبوبیت را می توان بازی کرد. در طول سالها ، موتورهای جستجو تکنیک های پیچیده ای را برای مقابله با اصطلاحاً ” پیوند مزارع ” و سایر طرح ها ایجاد کرده اند. برای دستکاری الگوریتم های جستجو از سوی دیگر ، سیستم عامل های رسانه های اجتماعی تازه در حال یادگیری درباره آسیب پذیری های خود هستند.
افرادی که قصد دستکاری در بازار اطلاعات را دارند ، جعلی ایجاد کرده اند حسابهای ، مانند ترولها و رباتهای اجتماعی ، و سازماندهی شده شبکه های جعلی را ساماندهی کرده‌اند .
آنها شبکه را فرا گرفته تا ظاهر نظریه توطئه یا نامزد سیاسی محبوب است ، هم الگوریتم های پلتفرم و هم سوگیری های شناختی مردم را فریب می دهد. آنها حتی ساختار شبکه های اجتماعی را تغییر داده اند برای ایجاد توهم در مورد نظرات اکثریت .
برای مطالعه اعتیاد به شبکه های مجازی کلیک کنید.
شماره گیری تعامل
چه باید کرد؟ سیستم عامل های فناوری در حال حاضر در حالت دفاعی هستند. آنها در طول انتخابات در تهاجمی می شوند. آنها در طول انتخابات با حذف حساب های جعلی و اطلاعات غلط مضر ، تهاجمی تر می شوند. اما این تلاش ها می تواند شبیه به یک بازی whack-a-mole باشد.
یک روش پیشگیرانه متفاوت ، افزودن اصطکاک خواهد بود. به عبارت دیگر ، کاهش سرعت انتشار اطلاعات. رفتارهای با فرکانس بالا مانند دوست داشتن خودکار و اشتراک گذاری را می توان با آزمایش یا هزینه CAPTCHA مهار کرد.
همچنین اگر شرکت های رسانه های اجتماعی الگوریتم های خود را طوری تنظیم کنند که کمتر به مشارکت برای تعیین محتوایی که به شما ارائه می دهند اعتماد کنند ، مفید خواهد بود.
