تعامل در رسانه های اجتماعی
فیس بوک بی سروصدا در حال آزمایش میزان محتوای سیاسی است که در فیدهای خبری کاربران قرار می دهد. این حرکت تایید ضمنی است که نحوه کار الگوریتم های شرکت می تواند مشکل ساز باشد.
اصل موضوع تمایز بین برانگیختن پاسخ و ارائه مطالبی که افراد می خواهند را نشان می دهد. الگوریتم های رسانه های اجتماعی – قوانینی که رایانه در تصمیم گیری درباره محتوایی که مشاهده می کنید رعایت می کند – برای تصمیم گیری در این مورد به رفتار افراد وابسته است. به ویژه، آنها به دنبال محتواهایی هستند که افراد با دوست داشتن، نظر دادن و اشتراک گذاری به آنها پاسخ می دهند یا با آنها درگیر می شوند.
به عنوان یک دانشمند رایانه که شیوه های ارتباط بسیاری از مردم با فناوری را مطالعه می کند، من منطق استفاده از خرد جمعی در این الگوریتم ها را درک میکنم. من همچنین در مورد نحوه عملکرد شرکت های رسانه های اجتماعی، در عمل، اشکالات قابل توجهی می بینم.
از شیرهای ساوانا گرفته تا لایک در فیس بوک
مفهوم خرد جمعی فرض می کند که استفاده از سیگنال های اعمال، نظرات و ترجیحات دیگران به عنوان راهنما منجر به تصمیم گیری های درست می شود. برای مثال، پیش بینی های جمعی به طور معمول دقیق تر از پیش بینی های فردی هستند. از اطلاعات جمعی برای پیش بینی بازارهای مالی، ورزشی و حتی شیوع بیماری استفاده می شود.
در طول میلیون ها سال تکامل، این اصول در مغز انسان در قالب سوگیری های شناختی کدگذاری شده است که با نام هایی مانند آشنایی، صرفاً در معرض دید قرار گرفتن و اثر ناخوشایند همراه است. اگر همه شروع به دویدن کردند، شما نیز باید دویدن را شروع کنید. شاید کسی دید که یک شیر می آید و می دود می تواند زندگی شما را نجات دهد. شاید ندانید چرا، اما عاقلانه است که بعداً سوال کنید.
مغز شما سرنخ هایی از محیط – از جمله همسالان شما – دریافت می کند و از قوانین ساده ای استفاده می کند تا این سیگنال ها را به سرعت به تصمیم تبدیل کند: با برنده بروید، اکثریت را دنبال کنید، از همسایه خود را تقلید کنید.
این قوانین به طور قابل ملاحظه ای در شرایط معمولی کار می کنند، زیرا بر اساس مفروضات صحیح بنا شده اند. به عنوان مثال، آنها فرض می کنند که مردم اغلب منطقی عمل می کنند، بعید است که بسیاری اشتباه کنند، گذشته آینده را پیش بینی می کند و غیره.
فناوری به افراد اجازه می دهد تا به سیگنال های بیشتری از افراد دیگر، كه بیشتر آنها را نمی شناسند، دسترسی پیدا كنند. برنامه های کاربردی هوش مصنوعی از این سیگنال های محبوبیت یا “تعامل”، از انتخاب نتایج موتورهای جستجو گرفته تا توصیه موسیقی و فیلم ها، و از پیشنهاد دوستان تا رتبه بندی پست ها در فیدهای خبری، استفاده می کنند.
برای مطالعه بیشتر در مورد آسیب های تعامل در شبکه های اجتماعی کلیک کنید.
همه چیزهای ویروسی مستحق این نیست که باشد
تحقیقات ما نشان می دهد که تقریباً همه سیستم عامل های فناوری وب، مانند رسانه های اجتماعی و سیستم های توصیه خبری، دارای محبوبیت زیادی هستند. هنگامی که برنامه های کاربردی به جای جستارهای واضح در موتورهای جستجو از نشانه هایی مانند تعامل استفاده می کنند ، سوگیری از محبوبیت می تواند عواقب ناخواسته مضر را به دنبال داشته باشد.
رسانه های اجتماعی مانند فیس بوک ، اینستاگرام ، توییتر ، یوتیوب و TikTok برای رتبه بندی و توصیه محتوا به الگوریتم های هوش مصنوعی وابسته هستند. این الگوریتم ها آنچه را که دوست دارید، نظر می دهند و به اشتراک می گذارند. هدف از الگوریتم ها این است که تعامل را با پیدا کردن آنچه مردم دوست دارند به حداکثر برسانند و آن را در بالای فیدهای خود قرار دهند.
در ظاهر این منطقی به نظر می رسد. اگر مردم اخبار معتبر، نظرات متخصصان و فیلم های سرگرم کننده را دوست دارند، این الگوریتم ها باید محتوای با کیفیت بالا را شناسایی کنند. اما خرد جمعی در اینجا یک فرض کلیدی را مطرح می کند: توصیه به آنچه محبوب است به محتوای باکیفیت “بالا” کمک می کند.
ما با مطالعه الگوریتمی که موارد را با استفاده از ترکیبی از کیفیت و محبوبیت رتبه بندی می کند، این فرض را آزمایش کردیم. ما دریافتیم که به طور کلی، سوگیری محبوبیت به احتمال زیاد کیفیت کلی محتوا را پایین می آورد. دلیل این است که وقتی افراد کمی در معرض یک مورد قرار گرفتند، مشارکت شاخص قابل اعتماد کیفیت نیست.
در این موارد ، درگیری سیگنال سر و صدا تولید می کند و الگوریتم احتمالاً این نویز اولیه را تقویت می کند. هنگامی که محبوبیت یک محصول با کیفیت پایین به اندازه کافی بالا رفت، آن را همچنان تقویت خواهد کرد.
الگوریتم ها تنها چیزی نیستند که تحت تأثیر سوگیری مشارکت قرار می گیرند-می توانند روی افراد نیز تأثیر بگذارند. شواهد نشان می دهد که اطلاعات از طریق “سرایت پیچیده” منتقل می شود، بدین معنا که هرچه بیشتر افراد در معرض ایده ای آنلاین قرار بگیرند، احتمال پذیرش و اشتراک گذاری مجدد آنها بیشتر خواهد بود.
وقتی رسانه های اجتماعی به مردم می گویند یک مورد ویروسی شده است، سوگیری های شناختی شروع می شود و تمایل به آن و به اشتراک گذاری آن انجام می شود.
جمعیت نه چندان عاقل
ما اخیراً آزمایشی را با استفاده از برنامه سواد خبری به نام Fakey انجام دادیم. این یک بازی است که توسط آزمایشگاه ما توسعه یافته است و شبیه سازی یک خبر مانند فیس بوک و توییتر است. افراد مقالات فعلی را از اخبار جعلی، علوم ناخواسته، منابع فرا حزبی و توطئه گر و همچنین منابع اصلی مشاهده می کنند.
آنها برای به اشتراک گذاری یا پسندیدن اخبار از منابع معتبر و علامت گذاری مقالات با اعتبار کم برای بررسی واقعیت، امتیاز دریافت می کنند.
ما دریافتیم که افراد بیشتر دوست دارند و به اشتراک می گذارند و وقتی متوجه شوند که بسیاری از کاربران با این مقالات درگیر شده اند، کمتر احتمال دارد مقاله ها را از منابع با اعتبار پایین اشتراک گذاری کنند. بنابراین قرار گرفتن در معرض معیارهای تعامل، آسیب پذیری ایجاد می کند.
محبوبیت باعث افزایش محتوای بی کیفیت می شود
خرد جمعیت از بین می رود زیرا بر این فرض نادرست استوار است که جمعیت از منابع مختلف و مستقل تشکیل شده است. ممکن است دلایل متعددی وجود داشته باشد که نشان دهد این مورد وجود ندارد.
اول، به دلیل تمایل مردم به معاشرت با افراد مشابه، مکان های آنلاین آنها بسیار متنوع نیست. سهولت استفاده از شبکه های اجتماعی با افرادی که با آنها مخالف هستند، افراد را به سمت اجتماعات همگون سوق می دهد، که اغلب به آنها اتاق های اکو می گویند.
دوم، از آنجا که بسیاری از مردم دوست یکدیگر هستند، بر یکدیگر تأثیر می گذارند. یک آزمایش معروف نشان داد که دانستن اینکه دوستانتان از چه موسیقی ای لذت می برند ترجیح دارد. میل اجتماعی شما برای سازگاری شما را قضاوت می کند.
سوم ، سیگنال های محبوبیت را می توان اجرا کرد. در طول این سالها، موتورهای جستجو تکنیک های پیچیده ای برای مقابله با اصطلاح ” پیوند مزارع ” و طرح های دیگر برای دستکاری الگوریتم های جستجو ایجاد کرده اند. از سوی دیگر، سیستم عامل های رسانه های اجتماعی تازه شروع به یادگیری آسیب پذیری های خود کرده اند.
افرادی که قصد دستکاری در بازار اطلاعات را دارند، حساب های جعلی مانند ترول ها و ربات های اجتماعی ایجاد کرده اند و شبکه های جعلی را سازماندهی کرده اند. آنها در شبکه، نظریه توطئه یا نامزد سیاسی را به وجود آورده‌اند و الگوریتم های پلتفرم و سوگیری های شناختی افراد را فریب داده است.آنها حتی ساختار شبکه های اجتماعی را تغییر داده اند تا در مورد نظرات اکثریت، افراد توهم ایجاد کنند.
شماره گیری تعامل
چه باید کرد؟ سیستم عامل های فناوری در حال حاضر در حالت دفاعی هستند. آنها در جریان انتخابات در حذف حساب های جعلی و اطلاعات غلط مضر، تهاجمی تر می شوند. اما این تلاش ها می تواند شبیه به یک بازی whack-a-mole باشد.
یک روش پیشگیرانه متفاوت، افزودن اصطکاک است. به عبارت دیگر، کاهش سرعت انتشار اطلاعات.
رفتارهای با فرکانس بالا مانند دوست داشتن و به اشتراک گذاری خودکار می تواند با آزمایش یا هزینه CAPTCHA مهار شود. این امر نه تنها فرصت دستکاری را کاهش می دهد، بلکه با اطلاعات کمتری افراد می توانند به آنچه می بینند توجه بیشتری کنند. این امر فضای کمتری برای تعصب تعامل ایجاد می کند تا بر تصمیمات افراد تأثیر بگذارد.
همچنین اگر شرکت های رسانه های اجتماعی الگوریتم های خود را طوری تنظیم کنند که کمتر به مشارکت برای تعیین محتوای ارائه شده به شما اعتماد کنند، مفید خواهد بود.
