چرا الگوریتم ها اشتباه می کنند؟
دو سال پیش، شرکت املاک و مستغلات Zillow برنامه ای را برای خرید و فروش خانه آغاز کرد. ایده برنامه، Zillow Offers، استفاده از حجم زیادی از داده‌های تاریخی املاک و مستغلات شرکت برای ساخت مدل‌های پیش‌بینی بسیار پیچیده با قابلیت تخمین سریع ارزش بازار خانه‌ها بود.
پس از پر کردن یک فرم کوتاه، فروشندگان پیشنهادی را ظرف دو روز کاری دریافت کردند.
طی برنامه ای که در هفته گذشته پخش شد. Zillow اعلام کرده است که این برنامه ضررهای زیادی مثل پرداخت هزینه های قابل توجهی برای خرید خانه را تجربه کرده است.
زیان‌های بزرگی مثل پرداخت هزینه های قابل توجهی برای خرید خانه که الگوریتم آنها برای خانه‌ها بیش از حد پرداخت کرده است. در نتیجه، شرکت برنامه را متوقف می کند و یک چهارم نیروی کار خود (2000 نفر از 8000 کارمند) را اخراج می کند.
داستان Zillow Offers یادآوری می‌کند که الگوریتم‌ها به اندازه انسان‌هایی که آنها را ایجاد می‌کنند خطاپذیر هستند. از آنجایی که الگوریتم‌ها نقش مهمی را در کسب و کار و زندگی روزمره بازی می‌کنند، درک اینکه چه زمانی احتمال شکست آنها وجود دارد، اهمیت بیشتری پیدا می‌کند.
سه دلیل کلیدی وجود دارد که چرا الگوریتم های پیش بینی کننده می توانند اشتباهات بزرگی مرتکب شوند.
1. داده های اشتباه
یک الگوریتم تنها در صورتی می‌تواند پیش‌بینی دقیقی انجام دهد که آن را با استفاده از نوع مناسب داده آموزش دهید.
به عنوان مثال، ویژگی هایی که یک خانه را در سانفرانسیسکو ارزشمند می کند (مدارس دولتی خوب) ممکن است در سایر نقاط کشور چندان مهم نباشد (در دالاس مردم بیشتر به داشتن حیاط خلوت بزرگ اهمیت می دهند).
این بدان معناست که اگر مدلی را فقط با استفاده از داده‌های خانه‌های سانفرانسیسکو بسازید، پیش‌بینی ارزش خانه‌ها در دالاس (و بالعکس) کار بدی خواهد بود.
مساله آموزش به ویژه زمانی مهم است که مدل ها در تلاش برای پیش بینی نتایج مربوط به افراد هستند. در یک مثال معروف، آمازون، الگوریتمی برای شناسایی استعدادهای برتر در رزومه متقاضیان کار مدل آمازون مبتنی بر یافتن متقاضیانی بود که با کارمندان برتری که در حال حاضر در این شرکت کار می کنند مطابقت داشتند.
از آنجایی که آمازون قبلاً مردان موفق بسیاری را در موقعیت‌های برتر داشت، این الگوریتم به شدت رزومه‌های مردانه را ترجیح می‌داد و رزومه‌های زنان را جریمه می‌کرد.
برای موفقیت یک الگوریتم، سازندگان باید داده های آموزشی مناسبی را برای آن فراهم کنند.
2. نتیجه اشتباه
الگوریتم ها اغلب برای پیش بینی یک نتیجه خاص طراحی می شوند. در بازاریابی، این ممکن است به این معنی باشد که پیش بینی کنید کدام یک از تبلیغات بیشترین بازخورد را از کاربران دریافت می کند.
در منابع انسانی، الگوریتم‌ها ممکن است سعی کنند پیش‌بینی کنند که کدام یک از کارکنان در مشاغل خود مولد و کارآمد خواهند بود.
مشکل این است که تمرکز انحصاری بر یک نتیجه می تواند منجر به عواقب فاجعه آمیزی شود. الگوریتمی که فقط برای شناسایی سریع‌ترین و کارآمدترین برنامه‌های شغلی طراحی شده است، می‌تواند سازمانی پر از کارمندان غیر اجتماعی و سخت‌کار ایجاد کند.
اما بیشتر سازمان‌ها کارکنانی را می‌خواهند که هم کارآمد باشند و هم کار با آنها آسان باشد.
ساخت مدلی برای تمرکز انحصاری بر روی یک چیز (به حداکثر رساندن فروش محصول یا کارمند بهره وری) ممکن است منجر به نادیده گرفتن سایر ملاحظات مهم شود.
برای مطالعه در رابطه با کاهش استرس شغلی در محیط کار کلیک کنید.
3. برخی چیزها را نمی توان پیش بینی کرد
آخرین مشکل الگوریتم‌ها این است که پیش‌بینی برخی از نتایج سخت‌تر از سایرین است. به طور خاص، مطالعاتی که بر روی روابط انسانی متمرکز شده‌اند نشان داده‌اند که الگوریتم‌ها برای پیش‌بینی جذابیت عاشقانه و نتایج روابط طولانی‌مدت تلاش می‌کنند.
یک الگوریتم می تواند یاد بگیرد که چگونه آب و هوا را به طور قابل اعتماد پیش بینی کند و در شطرنج و خطر تسلط پیدا کند! اما برخی از وظایف، به ویژه وظایف اجتماعی، وجود دارند که گریزان باقی می مانند.
تاکنون، الگوریتم‌ها نمی‌توانند پیش‌بینی کنند که کدام برنامه تلویزیونی موفق خواهد شد یا عاشق چه کسی خواهید شد.
آیا باید به الگوریتم ها اعتماد کنید؟
علیرغم نقص‌های بالقوه در تصمیم‌گیری الگوریتمی، تحقیقات نشان می‌دهد که هنوز معمولاً بهتر از قضاوت انسان است. اگرچه الگوریتم ها کامل نیستند، مهم است که به یاد داشته باشید که روش قدیمی تصمیم گیری (شهود انسانی) نیز می تواند کاملاً ناقص باشد.
نکته کلیدی ممکن است جلوگیری از تداخل سوگیری انسان در تصمیم گیری الگوریتمی باشد.
