نویسندگان: دانیل کانمن، کس سانستین، اولیویر سیبونی
انتشارات: هارپر کالینز، ۲۰۲۱
فرض کنید که مرتکب جرمی شده‌‌‌‌‌‌‌اید. اگر با اقتصادِ رفتاری آشنا باشید، آرزو می‌کنید که دادگاهتان یا در اوایل وقت اداری تشکیل شود یا درست بعد از استراحتی زمان‌بندی‌شده مثل وقت صرف ناهار. در سال ۲۰۱۱ تحقیقی درباره‌ی ۱۰۰۰ حکم صادرشده توسط هشت قاضی نشان داد که بیشترین نرمش و اغماض در احکامی دیده می‌شود که در این ساعت‌ها صادرشده است. بر اساس این پژوهش، بدشانس‌ترین متهمان کسانی بودند که دادگاهشان در پایان وقت اداری یا درست قبل از ناهار برگزارشده بود، زمانی که شانس صدور حکمی به نفع آن‌ها تقریباً صفر بوده است. قاعدتاً خستگی یا گرسنگی قاضی نباید تأثیری بر رأی او داشته باشد اما شواهد نشان می‌دهد که چنین نیست.
اما درباره‌ی قاضی‌ای که برای رسیدگی به پرونده‌ی شما منصوب‌شده چه می‌توان گفت؟ در این مورد هم قاعدتاً نباید فرقی داشته باشد که چه کسی به پرونده‌ی شما رسیدگی می‌کند؛ اما شواهد نشان می‌دهد که بسیار مهم است که کدام قاضی به پرونده رسیدگی می‌کند. تحقیقی که در سال ۱۹۷۴ درباره‌ی احکام صادرشده توسط ۵۰ قاضی در پرونده‌‌‌های (فرضی) یکسان انجام شد حاکی از «عدم اجماع» بود. تفاوت احکام، جزئی نبود: احکام صادرشده توسط قضات گوناگون به‌شدت با یکدیگر تفاوت داشت. قضات مختلف یک فروشنده‌ی هروئین را به جرم مشابهی به یک تا ده سال زندان، یک سارق بانک را به جرم مشابهی به پنج تا هجده سال زندان و یک باج‌گیر را به جرم مشابهی به سه سال حبس بدون پرداخت جریمه تا بیست سال حبس و پرداخت ۶۵ هزار دلار جریمه محکوم کردند! تحقیقات مشابهی نیز در سال‌‌‌های ۱۹۷۷ و ۱۹۸۱ انجام‌شده که نتایج تأمل‌برانگیزی داشته ــ و به‌احتمال‌زیاد هنوز ابعاد گوناگون این مشکل آشکارنشده است زیرابه نظر نویسندگان نامدار کتاب «عدم انسجام»، «قضات واقعی در مقایسه با شرکت‌کنندگان در این آزمایش‌های به‌دقت طراحی‌شده در معرض همهمه‌ی اطلاعاتی بسیار شدیدتری قرار دارند.»
این تنوع گسترده‌ی قضاوت در زمینه‌‌‌های مختلف، از احکام صادره در دادگاه‌‌‌ها تا برآوردهای شرکت‌‌‌های بیمه و تشخیص‌‌‌های مراکز پزشکی، همان چیزی است که نویسندگان به‌درستی آن را «عدم انسجام» خوانده‌اند، پدیده‌‌ای که همچون مفهوم شناخته‌شده‌تر مرتبط با آن ــ سوگیری ــ نوعی خطا در قضاوت است. نویسندگان کتاب با استفاده از استعاره‌ی میدان تیراندازی تفاوت میان این دو مفهوم را توضیح داده‌اند. سوگیری مثل این است که تمام گلولهها به‌طور نظام‌مند در یک‌جهت به بیرون از هدف برخورد کنند؛ برعکس، عدم انسجام مثل این است که گلولهها به همه‌جا اصابت کنند. حتی ممکن است که بعضی از گلولهها به هدف بخورند زیرا اینجا مسئله نه عدم اصابت به هدف بلکه عدم انسجام است. به همین علت، برای دو مجرم در دو پرونده‌ی مشابه، دو حکم متفاوت صادر می‌شود: یکی به حبس ابد محکوم و دیگری تبرئه می‌شود.
این امر تمایز مهم میان سوگیری و همهمه‌ی اطلاعات را به ما گوشزد می‌کند. برای تشخیص سوگیری باید بدانید که پاسخ صحیح چیست، یا بر اساس استعاره‌ی پیش‌گفته، باید در مقابل هدف بایستید تا بتوانید نقطه‌ی وسط آن را ببینید؛ اما برای تشخیص عدم انسجام به چنین ویژگی‌‌‌هایی نیاز نیست. در این مورد، بدون توجه به اینکه در کدام طرف هدف ایستاده‌‌‌‌‌‌‌اید، می‌توانید عدم انسجام را تشخیص دهید زیرا فقط کافی است که بدانید آیا گلولهها به نقاط مختلفی اصابت کرده‌اند یا نه.
به نظر نویسندگان، تشخیص عدم انسجام امری ضروری است زیرا نه‌تنها نامنصفانه است بلکه می‌تواند هزینه‌‌‌های سنگینی در پی داشته باشد. برای مثال، تحقیقی نشان داد که میانگین تفاوت مبلغی که بیمه‌گران متفاوت (برای یک مورد مشخص) تعیین کرده‌اند ۵۵ درصد بوده است؛ یعنی اگر بیمه‌گری برای یک مورد خاص، مبلغ ۹۵۰۰ دلار تعیین کرده است، بیمه‌کننده‌ی دیگری برای همان مورد، ۱۶۷۰۰ دلار در نظر گرفته است. چنین امری نه‌تنها برای مشتری مهم است ــ زیرا قاعدتاً سهم بیمه‌‌‌‌‌‌‌‌اش نباید وابسته به این باشد که چه کسی به تقاضایش رسیدگی می‌کند ــ بلکه برای شخص یا شرکت بیمه‌کننده هم هزینه زا است: قرارداد بیش‌ازحد گران مشتری را فراری می‌دهد و قرارداد بیش‌ازحد ارزان از سود بیمه‌کننده می‌کاهد. بنا به تخمین یکی از مدیران ارشد شرکت بیمه‌ای که این تحقیق در آن انجام شد، هزینهی سالانه‌ی عدم انسجام در قراردادهای بیمه بالغ‌بر صدها میلیون دلار است.
اما درحالی‌که کاهش عدم انسجام، هم برای بنگاه‌‌‌های بازرگانی و هم برای کسبه‌ی عادی کف خیابان سودمند است، اغلب نادیده گرفته می‌شود. این امر دلایل گوناگونی دارد. ازجمله، همان‌طور که نویسندگان کتاب اشاره‌کرده‌اند، طرز فکر علت‌ومعلولی مردم بسیار بهتر از طرز فکر آماری آن‌ها است. به‌عبارت‌دیگر، پی بردن به سوگیری بسیار آسان‌تر از عدم انسجام است زیرا عدم انسجام فقط وقتی مشهود است که با یک مجموعه یا چند مورد مواجه باشیم اما برای تشخیص یک حکم یا تصمیم غیرمنتظره (سوگیری) می‌توانیم داستانی تعریف کنیم (قاضی او را تبرئه کرد چون شبیه به دخترش بود). تشخیص عدم انسجام محتاج تلاش و کوشش، یا به قول نویسندگان، نیازمند «بررسی عدم انسجام» است که در ضمیمه‌ی کتاب دستورالعمل‌هایی برای آن ارائه‌شده است. آن‌ها برای کاهش عدم انسجام به راهبردهای گوناگونی اشاره می‌کنند، از جایگزینی قضاوت مطلق با قضاوت تطبیقی (برای مثال، ارزیابی مقالات به‌صورت بهترین مقاله تا بدترین مقاله به‌جای نمره دادن جداگانه به تک‌تک آن‌ها) تا جایگزینی انسان‌ها/قضات با الگوریتم‌های تصمیم‌گیریِ عاری از عدم انسجام.
اما هرکسی که به بررسی عدم انسجام می‌پردازد به راهبردهای کاهش عدم انسجام متعهد نخواهد شد. برای مثال، در پی مطالعات گوناگون در دهه‌‌‌های ۱۹۷۰ و ۱۹۸۰ که توجه ما را به عدم انسجام غیرقابل‌قبول در احکام قضائی جلب کرد، کنگره‌ی آمریکا در سال ۱۹۸۴ «قانون اصلاح صدور احکام» را تصویب کرد که شامل دستورالعمل‌های لازم‌الاجرایی در مورد صدور احکام بود این تغییرات عدم انسجام را کاهش داد اما نارضایی شدید قضات را برانگیخت زیرا گمان می‌کردند که این قانون آزادی عمل و قدرت تصمیم‌گیری آن‌ها را از بین می‌برد درنتیجه در سال ۲۰۰۵، این دستورالعمل‌ها از حالت الزامی خارج شد و جنبه‌ی توصیه‌ای پیدا کرد. عدم انسجام افزایش یافت اما قضات خوشحال‌تر بودند. اینکه آیا این امر به نفع عدالت بود یا نه مسئله‌ی دیگری است.
یکی دیگر از سازمان‌هایی که از کاهش عدم انسجام به علت هزینهی بسیار زیاد آن منصرف شد مدرسه‌‌ای بود که مدیرانش نظام خود برای پذیرش دانش‌آموز را کنار گذاشتند زیرا فکر می‌کردند که به درگیری می‌انجامد. یکی از توصیگی‌های مکرر نویسندگان کتاب برای کاهش عدم انسجام این است که در صورت امکان باید در قضاوت از «خِرَد جمعی» استفاده کرد. این اصطلاح به این معنا است که اگر یک سؤال را از افراد متعدد بپرسید، بی‌تردید در مقایسه با وقتی‌که فقط از یک نفر بپرسید به پاسخ بهتری دست خواهید یافت؛ اما در اینجا یادآوری یک نکته ضروری است و آن اینکه برای اجتناب از «همنوایی گروهی»، نظرات باید مستقل از یکدیگر باشد. این همان روشی است که مدرسه‌ی مذکور برای رسیدگی به تقاضاهای ثبت‌نام به کار می‌برد؛ یعنی به‌جای اینکه دو نفر از کارکنان باهم درباره‌ی یک برگه‌ی تقاضا تصمیم بگیرند، هرکدام جداگانه آن را می‌خواندند و ارزیابی می‌کردند، کاری که عدم انسجام درروند پذیرش را کاهش می‌داد اما به بحث‌وجدل می‌انجامید. به همین علت، مسئولان مدرسه ترجیح دادند که از کاهش عدم انسجام منصرف شوند.
و اما الگوریتمها؛ نویسندگان کتاب تأسف می‌خورند که چرا ما تمایل نداریم به همان نحوی که خطاهای انسانی را تحمل می‌کنیم با خطاهای رایانه‌‌ای هم مدارا کنیم. هرچند این رفتار ما کاملاً نامعقول است اما از طرف دیگر، خطاهای الگوریتمها می‌تواند بسیار بزرگ باشد. برای مثال، کسانی که در آمریکا قراردادهای موقت دارند به علت اشتباه الگوریتم‌های بی‌رحم در تشخیص تقلب و کلاه‌برداری از امرارمعاش محروم شده‌اند؛ الگوریتمی که شرکت آمازون ابداع کرده بود، به‌طور نظام‌مند تقاضانامه‌‌‌های شغلی زنان را کم‌اهمیت می‌شمرد. علاوه بر این، الگوریتمها به نحو نامعقولی مبهم‌اند زیرا قوانین مالکیت نرم‌افزار اجازه نمی‌دهد که از طرز کار داخلی آن‌ها سر دربیاوریم. یکی از مسئولان خدمات مشتریان شرکت اپل، به مردی که سقف اعتبار همسرش به‌رغم اعتبار بیشتر، فقط بیست درصد او بود، گفت: «ما تبعیضی قائل نمی‌شویم، این الگوریتمها هستند که تصمیم می‌گیرند». وقتی پای سالخوردگان یا کسانی در میان باشد که به اینترنت دسترسی مناسب ندارند، مشکل هزار برابر می‌شود.
برای رعایت انصاف باید گفت که نویسندگان، هرچند به وجود سوگیری الگوریتمی اعتراف می‌کنند اما ابعاد و اهمیت آن را دست‌کم می‌گیرند. نکته‌ی بسیار مهمی که از آن غافل‌اند این است که الگوریتمها صرفاً سوگیری‌های انسانی را تکرار نمی‌کنند بلکه به‌طور چشمگیری آن‌ها را تقویت می‌کنند. الگوریتمی که متکی بر مجموعه داده‌هایی بود که در آن‌ها زنان ۳۳ درصد بیشتر از مردان در تصاویر آشپزی به چشم می‌خوردند، درنهایت در ۶۸ درصد از موارد، تصاویر آشپزخانه و زنان را با یکدیگر مرتبط می‌شمرد. تا زمانی که این نقایص رفع نشود، باید مراقب متخصصان علوم اجتماعی متکی به الگوریتم باشیم.
سرسری گرفتن پیامدهای اجتماعی مهم هوش مصنوعی عیب و نقص جدی کتابی است که هرچند به مسئله‌ی مهمی می‌پردازد اما نپخته و نسنجیده به نظر می‌رسد. اگر کتابی محتاج ویرایش باشد، همین کتاب است. حجم کتاب می‌توانست نصف این باشد و در این صورت کتاب بسیار بهتری از کار درمی‌آمد اما اکنون با کتابی آکنده از توصیفات بی‌محتوا و گفتگوهای تخیلی (و بد) مواجه‌ایم که صرفاً تعداد صفحات را افزایش داده و مطالعه‌ی آن را به کار شاقی بدل کرده است. حاصل کار با توجه به آثار قبلی نویسندگان این کتاب، مأیوس‌کننده است؛ به نظر می‌رسد که این کتاب بیش از آن‌که ثمره‌ی ایده‌ای سنجیده باشد حاصل اشتیاق ناشر به انتشار یک کتاب پرفروش دیگر است. در اواخر کتاب این جملات را می‌خوانیم: «عدم انسجام عبارت است از تنوع ناخواسته‌ی قضاوت‌ها؛ پدیده‌‌ای که بیش‌ازحد به چشم می‌خورد.» به نظرم این توصیف در مورد خود کتاب هم صادق است.
برگردان: افشین احسانی
کارولین کریادو پرز روزنامه‌نگار آزاد، فعال فمینیست و بنیان‌گذار وبلاگ «ویک وومن» است. آنچه خواندید برگردان این نوشته با عنوان اصلیِ زیر است:
Caroline Criado Perez, ‘Noise by Daniel Kahneman, Olivier Sibony and Cass Sunstein review- the price of poor judgement’, The Guardian, 3 June 2021.