خبرگزاری مهر؛ گروه مجله-محدث تکفلاح: در مسابقات جام جهانی قطر ۲۰۲۲ در مرحله یک چهارم نهایی چند بازی انجام می شود؟ بازیهای جام جهانی در کل در چند روز انجام میشود؟ هر تیم چند بازی انجام داده است؟ در زمین بازی چند نفر حضور دارند؟ برای زدن گل چند نفر شاد میشوند؟ و...
اینها همه سوالهایی است که فقط با یک عدد میتوان به آنها پاسخ داد. این فقط در مورد جامجهانی بود. هر کدام از ما در یک روز از صبح که بیدار میشویم تا شب که برای خوابیدن به رختخواب بازمیگردیم، با دریایی از این اعداد سر و کار داریم. اعدادی که در دنیای کنونی تاثیرات مهمی دارند.
اگر دوران همه گیری ویروس کرونا را در یاد داشته باشید، در روزهای ابتدایی همه در هالهای از ندانستن بودیم. «چه شده است؟»، «چه میشود؟» مهمترین جملات مغز ما راتشکیل می داد. از زمانی که وضعیت بیماران درگیر شده و بستری شده و فوت شده و… را با یک سری اعداد و ارقام به اطلاع ما میرساندند، شرایط قابل درک شد و حتی زمانی که تعداد کیتهای تشخیص کرونا را در آمار آوردند، دقت اطلاعات بالا رفت.
کم کم واکسن آمد و کنترل اوضاع به دست گرفته شد. این را از کجا فهمیمدیم؟ از اعداد و ارقامی که به مردم اطلاع رسانی میشد.
شرایط کرونا همین روزها هم هنوز به حالت تعادل قطعی نرسیده است، اما با مطالعه اعداد و ارقام، می توانیم تحلیل خوبی از وضعیت کشورها و شهرها و بیمارستانها داشته باشیم. این روزها که در کشورمان، اعداد شرایط خوبی را در مورد کرونا گزارش میدهد. چین و ووهان به صورت جدی درگیر کروناست. از کجا فهمیدیم؟ از آمار و اعداد!
اگر هنوز به اهمیت اعداد و ارقام در زندگی شک دارید، توجه شما را به اهمیت آن جلب میکنیم. اگر با یک قاشق برنج ده قاشق خورش جلوی شما بگذارند، چه می شود؟ اگر طراحی نقشه یک ساختمان ۲۰ واحدی را تنها بعد از ۶۰ دقیقه از شما بخواهند چه؟ یا… نامتوازن بودن مسائل در مثالهای مذکور قابل لمس است. در زندگی هم همین است. ما از اعداد برای تصمیمگیریهای مهم استفاده میکنیم. در مقابل آن خیلی اوقات هم در دام این اعداد میافتیم. پس هشیار باشید!
جهان بینظم
تجربه نشان داده است وقتی از اعداد استفاده درستی نکنید و قدرت خارقالعاده آن را دست کم بگیرید، جهانی آسیبپذیر و بینظم می شود. تصور کنید در انتخابات ریاست جمهوری، با نظرسنجیهای درست میتوان تا نزدیک واقعیت را پیش بینی کرد و از عطشمان برای رسیدن به روز اعلام نتیجه کاسته شود. در مقابل اگر شرایط عدم قطعیت وجود داشته باشد، استفاده از همان روش قبلی، میتواند موجب هرج و مرج شود و بینظمی چشمگیری را ایجاد کند.
اشتباهات جدی در عالم سیاست و علم و.. در مورد اعداد به حدی رایج است که ضرب المثل انگلیسی می گوید: «وقتی یک عدد مفید به معیار موفقیت تبدیل شد، دیگر آن عدد مفید نیست.» این قانون به عنوان قانون گودارت شناخته میشود و به ما یادآوری میکند که با شروع اندازه گیری جهان انسان میتواند حرکت کند. دبورا استون در مورد کارخانهها و مزارع شوروی مینویسد که به آنها سهمیههایی داده میشد که شغل و امرار معاش مردم به آنها وابسته بود. کارخانجات نساجی ملزم به تولید مقادیری پارچه بودند که بر حسب طول مشخص میشد و از این رو دستگاههای بافندگی برای ساختن نوارهای بلند و باریک تنظیم میشدند. پنبهچینهای اُزبک، پنبههای خود را در آب خیس میکردند تا سنگینتر شوند. به طور مشابه، زمانی که اولین راه آهن بین قارهای آمریکا در سال ۱۸۶۰ ساخته شد، به شرکتهای مشغول در این پروژه به ازای هر مایل مسیر دستمزد پرداخت میشد. بخشی از این ریل خارج از اوماها بود که به جای یک خط مستقیم، در یک قوس عریض قرار گرفته بود. چندین مایل غیر ضروری (در عین حال سودآور) به ریل اضافه کرد. مشکل زمانی پیش آمد که از قوانین اعداد برای چیزی که به آن اهمیت میدهیم استفاده میکنیم. اختلاف بین این شرکت و کارفرما با همین سوژه پیش آمد چون جیمز گوستاو اسپث (اقتصاددان محیط زیست) می گوید: «ما تمایل داریم آنچه را که اندازه گیری میکنیم به دست آوریم، بنابراین باید آنچه را که میخواهیم اندازه گیری کنیم.» برای کارفرما عدد کمتر مطلوب بود و برای پیمانکار عدد بیشتر!
با وجود اینکه این مشکلات به راحتی حل نمیشود، مسائل مربوط به قانون گودهارت به طراحی هوش مصنوعی هم دامن زده است: «چگونه میتوانید یک هدف را به الگوریتم خود منتقل کنید در حالی که تنها زبان مشترک شما اعداد است؟» رابرت فلدت، دانشمند کامپیوتر، الگوریتمی را ایجاد کرد که برای فرود هواپیما بر روی یک ناو هواپیمابر شارژ میشد. هدف این بود که یک هواپیمای شبیه سازی شده را به آرامی متوقف کنیم، بنابراین تا حد امکان نیروی کمتری روی بدنه هواپیما وارد شود. رابرت در طول کار روی الگوریتم یک حفره را مشاهده کرد. اگر به جای اینکه هواپیمای شبیه سازی شده را به آرامی پایین بیاورد، عمداً هواپیما را متوقف کند، نیرو بر سیستم غلبه میکرد و به عنوان صفر کامل ثبت میشد. فلدت متوجه شد که در آزمایش مجازی خود، این الگوریتم بارها و بارها خود هواپیما، هواپیما را نابود میکند.
اعداد زمانی میتوانند خطرناکترین باشند که برای کنترل چیزها به جای درک آنها استفاده میشوند. با این حال، قانون گودارت در واقع فقط به یک محدودیت بسیار اساسیتر از دیدگاه داده محور از جهان اشاره می کند.
یک پروکسی مناسب
همانطور که تیم هارفورد می نویسد، داده ها «ممکن است یک پروکسی بسیار مناسب برای چیزی که واقعاً مهم است» باشد. اما حتی بین بهترین پروکسیها و چیزی که در واقعیت وجود دارد هم یک شکاف اساسی وجود دارد. یعنی بین آنچه که ما قادر به اندازه گیری آن هستیم و آنچه واقعاً به آن اهمیت میدهیم.
هارفورد از دانیل کانمن روانشناس بزرگ نقل قول میکند. او در کتاب خود «تفکر سریع و آهسته» توضیح داده است که وقتی با یک سوال دشوار روبرو می شویم، عادت داریم که آن را با یک سوال آسان عوض کنیم. اغلب بدون اینکه متوجه شویم این کار را انجام دادهایم. انعکاس این موضوع در سؤالاتی وجود دارد که جامعه هدف آن را با استفاده از دادهها پاسخ میدهد. مثلاً در مدارس ممکن است برای ما جالب باشد که آیا فرزندانمان در مدرسه آموزش خوبی میبینند یا خیر؟ اما تشخیص اینکه دقیقاً منظور ما از «خوب» چیست، دشوار است. در عوض، تمایل داریم یک سوال مرتبط و آسانتر بپرسیم: «دانشآموزان در بررسی برخی از واقعیتها چقدر عمل میکنند؟» به این ترتیب ما به سندرم «آموزش آزمایشی» مبتلاهستیم. برای این موضوع، به استفاده ما از تولید ناخالص داخلی برای نشان دادن رفاه اقتصادی یک کشور فکر کنید.
انسانِ قابل پیشبینی
یکی از بحثبرانگیزترین استفادههای الگوریتمها در سالهای اخیر، توصیههایی برای آزادی افراد زندانی در انتظار محاکمه است. در دادگاههای سراسر آمریکا، زمانی که متهمان متهم به یک جنایت میشوند، یک الگوریتم سابقه جنایی آنها را بررسی میکند و یک نمره خطر را به قاضی نشان میدهد و او را کمک میکند تا تصمیم بگیرد که آیا این زندانی تا زمان محاکمه باید پشت میلهها نگه داشته شود یا نه. با استفاده از داده های مربوط به متهمان قبلی، الگوریتم تلاش می کند تا احتمال اینکه یک فرد دوباره مرتکب جرم شود را محاسبه کند. اما، یک بار دیگر، یک مبادله موذیانه بین آنچه که به آن اهمیت میدهیم و آنچه میتوانیم حساب کنیم وجود دارد. الگوریتم نمی تواند پیش بینی کند که چه کسی دوباره مرتکب جرم میشود (چون او یک انسان است و نه ماشین!). فقط می تواند پیش بینی کند که چه کسی دوباره دستگیر میشود. با یک جمله این فرضیه را جمع می کنم: «پیشبینی بر پایه اعداد برای انسانها قابلیت استفاده و پیاده سازی ندارد!»
اشتغال زنان
در یک فرم نظرسنجی که به مخاطبین عام داده میشود و سوالاتی در مورد شرایط شغلی و نیروهای کار مطرح میشود، قاعدتاً پاسخهایی دریافت میشود. با تغییر کوچکی در متن سوال، تغییر محسوسی در نتیجه مشاهده شد. در بخش اول به نظر می رسید که در یک موقعیت زمانی و مکانی مشخص نیروی کار فعال بیش از ده درصد افزایش یافته است. یعنی از ۶.۵ میلیون نفر به ۷.۲ میلیون نفر رسیده بود. اما در بخش دوم از افراد خواسته بود که «نقشهای فرعی خود را نیز درج کنند». ناگهان، صدها هزار خانم که عمدتاً به شغل خانهداریمعرفی می شدند، اما ساعات طولانی را برای انجام کارهای دیگر اختصاص می دهند، در کل پاسخها تغییر ایجاد کردند. آمار تغییر غیرقابل پیش بینیای کرد. چون ما انسان هستیم، نه ماشین!
دور ریختن جزئیات
ساده کردن دنیا به اندازه ای که بتوان آن را با اعداد به تصویر کشید، به معنای دور ریختن بسیاری از جزئیات است. حذف اجتناب ناپذیر میتواند دادهها را علیه گروههای خاص به خط کند.
خشونت علیه زنان
استون از سوی سازمان ملل تلاشی برای تدوین دستورالعملهایی به منظور سنجش میزان خشونت علیه زنان را ارائه میکند. نمایندگانی از اروپا، آمریکای شمالی، استرالیا و نیوزلند بر اساس نظرسنجیهای قربانیان در کشورهای خود، ایدههایی را در مورد انواع خشونت ارائه کردند که شامل ضربه زدن، لگد زدن، گاز گرفتن، سیلی زدن، هل دادن، ضرب و شتم و خفگی بود. در همین حال، برخی از زنان بنگلادشی پیشنهاد کردند که انواع دیگر خشونت را به حساب بیاورند، اعمالی که در شبه قاره هند غیر معمول نیستند مانند سوزاندن زنان، پرتاب اسید روی آنها، انداختن آنها از مکانهای مرتفع و مجبور کردن آنها به خوابیدن در آغل حیواناتو… هیچیک از این اقدامات در لیست نهایی قرار نگرفت. هنگامی که نظرسنجیهای مبتنی بر دستورالعملهای سازمان ملل انجام شد، اطلاعات کمی در مورد زنانی که این گونههای خشونت را تجربه کردهاند، در این سند جای گرفت. همانطور که استون هم گفت، برای شمارش، ابتدا باید تصمیم گرفت که چه چیزی را باید شمارش کرد؟
قدرت اعداد
کسانی که شمارش می کنند قدرت دارند. چون از اعداد در بخش مشخصی استفاده میکنند. دیدگاههای ما به شکلی سخت کدگذاری شدهاند که ما آن را ارزش فرض میکنیم. در نتیجه، حذفیات میتوانند برای جمعآوری دادههای با نیت خوب ایجاد شوند. افسوس که مواقعی وجود دارد که تعصب با طراحی عمدی زیر رادار می لغزد.
در سال ۲۰۲۰ مقالهای در مجله Psychological Science منتشر شدکه ارتباط IQ را با طیفی از معیارهای اجتماعی-اقتصادی برای کشورهای سراسر جهان بررسی کرد. متأسفانه، این مقاله بر اساس مجموعه دادهای از تخمینهای ضریب هوشی ملی است که توسط روانشناس انگلیسی ریچارد لین، یک طرفدار برتریطلبی سفیدپوستان منتشر شده است. (ما باید بتوانیم مشارکتهای علمی لین را مستقل از دیدگاههای شخصیاش ارزیابی کنیم)
برآیند نشان میدهد که IQ همان مشکلات آشنای پراکسی آماری را مطرح میکند. این اعداد است که در ارائه چیزی مانند معیار قطعی، مطلق و تغییرناپذیر «هوش» شکست میخورد. با این حال، چنین محدودیتهایی به معنای بیارزش بودن آن نیست. قدرت پیش بینی بسیار زیادی برای بسیاری از چیزها دارد: درآمد، طول عمر و موفقیت حرفه ای.
پروکسیهای ما همچنان میتوانند بهعنوان معیار چیزها عمل کنند، حتی اگر برای ما سخت باشد که آن چیزها را تعریف کنیم.
طبیعتاً شمردن همه چیز غیرممکن است. ما باید یک جایی خط بکشیم. اما، وقتی با مفاهیم مبهمتری نسبت به (مثلاً) زمان قرار ملاقاتهای پزشکی و طول خطوط راهآهن سر و کار داریم، ترسیم خطوط خود میتواند مشکل ایجاد کند. هارفورد مثالش را «دو گوسفند در یک مزرعه» میزند: «به جز اینکه یکی از گوسفندها گوسفند نیست، بره است.و گوسفند دیگر باردار و در شرف زایمان است. دوباره چند گوسفند داریم؟» سوالاتی از این دست فقط مربوط به آزمایشهای فکری نیستند. یک نویسنده و روانشناس به نام سوزی گیج، در دوران همهگیری کووید ۱۹ با همسرش ازدواج کرد. زمانی که در هفته سی و نه بارداری بود به دلیل محدودیتهای موجود در آن زمان، تعداد افرادی که میتوانستند در مراسمی که دعوت بودند شرکت کنند، به ده نفر محدود میشد. نوزادان تازه متولد شده نیز به عنوان یک فرد در چنین جمعی محاسبه میشد. اگر او قبل از روز مهمانی زایمان میکرد، تعداد مهمانها فرق میکرد.
جذابیتهای آزمایش
جهان همیشه در دسته بندیهای آسان قرار نمیگیرد. مواقعی وجود دارد که باید قضاوت سختی در مورد اینکه چه چیزی را باید بشماریم و چگونه آن را شمارش کنیم، انجام داد. از این رو، جذابیت آزمایش آزمایشگاهی کاملاً کنترل شده، که در آن همه دادههای مربوطه را میتوان مشخص کرد و به حساب آورد، بالاست.
حتی در محیط آزمایشگاهی هم این تخمین با اعداد و استغاده از علائم ریاضی بعضاً پاسخگو نیست. فرض کنید شما ۱۰۰۰ جوجه از یک نژاد و با شرایط نگهداری و تغذیه و واکسن و… یکسان دارید. پس از گذر زمان وزن و قد و نوع خلق و خوی همه ۱۰۰ تای آنها یکسان است؟ اصلاً همه آنها تا یک ماه بعد زنده میمانند؟ مگر شرایط نگهداری برای همه یکسان نبوده است؟ ممکن است یکی از آنها بیست برابر وزن دیگری باشد. حتی برخی دو برابر خواهر و برادرخودشان عمر کردند. هیچ دو تا از این جوجهها نقشهای مرمری مشابهی روی پوستهشان ندارند. حتی در شکل اندامهای داخلی آنها تفاوتهایی وجود دارد.
دانشمندان تمام تلاش خود را کرده بودند تا خلا این محاسبات و دادههای ریاضی را برطرف کنند. تلاش آنها تلاشی جامع برای گرفتن و کنترل هر چیزی بود که احتمالاً قابل اندازه گیری باشد. با این حال خود را در حیرت از تغییراتی میدیدند که نه میتوانستند توضیح دهند و نه آنها را پیشبینی میکردند. حتی کوچکترین نوسانات که برای علم نامرئی است و میتواند در طول زمان بزرگ شوند و دنیایی از تفاوت را ایجاد کند. طبیعت بر اساس تصادفی اجتناب ناپذیر ساخته شده است و آنچه را که دیدگاه مبتنی بر داده از واقعیت میتواند ارائه دهد محدود می کند.
تست پیشگویی انسان
در ابتدای هزاره سوم میلادی گروهی از محققان شروع به استخدام افرادی برای مطالعه در مورد آنچه آنها «خانوادههای شکننده» می نامند، کردند. محققان به دنبال خانوادههایی با نوزادان تازه متولد شده بودند تا پیشرفت کودکان و والدین آنها را در طول سالها پیگیری کنند که موفق شدند با بیش از چهار هزار خانوادهقرارداد ببندند و پس از بازدید اولیه، خانوادهها را مورد مطالعه قرار دادند تا بدانند هر کدام ازخانوادهها چند فرزند در سنین یک، سه، پنج، نه و پانزده سالگی دارند. هر بار دادههایی را در مورد رشد، وضعیت خانوادگی و محیط اطراف کودکان جمع آوری میکردند. جزئیاتی مربوط به سلامتی، جمعیت شناسی، رابطه پدر و مادر، نوع محلهای که بچهها در آن زندگی میکردند و حتی ساعتی که به رختخواب میرفتند را ثبت کردند. در پایان مطالعه این محققان، نزدیک به سیزده هزار داده در مورد هر کودک داشتند.
در این مرحله، تیم کاری هوشمندانه انجام داد. به جای انتشار یکباره دادهها، تصمیم گرفتند تا برخی از مطالعات نهایی دادهها را نزد خود نگهدارند و از محققان سراسر جهان دعوت کنند تا ببینند آیا میتوانند یافتههای خاصی را پیش بینی کنند؟
آیا پیچیدهترین الگوریتمهای یادگیری ماشینی و مدلهای ریاضی جهان با استفاده از همه چیزهایی که تا آن زمان در مورد این کودکان شناخته شده بود، میتوانستند بفهمند که زندگی کودکان تا پانزده سالگی چگونه پیش میرود؟
برای تمرکز بر این چالش، از محققان خواسته شد تا شش معیار کلیدی،. برای ارائه یک خط پایه به همه، مانند «عملکرد آموزشی کودکان پانزده ساله» را پیشبینی کنند. این تیم همچنین یک مدل تقریباً ساده برای پیشبینی ایجاد کرد. این مدل تنها از چهار نقطه داده استفاده کرد که سه مورد از آنها هنگام تولد کودک ثبت شد: سطح تحصیلات مادر، وضعیت تأهل و قومیت.
همانطور که ممکن است انتظار داشته باشید، مدل پایه در بیان اینکه چه اتفاقی خواهد افتاد خیلی خوب نبود. در دسته بندی با بهترین عملکرد، تنها حدود بیست درصد از واریانس دادهها را توضیح داد. با این حال، شگفتانگیزتر این بود که عملکرد الگوریتمهای هر دسته پیچیده بود.
مدلهای مبتنی بر مجموعه دادههای کامل و فوقالعاده غنی تنها چند درصد در مدل پایه بهبود یافتهاند. از بین این شش دسته، چهار دسته نتوانست از دقت شش درصد بیشتر عبور کند. حتی الگوریتم با بهترین عملکرد می تواند تنها بیست و سه درصد از واریانس میانگین نمرات کودکان را پیش بینی کند. در واقع، در کل، شکاف بین بهترین و بدترین مدلها همیشه کمتر از فاصله بین بهترین مدلها و واقعیت بود. این بدان معناست که همانطور که تیم اشاره کرد، این مدلها بد نیستند. اما آنها تنها یک قدم قابل توجه از غریزه و حدس و گمان هستند. ما از دهه ۱۹۵۰ میگفتیم که حتی الگوریتمهای ساده نیز بهتر از پیشبینیهای انسان عمل میکنند. اما پروژه «خانوادههای شکننده» هشدارها را در برابر این نظریه به چالش کشید که اعداد همه پاسخها را ندارند. اگر مدلهای پیچیده فقط بهبود تدریجی نسبت به مدلهای ساده ارائه میدهند، ما به همان سؤال آشنا بازگشتهایم که «چه چیزی را باید بشماریم؟ و چگونه آن را بشماریم؟»
پیشبینی نتیجه انتخابات
شاید بتوان نتیجه دیگری گرفت. زمانی که نظرسنجیها در پیش بینی نتیجه انتخابات دچار تزلزل شدهاند. ما درخواستهایی را برای دادههای بیشتر و بهتر دریافت میکنیم. اما اگر دادههای بیشتر همیشه پاسخگو نباشد، شاید لازم باشد در عوض رابطه خود را با پیشبینیها ارزیابی کنیم. حقیقت این است که ما باید بپذیریم که محدودیتهای اجتنابناپذیری وجود دارد که اعداد میتوانند ارائه دهند و نباید انتظار داشته باشیم که مدلهای ریاضی به تنهایی ما را از عدم قطعیت در زمانها نجات دهند.
قدرتمندترین ابزار برای درک واقعیت
اعداد جایگزین ضعیفی برای غنا و رنگ دنیای واقعی هستند. ممکن است عجیب به نظر برسد که یک ریاضیدان حرفهای روی این واقعیت کار کند. اما تشخیص محدودیتهای یک دیدگاه مبتنی بر داده از واقعیت به معنای کماهمیت جلوه دادن قدرت آن نیست. این امکان وجود دارد که دو چیز درست باشد: اعداد و ارقام کوتاهتر از نکات ظریف واقعیت باشد، در حالی که قدرتمندترین ابزاری است که برای درک آن واقعیت داریم.
تنها ابزار
در دوران کرونا این ویروس همه گیر یک تصویر بینظیر ارائه داد. ارقام نمیتواند آمار واقعی این ویروس را نشان دهد. آمار آنها نمیتواند به ما بگوید کار در بخش مراقبتهای ویژه چگونه است؟ یا اینکه از دست دادن یکی از عزیزان در اثر این بیماری چه احساسی دارد. آنها حتی نمیتوانند تعداد کل (دقیق) جانهایی را که از دست دادهاند به ما بگویند (در مقابل تعداد مرگهایی که در یک دسته بندی منظم قرار میگیرند، مانند مواردی که در عرض بیست و هشت روز پس از آزمایش مثبت رخ میدهند). آنها نمی توانند با قاطعیت به ما بگویند که چه زمانی عادی خواهد شد. اما با این وجود! این آمار تنها وسیلهای است که می توانیم بفهمیم ویروس چقدر کشنده است؟ بفهمیم چه چیزی برای بهبود اوضاع بیمار کار میکند؟ و تنها ابزاری است که بتوانیم آینده احتمالی پیش رو را، هر چند به طور آزمایشی، کشف کنیم.
اعداد می توانند در درون خود یک داستان کامل از وجود انسان را در بر گیرند. در کنیا از هر هزار کودک چهل و سه کودک قبل از تولد پنج سالگی خود میمیرند. در مالزی فقطبرای ۹ نفر این اتفاق میافتد. استون به نقل از هانس روسلینگ کارشناس بهداشت عمومی سوئدی در این مورد می گوید: «این اندازه گیری دمای کل جامعه را اندازه میگیرد. زیرا کودکان بسیار آسیبپذیر هستند. چیزهای زیادی وجود دارد که می تواند آنها را بکشد.» نهصد و نود و یک کودک مالزیایی دیگر از خطرات ناشی از میکروب ها، گرسنگی، خشونت، دسترسی محدود به مراقبتهای بهداشتی محافظت میشوند.
تقویت دقت یا خطا؟
اعداد دروغ نمیگویند، مگر زمانی که به دروغ تبدیلشان میکنند. هارفورد حق دارد که بگوید از آمار میتوان برای روشن کردن جهان با وضوح و دقت استفاده کرد. آنها میتوانند در اصلاح خطاهای انسانی ما کمک کنند. اما چیزی که به راحتی فراموش میشود این است که آمار میتواند این خطاها را نیز تقویت کند. همانطور که استون به ما یادآوری می کند، «برای خوب شمردن، ما به تفکر و تواضع نیاز داریم تا بدانیم چه چیزهایی را نمیتوان یا نباید شمرد.»