לפני כ-10 שבועות נפתחה קבוצת "חשיבה חדה" בפייסבוק בה מתנהלת כיום פעילות שוטפת בנושאים הקשורים לחשיבה חדה. לכל המצטרפים, הן הפעילים והן הצופים מן הצד – ברוכים הבאים ותודה על תרומתכם!

מי שעקב אחרי הדיונים בימיה הראשונים של הקבוצה בודאי שם לב לטיעונים אחדים שלא היו… חדים כתער (גם אם התכנים היו מעניינים לכשעצמם). הדבר נבע כנראה מאי הכרות עם הכלים של חשיבה לוגית (ואולי גם מסיבות אחרות).

אני שמח לחזור ולארח בבלוג את שרון פרידמן, זה שהביא לנו בעבר סופר-אשליות מלונדון הרחוקה. שרון החליט להרים את הכפפה ולעזור לנו להשחיז את כלי החשיבה החדה שלנו בסדרת פוסטים שיתפרסמו אחת לשבועיים לערך, ויתמקדו בשלל הדרכים בהן מובעות טענות במהלך דיונים וויכוחים.

למה לנו?

בעבר כבר בחנו כאן בבלוג ובקבוצת הפייסבוק טענות שונות ומשונות שמתיימרות להיות מוכחות / מדעיות /תקפות.
הסקרנות הבסיסית והרצון לבדוק את התקפות והנכונות של טענות אלה, או בקיצור הטלת הספק כשלעצמה, היא הצעד הראשון בדרך אל האמת, אך בנוסף עלינו להצטייד ב"כלי עבודה", שיעזרו לנו להתמודד עם הטענות.
איך נדע מה נכון? כיצד נפריד את הפסאודו-מדעי מן המדעי? מהן השיטות בהן מנסים לשכנע אותנו בדברים שאינם נכונים?

בסדרת הפוסטים הזו, נצלול לתוך עולם הטיעונים ושיטות השכנוע של מוכרי האשליות החובבים כמו גם המקצוענים: אנשי שיווק ומכירות, מפרסמים, פוליטיקאים ודמגוגים. אחרי שלמדנו לזהות מאפיינים מחשידים שאשליה לפנינו, נלמד לזהות את הטכניקות להעברת המסרים: נכיר סוגי טיעונים, נלמד לזהות את הטיעונים שאינם תקפים ונגביר את המודעות שלנו למגוון המניפולציות וההטיות שנעשות עלינו.

נצביע על מניפולציות מסוגים רבים ושונים: בעייתיות בנתונים עצמם; שגיאות בשיטת ההסקה וההיקש; הטיות תוכן וצורה; הטיות מכוונות ואפילו זדוניות וכאלו שכלל אינן מודעות; מסרים מילוליים ולא מילוליים; שגיאות פורמאליות וכאלו שאינן, ועוד.

במבוא זה נרחף מעל לפני השטח ונסקור ממעוף הציפור את התחומים השונים אשר יכולים לתרום למניפולציות הללו.

נתחיל בהתחלה.

הגדרות

רטוריקה היא אמנות השכנוע באמצעות השפה (או הדיבור), כדי להשפיע על הדעה והמעשים של המאזינים, במספר שכבות של משמעות:

• Logos (לוגיקה) – טיעוני תוכן, מהות, רציונאל, כמעט תמיד מודעים.
• Ethos – בניית זהות לדובר, שתגרום לשומעים לסמוך ולהאמין לדבריו, כמעט תמיד בצורה לא מודעת.
• Pathos – פנייה לרגש, עפ"י רב משלבת רכיבים מודעים ולא מודעים.

בהגדרתה הקלסית רטוריקה כוללת את כל סוגי המדיה: קהל, פנים מול פנים, תקשורת בלתי אמצעית, כתיבה, והיום ניתן לכלול גם תקשורת המונים (רדיו, טלוויזיה), ואף את רשת האינטרנט. אפילו בלוגים. כן, גם "חשיבה חדה". טוב נו, די: גם הפוסט הזה. סגרנו.

תעמולה (פרופגנדה) היא נגזרת של הרטוריקה המתמקדת בזירת השפעה פוליטית, מדינית או חברתית, ואף היא מכוונת להשפיע על עמדות והתנהגויות של ציבור רחב ככל האפשר.

ואם בלוגוס עסקינן, לוגיקה היא שפה פורמאלית, אשר משמשת לבנייה של טיעונים ובדיקת תקפותם. הנושא עצמו מורכב, ולא נתיימר לכסותו, אך נשתמש במושגים מהתחום, כמו טענה, טיעון (היסק המהווה אוסף של טענות המכילות הנחות ומסקנה, או הסבר הקושר ארועים ע"ס רצף של זמן, מקום, וכד'), ותקפות (המסקנה נובעת מן ההנחות).
נשים לב שלמרות שבשכנוע אנו עושים שימוש בטענות וכללי היסק לוגיים, הדיבור עצמו אינו לוגיקה טהורה (כמו לוגיקה מתמטית או תחשיב פסוקים). הוא מכיל רבדים של משמעויות, הנחות סמויות, סתירות, וכל זאת מבלי להכנס כלל לעניין הסגנון.

כשנעסוק בדמגוגיה נתמקד במניפולציות שכנוע שאינן טיעונים לוגיים: פנייה לדעות קדומות, פחדים, אמונות טפלות וציפיות המאזינים – לרוב באמצעות שימוש ברטוריקה ותעמולה מתלהמות ורגשניות, ולעתים קרובות תוך שימוש במוטיבים לאומיים או פופוליסטיים, ואזכור סלקטיבי של עובדות (ויקיפדיה).

דייביטינג היא שיטה ספציפית לתחרות של שכנוע, בה השחקנים משתמשים במילים כדי להעביר מסרים חדים בנושא מסויים, במסגרת זמנים קבועה וידועה מראש ותחת סט של חוקים, ניקוד, ושיפוט. השיטה פותחה במקור באוניברסיטאות אוקספורד וקמברידג' בבריטניה, ומתנסים בה באוניברסיטאות רבות בעולם, וגם אצלנו בישראל. לא תיפלו מהכיסא אם אספר לכם שאנחנו לא רעים בזה כלל:

אולי ככה זה כשלשני ישראלים יש שלוש דעות, וכשאנחנו בתחרות מתמדת של שכנוע העולם בצדקתנו.
לא נכנס לשם אפילו. הנה – שוב סוגר ת'דלת.

מה בריץ' מה ברץ' – מה יש בו בפנים?

אך המילים עצמן אינן הכלי היחיד, ממש כמו שבמשחק כדורגל לא בועטים רק בכדור, אלא לפעמים דווקא בשחקן יריב (לא בכוונה, כמובן). כמו בכל ספורט, ווכחנים טובים נדרשים לשלל כישורים ויכולות, כגון:

• כישורי שפה, אוצר מילים ועושר לשוני;
• טון, אינטונציה ויכולת משחק או דרמה;
• לוגיקה וחשיבה אנליטית;
• סדר ומבניות;
• תכנון זמן נבון;
• התמודדות עם לחץ;
• חדות וזריזות מחשבה;
• ניהול אסטרטגי וזיהוי נקודות תורפה אצל היריב;
• זיכרון וידע רוחבי שמאפשרים לנו להיצמד לעובדות;
• יכולת הקשבה ואיזון בין העברת המסר שלנו לתגובה על מסרים סותרים של אחרים;
• הפרדה בין עיקר לתפל ויכולת התמקדות;
• הומור וחוש טיימינג;
• ביטחון עצמי, כאריזמה ועמידה מול קהל;
• יכולות לא מילוליות לרתום אחרים לצידנו;

מסרים עוברים ל"קורבן" בערוצים רבים, חלקם גם לא מודעים, אך הדבר לא מוריד מיכולת ההשפעה שלהם עליו. דוגמא קלאסית (ופשטנית) ניתן לראות בפרסומות לבירה או משקאות אלכוהוליים המיועדים לגברים צעירים, בהם נראות נשים ברקע או בחזית. המסר התת-הכרתי הוא פשוט: אם תשתה את הבירה שלנו, יהיה לך סקס.
אין שום רצון לדבר על כך בפרסומת, כי אם המניפוציה תעלה לרובד ההכרתי, הצופה יוכל להבין את הקלישות של ההבטחה הזאת וכוחה יתפוגג. תחת מעטה העלטה של התקשורת הבלתי מילולית, המסר חמקני ואפקטיבי יותר.

בתחרות הדיבייטינג, המנצחים הם אלו ששכנעו את הקהל בעמדתם, בכפוף לתקנון התחרות. תחרות הדיבייטינג היא "מעבדה למשכנעים".
אך דיבייטינג מתרחש למעשה מדי יום ביומו בכל פינה בעולם. לעיתים אנחנו המשכנעים, לעיתים אנחנו המשוכנעים. המוכשרים בתחום מבצעים את המלאכה מבלי שהמשתכנעים (הלא מיומנים) מבינים בכלל מה מתרחש. אנו מזכירים את התחרות הזו, כי שם, בזעיר אנפין, אפשר למצוא כמעט את כל סוגי המניפולציות כשהן מובאות, במודע, לדרגת אומנות.

אנו, החושבים החדים, צריכים ללמוד להקשיב ולאמץ טיעונים תקפים, מובנים, מסודרים, הנשענים על עובדות ונתונים בדוקים, לדחות היסקים והיקשים שגויים או טיעונים המסתמכים על נתונים שגויים, ובו זמנית להיזהר משלל המלכודות שדובר כאריזמטי, בעל בטחון עצמי, חוש לדרמה וכזה שמשתמש בפאנצ'ים, שפת גוף, ומסרים עקיפים (אולי מעט זדון) פורש תחת רגלינו. לא קל.

נחזור לעולם הספורט. כדי להתמודד, אנחנו יכולים לאמץ טקטיקות הגנה, התקפה או שילוב של שתיהן.
אנחנו רוצים להיות מודעים למניפולציות שמפעיל עלינו היריב, כדי להיות מסוגלים להתמודד איתן. ייתכן ונתפתה להפעיל מניפולציות כאלה חזרה כדי לשכנע את היריב בדעתנו – אך אם נשמור על נאמנות לדרכינו, נאלץ לוותר על כך ולתת לעובדות ולטיעונים התקפים לעשות את העבודה, ולא לניפנופי הידיים. במקרים רבים עצם ההצבעה על המניפולציה שביצע "היריב" די בה כדי לפוגג את כוחה.

את המכשול העיקרי בדרך לאמת מניחים אותם אנשים שמשתמשים אך ורק, או בעיקר, בהטיות וכשלים לוגיים, ללא שום בסיס עובדתי לעמדתם. לפעמים קוראים להם אנשי שיווק, לעיתים מטיפי תורות ניו אייג', או אפילו סתם שרלטנים. הישמרו!

אז מה יהיה לנו כאן

ניתן לסווג את המניפולציות השונות לסוגים באופנים רבים. אין צורת חלוקה אחת מוסכמת וזה כנראה לא ממש משנה. לצורכי הדיון שלנו בחרנו בחלוקה מסויימת בה רב ההטיות תשתייכנה למחנה אחד, ורק מקצתן תשבנה על הגדר:

1. כשלים לוגיים (פורמאליים ובלתי פורמאליים) – בנייה של טיעונים שאינם תקפים, או אינם סבירים, כאשר הכישלון הוא בהסקה או ההיקש הלוגיים אשר מרכיבים את הטיעון.
2. כשלי ידע – תת קבוצה של משפחת הכשלים לוגיים, המתמקדת בטיעונים שנראים תקפים לכאורה, אך נשענים על הנחות חסרות, סמויות, או שגויות, ולפיכך אינם תקפים, ולכן יכולים להביא למסקנות שגויות.
3. כשלי סגנון – מניפולציות צורניות וסגנוניות, גם בהעדר טיעון כלשהו, אשר יוצרות מצג שווא של טיעון חזק יותר מכפי שאנו אכן טוענים, או מחלישות טיעון של היריב.

כשלים מסוימים יכולים ליפול על קו התפר בין כשל לוגי לסגנוני, לפעמים עד כדי תלות בדובר עצמו: חזרה על טיעון אינסוף פעמים יכולה להיחשב כשל לוגי (אין בכך צורך או תועלת, זה לא רלוונטי ולא מוסיף דבר לנאמר קודם) או יכולה להפוך למניפולציה צורנית במידה והיא מבוצעת באופן מכוון (התשה של היריב עד שיסכים לטענה או שייסוג).

הערה חשובה: אחת הדרכים להמנע מהכשלים הללו היא לפרוט את כל ההנחות הסמויות, להשתמש בלשון חד-משמעית, להגדיר היטב כל מילה ומושג ולתת קונטקסט לכל גזירה והסקה לוגית בטיעונים שלנו.
הקפדה כזו עלולה להפוך כל שיחה למייגעת עד בלתי אפשרית. מסיבה זו כולנו עושים "קיצורי דרך" לעיתים, ולפיכך בהחלט ייתכן כי יווצרו "כשלים" גם כשאנו פועלים בתום לב, בעודנו מנסים לבנות טיעונים הגיוניים ולתקשר אותם ללא מניפולציות.

גם בפוסטים הללו יפלו ודאי כשלים, ובעזרתכם – נוכל לתקנם. אז תודה מראש.
זו כנראה לא תהיה סקירה מלאה ושלמה של הנושא המורכב הזה, אך אנו מקווים כי לפחות נעשיר ונשחיז קצת את כלי העבודה בארגז הכלים של החשיבה החדה אותו אנו נושאים.

תודה גם לערן אבירם באופן אישי, ולספק סביר באופן כללי – הם נגעו בלוגיקה כמה פעמים בפודקאסט המאוד מומלץ.

ואם לא תרצו, אתם שואלים: אז אין זו אגדה?

כדי להדגים את העושר של התחום וכיצד הוא בא לידי ביטוי בחיי היום-יום, נצפה בסרטון שמנתח את הכשלים הלוגיים בנאומו של אובמה על מותו של אוסמה בן לאדן – נאום מהראשון במאי 2011, עם הישג נאה של 9.5 כשלים לכאורה בממוצע לדקה…
(התנצלות: הסרטון קצת ארוך ובאנגלית, אך עשוי היטב. מתאים יותר למי ששולט בנבכי הכשלים הלוגיים ולפיכך מומלץ לשוב אליו לאחר כמה פוסטים נוספים בסדרה, כשנהיה כבר יותר "משופשפים").

* שימו לב, הסרטון מובא רק כהדגמה לכשלים לוגיים, והדעה הפרטית של כל אחד בנושא הנידון כבודה במקומה מונח, אך אינה מעניינינו בהקשר זה. כדי לא להיסחף הרחק מנושא הפוסט, נודה לכם אם תתאפקו מלהגיב על התכנים עצמם.

מקורות נוספים והרחבות

ספרים

• הפרכת טיעונים כוזבים (On Sophistical Refutations) / אריסטו / ספר חופשי
• 38 דרכים לנצח בוכוח / ארתור שופנהאור (בעברית)
• How to Win Every Argument: The Use and Abuse of Logic / Madsen Pirie
• Nonsense / Robert J. Gula
• Thank You For Arguing / Jay Heinrichs

מאמרים ואונליין

• מדריך הכשלים הלוגיים של חופש
• איך לנצח בוכוח / תקציר של אראל סג"ל לספרו של שופנהאור
• 8 דרכים לנצח בכל וכוח / נענע 10
• כשל לוגי בויקיפדיה
• לוגיקה בויקיפדיה
• Rhethological Fallacies Infographic
• Fallacy A Day
• Fallacy Files כולל אינדקס מעולה
• Dr. Michael Labossiere PDF
• Dr. Michael Labossiere's Nizkor Project
• The Woolly-Thinker's Guide to Rhetoric
• Critical thinking explained in six kid-friendly animations
• http://web.cn.edu/kwheeler/documents/Logic_Fallacies_List.pdf

מדיה

• 45 דקות הרצאה על הלוגיקה של אריסטו / ד"ר ריצ'רד בראון
• 5 דקות מבוא על רטוריקה והאנטרפרייז
• פוסטר כשלים לוגיים להדפסה  (הפניה של דרור רפפופורט)
• עוד פוסטר תמציתי
• סרטונים קצרים על לוגיקה (הפניה של רן גלוסשניידר)

אחד הטריגרים לסדרת הפוסטים הנוכחית היתה סערת איגיון שהתחוללה בקבוצת "חשיבה חדה" בפייסבוק. כל סופרלטיב שנייחס לה, יציג רק צללית חיוורת של תופעת הטבע המדהימה שהתחוללה בקבוצה באותם ימים.
So without further ado.

רקע

"המודעות" היא נושא מורכב שנבחן בקבוצת הדיון מנקודות מבט שונות. בין השאר ניסינו להבין קודם כל מהי בדיוק מודעות, ובדקנו כמה פרשנויות מעניינות – כמו זו של ד"ר דניאל דנט למשל. כאן כמובן לא נעסוק בסוגיה עצמה, אלא נתמקד בכשלים הלוגיים שעלו במהלך הדיונים בנושא (פסקה אחת תשמש חומר לפוסט שלם):

שאלה: התיתכן מודעות ללא מוח?

תשובה (לגבי המקום בו נמצאת המודעות):

"המקום הוא לא מחוץ לראש שלך – ולא בראש שלך.

המקום הוא הכל.

היות ואתה נושם אוויר ובלי אוויר היית מת – גם לאוויר יש תודעה."

ברוך המקום – ברוך הוא

בהמשך לסקירת המבוא נזכיר כי הלוגיקה מתבססת על מספר מצומצם מאוד של חוקים. אחד החוקים הבסיסיים, המכונה גם חוק הסתירה, אומר שאם אנו טוענים דבר וגם את היפוכו, הרי טענתנו אינה תקפה.

הנה מה שהיה לאריסטו לומר בנושא (לפני למעלה מ-2300 שנה):

"לא אפשרי לאותה תכונה להשתייך ולא להשתייך לאותו דבר בו זמנית ובאותו יחס… אף אחד אינו יכול להניח כי אותו דבר הינו ואינו… ואם לא אפשרי לתכונות סותרות להשתייך בו זמנית לאותו עצם… ואם דעה הסותרת דעה אחרת מנוגדת לה, ברור כי אין זה אפשרי להניח שדבר מסוים הינו ואינו בו זמנית וביחס לאותו עצם… ומכאן שכל אדם המדגים דבר כלשהו, מתייחס לעקרון זה כהנחה הראשונית, משום שזוהי מטבע הדברים נקודת המוצא לכל שאר האקסיומות."

וחזרה לימינו אנו:

"המקום הוא לא מחוץ לראש שלך – ולא בראש שלך"

אז איפה?

הבה ונעזר בדיאגרמת ון פשוטה של הטיעון. הריבוע מייצג את כל העולם (מונח מתמטי שכוונתו להכל, כולל הכל. כן, גם שם. לאו דווקא לעולמנו הארצי, או עולם כזה או אחר).

• אם הוא לא מחוץ לראש שלך, אז הוא בהכרח בראש שלך.
• אם הוא לא בראש שלך, אז הוא בהכרח מחוץ לראש שלך.

חוק הסתירה אינו מאפשר לטעון את שתי הטענות בו זמנית, בצורה תקפה.

וכפי שנאמר לא פעם בדיון זה ובאחרים: זה שניתן לנסח משהו במילים, לא אומר שזה נכון.

שקול מילה

"המקום הוא הכל."

עכשיו אולי אנחנו מתחילים להבין. אם המקום הוא הכל, הרי שהוא גם בתוך הראש שלך, וגם מחוץ לו. הוא מהווה איחוד של קבוצה יחד עם שלילתה. בתורת הקבוצות, כל איחוד בין קבוצה לשלילתה הוא 'כל העולם'.

הבה נבצע תיקון לטענה הראשונה:

"המקום הוא גם מחוץ לראש שלך – וגם בראש שלך"

עכשיו לפחות יש לנו עיקביות לוגית בין הטענות. בהנחה שהמקום הוא כל העולם, אפשר לקבל את הטענה הראשונה. הטענות שקולות לוגית. טענות שקולות הינן נכונות (או לא נכונות) באותם מקרים – אין צורך לוגי לטעון את כולן.
אבל יש צרכים אחרים. נרחיב על כשלים סגנוניים ודמגוגיים בפוסט מיוחד לנושא, אך רק נציין כי אחת הדרכים לשכנע במשהו היא לחזור עליו, עד זרא. הטכניקה לכשעצמה אינה בהכרח מזיקה, ועוזרת לזכירות, או להדגשה. אך כאשר משתמשים בחזרות אינספור כדי להתיש את המאזין, עד שיסכים (או יפסיק להתווכח) – זוהי הטייה. מבחינה לוגית, הקבוצה 'כל העולם' היא בעלת אינסוף הגדרות שקולות, כך שניסיון לפרט את כולן אינו נחוץ.

* נציין שכנראה זו לא היתה הכוונה בדיון המקורי, הדברים מובאים כאן (ואף מוצאים מהקשרם המקורי) רק כדי להדגים כשלים.

ערפל קרב

לפני שנעבור לטיעון השלישי, נשתהה לרגע על היבט נוסף של שתי הטענות הראשונות, שקשור בעירפול – משפחה שלמה של כשלים לוגיים בהם הטיעון רב משמעי, ומכיל כשל בפרשנויות השונות האפשריות להנחותיו.

מכיוון שהמושג תודעה לא הוגדר היטב (משימה לא פשוטה כשלעצמה), לא ברור האם תודעה היא משהו פרטי – כלומר שייכת למישהו; או אולי אוניברסלי, כלומר נמצאת בכל מקום, ואולי משהו מורכב יותר כמו תודעה של מישהוא אשר נמצאת בכל מקום. בכל מקרה, לא נצלול לחקר התודעה כרגע…

עירפול יכול לשבש טענות תקפות לכאורה מכל סוג, מכיוון שהוא מאפשר יותר מפרשנות אחת של ההנחות או המסקנה, ולכן הטיעון הופך רב משמעי ולא מובהק. הכשל הוא לוגי כי טענה אמורה להיות בעלת משמעות מוגדרת. שימוש מכוון ברב-משמעות מאפיין גם כשל סגנוני בטקטיקה בה הטוען לא מתחייב על דבר בעצם, ומאפשר לעצמו חופש תמרון עתידי מלא, לפי הצרכים והתפתחות הדיון. ישנן צורות רבות של כשלי עירפול:

מילה רב-משמעית – מצב בו טענות שונות בטיעון מורכב משתמשות באותה מילה כל פעם במשמעות אחרת, ולפיכך הטיעון עצמו אינו עקבי או בר משמעות.

בדיון על מה קדם למה – המוח או הנשימה (ונשים בצד לרגע את ההגיון שבשאלה הזו), נעשה שימוש רב משמעי במילה נשימה (נשימה תאית מחד, ומאידך נשימה המחייבת מערכת נשימה כמו הנשימה הריאתית שלנו). לכן לא ממש ניתן לענות על השאלה כפי שנוסחה.

אתנחתא מוסיקלית:

• לכל החיפושיות שש רגלים.
• ג'ון לנון הוא חיפושית.
• לכן, לג'ון לנון שש רגליים.

אמפיבולה – מצב בו המבנה הדקדוקי / הלשוני רב משמעי, ומכיל מספר פרשנויות אפשריות בו זמנית.

"ביבי פגש את אובמה כשהוא ירד מן הסוס. הוא היה עצבני ומתוח, אז ביבי דחף לו קוביית סוכר כדי שיירגע" – לא מכובד.
ונעבור לחידה: זבוב עף בחצר ועל זנבו יושב כלב. כיצד יתכן? (המקור כאן)

כשל הרכבה – הסקה שגויה מן הפרט אל הכלל: כאשר מסיקים שמשהו נכון ביחס לכלל, על סמך כך שהוא נכון ביחס לחלק מהקבוצה.

אוסף שחקני הכדורגל הכי טובים בעולם, אינו יוצר את קבוצת הכדורגל הטובה בעולם (יסלחו לי תומכי הגלקטיקוס – שבו בצד רגע).

כשל חלוקה – היקש שגוי מן הכלל אל הפרט: כאשר מסיקים כי משהו נכון ביחס לפרטים בקבוצה, מתוך כך שהוא נכון לקבוצה כולה.
"אטומים של מים חייבים להיות… רטובים" (ויקיפדיה) – תכונה של השלם (מים) מיוחסת לכל חלקיו.

בדומה לדוגמא על חלוקה, נכון גם לומר שהתזמורת הטובה בעולם, אינה מורכבת בהכרח מן הנגנים הטובים בעולם כל אחד בפני עצמו.

ונסיים את מסך העשן בדוגמא נוספת מדיון על האור:

"האם האור הוא תופעה חומרית? אם האור אינו תופעה חומרית כיצד היתם מגדירים תופעה זו? תופעה רוחנית? נפשית?"

כפי שרמזו כמה חברים בקבוצה, העירפול סביב המילה חומר (מלשון matter או substance, או מלשון גשמיות, או אולי מה שלא מתאים להקשר כאן: משהו לעשן?) ויותר מכך – הצרוף "תופעה חומרית" שאינו מוגדר, אינו מאפשר דיון ענייני.
האם הכוונה לחומר במובן של בעל מסה? כי אז האור אינו חומר. האם הכוונה חומרי בניגוד לרוחני? כי אז האור הוא תופעה פיזיקלית-חומרית. כמובן שאם נחליף הגדרה בכל רגע, הבלבול יהיה גדול (וכן בזבוז הזמן בדיון על כך).

[מה שמזכיר את משחק המילים הבא: מה ההיפך מכבד? –קל. וההיפך מקל? קשה כמובן. וההיפך מקשה? רך.]

קח אוויר, קח אוויר – תרחרח ותריח קח אוויר

ואם כבר בנשימה תאית ונשימת בני אדם עסקינן (דבר טוב כפי שתראו מייד), נעבור לחלק המסיים של הטיעון:

"היות ואתה נושם אוויר ובלי אוויר היית מת – גם לאוויר יש תודעה."

קשה לדעת היכן להתחיל בניתוח הכשלים, יש פה חומר לקורס שלם…
נתמקד בכשל נון סקוויטר – המסקנה אינה נובעת מן ההנחות. אחד המאפיינים הכלליים של כשלים לוגיים.

אולי המסקנה נכונה ואולי לא, אך ההנחות, גם אם הן נכונות, אינן מובילות אליה (במקרה זה קל לראות זאת מיד, שכן המונח תודעה לא מוזכר כלל בהנחות הטיעון). טיעון מהצורה הזו אינו טיעון תקף.

באותה המידה אפשר היה לטעון:
"היות ואתה נושם אוויר ובלי אוויר היית מת – גם לאוויר יש מעיים" – מסקנה שבבירור אינה נכונה (וגם היא אינה נובעת מההנחות).
או "היות ואתה נושם אוויר ובלי אוויר היית מת – לריבוע ארבע צלעות" – הפעם המסקנה נכונה, אך שוב, לא נובעת מההנחות.

ע"י הוספת הנחות מסוימות, אפשר להפוך את הטיעון לתקף, כלומר, המסקנה תהפוך להיות נובעת מן ההנחות. למשל  –

1. אתה נושם אוויר.
2. אדם מת אינו נושם אויר.
3. אדם חי הינו בעל תודעה.
4. אויר יוצא ונכנס מאדם חי במהלך תהליך הנשימה.
5. התודעה הופכת לחלק בלתי נפרד מכל דבר אשר נכנס ויוצא מאדם חי.

הסקת המסקנה: מכיוון שאתה נושם (הנחה 1), הרי שאתה חי (הנחה 2), ולפיכך בעל תודעה (הנחה 3), מכיוון שבמהלך הנשימה אתה מכניס ומוציא אויר (הנחה 4) והיות ותודעה הופכת לחלק בלתי נפרד מכל דבר אשר נכנס ויוצר מאדם חי (הנחה 5) => הרי שגם לאויר יש תודעה.
מש"ל – מה שצריך להוכיח.

בצורה כזו, הטיעון יהיה תקף (כלומר, המסקנה תנבע מההנחות). אך האם המסקנה תהיה נכונה? זה כבר מותנה בנכונות כל ההנחות. אנחנו סקפטיים בעיקר לגבי נכונות הנחה 5 – למרות שתודעת הצרכים יכול להיות ענף ניו אייג' פופולרי בהמשך לרפואה זו…

* הערה צדדית אך חשובה: כשל של השמטת הנחות סמויות הינו נפוץ מאוד בחיי היום-יום, ונובע מהשאיפה שלנו לתקשר זה עם זה באופן יעיל ואינטליגנטי. דיון תקף לוגית שמפרט את כל ההנחות הסמויות יכול להיות מייגע עד מאוד. אך במקרים בהם אנו דנים בעניינים לא טריוויאליים כגון מהותה של התודעה, או טוענים טענות בדבר קיומם של כוחות על טבעיים למשל, סומא עלינו לא להיות עיוורים להנחות הסמויות שלנו.

שיעורי בית

כל מה שנשאר עכשיו זה להבין מה זה תודעה, או לחילופין לפתור את החידה – מה שיותר קל לכם (אתם יכולים לנסות לפתור בהערות, אז אזהרת ספוילר למי שרוצה להתמודד לבד – פתור ואז הבט בהערות). בינתיים תודה.

ואי אפשר לסיים בלי היהלום שבכתר:

"אני סומכת על האי-מוח שלי – שממנו כל המוח שבעולם מגיע".

____________________________________________________________________

רוצים לקבל עדכון במייל בכל פעם שאני מפרסם משהו חדש? הרשמו למעלה מימין (תמיד אפשר לבטל).
חושבים שאחרים יכולים להתעניין? שילחו להם את הכתבה או שתפו בפייסבוק!

בפוסטים קודמים על נומרולוגיה, ציטטנו מתוך ספרה של סוניה דוסי את הטענה הבסיסית הבאה:

"הנומרולוגיה היא מדע במובן המודרני."

דנו בכך בקבוצה וגם בבלוג, והועלו הסברים מדוע נומרולוגיה היא מדע, כנובע מהשימוש שהיא עושה במספרים.

            "למספרים אינטליגנציה גבוהה שעדיין לא נחקרה מספיק ואם נחקרה, מעט מדי לטעמי."

האתר הזה למשל טוען:

"נומרולוגיה היא מדע של 'מתמטיקה גבוהה'."

הנומרולוגית הזו טוענת בספרה נומרולוגיה משולבת:

"אף שהמדע המודרני צעד צעדי ענק מאז פיתגורס והתקדם בהבנתו את סודות היקום, הוא טרם הצליח למצוא תיאוריה המאחדת את הכול, אבל גם כיום מאמצים מדענים מפורסמים דוגמת סטיבן הוקינג וריצ'רד פיינמן את התפיסה הפיתגוראית של המספרים ככלי החזק ביותר למציאת האמת: מתמטיקה, פיזיקה קלאסית, פיזיקת הקוונטים והמיתרים, קוד ד.נ.א. (D.N.A.), קוד שפת המחשב, אסטרונומיה, אסטרופיזיקה, כימיה מולקולרית וכיוצא באלה, כולם משתמשים בשפה הסימבולית של המספרים, שהיא גם שפה אנושית אוניברסלית וגם מפתח לגילוי הסודות של הטבע."

או בניסוח קצר וקולע:

"הנומרולוגיה מסתמכת על מספרים כמדעים אחרים (למשל מתמטיקה), ולכן היא מדעית כמותם."

מתי מטיקה?

בפוסט הזה לא נעסוק שוב בנומרולוגיה, אלא רק ננסה להבין כיצד בדיוק הטיעון לעיל מנסה להראות שהנומרולוגיה היא מדעית. מה בעצם נטען? נפרק להנחות, טיעונים, ומסקנות, בצורה יותר פורמלית:

טיעון ראשון:

• הנחה: מתמטיקה היא מדעית*.
• הנחה: מתמטיקה מסתמכת על מספרים.
• מסקנה: כל מה שמסתמך על מספרים הוא מדעי.

* לא נכנס כרגע לויכוח המעניין בפני עצמו, האם מתמטיקה היא האמא של המדעים, חברה מן המניין או בכלל בת חורגת.

טיעון שני:

• הנחה: נומרולוגיה מסתמכת על מספרים.
• הנחה: כל מה שמסתמך על מספרים הוא מדעי (המסקנה של הטיעון הראשון).
• מסקנה: נומרולוגיה היא מדעית.

סילוגיזם אתה באמא'שך

כפי ששמתם לב, בנינו את הטיעונים בצורה מאוד מסוימת, הנקראת סילוגיזם. צורה זו הוגדרה כבר ע"י היוונים בלוגיקה הקלאסית לפני כ-2400 שנה ומאפייניה:

• שתי הנחות: הנחה ראשית והנחה משנית (אפשר גם יותר, לסילוגיזם קטיגורי בדיוק שתיים).
• מסקנה אחת.
• המסקנה נובעת מן ההנחות.

תקפותו של טיעון מסוג סילוגיזם תלויה בצורתו. צורות מסוימות תקפות תמיד, וצורות אחרות אינן. כאן אפשר למצוא רשימה של צורות טיעונים תקפות. ניתנו להם שמות שונים בימי הביניים כדי להקל על הזכירה, כאשר שלוש אותיות הניקוד באנגלית מתארות את סוג הטיעון. האות A מתארת היגד כולל מהצורה: 'כל X הוא גם Y'. אותיות נוספות משמשות לשלילה גורפת: 'אף X הוא לא Y', למשל: "אף דג לא עף" (האם זה נכון? תשובה בסוף הפוסט); או היגד חלקי: 'כמה X הם גם Y', למשל "חלק מהצמחונים אוכלים דגים".

נתמקד למשל בטיעון שנקרא ברברה – או Barbara:

• הנחה: כל X הוא Y
• הנחה: כל Y הוא Z
• מסקנה:כל X הוא Z

חידה: האם ברברה היא הבלונדינית?

טיעון ברברה מכיל הנחות ומסקנות שכולן היגד כולל (שימוש במילה "כל" בכל אחת מן ההנחות ובמסקנה) ולכן שלוש פעמים A. איך זה קשור אלינו? אפילו אני עוד רגע הולך לאיבוד…

אז ככה. נגדיר:

• X = נומרולוגי
• Y = מסתמך על מספרים
• Z = מדעי

נציב במשוואה, ממש כמו בבי"ס יסודי, לפני הצבא, ואחרי הצבה:

טיעון שני (טייק טו):

• הנחה: כל מה שנומרולוגי (X)  מסתמך על מספרים (Y)
• הנחה: כל מה שמסתמך על מספרים (Y) הוא מדעי (Z)
• מסקנה: כל מה שנומרולוגי (X) הוא מדעי (Z)

הטיעון השני אכן מתאים בצורתו לטיעון ברברה, ולכן הינו תקף. כל מה שנותר זה לבדוק את נכונות ההנחות, בכדי לדעת אם המסקנה נכונה או לא. לדעת ולא להאמין. לפחות אם אתה מקבל את הלוגיקה… (וזה כבר נושא לדיון אחר).

ההבדל בין תקף לנכון יכול לבלבל – אז נסתכן בהתשה, ונחזור: טיעון תקף מתייחס למבנה הטיעון ולקשרים שאנו יוצרים בין הנחות למסקנה. בטיעון תקף (מסוג סילוגיזם, אך גם מסוגים אחרים) נכונות ההנחות מחייבת את נכונות המסקנה. אפשר לומר גם, שלא ייתכן מצב שבו הטיעון תקף, כל ההנחות נכונות, ואילו המסקנה היא שגויה.
מי שמשתמש בדיונים שלו בטיעונים תקפים מקל מאוד על ההבנה, מחדד את הדיון (מאפשר להתמקד בברור אמיתות ההנחות) והופך את דרך החקירה לפשוטה יותר. בקרוב ניגע ברטוריקה ונראה שלא כולם מעוניינים להפוך את הדיון לחד. אך בל נקדים את המאוחר.

למתקדמים (ורק למתקדמים – אחרת דלגו על הפסקה הבאה בבקשה, בטח הראש כבר מתחיל לכאוב קלות ברקה):

• אם הטיעון לא תקף, לא ניתן לדעת כלום על המסקנה! (ייתכן שהיא נכונה וייתכן שלא). לא ניתן להמשיך הלאה ולהשתמש במסקנה להמשך הדיון. זו טעות נפוצה מאוד.
• כמו כן, גם אם המסקנה נכונה, זה לא בהכרח אומר שהטיעון היה תקף! (ייתכן והיא נכונה אך לא נובעת מן ההנחות – כבר ראינו נון סקוויטר בדרך המשי, ייתכן שהיא נכונה תמיד, וייתכנו אפילו מקרים מורכבים אחרים)
  א ס פ י ר י ן !

אז רגע, נומרולוגיה מדעית? זה מה שיצא מכל הסיפור הזה? אתה הרי אומר שהטיעון הזה תקף!

זהירות! אכן ראינו שהטיעון השני תקף למהדרין, ואפילו עונה לשם ברברה, המסקנה נובעת מן ההנחות, אך היא נכונה רק אם ההנחות נכונות. אז נשאר רק לבדוק אם ההנחות נכונות. פשוט – לא?

אז כמו שאומר אושיק לוי בחצר הפלפלים:

רגע רגע סבלנות – מיד הכל נדע

אחד הדברים המרתקים והיפים בחקירה מדעית היא הדרך בה בונים נדבכים של ידע חדש או מעודכן על בסיס ידע קודם. הקידמה מתאפשרת בזכות הסתמכות על עבודת קודמינו והימנעות מהמצאת הגלגל בכל פעם מחדש.
אך כל המבנה המפואר הזה היה מתמוטט מזמן אם היינו מתבססים על יסודות רעועים שלא נבדקו היטב. פיסות ידע חדש צריכות להבדק היטב לפני שמאמצים אותן בתור משען לקומות הבאות של הבניין, וגם "ידע" ישן צריך להבדק ולעמוד במבחנים שוב ושוב.
[זו דרך אגב אחת הסיבות העיקריות שתחומי פסאודו-מדע שונים אינם מתקדמים לשום מקום – היסודות שלהם רעועים לחלוטין, ואינם מאפשרים צמיחה לגובה. במקום זאת הם מתרבים לרוחב, כעשבים שוטים, ולא כעצים איתנים. גלשנו.]

אז נחזור לטיעון ברברה שלנו, אחת ההנחות בו היתה המסקנה של הטיעון הראשון:

• כל מה שמסתמך על מספרים הוא מדעי

האם ההנחה הזאת נכונה? מכיוון שזו המסקנה של הטיעון הראשון, הגיע הזמן לחקור טיעון זה מקרוב.

טיעון ראשון:

• הנחה: מתמטיקה היא מדעית.
• הנחה: מתמטיקה מסתמכת על מספרים.
• מסקנה: כל מה שמסתמך על מספרים הוא מדעי.

זה גם נראה כמו סילוגיזם. האם נצליח למצוא אותו ברשימת התבניות התקפות? האם זו דאטיסי? פריסון הילטון? או שמא דימאריס? נראה שלא. טיעון מצורה זו לא מופיעה ברשימה. למה? מכיוון שהוא לא תקף.

אז מה לא בסדר?

משהו מריח לא טוב

לפני שנסביר מה בדיוק לא בסדר, נכיר כמה מן הכשלים הנפוצים בטיעוני סילוגיזם:

כשל ארבעת התנאים – בסילוגיזם שתי ההנחות יכולות להכיל שלושה תנאים בלבד, כדי שניתן יהיה להסיק מהן מסקנה תקפה (תנאי מסוים צריך להופיע בשתי ההנחות ולקשר ביניהן). אם הן מכילות ארבעה תנאים ואינם קשורות, שום מסקנה אינה תקפה:

• הנחה: לשפן יש בית.
• הנחה: לכובע שלי שלוש פינות.
• לכן – מה? איזו מסקנה אפשר בכלל להסיק? אין שום דרך לקשר בין הטענות, מכיוון שאין מכנה משותף בין ארבעת התנאים (שפן, בית, כובע, שלוש פינות).

סילוגיזם קטיגורי – בטענה תקפה, ההנחה הראשית והמשנית מובילות יחדיו למסקנה. כשלים קורים כאשר (בהפשטה מרובה) ההנחה הראשית, המשנית, או צרופם – אינו מוביל למסקנה, למשל:

• הנחה: הדואר בא היום באוטו האדום.
• הנחה: לכל הבלונדיניות יש אוטו אדום.
• מסקנה: הדואר הובא היום ע"י בלונדינית…
  – זהו כשל בצרוף ההנחות. ניתן לתקן אותו, למשל ע"י השינוי הבא בהנחה השנייה – 'רק לבלונדיניות יש אוטו אדום' ואז הטיעון תקף.

מקרה מיוחד בסילוגיזם קטיגורי הוא מסקנה חיובית מהנחות שוללות – כשל בו אנו מנסים להסיק משהו חיובי ע"ס לפחות הנחה אחת שלילית:

• הנחה: דברים (קיימים) הם לא כפי שהם נראים  (המוטו שלנו בחשיבה חדה).
• הנחה: דני דין אינו נראה.
• מסקנה: 'דני דין הוא דבר קיים!'
  – לא ניתן להסיק מסקנה חיובית מהנחות שוללות (חוצמזה יש עירפול לגבי המושג נראה, אבל נתעלם ממנו). הטיעון אינו תקף.

סילוגיזם סטטיסטי – טענה סטטיסטית לגבי רוב, בדרך כלל, כמעט אף פעם לא, וכד'

חריג – טיעון המתבסס על הכללות ללא התחשבות בחריגים סבירים

• הנחה: (רוב) רואי חשבון הם אנשים ישרים.
• הנחה: רואי חשבון אישרו את הדו"חות של אנרון.
• מסקנה: הדו"חות של אנרון מדוייקים.
  – זה שבד"כ או אפילו על פי רב רואי החשבון הם ישרים, לא אומר שאלו של אנרון היו כאלו. די ברור שלא לגמרי…

חריג הפוך – טיעון שיוצר כלל מתוך היוצא מן הכלל…

• הנחה: מי שמחליק על קליפת בננה, יכול לפול, לשבור משהו, ואף לגרום לנזקים בלתי הפיכים לעצמו.
• הנחה: יתכנו קליפות בננה ברחובות העיר.
• מסקנה: אין לצאת מהבית מחשש לנזקים בלתי הפיכים!

מקור: http://r-mew.blogspot.com/2009/11/anatomy-of-lie.html

בחזרה למספרים

נחזור לטיעון הראשון:

• הנחה: מתמטיקה היא מדעית.
• הנחה: מתמטיקה מסתמכת על מספרים.
• מסקנה: כל מה שמסתמך על מספרים הוא מדעי.

או בצורה כללית:

• הנחה: קיים X  שהוא Y
• הנחה: קיים X שהוא Z
• מסקנה: כל Z הוא Y

הטיעון הזה, אינו תקף. הוא דוגמא לכשל אילקיט מינור. זה שמתמטיקה היא גם מדעית וגם משתמשת במספרים, לא אומר שום דבר על הקשר או הסיבתיות בין מדע למספרים, למשל שכל מה שמשתמש במספרים הוא מדעי.

* טריק פשוט לבדיקת טיעונים – שימרו על התבנית אך החליפו את המושגים לפשוטים וברורים לכם עד כמה שאפשר, למשל:

• מלפפון הוא ירוק.
• מלפפון הוא ארוך.
• לכן: כל מה שארוך הוא ירוק?

אולי המסקנה נכונה ואולי לא, אבל היא אינה נובעת מן ההנחות. לכן אי אפשר להשתמש בה כהנחה נכונה בטיעונים בהמשך.

אם ההנחה המשנית היתה 'אך ורק מתמטיקה מסתמכת על מספרים' הטיעון היה הופך תקף, אבל אז היתה הנומרולוגיה מתפוגגת מן העולם, כמו גם חשבונות המכולת והשיר "לכובע שלי שלוש פינות", שמשתמשים גם הם במספרים. חבל, דווקא שיר טוב.

סוף דבר

לסיכום, למרות שהטיעון השני תקף, לא ניתן לדעת אם מסקנתו נכונה, וזאת מכיוון שאחת ההנחות שלו מתבססת על מסקנת הטיעון הראשון שאינו תקף. מעבר לכך, ידע נוסף מראה לנו כי המסקנה של הטיעון הראשון אינה נכונה, כלומר, יש בהחלט דברים שמשתמשים במספרים אך אינם מדע, כלומר, אחת מהנחותיו של הטיעון השני בפירוש אינה נכונה, מה שאומר שלא ניתן לדעת דבר על נכונות מסקנתו. (כזכור, רק אם כל ההנחות של טיעון תקף נכונות מובטח לנו שמסקנתו נכונה. אם לפחות אחת מהן אינה נכונה, יתכן והמסקנה נכונה, ויתכן שלא, ולא ניתן להסיק זאת מהטיעון).

מבלבל? קצת. אבל אף אחד לא טען שחשיבה חדה היא אינטואיטיבית. לפעמים ההיפך הוא הנכון. היא דורשת תרגול ומאמץ מסוימים, אך מבטיחה מסקנות נכונות יותר.

***

מצטער. לא הצלחתי להראות שנומרולוגיה היא מדע. לפחות לא על סמך הטיעונים שפירטנו. אבל אולי נצליח להראות משהו במחקר הנומרולוגי? יאללה, אם עוד לא מילאתם את הטופס, זו ההזדמנות. קדימה, עוד מעט סוגרים את הבאסטה!

***

*ספויילר* – תשובות לחידות

האם נכון שאף דג לא עף? לא נכון! Flying Fish או דאונים בעברית, הם דגים שעפים:

ולפני שנפרד, האם גיליתם מי היא ברברה הבלונדינית הסודית? היא אותה אחת שעומדת מאחורי הציטוט שפתח את הפוסט הזה. או אולי יושבת. לא אמרתי שוכבת! אוף אתכם. מי שחשב שזו הבלונדינית הסודית יקבל פרס ניחומים על החקירה המשובחת.

____________________________________________________________________

רוצים לקבל עדכון במייל בכל פעם שאני מפרסם משהו חדש? הרשמו למעלה מימין (תמיד אפשר לבטל).
חושבים שאחרים יכולים להתעניין? שילחו להם את הכתבה או שתפו בפייסבוק!

היום נפגוש כל מיני ישויות לא אנושיות, שמתייחסות לעצמן. נעשה זאת בקלילות, אך מי שמעוניין יכול לשקוע במשך שעות, ימים ואף שבועות רבים בהשלכות מרחיקות הלכת של השעשועים התמימים למראה הללו (ראו קישורים בגוף הכתבה).

נתחיל במשפטים. הנה דוגמה טריוויאלית:

זה נכון.

זה לא נכון.

ומה עם זה?

אם המשפט הזה לא נכון, זה אומר שהוא נכון. ואם הוא נכון, זה אומר שהוא לא נכון. וחוזר חלילה…
זו גירסה פשוטה של פרדוקס השקרן, פרדוקס ששימש נקודת זינוק למהפכות במתמטיקה (ראה "משפטי האי שלמות של גדל").
בכלל, צרות צרורות מתרחשות כשטענות מתחילות להתייחס לנכונות של עצמן.
הרחבות, דקויות ותהיות נוספות אפשר לקרוא למשל כאן: פרדוקסים של הוראה עצמית.

 הנה שלשה חמודה:

משפט עם מודעות עצמית בריאה:

דינמיקה מעניינת נוצרת כאן (כלומר שם):

וכעת תורכם. השלימו את החסר:

• המילה אחת מופיעה במשפט זה _____.      (פעם אחת / פעמיים)
• משפט זה מכיל בדיוק, לא פחות ולא יותר מאשר _______ מילים.    (עשר / אחת עשרה)

גרפיקאי היה עושה את זה יותר טוב, אבל זה הרעיון:

הנה משהו מסוג עוד יותר מתוחכם:

אתם מוזמנים לבדוק!

כדי להדגים כמה האיזון ארעי, מספר לנו המשפט הבא כי –

והנה צמד משפטים מוזר, זהים אך שונים:

פתאום חששתי מגניבת זכויות יוצרים, אז יצרתי את זה:

ואת זה אני לא יכול לפרסם בשום מקום אחר, בלי להפוך את הטענה לשקרית:

***

הנה חידה (בהחלט פתירה) בשבילכם. השלימו את הפסקה הבאה ע"י הצבת מספרים בקוים הריקים ("1 פעמים" זו אפשרות קבילה):

בפסקה זו, הספרה 0 מופיעה __ פעמים, הספרה 1 __ פעמים, הספרה 2 __ פעמים, הספרה 3 __פעמים, הספרה 4 __ פעמים, הספרה 5 __ פעמים, הספרה 6 __ פעמים, הספרה 7 __פעמים, הספרה 8 __ פעמים והספרה 9 __ פעמים.

(תשובה כאן)

 ונסיים במערכון משעשע של "קצרים" בנושא:

בהקשרים אלה אי אפשר שלא להזכיר את הספר Gödel, Escher, Bach ולציין כי לאחרונה הסתיימה עבודת תרגומו לעברית. ומי שרוצה להתחיל להבין על מה משפטי גדל מדברים, מוזמן לקרוא על כך בבלוג המרשים של גדי אלכסנדרוביץ' או במאמר של אלון עמית.

עוד על התייחסות עצמית אפשר לקרוא במאמר של מריוס כהן כאן.

אתם מוזמנים להוסיף הגיגים, בדיחות, קישורים, סרטונים וכל העולה על דעתכם האסוציאטיבית, שקשורים איכשהו להתייחסות עצמית.

____________________________________________________________________

רוצים לקבל הודעות למייל על פרסום רשומות עתידיות? הרשמו למעלה מימין (תמיד אפשר לבטל).
חושבים שאחרים יכולים להתעניין? שילחו להם את הכתבה או שתפו בפייסבוק!

גיבורי-על שילהבו את דמיון האדם לאורך ההיסטוריה, החל ממיתולוגיות קדומות ועד לקומיקס, ספרים, סדרות וסרטים בני ימינו.
גיבורים כאלה ניחנים בכוחות על-טבעיים, נצחיות מעבר לזמן ולמקום והאנושות כולה סומכת עליהם שיצילוה מכליה ואבדון.
ואם האנושות סומכת, גם אנחנו יכולים, נכון?

לאחרונה, באחד מדיוני הקבוצה, עלה שמו של אדם שעל פניו נראה כעונה על כל הקריטריונים הבסיסיים של גיבור-על:

כוחות על טבעיים: מומחה לפסיכוקינזיס ותת מודע.
נצחיות: אותה הוא מבקש להשיג ע"י הקמת רחוב בירושלים על שמו בעודו בחייו, או דרישה מעובדיו להוסיף את שם משפחתו לת"ז הרשמית שלהם.
מגרה את הדמיון: החל מניטרול תדר הצחוק מהעם ועד לחרבוזון וייבוש עטיני הפרות – ועוד רבים אחרים, בסך הכל רפרטואר מרשים למדי. (אתם מוזמנים להכנס לקישורים, הנאה מובטחת, money back guaranteed).

ומה יש לגיבור-העל שלנו לומר?

צריך להבין שדרך התת-מודע ובכח המחשבה, ניתן להשפיע ולשנות דברים רבים בחיינו. בין החסידים של השיטה כיום מצויים גם פרופסורים רבים ורופאים קונבנציונליים מהדרג הבכיר, שהיו סקפטיים ויצאו פעורי פה כשראו את התוצאות.

האם אפשר לסמוך על הגיבור הזה? מתי פניה לסמכות תקפה? מתי לא?
בכך נעסוק הפעם – כשל לוגי הנקרא פנייה אל הסמכות.

***

כאשר מנסים לשכנע אותנו בנכונות טענה מסוימת, לפעמים מנסים לעשות זאת ע"י רתימת גורמי סמכות:
"מדען בכיר טוען ש…" או "מייקל ג'ורדן בכבודו ובעצמו אומר ש…" , וכד'.

במקרים בהם גורם הסמכות מוכר ואמין, הינו מומחה לתחום בו הוא טוען את דבריו ובמיוחד אם טענותיו נמצאות בקונסנזוס –  לגיטימי להשתמש בדעתו כדי לחזק את הטענות. אחרי הכל, התייעצות עם מומחים עוזרת לקבל החלטות באופן מושכל ונבון יותר בתחומים חיים רבים (החל מהדרך הנכונה לחבר מדף לקיר, וכלה בהחלטות בריאותיות קריטיות). גם בתי המשפט עושים שימוש תדיר בעדים מומחים בכדי להגיע להחלטות מבוססות יותר בתחומים מקצועיים שונים.

לעומת זאת, כאשר מדובר במומחה אלמוני, לא מקובל, או מומחה שמצוטט לגבי תחום שאינו תחום מומחיותו, מדובר במניפולציה. שימוש כזה בסמכות, אם אינו מלווה בנימוקים תקפים ומידע רלוונטי, מנסה לכפות הסכמה בשל סמכותו של המצוטט בלבד.

למעשה יש כאן פניה ליראת הכבוד שלנו, לתחושה שלנו כי אנחנו לא מבינים מספיק בנושא בכדי לגבש דעה משל עצמינו, וכי אחרים יודעים הרבה יותר טוב מאיתנו מה נכון ומה לא. זו מניפולציה פסיכו-לוגית, ויתכן מאוד שהיא נשענת על דפוסי חשיבה והתנהגות שאפיינו אותנו כילדים קטנים, תקופה בה קיבלנו את דברי הורינו כאמת צרופה רק מתוקף מעמדם.

במובן הכללי הזה, פניה לסמכות הינה חלק ממשפחה נרחבת יותר של כשלים בשל אי-רלוונטיות, משפחה אשר את חבריה האחרים נפגוש בעתיד הקרוב.
לפני שנהפוך בלתי רלוונטיים נחזור מיד לגיבור-העל שלנו.

מב"מים – מומחים בלתי מזוהים

… בין החסידים של השיטה כיום מצויים גם פרופסורים רבים ורופאים קונבנציונליים מהדרג הבכיר, שהיו סקפטיים ויצאו פעורי פה כשראו את התוצאות.

גיבורנו ממהר לגייס פרופסורים ורופאים קונבנציונאליים בכירים. שימו לב כיצד הוא מנסה לבסס סמכות בכל מילה:

– פרופסורים – אקדמייה כמקור לידע מדעי ותקף.
– רבים – כמה? מיהם?
– רופאים – גיבורנו מתיימר לעזור לאנשים עם בעיות פיזיות ונפשיות ולרפא אותם בפסיכוקינזיס. הוא אינו רופא, אך עט על המציאה לגייס רופאים לחיזוק טענותיו, בדיוק אלו אשר מזוהים ע"י קהל היעד שלו כסמכות הטבעית והראשונית לטיפול, ובכך ממצב את עצמו בשורה אחת איתם.
– קונבנציונאליים – לא מספיק לגיבור לגייס רופאים "משלימים" או "אלטרנטיביים" (אולי הוא יודע משהו על אמינותם וכישוריהם שאנו לא יודעים?) חשוב לו למשוך המונים, ולא רק "רוחניקים" ולכן הוא מגייס את המיינסטרים לתמוך בו, אך באותה נשימה מציע טיפול חלופי מבלי שהיה צריך לעבור אפילו מבחן מדעי אחד לשיטותיו – כאשר נשאל גיבורנו אם עמד אי פעם במבחן מדעי, ענה: "אני לא קוף!" (על כשלים של אי רלוונטיות נעסוק בעתיד).
– דרג בכיר – מכפיל כוח – מעתה אמור "מהר יותר, גבוה יותר, חזק יותר, בכיר יותר".
– היו סקפטיים – ניסיון נוסף להרחיב את קהל היעד גם לכאלו שאינם נוטים לשיטותיו של הגיבור ואולי כן סקפטיים קלות.
– פעורי פה כשראו את התוצאות – המשך קו של עירפול (מופתעים לטובה או לרעה? ומה בדיוק היו התוצאות?)

הכשל המהותי כאן הוא שאין שום ציון או איזכור של מיהם אותם פרופסורים או רופאים. כך לא ניתן לוודא אם אמת הדבר או בדיה. יכולת התמרון הינה אינסופית – ניתן לומר מה שרוצים על הוולדמורטים שלנו –They who must not be named .

חשוב לשים לב: אי היכולת להפריך טענה היא סימן היכר מובהק לטענות פנטסטיות. הגיבור שלנו מבין זאת כמובן.
הוא ממשיך ומחזק את דבריו באמצעות הטיעון הבא:

ידוע כי אדם אשר ניחן בכוחות בפסיכוקינזיס, אסור להזכיר את שמו לשווא ואף להתבדח על עיסוקו.

גם כאן נעשה שימוש כפול בכשל סמכות. ראשית גיבורנו טוען כי משהו ידוע – למי בדיוק זה ידוע? מה המקור? זהו מב"מ נוסף: מקור בלתי מזוהה.
אך כאן הגיבור מתחכם אפילו יותר, ומבסס את היותו בעל כוחות בפסיכוקינזיס על עדות עצמית. זהו כשל סמכות שנקרא בשם האמינות, ומורכב מעדות אינטרסנטית עצמית. כל מי שהיה במוסך ושילם מחיר מפולפל כי המוסכניק אמר לו 'לי זה עולה יותר', או 'סמוך על ברוך' נפל קורבן להטיה הזו.

דוגמה נוספת להסמכה עצמית בשם האמינות נביא מבית המדרש המוכר והאהוב:

והמוח – מבין בעצמו או ע"י עצירת הנשימה או זרימתה – זתומרת כשאתה לא מבין משהו אז הנשימה נעתקת נכון או לא? בתור מישהי שחקרה את המוח במשך שנים רבות* – אני בהחלט יודעת למה אני מכוונת**.

* הבהרה: הכותבת אינה חוקרת מוח במקצועה.
** גם אתם יודעים למה היא מכוונת – נכון או לא?

דוקטור תציל אותי!

* אזהרה: הצפייה בקליפ הזה מותרת רק עם מרשם רופא…

בעולם הפרסום מרבים להשתמש בטיעוני סמכות כושלים (מבחינה לוגית, לא מבחינה מסחרית כמובן).

נתחיל בשימוש קיצוני וכמעט גרוטסקי ברופאים, בפרסומת לסיגריות ("הסוג שרופאים מעשנים הכי הרבה"), מחזה כמעט בלתי נתפס בעולם של היום, אבל מציאות של שנת 1954. אז קחו נשימה עמוקה, דהרו ברכבת הזמן, ושאפו חזק לריאות:

דוגמה נוספת מתחילה ב'גילוי נאות': "אני לא רופא, אבל אני משחק רופא בטלויזיה" (נראה שעצם אזכור המילה "רופא" עושה את עבודתה – אנשים נוטים שלא להפנים מילות שלילה):

כתוב בעיתון

המדיה נתפסת כמקור סמכות עיקרי ומרכזי עבור אנשים רבים, למרות שמאחוריה עומדים בעלי אינטרסים כלכליים אשר מומחיותם העיקרית היא… מניפולציות. מטרתה העיקרית של המדיה היא לעשות כסף, ואת זה משיגים באמצעות רייטינג ופרסום. רייטינג משיגים באמצעות סנסציות, הגזמות, הפחדות, מכירת חלומות וכיוצא באלה עניינים שכל קשר ביניהם לבין המציאות – שואף למקרי.

לא פעם זוכים מוצרים, ונותני שירותים תמוהים לזמן מסך לא בגלל שהם מועילים או איכותיים, אלא בגלל שהם מסקרנים, מעוררי מחלוקת, תמוהים, או אף מעוררי גיחוך (חלקם אפילו מציגים עצמם כגיבורי-על). בקיצור, בידור טוב. לאחר מכן מצטטים היצרנים או נותני השירותים הללו את ה"סיקור החדשותי האוהד" לו זכו במדיה, והמעגל הסימביוטי הושלם: המדיה קיבלה את אספקת הבידור היומית שלה, זכתה ברייטינג, דחפה פרסומות למוצרים אחרים בין לבין, קיבלה תשלום מהמפרסמים, המתארחים קיבלו פרסום ו"חותמת סמכות" למרכולתם, וכולם המשיכו בחייהם כשהם עשירים ושמחים. רק הארנקים של חלקנו דולדלו קלות בתהליך. לא נורא, אנחנו מתחלפים.

ברור מכך כי טיעון כמו "קראתי בעיתון" או "ראיתי ביוטיוב" הוא חלש ביותר, כשלעצמו. לא שאין דברים נכונים במדיה, יש. אבל קשה מאוד להפריד בינם לבין בליל השטויות, העיוותים והשקרים שמקיפים אותם.

אני מפורסם, משמע אני צודק

נניח שחבר המליץ לכם על מסעדה נהדרת, לטענתו, ולפתע אתם מגלים כי בעל המסעדה משלם לו עמלה על כל לקוח שהוא מביא… סיכוי טוב שהייתם מפקפקים בהמלצתו (ואף שוקלים המשך חברות איתו), לא?

משום מה כשסלבריטאי ממליץ לנו על משהו בתמורה לתגמול כספי נאה, אנחנו נוטים שלא לפעול לפי שיקול הדעת הבריא הזה. המכירות מוכיחות כי הדבר מצליח לשכנע רבים מאיתנו לרכוש את המוצר (והראיה הפשוטה לכך – חברות הפרסום, שעורכות מחקרים רבים בתחום, ממשיכות להשתמש בטריק הפשוט הזה 'בשם הסלב', במטרה לסמא את עיננו ומוחנו).

עם סגולה

חבר נוסף במשפחת כשלי הסמכות נקרא "בשם המיעוט הנבחר" (או "בשם האינדיבידואליזם", או פשוט "פניה לסנוביזם"): פרסום של דבר כלשהוא תוך פניה ל-'מיעוט נבחר' כאשר ברור שמטרתם של המפרסמים היא שכולם ירכשו את המוצר. כאן פונים לרצון שלנו להרגיש מיוחדים, חשובים או טובים יותר מאחרים, מנהיגים ולא מובלים, או הרצון שלנו להשתייך לקבוצת עילית.

"הוגו בוס: תהיה מקורי" –  רק לי יהיה הוגו בוס, לא לאף אחד אחר. באמת.

"סוזוקי – האם אתה מספיק אמיץ בשבילה?" – כן! כן! אממ…

ומעם סגולה נעבור לעשרת הדברות.

עשרת דיברות הסמכות

בחלק מכשלי הסמכות כבר עסקנו, הגיע הזמן לפרוש את חברי המשפחה הנוספים:

1) מומחים לא מזוהים – התייחסות גנרית לברי סמכות מבלי שניתן לאמת או לבדוק את הרלוונטיות או המומחיות, ומבלי לפרט את טענתם ("מדענים אומרים").
2) בשם האמינות – עדות עצמית או שרירותית לסמכות, ואולי אחד הטיעונים הישראלים במיוחד: "סמוך על ברוך".
3) בשם בעל-שם ("סלב") –מישהוא מפורסם מחזיק בעמדה מסוימת, ולכן היא נכונה.
4) בשם המיעוט הנבחר (סנוביזם) – ניצול הצורך האנושי להיות מיוחדים ולאמץ טיעון של קבוצת עילית.
5) בשם הרוב – "הרוב חושב כך ולכן זה נכון". מכונה גם טיעון לפי קונצנזוס, או לפי מספרים ("מיליארד סינים לא טועים!"). ובכן, הרוב חשב בזמנו שהעולם שטוח, והרוב טעה.
6) סמכות בלתי מעורערת – "ככה כתוב בתורה" (והיא נכונה, כי אלוהים הכתיב אותה. וזה נכון כי זה כתוב בתורה. שהיא נכונה. כי אלוהים הכתיב אותה…).
7) בשם המסורת – "ככה תמיד עשו את זה כאן" או "כבר אלפי שנים הסינים משתמשים בזה, זה חייב להיות נכון".
אז זהו שלא. זה עשוי להיות נכון, אבל עצם העובדה שזו המסורת לא מחייבת שזה נכון. הטיעון אינו תקף.
8) בשם החדשנות – התפישה השגויה לפיה משהו חדש בהכרח יותר טוב או נכון.
9) בשם הדלות – נזירים הם בהכרח חכמים.
10) בשם העושר – "בעל המאה הוא בעל הדעה".

כל התורה על רגל אחת

הבה ננסה לרקוח כמה שיותר גורמים מהרשימה יחד, וניצור את הסיפור הבא:

נזיר סיני [בשם הדלות + מומחה לא מזוהה] שמגיע לביקור בארץ עומד לחשוף לראשונה בפני הנרשמים לסדנה מידע שנשמר עד כה בסוד בפני אנשי המערב [בשם המיעוט הנבחר]. הוא יספר כיצד לקח טיפול שנמצא בשימוש כבר אלפי שנים [בשם המסורת] בידי מאות מיליוני סינים [בשם הרוב], ופיתח אותו, על סמך נסיונו האישי הרב [בשם האמינות], לכדי טיפול מודרני באמצעות מכשיר אלקטרוני ממוחשב [בשם החדשנות], טיפול אשר עד היום זכו להנות ממנו רק בעלי ממון [בשם העושר] וידוענים [בשם בעל השם] בודדים.

סיפור נחמד לא? כשאתם שומעים סיפור נחמד כזה, כל נורות האזהרה צריכות להדלק. כל מה שנאמר כאן לא רלוונטי כהוא זה לתקפות הטיפול המדובר. מדובר בגיבוב מניפולציות של פנייה לסמכות שמטרתן להאפיל על חוסר במידע ענייני יותר, כגון: "טיפול שנמצא יעיל ובטוח לשימוש בסדרת ניסויים קליניים".

על מומחים מזוהים, אבל לעניין אחר

עד כה פגשנו מומחים שאינם מזוהים, ומזוהים שאינם מומחים.

לעיתים קרובות אנו נתקלים בציטוט מפי אדם מוכר בעל השכלה ותארים. אולי אף בזוכה פרס נובל.
אדם כזה בודאי יודע על מה הוא מדבר, לא?

Well, תלוי כמובן על איזה נושא הוא מדבר. אם מדובר בתחום השכלתו והכשרתו, כדאי כנראה להקשיב לו. אך אם מדובר בתחום אחר, דעתו אינה טובה מדעתו של כל אדם אחר, ואולי אף פחותה, כמו שניתן לראות בדוגמא הבאה של ספורטאי ואולי גם מומחה על בתחום התעופה (בהיותו אווירון):

ראשית, נבסס סמכות: "הייתי שלוש פעמים מלך השערים, אז איך אני יכול להיות טיפש?" (1999)

ואם לא הבנתם עדיין, נחזק מתחום האנטומיה: "כדורגלנים הם אנשים חכמים, יש לנו ראש על המתניים" (1997)

נעבור לתזונת ילדים והסיבה לנחיתות הגופנית בארצנו: "הם מגיל קטן אוכלים קותלי חזיר, ואנחנו מסתפקים בקפה ועוגה" (1992)

וציטוט אחד (שיצא לו די מוצלח האמת) על עיתונות: "בעיתון יש רק חלק אחד נכון: התאריך"

אפשר להמשיך ולחטוף ככה את כל הפוסט…

***

ונעבור לדוגמה קצת יותר מבלבלת, מהעת האחרונה:

ד"ר ויארה שייבנר מאוסטרליה, ערכה ניסוי בקרב 100 אלף תינוקות, והגיעה למסקנה שפגיעות, כמו אלה שמהן סבלו התאומים קרי שברים בגולגולת או דימומים תוך ראשיים, עלולים להיגרם מאלרגיה לחיסונים שגרתיים שמקבלים תינוקות.

מבלי להכנס לפולמוס החיסונים, רק נעצור לרגע ונבדוק מיהי אותה ד"ר שייבנר? מסתבר כי היא כלל לא ד"ר לרפואה!
בויקיפדיה כתוב שהדוקטורט של שייבנר הוא בתחום המיקרו-פאלאותולוגיה (ענף של הגיאולוגיה) ובשנים 1958-1968 היתה פרופסורית במחלקה לגיאולוגיה באוניברסיטת קומניוס בברטיסלבה. בראיון לתוכנית שישים דקות האוסטרלית אמרה:

אני דוקטור למדעי הטבע. עברתי קורס אחיות כשהייתי צעירה אבל אני מאמינה שאני יודעת יותר ממרבית הרופאים.

פרטים נוספים כאן.

***

Kary Mullis – זוכה פרס נובל לכימיה התרשם שאסטרולוגיה עובדת, לפחות לגביו. התרשמותו האישית אינה רלונטית כמובן לתקפותה של האסטרולוגיה (חבל שלא קרא את סדרת הכתבות על האסטרולוגיה. נראה שחסר לו קצת ידע בתחום הטיות קוגניטיביות והמחקר האסטרולוגי). בין שאר מעלליו הוא גם קידם התכחשות לאיידס ולהתחממות גלובלית – עוד נושאים בהם אינו מומחה כלל.

***

ואיך אפשר בלי גיבור-על אמיתי, הפיזיקאי הדגול שדעותיו האישיות בתחומים שאינם נוגעים לפיזיקה מנוכסות לכל מטרה אפשרית, הלא הוא איינשטיין כמובן. אנשים מצטטים מהגיגיו כשהם מנסים לחזק את טענותיהם הפוליטיות, החברתיות, המוסריות והדתיות. (לגבי תחום האמונה, העובדה שציטוטים של איינשטיין משמשים לא פעם הן את המאמינים בקיום האל והן את האתאיסטים, רק מחזקת את אי הרלונטיות שלהם לדיונים).

ערכת זיהוי סמכות לגיטימית

לסיכום, ננסה להצטייד במספר כללי אצבע, קוים מנחים, שיעזרו לנו לזהות סמכות לגיטימית ולנפות סמכויות שאינן לגיטימיות:

1) האם האדם אכן אמר את הדברים המיוחסים לו, ואם כן, האם הדברים לא הוצאו מהקשרם?
לעיתים קרובות משנדמה זה המצב. אנשים ממציאים ציטוטים שלא היו ולא נבראו, ומייחסים אותם לאישים מפורסמים כמו איינשטיין למשל, רק כדי לתת תוקף מדומה לטענותיהם, תוך פניה לסמכות שאפילו לא אמרה את הדברים.
נמשיך כעת בהנחה כי זהותו של המומחה ידועה.

2) האם הוא בכלל מומחה? מה ההכשרה שלו? מה המוניטין שלו?
מה הרקע האקדמי שלו? איזה תארים יש לו? באיזו אוניברסיטה? האם פרסם מאמרים או ספרים בנושא? האם קיבל פרסים או ציונים לשבח על עבודתו? האם המומחה הזה מוכר ומוערך ע"י מומחים אחרים בתחום?
(לעיתים קרובות מספיק לכתוב את שמו בויקיפדיה כדי לקבל תשובות לשאלות אלו, או לחילופין תהיות פומביות לגבי הכשרתו האמיתית).

3) האם הכשרתו של המומחה היא בתחום היעוץ שלו?
רופא מומחה בתחום כלי דם אינו יכול לשמש כמומחה בתחום ניתוחים פלסטיים, ובנושאים פוליטיים או מוסריים דעתו שקולה לדעתו של כל אדם אחר. הכשרתו ותאריו לא מעניקים לו עליונות, עדיפות או תוקף בנושאים אחרים.

4) האם יש למומחה מניעים אישיים להביע דעה מסוימת?

– מניעים כספיים? האם הוא מקבל תשלום עבור חוות הדעת הזו? ממי? האם הוא בעלים של חברה או מועסק ע"י חברה שמוכרת מוצרים/שירותים בתחום הנוגע לתחום היעוץ שלו?
(למשל, חוות דעת בעניין נזקי עישון מפי מומחה אשר עובד בחברה ליצור סיגריות, מוארת באור חשוד. כך גם המלצתו ה"מקצועית" של מתנגד לטיפולים קונבנציונליים שמתגלה כעוסק במכירת מוצרים אלטרנטיביים בהם הוא תומך).

– מניעים אחרים? כסף אינו המניע היחיד שצריך לחפש. יכולים להיות מניעים אידאולוגיים (למשל דתיים, חברתיים או פוליטיים) או מניעים אישיים (למשל פרסום אישי או נקמה). לא על הכל אפשר לעלות, אבל לפעמים בירור קצר על הרקע של המומחה מספיק בכדי להציף סימני שאלה לגבי ה"ניטראליות" שלו (למשל ע"י עיון באתר הבית שלו או חיפוש פרסומים שונים עליהם הוא חתום).

5) מהם המאפיינים של תחום המומחיות המדובר?

– ישנם תחומים בהם רוב המומחים תמימי דעים (כמו במדעים מדויקים למשל).
– יש תחומים בהם הדעות חלוקות יותר (כמו למשל במדעי הרוח, פסיכולוגיה, כלכלה וכד'). בתחומים אלה מגוון דעות אישיות הוא עניין מבורך ומפרה, אך חשוב להבחין בין דעות לבין עובדות.

– בכל מקרה כדאי לברר – האם דעתו של המומחה נמצאת בקונצנזוס או נחשבת חריגה/קיצונית? (שהרי אם מחפשים מספיק, ניתן למצוא מומחה שיתמוך בכל דעה שקיימת).

– תחומי ידע אחרים הינם מפוקפקים כשלעצמם, ולכן "מומחיות" בהם אינה יכולה להעיד רבות על המומחה.
כך למשל "מומחים" בכל מיני שיטות טיפול אלטרנטיביות שלא נבדקו מעולם, או כאלה שנבדקו ונמצאו חסרות תוקף – אין משמעות רבה למומחיותם, גם אם קיבלו תעודה ממוסד בו למדו במשך שנים. גם שנות לימוד רבות ותארים לא יצליחו להפוך את מה שאינו נכון, לנכון.

***

אתם מוזמנים לשתף את כולנו בסיפורים, קריקטורות, פרסומות או מקרים אחרים בהם נתקלתם במקורות סמכות מעניינים.

לקריאה נוספת:

• על גיבורנו: אתר הבית של הגיבור, מבחר הגיגים מהבלוג בתפוז,
  בחינה מעט יותר ספקנית של המדיה: ערוץ 2 – חלק 1 וגם חלק 2, ערוץ 10 (מזל שאין 10 חלקים)…
• http://www.fallacyfiles.org/authorit.html
• http://www.nizkor.org/features/fallacies/appeal-to-authority.html
• http://rationalwiki.org/wiki/Argumentum_ad_verecundiam

____________________________________________________________________

רוצים לקבל הודעות למייל על פרסום רשומות עתידיות? הרשמו למעלה מימין (תמיד אפשר לבטל).
חושבים שאחרים יכולים להתעניין? שילחו להם את הכתבה או שתפו בפייסבוק!