ביקורת עמיתים – עבר, הווה ועתיד

ביקורת עמיתים – עבר, הווה ועתיד

היום מתארח בבלוג ד"ר גל חיימוביץ', פוסט-דוקטורנט במכון וייצמן, חוקר בתחום הביולוגיה המולקולרית, נשוי ואב לשניים. כותב את הבלוג Green Fluorescent Blog. הנה רשומה פרי עטו בנושא "ביקורת עמיתים".

* * *

ביקורת עמיתים (peer review) היא אחד מעמודי התווך של העולם המדעי. אבל לא רק המדענים עצמם סומכים ידיהם על ביקורת העמיתים, אלא גם הספקנים (ביניהם קהילת "חשיבה חדה" כמובן) מזכירים השכם וערב שעל הספקן להסתמך על מחקר שעבר ביקורת עמיתים ולהתעלם מכל מחקר שלא עבר ביקורת עמיתים. אכן, ביקורת עמיתים היא דרכו של העולם המדעי לבחון את איכות המחקר ולהציע פתרונות לשיפור, אם צריך.
השיטה, בגדול עובדת. אולם, למרות היתרונות של השיטה הנוכחית, יש לה גם חסרונות רבים.

איך זה התחיל?

עם התעוררות המדע המודרני וייסודן של "אגודות מלכותיות" (royal societies) אי-אז במאה ה-17, ביקורת העמיתים התבצעה במפגשים פרטיים (כלומר החוקר פונה לעזרה מעמיתיו), במפגשים מדעיים, או לאחר פרסום המחקר (post-publication peer-review). כלומר, מי שהחליט אם מחקר מדעי הוא בר פרסום הוא עורך כתב העת (או הספר) בחסות החברה. ביקורת עמיתים טרום-פרסום (pre-publication) הוכנסה לשימוש לראשונה בשנת 1731, ע"י האגודה המלכותית של אדינבורו, אשר פרסמה קובץ מאמרים רפואיים. בשנת 1752, האגודה המלכותית של לונדון, אשר הוציאה לאור את כתב העת Philosophical Transactions, והשתמשה בביקורת עמיתים באופן לא רשמי מאז נוסדה בשנת 1665, יישמה לראשונה את השיטה באופן רשמי: מאמרים שהגיעו לעורך נשלחו לקבוצה מצומצמת של חברי האגודה, בעלי ידע בנושא המאמר, לצורך הערכה.

במאה ה-19 העיתונים המדעיים כמהו למאמרים והעורכים היו פונים לחוקרים בבקשה לפרסם את מחקריהם. ביקורת עמיתים הייתה נתונה לשיקול דעתו של העורך. המצאת נייר ההעתקה (carbon copy) בסוף המאה ה-19 הקלה על הפקת עותקים והפצתם לקבוצה מצומצמת של חברי אגודה. אולם, רק לעיתים נדירות המאמר נשלח לחוקר חיצוני. המצב הזה נמשך עד למחצית המאה העשרים.

ביקורת עמיתים טרום-פרסום ע"י מומחים חיצוניים לא נכנסה לשימוש בעולם המדעי באופן מסודר. למשל, The British Medical Journal שלח כל מאמר לביקורת עמיתים חיצונית כבר משנת 1893. לעומתו, כתב העת הרפואי JAMA הכניס ביקורת עמיתים לשימוש רק בשנת 1962, ו- The Lancet הכניס את ביקורת העמיתים לשימוש רק בשנת 1976. מאמרים כמו מאמרו של איינשטיין מ-1905 על תורת היחסות או מאמרם של ווטסון וקריק משנת 1953 על מבנה ה-DNA כלל לא עברו ביקורת עמיתים טרם פרסומם. לעומת זאת, מאמר של איינשטיין מ-1936 נדחה לאחר ביקורת עמיתים.

תגובתו של איינשטיין

זו הייתה תגובתו של איינשטיין. מקור

הפיתוח הטכנולוגי שעזר להכניס את ביקורת העמיתים לשימוש קבוע הוא מכונת הצילום, שנכנסה לשימוש מסחרי בשנת 1959. כיום, ביקורת עמיתים טרום-פרסום משמשת בכל כתבי העת המדעיים והיא נחשבת ל"חותמת כשרות" על המאמר המדעי.

איך זה עובד?

אחד העקרונות החשובים שמנחים את המחקר המדעי הוא שאת המחקר ותוצאותיו יש להציג לקהל הרחב בכלל, ולקהילה המדעית בפרט. קיימים שני ערוצים עיקריים שבהם החוקר מציג את עבודתו בפני הקהילה המדעית: כנסים מדעיים ופרסום מאמרים בעיתונים מדעיים. בשני המקרים, החוקר חושף את השערת המחקר, שיטות המחקר ותוצאותיו. ובשני המקרים, חוקרים אחרים יכולים להעיר הערות, חיוביות או שליליות. זו תמצית ביקורת העמיתים.

העבודה המוצגת בכנסים היא, במקרים רבים, חלקית. זאת מכיוון שהזמן שמוקצב להרצאה הוא קצר (בין 5 ל-45 דקות, תלוי בסוג הכינוס) ואינו מאפשר להציג את כל פרטי המחקר, אלא רק את התוצאות העיקריות. כנסים הם גם הזדמנות מצוינת לסטודנטים להציג את עבודתם, בצורה של פוסטר. גם במקרה זה, הפוסטר מציג תמצית של המחקר, שנמצא במקרים רבים עדיין בהתהוות.

פוסטר שגל הציג בכנס לפני אי אלו שנים. מקור: גל חיימוביץ'

פוסטר שגל הציג בכנס לפני אי אלו שנים. מקור: גל חיימוביץ'

חשוב לציין שכל ביקורת (חיובית או שלילית) בכנסים מדעיים אינה מחייבת את החוקר לשום שינוי, ובאופן רשמי אין לה השפעה על קבלת המחקר לפרסום בכתב עת מדעי. מצד שני, כל עוד מחקר לא פורסם בכתב עת מדעי, הוא נלקח בערבון מוגבל. באופן כללי, רק מחקרים שעברו ביקורת עמיתים ופורסמו בכתבי עת מדעיים נשקלים בעת צירוף חוקרים לסגל אוניברסיטאי, ובעת הענקת קביעות או מענקי מחקר. נחזור לכך בהמשך.

מחקר "גמור" מוצג לקהילה המדעית כמאמר בעיתון מדעי. אלו השלבים שצריך לעבור עד לפרסום המאמר:

  1. כתיבת מאמר: כל חוקר מחליט בעצמו מתי נאספו מספיק תוצאות, ואילו תוצאות להציג. יחד עם התוצאות, המאמר כולל רקע והשערות, שיטות העבודה, מראי מקום ("ציטוטים") של מחקרים אחרים, דיון וסיכום.
  2. הגשת המאמר: החוקר מגיש את המאמר לעיתון מדעי לבחירתו – לפי תחום המחקר וחשיבותו (לדעת החוקר). אסור להגיש לכמה עיתונים מדעיים במקביל. בעת הגשת המאמר, החוקר צריך לפרט את שמות כל השותפים למחקר (סטודנטים, חוקרים ממעבדות אחרות) ואת השתייכותם המוסדית (אוניברסיטה, מכון מחקר, חברה מסחרית וכולי). החוקר צריך להצהיר על ניגודי אינטרסים, מקורות מימון וכדומה. נוסף לכך הוא יכול להמליץ על מספר עמיתים אליהם המאמר יישלח לביקורת (או לבקש שהמאמר לא יישלח לחוקר מסוים – למשל בשל חשש לניגוד אינטרסים מול אותו חוקר).
  3. העורך המדעי של כתב העת הוא הראשון שרואה את המאמר. הוא מחליט האם המאמר מתאים לכתב העת, האם הוא יעניין את הקוראים והאם הוא ברמה מדעית גבוהה מספיק לפרסום.
  4. אם המאמר לא נדחה בשלב הקודם, הוא נשלח לביקורת עמיתים. לרוב, המאמר נשלח לשניים-שלושה חוקרים שאמורים להיות מומחים בתחום (העורך אינו חייב לבחור מתוך רשימת ההמלצות שמגיש המאמר צירף). בנקודה זו חשוב להדגיש מספר דברים:
    • חוקר שקיבל פניה מהעורך בבקשה לשפוט את המאמר לא חייב להסכים. במקרה זה, העורך יחפש חוקר אחר.
    • השופטים אינם מקבלים (לרוב) תמורה כספית או טובות הנאה אחרות על הביקורת.
    • אנונימיות השופטים נשמרת, כלומר כותב המאמר אינו יודע מיהם השופטים (אלא אם כן השופט עצמו מוותר על האנונימיות וחותם את שמו).
  5. לשופטים ניתנת לרוב תקופה של 2-4 שבועות להחזיר תשובה לעורך.

השופטים אמורים לבחון את המאמר מהיבטים רבים, שלחלקם נתייחס בהמשך:

  • טיב המחקר: האם השתמשו בשיטות מחקר מתאימות, האם בוצעו מספיק ניסויי ביקורת? האם הניסויים מתאימים לשאלת המחקר?
  • משמעות המחקר: האם התוצאות פורשו נכון? האם יש דרך אחרת לפרש אותן? האם התוצאות המוצגות משכנעות מספיק?
  • היקף המחקר: האם יש צורך בניסויים נוספים (ביקורות, הבהרה של תוצאות דו-משמעיות, מכלול התוצאות לא מספיק להחזיק את התיאוריה המוצגת).
  • טיב המאמר: האם התוצאות מוצגות בגרפיקה מתאימה? האם הכתוב אכן תואם למה שמוצג בצורה גרפית? האם המאמר כתוב באופן ברור ומובן לקורא (מבחינה מדעית ותחבירית)?
  • המאמר בתוך תחום המחקר: האם המחקר חדשני מספיק? האם החוקר התייחס למחקרים קודמים שאותם המחקר שלו מאשר/שולל? האם הציטוטים המובאים במאמר אכן מתאימים מבחינת הקשרם למחקר או לטקסט? האם החוקר התייחס להשלכות של התיאוריה שלו על תחום המחקר?
  • השורה התחתונה: האם המאמר מתאים וטוב מספיק בשביל כתב העת אליו הוא הוגש?

בנקודה זו ארצה להתייחס בקצרה לנושא אמינות המחקר, כלומר, האם יש חשד לזיוף תוצאות, שכן אנו נחזור לנושא זה בהמשך. השופטים בביקורת עמיתים לא אמורים לזהות זיופים כחלק מתהליך השיפוט. בפועל, זיופים רבים מתגלים רק לאחר שמעבדות אחרות לא מצליחות לשחזר את תוצאות הניסויים המתוארים במאמרים אלה.

  1. לפי תשובת השופטים, העורך מחליט על הצעד הבא:
    • אם תגובת השופטים הייתה שלילית (כולם או רובם), אזי סביר שהעורך ידחה את המאמר.
    • אם לשופטים אין מילה רעה לומר, כמובן שהמאמר יתקבל. מקרים אלו נדירים עד מאוד.
    • לרוב, תשובתם של השופטים היא חיובית, בתנאי שהחוקר יבצע שינויים, שנוגעים לאחד או יותר מהסעיפים שהוזכרו למעלה. שינויים אלה יכולים לכלול דרישה לניסויים נוספים, שינויים בטקסט ו/או בדרך הצגת התוצאות.

במקרה השלישי, העורך יכול להחליט על הקצבת זמן לחוקר לצורך ביצוע השינויים (בין חודש לחצי שנה – תלוי בהיקף העבודה), או על דחיית המאמר, אם היקף השינויים הנדרשים גדול מדי לטעמו.

במידה והתמזל מזלו של החוקר ומאמרו התקבל "על תנאי", עליו לשלוח מחדש את המאמר עם כל השינויים, התוספות והתיקונים, בליווי מכתב לשופטים המפרט אחד לאחד מה היו הדרישות, מה נעשה ומה התוצאה. חשוב לציין שבניגוד לשלב השיפוט הראשון, בשלב זה השופטים רואים גם את הביקורת של עמיתיהם.

זהו שלב ההכרעה – האם כל (או לפחות רוב) דרישותיהם של השופטים קוימו? האם השינויים שיפרו את המאמר בכל אחד מהפרמטרים שצוינו למעלה?

בשלב זה, מדובר על תשובת כן/לא בלבד. במידה ואין תמימות דעים בין השופטים, העורך מכריע – לפי העניין של כתב העת במאמר. במקרים נדירים, המאמר נשלח לשופט נוסף שלא ראה את המאמר המקורי, או שהעורך מאפשר סבב שני של תיקונים מדעיים (כלומר ביצוע ניסויים נוספים) לפני ההכרעה.

המאמר התקבל? מזל טוב! עתה יש צורך להתאים את המאמר לדרישות הטכניות של כתב העת (אורך, עיצוב הטקסט, התאמת התמונות והגרפים לרזולוציה וצבע מומלצים ועוד). נוסף על כך, החוקר משלם לכתב העת על מנת לפרסם את המאמר. מדובר על תשלום שיכול לנוע בין כמה מאות לכמה אלפי דולרים, תלוי בכתב העת ובפרטים אחרים (למשל, תשלום תוספת על תמונות בצבע). ניגע גם בנקודה זו בהמשך.

תהליך ביקורת העמיתים עד לפרסום המאמר אורך, בממוצע, כתשעה חודשים, אבל משך הזמן יכול להתארך גם לשנה וחצי או אפילו יותר (וכאן, לצערי, אני מדבר מניסיוני האישי). כמובן שכל דחיה של המאמר מצריכה התחלת התהליך מחדש בכתב עת אחר (שוב, מניסיון אישי). אין זה נדיר שמאמר מתפרסם אחרי שהסטודנט שהוביל את המחקר כבר עזב את המעבדה לתפקיד הבא (וגם את זה חוויתי).

יתרונות השיטה

יתרונות השיטה ברורים. כל מחקר מדעי עובר סינון לפחות פעמיים: פעם אחת על-ידי העורך המדעי של כתב העת – לרוב מדובר על בעל תואר דוקטור באחד התחומים הרלוונטיים לכתב העת, או בחוקר פעיל באוניברסיטה שמתפקד גם כעורך – ופעם נוספת על ידי 2-3 מומחים חיצוניים. הסינון ע"י השופטים בשלב השני חוסך לעורכים עבודה על מאמרים לא ראויים, ועל כן, התהליך חיוני לכתב עת מודפס שמספר דפיו מוגבל. למשל, לכתב העת Nature, אשר נחשב לאחד מכתבי העת המדעיים המובילים בעולם, מתקבלים פחות מ-8% מהמאמרים המוגשים לפרסום (נכון ל-2013). לעומת זאת, כתב העת האינטרנטי (והפחות נחשב) PLoS Genetics מפרסם כ-30-40% מהמאמרים המוגשים (נכון לשנת 2008). כתב העת PLoS ONE, שמפרסם מאמרים רק על סמך מחקר עם תוצאות ומסקנות מבוססות, ללא קשר לחדשנות, מפרסם כ-69% מהמאמרים המוגשים (נכון ל-2013).

יתרון נוסף של תהליך ביקורת העמיתים הוא שהערות השופטים מביאות לשיפור של המחקר כפי שהוא מוצג במאמר, בחלק או כל הפרמטרים שנזכרו למעלה. על כך אני יכול להעיד מניסיוני האישי, ומחקר מ-1994 תומך בכך.

השופטים, כאמור, אינם מקבלים כל תמורה עבור עבודת השיפוט ולכן אין להם כביכול אינטרס כלכלי – לטובה או לשלילה. למעשה, בעיני רבים, עבודת השיפוט יכולה להתפרש כשליחות למען טובת הכלל או טובת המדע. ההטבות שבכל זאת ממריצות חוקרים לתרום מזמנם לטובת ביקורת עמיתים הן הכרה במעמדם כמומחים בתחום (בעיקר ע"י עורכים של כתבי העת) והיכולת להתוות את המחקר בתחום מומחיותם לכיוון הנראה להם. כמו כן, בחלק מהמוסדות האקדמיים, פעילות זו היא חלק מהגדרת התפקיד, ולכן חלק מהמשכורת מותנה בהקדשת זמן לביקורת עמיתים.

אולם תהליך ביקורת העמיתים כפי שהוא מתבצע היום אינו חף מבעיות, חלקן חמורות ביותר.

חסרונות, בעיות ושערוריות

שיטת ביקורת העמיתים הנוכחית אינה חפה מבעיות. מחלקן פשוט התעלמו במשך זמן רב, בעוד שחלק אחר התעורר רק לאחרונה, כך שקולות לשינוי השיטה הקיימת החלו להישמע רק בעשור האחרון, לערך. עם גידול השימוש באינטרנט וברשתות חברתיות בכלל (כולל בלוגים מדעיים) גדל הנפח של ביקורת עמיתים לאחר הפרסום, דבר שגרם להטלת ספק ביעילות השיטה הנוכחית. אבל הביקורת על השיטה עוסקת לא רק ביעילותה ככלי לשיפור המחקר המדעי, אלא גם בהשפעתה על הקריירה של המדענים.

הבעיות החלו לצוף עם העלייה המתמדת במספר כתבי העת המדעיים (המספר האחרון שמצאתי הוא 30,000, עם גידול של כ-3.5% בשנה), ובייחוד כתבי העת האינטרנטיים שהינם Open Access) OA) – פתוחים לכל.

PR evolution

גרף המראה עלייה במספר כתבי העת בתחום אקולוגיה/אבולוציה וה"לחץ האבולוציוני" המוביל לשגשוג כתבי העת. מקור: Ferreira et al. (2015) Biological Reviews. DOI: 10.1111/brv.12185

מדוע זו בעיה? ככל שיש יותר כתבי עת, ויותר מאמרים בכל כתב עת, כך עולה הצורך בשופטים. היות שביקורת עמיתים נעשית בהתנדבות, על חשבון זמנו של החוקר, הוא עלול למצוא את עצמו משקיע שעות שבועיות רבות מזמנו בביקורת עמיתים. מצב כזה מוביל לסירובים רבים יותר לשפוט מאמר, והעורך נאלץ לבזבז מזמנו על מציאת שופטים אחרים. אני מכיר מקרים בהם תהליך מציאת השופטים ארך מספר שבועות, כמו גם מקרה שבו מאמר "נפל בין הכיסאות" והתעכב מספר חודשים מכיוון שירד מסדר היום של העורך. משכבר נמצא חוקר שמוכן לשפוט מאמר, עורך כתב העת יעדיף לספוג עיכובים בהגשת עבודת השיפוט שלו לפני שיתייאש ויפנה לחפש שופט חלופי – דבר שגורם לדחיות נוספות בתהליך ביקורת העמיתים. כמו כן, ככל שיש יותר כתבי עת, שגם מתמחים בנישות קטנות יותר, כך העורכים שלהם ייטו לפסול מחקרים שאינם בדיוק בתחום התמחותם, אפילו אם המחקר עצמו הוא טוב, בין אם בשל חוסר היכרות של העורך עם נושא המאמר, ובין אם כתוצאה מ"חוסר התאמה" של הנושא לכתב העת.

חוקרים רבים אשר מסכימים לשפוט מאמר, עושים עבודה שטחית, או לחילופין לא עושים זאת בעצמם, אלא מעבירים את העבודה לאחד מהסטודנטים שלהם (מדובר בייחוד בפרופסורים ותיקים). מצד אחד, אפשר לראות בכך יתרון, שכן הדבר מקנה לסטודנטים אפשרות לתרגול חשיבה ביקורתית. מצד שני (ושוב, מניסיוני האישי) לא תמיד הסטודנטים מקבלים הנחייה נאותה כיצד לשפוט מאמר. בנוסף, סטודנט שרוצה "למצוא חן" בעיני המנחה, ינסה למצוא כמה שיותר בעיות במאמר, ירד לפרטים מאוד קטנים ויציע ניסויים מורכבים לשיפור המאמר, תוך איבוד פרופורציות וראיה רחבה יותר של הדברים. לא כל המנחים אכן בודקים שהביקורת שמתחו הסטודנטים תקפה או בת-ביצוע. ולבסוף, תתכן בכך הפרה של הנחיות כתב העת, שכן כתב היד המוגש לשיפוט אמור להיות חסוי (הנה דיון לדוגמה בנושא).

cari

תהליך השיפוט, לפי PHD comics

יתר על כן, לא קיים סטנדרט קבוע לביקורת עמיתים. כל שופט מחליט בעצמו על מה לשים דגש, עד כמה לפרט ועד כמה להתחשב ביכולות הטכניות/כלכליות של המעבדה ובזמן שיידרש לתיקונים. אחת הטענות כנגד נוהל הצעת ניסויים נוספים על ידי השופטים היא שבמקרים רבים החוקרים "מאלצים את התוצאות", במודע או שלא במודע, כך שיתאימו לבקשות השופטים. כמו כן, אין סטנדרט קבוע לקביעה האם השינויים שהחוקר ביצע מספקים את דרישות השופטים. בנוסף, הערות השופטים אינן מתואמות ביניהן, ויתכנו מקרים של חוסר עקביות בין שופטים שונים, עד כדי דרישות הפוכות.

PHD worksheet

הצעה הומוריסטית ל"לוח ניקוד" בביקורת עמיתים. מקור: PHD comics

העובדה שביקורת העמיתים היא אנונימית (כלומר החוקר אינו יודע את זהות השופטים) מקנה לשופטים חופש לכתוב בצורה גסה, מעליבה ופוגענית, לעיתים ללא כל צנזורה מהעורך (הנה דוגמה שרצה באינטרנט לאחרונה). מחקר בנושא מצא שכאשר שופטים חותמים את שמם על הביקורת הם כותבים בצורה מנומסת יותר, הביקורת מושקעת יותר ואף כתובה כביקורת בונה יותר מאשר ביקורות אנונימיות. עם זאת, חלק מהשופטים (בייחוד חוקרים בתחילת דרכם) עלולים לחשוש מלחתום את שמם על ביקורת שלילית, מחשש שכותבי המאמר ינקמו בהם בעתיד.

התהליך סובל מחוסר שקיפות – הקורא מקבל למעשה אך ורק את המוצר הסופי. הוא אינו מודע לשינויים שנערכו במאמר בין גרסתו הראשונית לבין זו שפורסמה. האם חלקים מסוימים נחתכו? מה תרומתם של השופטים לגרסה הסופית?

בתהליך קבלת המאמר לפרסום עולה השאלה האם, אם להשתמש בהשאלה, המחקר הוא "סקסי". ככל שהמחקר יותר חדשני ופורץ דרך או שנוי במחלוקת, כך הוא יעניין יותר את עורכי כתב העת. הדבר נכון בייחוד לכתבי עת שגובים דמי מנוי, שכן זו דרכם למשוך מנויים (כמו גם פרסומות של חברות המספקות שירות או ציוד מדעי). הדרך העיקרית שבה נמדדת מצוינות של כתב עת היא מדד שנקרא IF) Impact Factor). מדד זה מבוסס על חישוב של עד כמה המאמרים בכתב עת מסוים מצוטטים ע"י מאמרים אחרים. זהו מדד אובייקטיבי (אך לא בלתי ניתן להטיה) ועל כן הוא הפך בעשורים האחרונים לאחד המדדים העיקריים שקובעים מיהו כתב העת המוביל בכל תחום. אך זהו אינו המדד היחיד. Google Scholar מאפשר לחוקרים מעקב קבוע אחר כמות הציטוטים להם זכה כל מאמר, כמו גם חישובי מדדים שונים כגון i10 (כמה מאמרים זכו לפחות ל-10 ציטוטים) או h-index (המספר h מציין כמות המאמרים h שזכו ל-h ציטוטים). בשנים האחרונות החלו להסתכל גם על מדדים אחרים כגון altmetrics שמחשב ציון לכל מאמר לפי מספר אזכורים באתרי חדשות, בלוגים מדעיים ורשתות חברתיות.

מן הצד השני של ה"סקסי" מצויים השופטים השמרנים, שיידחו מאמר חדשני ופורץ דרך כי הוא סוטה יותר מדי מן התיאוריות המקובלות, וסיפורים כאלה לא חסרים במדע (למשל סיפורו של זוכה פרס נובל דן שכטמן).

הלחצים הרבים שפועלים לפרסום מאמרים ו"חגיגת" מדדי ההצלחה השונים הובילו למצב בעייתי באקדמיה של היום שמכונה publish or perish (פרסם או העלם).

מדוע זו בעיה? כמות המאמרים המפורסמים, כמו גם האימפקט פקטור של כתב העת שבו התפרסמו, הפכו לכלים העיקריים להערכת הצלחתו של חוקר, והם משמשים פעמים רבות כמנגנון סינון ראשוני עוד לפני שבכלל דנים במהות ואיכות המחקר. למצב זה יש השלכות ישירות על הקריירה של החוקרים:

  • התקדמות בדרגות אקדמיות שונות (קבלה ללימודי דוקטורט וקבלת תואר דוקטור, קבלה להתמחות פוסט-דוקטורט, קבלה כמרצה/חוקר באוניברסיטה, קבלת קביעות ולבסוף קבלת תואר פרופסור).
  • קבלת מלגות סטודנטים.
  • קבלת מענקי מחקר.
  • הערכת הביצוע של מחלקות ופקולטות, ואף העברת תקציבים ממשלתיים לאוניברסיטה (כך, לפחות, זה בארץ).

וזה מחזיר אותנו לתהליך ביקורת העמיתים כפי שהוא כיום: משך הזמן הארוך שחולף מהגשת המאמר ועד לפרסומו גורם לתסכול רב, הן לסטודנטים והן לראש המעבדה שהמימון והקריירות שלהם תלויים בפרסום המאמרים. התלות של החוקרים בפרסום המאמרים, ובמדדי ההצלחה של אותם מאמרים, היא בוודאי אחת הסיבות העיקריות לכך שחוקרים ימהרו לנסות לפרסם מחקרים גם אם הם לוקים בחסר, עד כדי זיופים של ממש. מהצד השני, עורכים ושופטים עלולים "לעגל פינות" ולקבל מהר לפרסום מחקרים בעיקר בזכות היותם סקסיים (הנה דוגמה למאמר בכתב עת מאוד מכובד שפורסם תוך 3 ימים, ודיון בנושא).

שתי דוגמאות בולטות מהעת האחרונה הן מאמר בכתב העת Science שתיאר חיידקים שמשתמשים בארסן במקום בזרחן במבנה ה-DNA שלהם (פריצת דרך באסטרוביולוגיה! או שלא…) ושני מאמרים בכתב העת (Nature (1, 2שתיארו כביכול שיטה פשוטה להשראת יצירה של תאי גזע (מהפיכה בשימוש בתאי גזע!). מקרה זה האחרון הסתיים בהתאבדות של אחד החוקרים, בפתיחת חקירה לגבי 20,000 מאמרים שמקורם במכון המחקר, ובאיום לסגור את מכון המחקר. אמנם, בשני המקרים רק ניסיונות כושלים לחזור על תוצאות הניסויים (1, 2) סתמו את הגולל על אותם מאמרים, אבל מקרים אלה הדגימו כיצד ביקורת עמיתים לאחר הפרסום זיהתה חשדות לשגיאות ואף זיופים, ולפיכך עוררה דיונים מחודשים באיכות התהליך הקיים.

סרטון יוטיוב על מקרה תאי הגזע:

הבלוג retraction watch מרכז מידע על מאמרים ש"נמשכו" חזרה (כלומר כאלה שפורסמו ולאחר מכן פרסומם בוטל). מדובר אמנם רק בעשרות מקרים בחודש (שמדווחים בבלוג) מתוך אלפים שמתפרסמים, אך מהמקרים האלו ניתן ללמוד על כשלים בתהליך. בין הבעיות העיקריות שמביאות למשיכת מאמרים ניתן למנות: טעויות שלא ניתן לתקן (למשל כי החוקרים לא הצליחו למצוא את תוצאות הניסויים המקוריות), זיופי תוצאות, פלגיאריזם, שימוש בשמות חוקרים או שמות מוסדות מחקר מזויפים, הוספת שמות חוקרים למאמר אף על פי שלא הייתה להם נגיעה למחקר או השמטת שמות של שותפים למחקר, שקר בהצהרות על ניגוד אינטרסים. הבעיות הפחות חמורות כוללות: עבודה שלא לפי פרוטוקול נכון מבחינה אתית במחקר עם בני אדם או בעלי חיים ופגיעה בחלק מן הדרישות של מענקי מחקר כאלה ואחרים. רובן המוחלט של הבעיות הללו אמורות להתגלות ע"י העורך עוד לפני שליחת המאמר לשופטים. הבלוג אינו מרכז מידע על תיקוני מאמרים (Correction או Errata) שמתפרסמים מעת לעת, רובם בשל טעויות טכניות (למשל שיבוש בהכנת התמונה לפרסום).

בעיית הזיופים אינה רק עניין של פגיעה בהתקדמות המדע והטעיית ציבור המדענים. מדובר גם בכסף – הרי אותם מדענים זכו במלגות או מענקי מחקר, לעיתים מענקים נדיבים עד מאוד. בארה"ב הוקם גוף בשם The Office of Research Integrity – ORI – שבוחן מקרי זיוף ובסמכותו למנוע מימון ממשלתי מאותם מדענים או גופים שנמצאו אשמים בזיוף. אמנם, מחקר שנערך לאחרונה מצא שהעלות הישירה של מענקי NIH שניתנו לזייפנים היא פחות מ-1% מכלל תקציב ה-NIH. אף על פי כן, קשה להעריך את הנזק הכלכלי העקיף שנגרם כתוצאה ממאמרים שזויפו.

ג'ון בוהנון, עיתונאי של מגזין Science, החליט בשנת 2013 לבצע תחקיר עיתונאי ע"י ניסוי "עוקץ" שנועד לבחון את תהליך הסינון של כ-300 כתבי עת מסוג OA) Open Access). הוא המציא מאמר מדעי בדוי לחלוטין שדיווח על חומר המופק מחזזית ואשר התגלה כבעל תכונות אנטי-סרטניות. המאמר הכיל כמה וכמה בעיות וטעויות שחוקר מנוסה צריך לזהות מיד ושאמורות להביא לדחייה מידית של המאמר. המאמר הבדוי (תחת שם חוקר בדוי ומוסד אקדמי בדוי) נשלח לאותם 300 כתבי עת שהם OA. התוצאות היו מדאיגות במיוחד. 157 כתבי עת קיבלו את המאמר לפרסום, לעומת 98 בלבד שדחו אותו (שאר 45 השתהו בתגובתם או לא ענו כלל). רק 60% מכתבי העת שלחו את המאמר לביקורת עמיתים (זה טוב עבור כתבי העת שדחו את המאמר – אומר טובות על העורך). במקרים בהם נערכה ביקורת עמיתים, רוב הביקורת הייתה שטחית והתייחסה לסגנון וניסוח (המאמר היה כתוב רע בכוונה). רק ב-36 מקרים (מתוך כלל 255 שזכו לתשובה) השופטים מצאו בעיות מדעיות, אך ב-16 מקרים מתוכם העורך קיבל את המאמר בכל זאת. במקרים רבים, העורך ו/או חשבון הבנק של כתב העת היו במדינות עולם שלישי (שליש מהם בהודו), למרות ששם כתב העת התהדר בכותרת “The American journal of…”.
חשוב עם זאת לציין שבוהנון לא סינן את הרשימה כדי להוציא מראש את אותם "כתבי עת טורפים" (predatory journals) שידוע שלא עורכים ביקורת עמיתים. כמו כן, התחקיר עצמו מוטה רק כלפי כתבי עת ללא דמי מנוי (אולי בשל האינטרס הכלכלי של Science שכן גובה דמי מנוי). לכן, רצוי להתייחס לתוצאות התחקיר הזה בספקנות. יחד עם זאת, חשיבותו היא בהצפת הנושא של ביקורת העמיתים בפרסום המחקר, וקיומם של כתבי עת טורפים שלא כולם (ואני ביניהם) היו מודעים להם.

לסיום חלק זה נזכיר בעיה קשורה והיא אי-פרסום של תוצאות שליליות. ניסויים שנכשלו (כלומר לא נמצאה השפעה של הגורם הנחקר לעומת הביקורת) מושלכים פעמים רבות לפח, מכיוון שלדעת העורכים ו/או השופטים אין מספיק ערך חדשני בפרסומם. ברוב המקרים החוקרים עצמם לא טורחים אפילו לשלוח עבודות כאלה לפרסום. זהו מצב בעייתי ביותר, מכיוון שהוא עלול להביא למסקנות שגויות בתכלית בתחום הנחקר – חישבו למשל על תרופה בלתי יעילה שרק שני מחקרים שהצביעו על יעילותה התפרסמו, ואילו עשרים מחקרים שלא מצאו יעילות כלשהי נגנזו בתחילת דרכם. יש לציין שדווקא בתחום הביו-רפואה קיים כתב עת מיוחד לזה, אם כי סביר להניח שרוב החוקרים טרם שמעו עליו. בעייתי עוד יותר לנסות לפרסם תוצאות שליליות של ניסיון חזרה על ניסויים של קבוצת מחקר אחרת. לא ארחיב על זה מכיוון שזה כבר נושא לרשומה אחרת, אבל למתעניינים הנה רשומה בנושא.

רוחות של שינוי

כפי שהזכרתי למעלה, אחת הטענות הקשות כלפי תהליך פרסום המאמרים כיום הוא שברגע שמאמר התפרסם, הוא מוצג כמוצר מוגמר שאין לערוך בו שינויים. ביקורת עמיתים שלאחר הפרסום יכולה אמנם לגרור דיון, שלעיתים יסתיים בפרסום תיקון למאמר, אבל רק במקרה של זיופים או טעויות קריטיות מוכחות כתב העת ימשוך את המאמר חזרה (וגם זה לא תמיד, כמו במקרה של חיידקי הארסן). לפני עידן האינטרנט, ביקורת עמיתים פומבית לאחר הפרסום הייתה כמעט אך ורק דרך מכתבים לעורך. המקום המוגבל בכתב העת למכתבים מסוג זה, כמו גם סינון אפשרי של העורך אילו מכתבים לפרסם, הגבילו מאוד את היכולת להשמיע ביקורת על מאמרים שכבר פורסמו. כיום, ניתן למצוא אלפי בלוגים מדעיים שסוקרים, ממליצים ומעבירים ביקורת על מאמרים מדעיים (הנה דוגמא לאתר שמרכז בלוגים כאלה). פורומים ורשתות חברתיות מהווים כר פורה לדיונים (תיאור של דיון כזה ניתן למצוא ברשומה הזו).

יוזמה של הממסד המדעי שקמה בשנת 2002 ונקראה F1000 (קיצור של "פקולטה של 1000"), מהווה פלטפורמה יוקרתית להמלצה על מאמרים טובים. המודל הוא של חוקרים מומחים בתחומם, אשר ממליצים על מאמרים טובים לדעתם, מעין ביקורת עמיתים חיובית, אם תרצו (ושוב נביא את חיידקי הארסן כדוגמה הפוכה). המלצה של F1000 מהווה כיום תוספת נאה לקורות החיים של חוקרים.

ביולי 2012 הוקם בלוג אנונימי בעל השם הבעייתי Science Fraud שהתיימר לחשוף מקרים של "אי-סדרים" במאמרים מתחום מדעי החיים. חצי שנה לאחר הקמתו נחשף שמו של כותב הבלוג, חוקר באוניברסיטת רוצ'סטר. האתר הורד בעקבות איומים בתביעות דיבה שהבלוגר קיבל מצד חוקרים שאת מאמריהם ביקר. במשך ששת חודשי פעילותו דווח בבלוג על 274 מקרים של אי-תקינות. מתוכם, 47 הובילו להודעות תיקון ו-16 מאמרים נמשכו מפרסום. הנה כמה מסקנות אישיות למען ממשיכי דרכו.

ממשיכי דרכו של אותו בלוג הם Retraction Watch שכבר הוזכר למעלה, כמו גם האתר Pubpeer. האתר מהווה פלטפורמה לביקורת עמיתים לאחר פרסום. הדיונים הרבים מעלים תמונה עגומה של בעיות החל מהרמה המדעית הירודה של מאמרים ועד לזיופים של ממש. אתר זה למעשה חשף לראשונה את הבעיות שהובילו לסקנדל של מאמרי תאי הגזע ב-Nature. ייחודו של האתר בכך שהוא מאפשר ביקורת עמיתים אנונימית או גלויה ויש בקרה של עורכי האתר על אופי התגובות. חשוב ביותר, העורכים שולחים דואל לכותבי המאמרים עליהם מתנהל דיון, כדי שיוכלו לענות למבקרים. למרבה הצער, תגובות כאלו מתקבלות רק לעיתים נדירות; ברוב המקרים, הדיון הוא חד-צדדי בלבד.

האתר Pubchase, שמציע למשתמשיו לבנות ספריית מאמרים, מוסיף את ההערות מ-Pubpeer למאמרים בספרייה האישית. כך, המשתמשים יכולים לראות מיד אם המאמר שהם קוראים ספג ביקורת. עורכי Pubpeer אף כתבו תוסף לדפדפני אינטרנט שמוסיף קישור לביקורות מ-Pubpeer, כאשר מבקרים באתרים הרשמיים של כתבי העת.

pubpeer1

צילום מסך לדוגמה

הדיון הציבורי הנרחב בנוגע לתהליך ביקורת העמיתים כפי שהוא כיום, ותרבות ה publish or perish בכללה, הביאו למספר שינויים אצל כתבי העת ואתרים רשמיים אחרים. ברוב כתבי העת קיימת היום אפשרות לכתוב תגובות און-ליין למאמרים. אולם, כמו מכתבים למערכת, גם תגובות אלו עוברות לעיתים סינון ע"י העורך ( בכתב העת Cell, למשל, תגובות עשויות לחכות שבועיים לאישור עד לפרסומן). לאור זאת, דיונים מסוג זה אינם נפוצים במיוחד. גם האתר PubMed (ספרייה און-ליין של ה-NIH לכלל הפרסומים במדעי ביו-רפואה) הקים ממש לאחרונה מערכת תגובות (Pubmed Commons). מעניין לציין שבניגוד לPubpeer שבו המשתמשים שמים דגש על איתור בעיות וזיופים, הדיונים בPubmed הם בעלי אופי חיובי יותר ומטרתם בעיקר לעורר דיון מדעי מפרה.

ההצלחה של pubpeer ודומיו הביאה לקריאות לחזור לביקורת עמיתים לאחר הפרסום, שנדמה שהיא יעילה ומתאימה במיוחד לעידן האינטרנט (אם כי לא בלי חשש). המודל המוצע הוא מודל שפועל מזה זמן רב בתחום המדעים המדויקים, והוא המודל של arXiv. arXiv, שקיים כבר משנת 1991, הינו שרת של אוניברסיטת קורנל, שמאפשר לחוקרים לפרסם מאמרים און ליין. זהו שירות OA, כלומר כולם יכולים לקרוא את המאמרים, ללא דמי מנוי. הייחוד שלו היא באפשרות של החוקרים לעדכן את המאמר ולערוך תיקונים ושינויים לאחר פרסומו. אך חשוב מכך, השרת שומר גם את הגרסאות הקודמות, כך שניתן לעקוב ולראות אילו שינויים נערכו במאמר. לאור הצלחתו של arXiv (שבדיוק עבר את רף מיליון המאמרים בתחילת שנת 2015), מעבדות קולד-ספרינג הרבור הקימו בשנת 2013 שרת משלהם, bioRxiv, שמיועד לביולוגים בלבד. כרגע השרת מכיל רק כמה מאות מאמרים והעניין, בינתיים, לא תופס תאוצה. בשני מקרים אלה, אין ביקורת עמיתים רשמית, ואף אין חובה לחוקרים לערוך שינויים במאמר. אחת הסיבות שחוקרים חוששים מפרסום על שרתים כאלה היא האפשרות של דחיה מכתב עת בשל "פרסום קודם", אך זה לא בהכרח נכון, שכן כתבי עת רבים מאפשרים פרסום קודם של טיוטות המאמר על שרתים ייעודיים כמו arXiv.

מעניין לציין שהוקם גם כתב עת שמבוסס על אותו רעיון, אלא שבצורה יותר רשמית. כתב העת, F1000research, מציע לכותבים תהליך ביקורת עמיתים מומחים, לאחר הפרסום. על החוקר להציע מספר מומחים שישפטו את המאמר. המאמר מועלה לאתר לאחר בדיקה קצרה (ימים אחדים) שמוודאת כי הוא עומד בסטנדרטים של פרסום. הביקורת מתבצעת רק לאחר הפרסום, ולאחריה – על החוקר להגיש מאמר מתוקן. גם כאן, כל הגרסאות נשמרות באתר, כמו גם הערות השופטים ותגובותיו של כותב המאמר.

כתב עת חדש שהוקם, PeerJ, מציע גם הוא שרת בדומה ל-bioXriv, בנוסף לפרסום מאמרים לאחר ביקורת עמיתים רגילה. בנוסף, PeerJ מנסה לצמצם את העלויות לחוקרים, בכך שהוא לא גובה תשלום על פרסום מאמר, אלא החוקר משלם תשלום נמוך וחד פעמי (100-300$) שמאפשר לו לפרסם בחינם בכתב העת עד סוף חייו. כתב העת נותן אפשרות לחוקרים לפרסם, לצד המאמר, גם את תהליך ביקורת העמיתים שעבר.

כתב העת החדש eLife הוקם, כפי שכתב העורך הראשי, זוכה פרס נובל רנדי שקמן, במטרה להוות אלטרנטיבה ל"שלושת הגדולים" (Nature, Science & Cell), שנמצאים בראש פירמידת ה-IF, כאשר הדגש המוצהר ב-eLife הוא לא על ה-IF אלא אך ורק על טיב המדע וטובת המדען. בין ה"הטבות" לכותבים ניתן למנות: קיצור משמעותי בתהליך הסינון וביקורת העמיתים (3 ימים לקבלת החלטת עורך ראשונית, חציון של 3 חודשים מרגע ההגשה ועד לקבלת המאמר), העובדה שכל העורכים הינם חוקרים פעילים שיכולים להעריך בעצמם את טיב המחקר, וקיום התייעצות בין השופטים השונים לבין עצמם ועם העורך לפני שליחת ההערות חזרה לחוקרים – זאת כדי למנוע מצב של חוסר עקביות או אפילו דרישות סותרות של השופטים. בנוסף, זהו כתב עת OA ויתרה מכך – כתב העת לא גובה תשלום מכותבי המאמר (לכתב העת ישנה תמיכה כלכלית רחבה של מכון המחקר הרפואי ע"ש הווארד יוז, מכון מקס פלאנק וה-Wellcome trust). לשם הפתיחות, eLife מפרסם גם את תגובות העורך והשופטים, ואת תשובת הכותבים. במקום קידום לפי IF, eLife מפרסם תקצירים לא-טכניים של המאמרים דרך טוויטר, בלוגים ועוד. הטבה נוספת שכתב העת מציע, במיוחד לחוקרים צעירים, היא קבלת מכתבי תמיכה מאת העורך שטיפל במאמר, לטובת קבלת מלגה, משרה, קביעות וכדומה. אין ספק ש- eLife מנסה לפתור בעיות רבות שהועלו בנוגע לכל תהליך הפרסום המדעי.

כתב העת הוותיק EMBO Journal החל לאחרונה לפרסם את התכתובת המלאה בין העורך, השופטים וכותבי המאמר, עבור כל המאמרים שהתקבלו. גם המו"ל Elsevier החל בתהליך דומה של פרסום הערות השופטים, אך כרגע רק עבור חמישה כתבי עת (מתוך 3103 כתבי עת שהמו"ל מפרסם).

כפתרון לבעיה אחרת של ביקורת עמיתים, כתב העת Nature וכתבי עת אחרים בקבוצה החלו להציע ביקורת עמיתים בסמיות כפולה – כלומר שהשופטים אינם יודעים מיהם כותבי המאמר.

גם הדרך שבה מנסחים את הביקורת על המאמר זוכה לאחרונה לתשומת לב, ואתרים ובלוגרים רבים מפרסמים הצעות כיצד לכתוב ביקורת עמיתים או לשפר את התהליך (למשל: 1, 2, 3, 4). מתקיימים אף קורסים בנושא (קובץ PDF עם אוסף קישורים; אציין גם שבמכון וייצמן מתקיים קורס שבחלקו עוסק בנושא).

סוגיית התשלום לשופטים מהווה גם היא כר פורה לדיונים ברשתות החברתיות כמו גם בכתבי העת עצמם (למשל כאן וכאן). עד כה, אף כתב עת לא הרים את הכפפה והציע תשלום כספי לשופטים, אך כן ניתן לראות ניצנים של מתן הטבות, ובעיקר הכרה בפעילות השיפוט. כך למשל, כתב העת Nature החל לאחרונה להציע מנוי חינם לשנה לכל מי שישפוט 3 מאמרים לפחות באותה שנה [אולם מכיוון שרוב החוקרים במוסדות אקדמיים משתמשים במנוי המוסדי, זו הצעה ריקה מתוכן]. בנוסף, ניתן להוריד מאתר כתב העת מכתב רשמי (שמיועד, למשל, למעסיקים) ובו הצהרה על פעילות השיפוט של אותו חוקר. המו"ל Elsevier מציע גם הוא מנוי חינם (לחודש), כמו גם "אות הצטיינות" אינטרנטי ואף תעודת "שופט מצטיין" רשמית לטובים ביותר. הכרה בפעילות השיפוט ניתן למצוא גם בכתבי עת אחרים, למשל RNA. אתר Publons מציע למשתמשיו להכין מסמך רשמי של כל פעילות השיפוט לצרכי בקשות מענקי מחקר, משרות וכדומה. לעומת כל אלה, יש גם הצעות מבזות.

EU39_reviewers_SampleCertificate-1024x752

תמונה: תעודת שופט מצטיין

רובריק היא חברה שמציעה שירותי ביקורת עמיתים בתשלום, ומתגמלת גם את השופטים עצמם על עבודתם (כולם בעלי תואר דוקטור לפחות, וחוקרים פעילים במכון מחקר או מוסד אקדמי), ב-100$ עבור כל מאמר. בנוסף, רובריק מפעילה סטנדרט אחיד לכלל הביקורות, עם דרישות להתייחסות לכלל הנושאים שהוזכרו למעלה בחלק על תהליך ביקורת העמיתים. כיום, רובריק היא הגוף היחיד שמשלם לשופטים שכר.

סיכום

ביקורת עמיתים טרום-פרסום הינה שיטה שהחלו להשתמש בה לפני מאות שנים, אך רק באמצע המאה הקודמת נכנסה לשימוש קבוע ורשמי. שיטה זו נחשבת לחותמת כשרות למאמרים מדעיים ובגדול, השיטה עובדת (הרי המדע בכל זאת מצליח להתקדם).

עם זאת, השיטה אינה חפה מבעיות.

אף כי נראה כאילו האקדמיה הינה גוף שמרני ונוקשה שאינו מוכן לשינוי, הדיון הנרחב שמתנהל בחוגים האקדמיים (בעיקר, אך לא רק, בקרב החוקרים הצעירים) וברשת האינטרנט בכלל לגבי הכשלים של שיטת ביקורת העמיתים הנוכחית, גרם לתזוזה במערכת:

  • מהירות ושקיפות – נעשים ניסיונות לזירוז התהליך מחד ולהגדלת השקיפות מאידך.
  • אמינות – גברה המודעות למה שמכונה "כתבי עת טורפים" שמוכנים לפרסם כל דבר תמורת כסף.
  • גישה חופשית – מתוך הכרה בחשיבות של פרסום מאמרים ללא גביית דמי מנוי, החלו גם כתבי עת שגובים דמי מנוי לאפשר פרסום פתוח לחלק מהמאמרים (לעיתים, בגביית תשלום נוסף מהחוקר). נוסף על כך, הרשויות הממשלתיות האמריקאיות (כדוגמה NIH) מתנות את מתן מענקי המחקר במתן גישה חינם למאמר לכל היותר שנה לאחר פרסומו.
  • ביקורת אפקטיבית יותר – גברה ההכרה בצורך ללמד איך להעביר ביקורת עמיתים אפקטיבית. אתרי ביקורת עמיתים עצמאיים דחפו גם את מערכות המו"לים ומערכות ממשלתיות לכיוון זה.
  • תגמול לשופטים – גברה ההבנה שיש צורך במתן תמורה לעבודת השיפוט, גם תמורה כספית או שוות ערך לכסף אך גם תמורה של הכרה והוקרה.

ומה צופן לנו העתיד?

לדרך החקירה המדעית אין אפשרות אחרת אלא להשתפר. אין ספק שביקורת עמיתים לאחר פרסום תתפוס עוד ועוד תאוצה (כי היא בעיקרה מקוונת, ועל כן מידית מחד, ועם אפשרות לאנונימיות מאידך), מה שיוביל לתיקון או משיכה של מאמרים רבים שכוללים טעויות, זיופים, או סתם מדע רע, ובכך ישפר את כלל הפרסום המדעי. הדבר העיקרי שיאט התקדמות זו יהיה החשש מתביעות דיבה, או חשש מנקמנות מצד החוקרים המבוקרים.

הפרסום המדעי הולך יותר ויותר לכיוון של OA, וכתבי העת הוותיקים יאלצו להתאים את עצמם לכך. ישנם אף קולות שקוראים להוציא את פרסום המאמרים מכתבי העת הפרטיים ולהעבירו למו"ל שבידיים אקדמיות, ובכך לנסות ולצמצם את ההשפעה הכלכלית על תחום זה. בנוסף, ניתן לקוות שכתבי עת נוספים ילכו אחרי F1000research, EMBO ו- eLife ויגבירו את השקיפות של תהליך הסינון והתיקונים של המאמרים.

בשנת 2012 קמה תנועה של חוקרים ועורכים (DORA – San Francisco Declaration of Research Assessment) ששמה לה למטרה לשנות את הדרך שבה מוסדות אקדמיים וקרנות למענקי מחקר שופטים מצוינות אקדמית. דגש מיוחד בביקורת מופנה כלפי השימוש הבעייתי במדד האימפקט פקטור בכל הקשור להחלטות לגבי קריירה ומענקים. כיום חתומים על ההצהרה של התנועה מעל 12,000 חוקרים ומעל 500 מוסדות, ארגונים וכתבי עת. בינתיים, השינוי עדיין רחוק מיישום, אך מעודד לדעת שמוסדות וכתבי עת רבים לפחות מכירים בבעיה.

השינוי מתרחש לנגד עינינו, ובכל שנה תהליך ביקורת העמיתים משתפר מעט. נדמה אולי כי התהליך איטי, אך אני מאמין כי בתוך עשור או שניים כבר נשכח איך עשו את זה פעם…

* * *

רשומה זו של גל עברה גם היא ביקורת עמיתים. תודה לד"ר נעם לויתן על הזמן שהשקיע בכך.
הערות, תוספות ותיקונים יתקבלו בברכה בתהליך ביקורת העמיתים שאחרי פרסום, שיתקיים כאן בתגובות.

 

לקריאה נוספת:

התייחסות נוספת לתהליך ביקורת עמיתים, בהקשר הכללי יותר של תהליך "זיקוק הידע", תוכלו לקרוא ברשומה "המדענים השמרנים האלה לא מפסיקים לשנות את דעתם".

המדענים השמרנים האלה לא מפסיקים לשנות את דעתם!

המדענים השמרנים האלה לא מפסיקים לשנות את דעתם!

"שוקולד בריא ללב" אנחנו מתמוגגים לקרוא יום אחד באתר חדשות פופולרי, לאחר שכבר השלמנו עם העובדה שאין דבר קטלני ממנו ללבנו. "התגלו חלקיקים מהירים ממהירות האור! איינשטיין מתהפך בקברו" מתנוססת כותרת סנסציונית בוקר אחד בעיתונים; "מהירות האור נשברה בגלל כבל משוחרר" מעדכנת אותנו כותרת צעקנית הרבה פחות כעבור כמה חודשים. האם רוב היקום עשוי מחומר אפל ומסתורי, או שמא תיקון לתורת ניוטון פותר את כל הבעיות מבלי להזדקק לו?

למה המדענים האלה לא מסוגלים להחליט כבר מה נכון ומה לא?

ובכלל, איזה ערך יש לידע מדעי אם כל יום הוא משתנה?

הלא השיטה המדעית מבטיחה ידע בדוק ואמין לא?

תאמינו לי, המדענים האלה לא יודעים כלום!

מה קורה כאן באמת? מה פשר ההפכפכות הזו?

תשובתי מתחלקת לשני חלקים:

1)      הדיווחים במדיה מעוותים בד"כ ואינם משקפים נאמנה את המקורות המדעיים עליהם הם מסתמכים. "נכתב בהשראת מחקר מדעי" או "מבוסס על מחקר אמיתי" – יהיה תיאור נאמן יותר למציאות.

2)      גם המקורות המדעיים מלאי סתירות.

את עיוותי המדיה נשאיר לדיון נפרד בעתיד (אין ספק שהיא מעצימה את הבעיה בצורה דרמטית).
נתמקד הפעם בחלק השני של התשובה וננסה להבין כיצד יתכן שמקורות מדעיים יהיו כל כך מלאי סתירות. האין זו הפגנת חולשה של השיטה המדעית?

בעבר הצגתי את המפעל המדעי כמפעל חברתי שיתופי בעל נורמות התנהגות מסוימות. הועלתה האנלוגיה לקבוצת אנשים שמרכיבה יחד פאזל ענק, כל אחד בסגנונו הוא. (זאת בשונה מתפישת ההתקדמות המדעית כתהליך סטרילי, מתוכנת כמעט, בו מדענים בודדים מפלסים את דרכם אל האמת כשהם פועלים על פי "שיטה" מוגדרת וסגורה).

היום נשים דגש על מימד חשוב נוסף – מימד הזמן. המסע המדעי לחקר המציאות הינו תהליך חוזר ונשנה של בקרה עצמית, סינון טענות והשערות ותיקון עצמי מתמיד.

הכאוס האנושי

מסענו מתחיל באנדרלמוסיה רוחשת של טענות והשערות שונות ומשונות לגבי העולם, שמגיעות מאנשים בעלי דרגות שונות של השכלה, יכולת, עקשנות, יושר ובריאות נפשית. חלקן קוראות תיגר על הידע המבוסס בתחומי הפיזיקה, הכימיה, הביולוגיה, הרפואה, וכו'. חלקן עשויות להוות פריצת דרך רעיונית. חלק מהטענות/השערות תתבררנה כנכונות, לכשתבדקנה. רובן תתבררנה כלא נכונות. חלק בכלל לא ניתנות לבדיקה, אלא מהוות השקפות עולם, דעות אישיות, פרשנויות וכד'.

אני חושב וחושב במשך חודשים ושנים. 99 פעמים המסקנה שגויה.
בפעם ה-100 אני צודק. – איינשטיין

כדי להכנס לעולם המחקר האקדמי רעיונות אלה עוברים סינון ראשוני. טענות שאינן ניתנות לבדיקה נשארות בחוץ – המדע לא עוסק בכאלה.

טענות אחרות נבדקו כבר מאות פעמים בהיסטוריה ונמצאו חסרות אחיזה במציאות (למשל מכונות תנועה-נצחית). לא סביר להשקיע בהן זמן בדיקה נוסף, אלא אם הטוען יביא ראיות משכנעות שהפעם מדובר במשהו שונה.

פסאודו-מדענים למיניהם שאינם מכירים/מבינים את עקרונות המחשבה והפעולה המדעית, נשארים גם הם בחוץ. בעקרון, מה שמשאיר את הטענות הפסאודו-מדעיות הללו מחוץ למחקר המדעי אינו התוכן שלהן דוקא, אלא הדרך הלא מדעית בה מנסים הטוענים לתמוך בהן.

חזית המדע – Where no man has gone before

אנו עוברים אל חזית המדע, בה פועלים אנשים אשר עברו הכשרה מדעית בתחום הרלוונטי. בד"כ נדרשות שנים של לימודי בסיס באוניברסיטה לפני שמישהו יכול לתרום משהו חדש למדע (קשה לפרוץ מסגרת לפני שמכירים מהי המסגרת הקיימת, ומהם "כלי העבודה" הנדרשים כדי להתקדם).

בחזית המדע נמצא את ההברקות והאכזבות, ההצלחות והתסכולים, התגליות המסעירות והטעויות המביכות. זה אזור של אי ודאות, של הימורים וניחושים, של יצירתיות ותעוזה, ולא פחות – של הרבה עבודה שחורה וסיזיפית.
מדענים מעגלים פינות, מבצעים ניסויים חפוזים (Quick & Dirty) רק כדי לקבל התרשמות ראשונית לגבי רעיון שצץ במוחם ובודקים תחושות בטן ואינטואיציות מדעיות. חוקרים עשויים להשקיע שנים מחייהם בבחינת רעיון כלשהו רק כדי לגלות כי הוא שגוי מן היסוד. מאידך, חזית המדע היא המקום בו נפגוש חידושים, הפתעות, ולעיתים אף מהפכות של ממש בתחומים הנחקרים.

אי הסכמות בין מדענים בשלב זה הן דבר שבשגרה. חוקרים שונים מעלים השערות שונות (ואף מנוגדות) לגבי אותם נושאים, כל אחד מהזוית שלו, עם הנסיון והידע שצבר, על סמך הנתונים שעומדים לרשותו. שימוש בטכניקות מדידה שונות, שיטות שונות לעיבוד הנתונים, הטיות שונות שלא נלקחו בחשבון, הנחות יסוד שונות – כל אלה עשויים להביא חוקרים שונים למסקנות שונות, לגבי אותו נושא. (לא פעם מתברר כי שילוב של מסקנות סותרות לכאורה הוא הנאמן יותר למציאות. בתנאים מסוימים השערה א' נכונה, ואילו בתנאים אחרים ב' היא הנכונה. בל נשכח, המציאות מורכבת יותר מכל מודל שמנסה לתאר אותה).

חלפו אם כן שנים אחדות, והחוקר מגיע לשלב בו הוא מסוגל להציג את עבודתו ואת מסקנותיו בצורה מסודרת ומנומקת. כדי שהמחקר שמתבצע בחזית המדע יזכה לעבור לשלב הבא עליו לעבור את מסננת הפרסום. לשם כך יש לשכנע עורכים ובוחנים שהמחקר ראוי לפרסום.

ביקורת עמיתים

כתבי עת מדעיים משתמשים בתהליך של ביקורת עמיתים (peer review), במהלכו המאמרים המוגשים לכתב העת מועברים למדענים אחרים בתחום (בדרך כלל אחד עד שלושה).

עמיתים אלה בוחנים האם השערות המחקר הגיוניות, באלו שיטות השתמשו לאיסוף נתונים, מה היו אמצעי הבקרה וכיצד התיחסו להטיות שונות שעלולות לצוץ, האם התוצאות המדווחות תואמות את ההשערות, האם הניתוחים הסטטיסטיים מתאימים לבעיה ומדווחים בשקיפות מלאה, האם המסקנות נובעות מהתוצאות, וכו'.
בסופה של הבחינה יכולים העמיתים להמליץ לעורך כתב העת על פרסומו של המאמר, אי פרסומו, פרסומו בשינויים מוצעים, או פרסמו בכתב עת אחר.

העמיתים אינם פועלים כקבוצה (כמו חבר מושבעים) אלא כיחידים, באופן בלתי תלוי (כדי לא להשפיע אחד על חוות דעתו של השני). העמיתים אמורים להצהיר בפני העורך על ניגוד אינטרסים אם קיים, בבדיקת העבודה הספציפית. בדרך כלל נשמרת אנונימיות בין החוקר לעמיתים ובינם לבין עצמם, כדי למנוע הטיות בבדיקה על בסיס אישי (בתחומי מחקר שונים הנהלים שונים, והדברים גם משתנים עם הזמן).

העורך מחליט על סמך המלצות הבוחנים מה לעשות עם המאמר. ככל שהעיתון יוקרתי יותר, סף הקבלה גבוה יותר, וכך גם אחוז המאמרים הנדחים, אם בשל רמה מחקרית לא מספקת, או חוסר עניין.

הנה מבוא קליל של 5 דקות לנושא:

התהליך כמובן אינו נטול בעיות, ואינו חסין טעויות.

התהליך איטי

בד"כ חולפים חודשים אחדים, ולפעמים רבים, עד שמאמר מתקבל לפרסום בכתב עת.

החורים במסננת קטנים מדי – הטיות של התהליך לכיוון השמרנות

אנשים בכלל, והבוחנים בפרט, נוטים להיות ביקורתיים כלפי מסקנות שנוגדות את דעותיהם ואוהדים כלפי מסקנות שתומכות בהן. יתרה מזאת, מדענים וותיקים שדעותיהם בד"כ שמרניות יותר, נוטים יותר להיבחר כבוחנים (בגלל נסיונם ומומחיותם). דבר זה עלול ליצור הטיה נגד גישות חדשניות ומהפכניות.
כך למשל, ב-1796 (כן, זו לא טעות הקלדה) נדחה פרסום המאמר המדווח על הצלחת החיסון נגד אבעבועות שחורות. דוגמה אקטואלית יותר היא הסירוב לפרסם את המחקר של שכטמן במשך כשנתיים (לא יותר).

החורים במסננת גדולים מדי – בקרת האיכות לא טובה כמו שהיינו רוצים להאמין

במקרים אחרים מסתבר שהתהליך רופף מדי ומאמרים באיכות ירודה מתפרסמים למרות שעברו ביקורת עמיתים.

בניסיון שנערך על תהליך ביקורת העמיתים, נשלח מאמר מפוברק ל-262 בוחנים. במאמר נשתלו בכוונה 10 שגיאות משמעותיות ו-13 קטנות יותר. רק כמחצית מהבוחנים המליצו לדחות את המאמר. הם עלו על כשליש מהשגיאות בלבד. שני שלישים מהבוחנים לא הבחינו שמסקנות המאמר לא נתמכות ע"י התוצאות.

מביך. אני מקווה שהמאמר הזה עבר ביקורת עמיתים רצינית.

המסננת אינה חסינה בפני זייפנים

תהליך ביקורת עמיתים מניח שהמאמר הנסקר נכתב ביושר. התהליך אינו בנוי לחשוף רמאויות. לסוקרים אין בדרך כלל גישה מלאה לכל הנתונים שנאספו במסגרת המחקר. גם לא ריאלי לצפות מהבוחנים לשחזר את כל עבודת החוקר.

אם מסתבר בדיעבד, לאחר פרסום המאמר, שהיתה רמאות, או שהנתונים אינם ניתנים לשחזור בשום רמה, עורכי כתב העת יכולים למשוך את המאמר חזרה.
דוגמה מפורסמת למאמר שנמשך הוא המאמר של וויקפילד, אשר התפרסם ב-1998 והצביע לכאורה על קשר בין חיסונים לאוטיזם. ניסויים רחבי היקף שניסו לשחזר את הממצאים לא העלו דבר. לא נמצא כל קשר בין חיסונים לבין אוטיזם. תוך כמה שנים הסתבר כי החוקר לא דיווח על ניגודי אינטרסים, "טיפל" בנתונים ועבר עברות אתיות נוספות. המאמר נמחק סופית ב-2010 מכתב העת Lancet בו פורסם במקור. וויקפילד נמצא אשם בהתנהגות מקצועית לא נאותה באופן חמור. רישיונו הרפואי נשלל ממנו.

דוגמה אחרת לזיוף (נחשף ב-2002) היא של פיזיקאי גרמני בשם שון, שגילה לכאורה תגליות מרעישות בתחום המוליכים למחצה. "מחקריו" זכו להתפרסם במבחר כתבי עת (כולל Nature ו-Science), והוא כבר הספיק לזכות בכמה פרסים. כל מחקריו נמצאו מזויפים. ביקורת העמיתים לא עלתה על התרמית, אשר התחילה להיחשף בזכות שלומיאליות של שון: הוא השתמש באותם גרפים בניסויים שונים (שון פוטר ממעבדות בל ותואר הדוקטור נשלל ממנו).

* גם תהליך ביקורת העמיתים עצמו נמצא בבחינה מתמדת. שיטות חדשות מוצעות ונבדקות, במטרה למצוא את שביל הזהב בין כל ההטיות המעורבות.

וזוהי רק ההתחלה

צלחנו בגבורה את שלב ביקורת העמיתים והמאמר שלנו התפרסם בכתב עת מוכר. האם המסע הסתיים? ממש לא. למעשה זו רק תחילת הדרך. גם מחקר שפורסם עדיין אינו "ידע מדעי". זה רק מידע שפורסם ברבים.

אם לא יעורר עניין בקרב המדענים האחרים, מחקר זה "יעלם" בתוך המוני המחקרים החדשים שמתפרסמים כל העת (זהו גורלם המר של רוב המחקרים, שאינם מצוטטים ע"י אף חוקר אחר).

המחקרים שכן הצליחו לעורר עניין מאתגרים מדענים אחרים לבחון אותם ולאתר בהם טעויות, חוסרים או בעיות מתודולוגיות. מדענים אלה יכולים להביע את דעתם במסלול מזורז כגון "מכתבים למערכת". באופן כזה מתנהלים חילופי דברים פומביים בין החוקר שפרסם את המאמר לבין חוקרים אחרים בתחום שחושבים כי מצאו ליקויים בעבודתו. (כך בדיוק חשפה ערנותם של חוקרים אחרים את התרמית של שון אותה הזכרנו לעיל).

במקרים אחדים העבודה תסחוף אחריה עבודות המשך של חוקרים אחרים, בנסיון לאשש או להרחיב אותה (או לעיתים – להפריך אותה).

שווה ציטוט

עבודה שמצוטטת ע"י מספר רב של חוקרים ונתמכת במחקרים נוספים, סביר שלא תכיל מידע שגוי לחלוטין, שתהיה ברמה מחקרית נאותה, מעניינת מספיק ומועילה להמשך המחקר.

עבודות כאלה נכללות בספרות המשנית, כלומר מוזכרות בסקירות רוחב של תחום ומהוות קונצנזוס בתחומי המחקר הספציפיים הרלונטיים.

בחזרה לבית הספר

שנים לא מעטות נוספות חולפות מרגע שמשהו התפרסם בסקירה מקצועית בתחום מסוים, עד שהוא הופך לחלק מספרי הלימוד הבסיסיים של המדע. במשך השנים הללו חלק מהמידע הופך ללא רלוונטי או מסתבר כטעות בכל זאת.
מה שנכנס לספרי הלימוד הוא בעיקר אמין ביותר.

יחד עם זאת, סביר שבעוד כמה עשרות שנים ספרי הלימוד יראו שונים במקצת, ובתחומים מסוימים אולי שונים לגמרי. בנוסף, נצפה לראות מיזוג טוב יותר בין תחומי מדע שונים.

מסננות זיקוק הידע

אם נסתכל על מסננות זיקוק הידע ממעוף הציפור, נוכל לראות כיצד סינון חוזר ונשנה על פני תקופה של שנים רבות, מזקק את המידע הראשוני הסובייקטיבי, הלא ודאי ומלא הסתירות, לכדי ידע אובייקטיבי ואמין, עד כמה שניתן.

התרשים המקורי מופיע בספרו של פרופ' Henry H. Bauer:
Scientific Literacy and the Myth of the Scientific Method
המחבר נתן אישורו לשימוש זה. (לחצו על התמונה למעבר למקור).

כמה מילים על משמיצי המדע

"השיטה המדעית" היא אידאל לשאוף אליו. המציאות תמיד מורכבת יותר. דיונים, התפלפלויות וביקורות לגבי מהות המפעל המדעי ודרך התנהלותו מתקיימים כבר מאות שנים, והמילה האחרונה מן הסתם טרם נאמרה. כמו שהידע עובר ניפוי וזיקוק, כך עוברת גם השיטה המדעית עצמה ליטושים והגדרות מחדש כל הזמן. לקחים מיושמים ומנגנונים עוברים שכלול במטרה ליעל את התהליך.

המדע רחוק מלהיות כלי מושלם של ידע. זה פשוט הכלי הטוב ביותר שיש לנו. – קרל סייגן

בצד הביקורות הלגיטימיות, מושמעות לא פעם השמצות מצד אנשים שדעותיהם ואמונותיהם נמצאות בסתירה לידע המדעי הנכחי ובד בבד אינם מכירים או מבינים את עקרונות החשיבה המדעית. כשהם ממצים את נסיונותיהם היצירתיים לנצל את המדע לצורך אישוש אמונותיהם (ע"י שימוש באנלוגיות קלוקלות, פרשנויות מילוליות-ספרותיות, הרחבות מטאפיזיות וכד'), הם פונים לעיתים קרובות לקו ההתקפה.

משמיצי המדע מנסים לאחוז במקל משני קצותיו: מצד אחד הם מתרעמים ומאשימים את "המדע" בשמרנות וקיבעון מחשבתי על כך שאינו מקבל בזרועות פתוחות טענות שסותרות את אותו ידע מזוקק, ידע ששרד עשרות שנים של ביקורות ועמד בהצלחה באינספור מבחני מציאות.
מצד שני, באותה נשימה ממש, הם בוחרים דוגמאות מחזית המדע, אותה חזית מחקר שמתאפיינת בין השאר בשלל רעיונות נועזים ויצירתיים, ומצביעים בלגלוג על הפכפכותו המביכה של "המדע".

הנה כך בוחרים משמיצי המדע להסתכל רק על החצי "הריק" של הכוס:

כשנקרה בדרכם סיפור על מדען שנאבק שנים על צדקתו ובסופו של דבר זכה בהכרה לה היה ראוי, משמיצי המדע מנפנפים בפרשה בשמחה-לאיד, כהוכחה לאותה שמרנות ממסדית וצרות אופקים של "המדע". מה שהם שוכחים לציין הוא כי לא חלפו שנים רבות והאמת יצאה לאור, בזכות כוח התיקון העצמי של המפעל המדעי, כוח אשר מצליח לגבור על גחמותיהם האנושיות האישיות של כל אחד ואחד מהמדענים המשתתפים במשחק.

הכותרות הצעקניות

נזכר בכותרות ההפכפכות מתחילת הרשומה. מאילו שלבים של זיקוק הידע מגיעות הכותרות הללו?

המדיה מציפה אותנו בעיקר בדברים שלא זכו אפילו להכנס לחזית המדע (כלומר – הבלים, אנקדוטות, דמגוגיות ופסאודו-מדע לסוגיו), ובמחקרים סנסציוניים במיוחד מחזית המדע.

בד"כ מסקנות המחקרים מעוותות בצורה משמעותית לפני שהן מפורסמות במדיה, בין אם מתוך אי הבנה וחוסר מקצועיות מצד הכתבים או העורכים, ובין אם מתוך רדיפת רייטינג. אבל על כך כאמור נדבר בהזדמנות אחרת.

מתי לאחרונה נתקלתם בכתבות שמסבירות את חוקי ניוטון? את עקרונות תורת היחסות? יסודות התרמודינמיקה? הסבר על הטבלה המחזורית? מנגנונים ביולוגיים בתא החי? נכון, אלה לא חדשות. אבל אלה בדיוק פיסות הידע המוצקות והאמינות ביותר שיש למדע להציע. ידע זה כנראה גם לא ישתנה בעשור הקרוב.

אם נזכור כי חלק גדול מהמחקרים המתבצעים בחזית המדע מציגים מסקנות או נתונים אשר מתגלים מאוחר יותר כלא-מדויקים או אף שגויים, ונוסיף לכך את העיוותים הרבים שהמידע עובר עד שהוא מגיע אלינו דרך ערוצי התקשורת, נבין כי רוב המידע אליו אנחנו נחשפים בחיי היום-יום אינו נכון.

המסקנה המתבקשת היא כי עלינו להיות מודעים יותר לאיכות המקורות מהם אנו שואבים את המידע, כמו גם לרמת הבשלות של המידע בהיררכיה של מסננות זיקוק הידע.

אם בידע מוצק ואמין אנו חפצים, ספרי הלימוד גדושים בו: פירות מזוקקים של מפעל ידע משותף, בו נטלו חלק מאות אלפי מדענים במשך מאות שנים.

 סרטון מומלץ על השיטה המדעית (החל מ-2:50 יותר רלוונטי לנושא הרשומה):

*

ברצוני להודות לאורן שעיה, בעל הבלוג עד כדי קבוע (בו תוכלו למצוא גם סדרת ראיונות עם חוקרים צעירים ולקבל הצצה ישירה לחזית המחקר המדעי), ולארז גרטי שפרסם את הכתבה באתר של מכון דוידסון לחינוך מדעי, על ביקורת העמיתים שעשו לכתבה זו, ועל הערותיהם הבונות.

מקורות והרחבות:

רשומות נוספות שקשורות לנושא:

____________________________________________________

רוצים לקבל עדכון במייל בכל פעם שאני מפרסם משהו חדש? הרשמו למעלה מימין (תמיד אפשר לבטל).
חושבים שאחרים יכולים להתעניין? שילחו להם את הכתבה או שתפו בפייסבוק!