ביקורת עמיתים – עבר, הווה ועתיד

היום מתארח בבלוג ד"ר גל חיימוביץ', פוסט-דוקטורנט במכון וייצמן, חוקר בתחום הביולוגיה המולקולרית, נשוי ואב לשניים. כותב את הבלוג Green Fluorescent Blog. הנה רשומה פרי עטו בנושא "ביקורת עמיתים".

* * *

ביקורת עמיתים (peer review) היא אחד מעמודי התווך של העולם המדעי. אבל לא רק המדענים עצמם סומכים ידיהם על ביקורת העמיתים, אלא גם הספקנים (ביניהם קהילת "חשיבה חדה" כמובן) מזכירים השכם וערב שעל הספקן להסתמך על מחקר שעבר ביקורת עמיתים ולהתעלם מכל מחקר שלא עבר ביקורת עמיתים. אכן, ביקורת עמיתים היא דרכו של העולם המדעי לבחון את איכות המחקר ולהציע פתרונות לשיפור, אם צריך.
השיטה, בגדול עובדת. אולם, למרות היתרונות של השיטה הנוכחית, יש לה גם חסרונות רבים.

איך זה התחיל?

עם התעוררות המדע המודרני וייסודן של "אגודות מלכותיות" (royal societies) אי-אז במאה ה-17, ביקורת העמיתים התבצעה במפגשים פרטיים (כלומר החוקר פונה לעזרה מעמיתיו), במפגשים מדעיים, או לאחר פרסום המחקר (post-publication peer-review). כלומר, מי שהחליט אם מחקר מדעי הוא בר פרסום הוא עורך כתב העת (או הספר) בחסות החברה. ביקורת עמיתים טרום-פרסום (pre-publication) הוכנסה לשימוש לראשונה בשנת 1731, ע"י האגודה המלכותית של אדינבורו, אשר פרסמה קובץ מאמרים רפואיים. בשנת 1752, האגודה המלכותית של לונדון, אשר הוציאה לאור את כתב העת Philosophical Transactions, והשתמשה בביקורת עמיתים באופן לא רשמי מאז נוסדה בשנת 1665, יישמה לראשונה את השיטה באופן רשמי: מאמרים שהגיעו לעורך נשלחו לקבוצה מצומצמת של חברי האגודה, בעלי ידע בנושא המאמר, לצורך הערכה.

במאה ה-19 העיתונים המדעיים כמהו למאמרים והעורכים היו פונים לחוקרים בבקשה לפרסם את מחקריהם. ביקורת עמיתים הייתה נתונה לשיקול דעתו של העורך. המצאת נייר ההעתקה (carbon copy) בסוף המאה ה-19 הקלה על הפקת עותקים והפצתם לקבוצה מצומצמת של חברי אגודה. אולם, רק לעיתים נדירות המאמר נשלח לחוקר חיצוני. המצב הזה נמשך עד למחצית המאה העשרים.

ביקורת עמיתים טרום-פרסום ע"י מומחים חיצוניים לא נכנסה לשימוש בעולם המדעי באופן מסודר. למשל, The British Medical Journal שלח כל מאמר לביקורת עמיתים חיצונית כבר משנת 1893. לעומתו, כתב העת הרפואי JAMA הכניס ביקורת עמיתים לשימוש רק בשנת 1962, ו- The Lancet הכניס את ביקורת העמיתים לשימוש רק בשנת 1976. מאמרים כמו מאמרו של איינשטיין מ-1905 על תורת היחסות או מאמרם של ווטסון וקריק משנת 1953 על מבנה ה-DNA כלל לא עברו ביקורת עמיתים טרם פרסומם. לעומת זאת, מאמר של איינשטיין מ-1936 נדחה לאחר ביקורת עמיתים.

תגובתו של איינשטיין

זו הייתה תגובתו של איינשטיין. מקור

הפיתוח הטכנולוגי שעזר להכניס את ביקורת העמיתים לשימוש קבוע הוא מכונת הצילום, שנכנסה לשימוש מסחרי בשנת 1959. כיום, ביקורת עמיתים טרום-פרסום משמשת בכל כתבי העת המדעיים והיא נחשבת ל"חותמת כשרות" על המאמר המדעי.

איך זה עובד?

אחד העקרונות החשובים שמנחים את המחקר המדעי הוא שאת המחקר ותוצאותיו יש להציג לקהל הרחב בכלל, ולקהילה המדעית בפרט. קיימים שני ערוצים עיקריים שבהם החוקר מציג את עבודתו בפני הקהילה המדעית: כנסים מדעיים ופרסום מאמרים בעיתונים מדעיים. בשני המקרים, החוקר חושף את השערת המחקר, שיטות המחקר ותוצאותיו. ובשני המקרים, חוקרים אחרים יכולים להעיר הערות, חיוביות או שליליות. זו תמצית ביקורת העמיתים.

העבודה המוצגת בכנסים היא, במקרים רבים, חלקית. זאת מכיוון שהזמן שמוקצב להרצאה הוא קצר (בין 5 ל-45 דקות, תלוי בסוג הכינוס) ואינו מאפשר להציג את כל פרטי המחקר, אלא רק את התוצאות העיקריות. כנסים הם גם הזדמנות מצוינת לסטודנטים להציג את עבודתם, בצורה של פוסטר. גם במקרה זה, הפוסטר מציג תמצית של המחקר, שנמצא במקרים רבים עדיין בהתהוות.

פוסטר שגל הציג בכנס לפני אי אלו שנים. מקור: גל חיימוביץ'

פוסטר שגל הציג בכנס לפני אי אלו שנים. מקור: גל חיימוביץ'

חשוב לציין שכל ביקורת (חיובית או שלילית) בכנסים מדעיים אינה מחייבת את החוקר לשום שינוי, ובאופן רשמי אין לה השפעה על קבלת המחקר לפרסום בכתב עת מדעי. מצד שני, כל עוד מחקר לא פורסם בכתב עת מדעי, הוא נלקח בערבון מוגבל. באופן כללי, רק מחקרים שעברו ביקורת עמיתים ופורסמו בכתבי עת מדעיים נשקלים בעת צירוף חוקרים לסגל אוניברסיטאי, ובעת הענקת קביעות או מענקי מחקר. נחזור לכך בהמשך.

מחקר "גמור" מוצג לקהילה המדעית כמאמר בעיתון מדעי. אלו השלבים שצריך לעבור עד לפרסום המאמר:

  1. כתיבת מאמר: כל חוקר מחליט בעצמו מתי נאספו מספיק תוצאות, ואילו תוצאות להציג. יחד עם התוצאות, המאמר כולל רקע והשערות, שיטות העבודה, מראי מקום ("ציטוטים") של מחקרים אחרים, דיון וסיכום.
  2. הגשת המאמר: החוקר מגיש את המאמר לעיתון מדעי לבחירתו – לפי תחום המחקר וחשיבותו (לדעת החוקר). אסור להגיש לכמה עיתונים מדעיים במקביל. בעת הגשת המאמר, החוקר צריך לפרט את שמות כל השותפים למחקר (סטודנטים, חוקרים ממעבדות אחרות) ואת השתייכותם המוסדית (אוניברסיטה, מכון מחקר, חברה מסחרית וכולי). החוקר צריך להצהיר על ניגודי אינטרסים, מקורות מימון וכדומה. נוסף לכך הוא יכול להמליץ על מספר עמיתים אליהם המאמר יישלח לביקורת (או לבקש שהמאמר לא יישלח לחוקר מסוים – למשל בשל חשש לניגוד אינטרסים מול אותו חוקר).
  3. העורך המדעי של כתב העת הוא הראשון שרואה את המאמר. הוא מחליט האם המאמר מתאים לכתב העת, האם הוא יעניין את הקוראים והאם הוא ברמה מדעית גבוהה מספיק לפרסום.
  4. אם המאמר לא נדחה בשלב הקודם, הוא נשלח לביקורת עמיתים. לרוב, המאמר נשלח לשניים-שלושה חוקרים שאמורים להיות מומחים בתחום (העורך אינו חייב לבחור מתוך רשימת ההמלצות שמגיש המאמר צירף). בנקודה זו חשוב להדגיש מספר דברים:
    • חוקר שקיבל פניה מהעורך בבקשה לשפוט את המאמר לא חייב להסכים. במקרה זה, העורך יחפש חוקר אחר.
    • השופטים אינם מקבלים (לרוב) תמורה כספית או טובות הנאה אחרות על הביקורת.
    • אנונימיות השופטים נשמרת, כלומר כותב המאמר אינו יודע מיהם השופטים (אלא אם כן השופט עצמו מוותר על האנונימיות וחותם את שמו).
  5. לשופטים ניתנת לרוב תקופה של 2-4 שבועות להחזיר תשובה לעורך.

השופטים אמורים לבחון את המאמר מהיבטים רבים, שלחלקם נתייחס בהמשך:

  • טיב המחקר: האם השתמשו בשיטות מחקר מתאימות, האם בוצעו מספיק ניסויי ביקורת? האם הניסויים מתאימים לשאלת המחקר?
  • משמעות המחקר: האם התוצאות פורשו נכון? האם יש דרך אחרת לפרש אותן? האם התוצאות המוצגות משכנעות מספיק?
  • היקף המחקר: האם יש צורך בניסויים נוספים (ביקורות, הבהרה של תוצאות דו-משמעיות, מכלול התוצאות לא מספיק להחזיק את התיאוריה המוצגת).
  • טיב המאמר: האם התוצאות מוצגות בגרפיקה מתאימה? האם הכתוב אכן תואם למה שמוצג בצורה גרפית? האם המאמר כתוב באופן ברור ומובן לקורא (מבחינה מדעית ותחבירית)?
  • המאמר בתוך תחום המחקר: האם המחקר חדשני מספיק? האם החוקר התייחס למחקרים קודמים שאותם המחקר שלו מאשר/שולל? האם הציטוטים המובאים במאמר אכן מתאימים מבחינת הקשרם למחקר או לטקסט? האם החוקר התייחס להשלכות של התיאוריה שלו על תחום המחקר?
  • השורה התחתונה: האם המאמר מתאים וטוב מספיק בשביל כתב העת אליו הוא הוגש?

בנקודה זו ארצה להתייחס בקצרה לנושא אמינות המחקר, כלומר, האם יש חשד לזיוף תוצאות, שכן אנו נחזור לנושא זה בהמשך. השופטים בביקורת עמיתים לא אמורים לזהות זיופים כחלק מתהליך השיפוט. בפועל, זיופים רבים מתגלים רק לאחר שמעבדות אחרות לא מצליחות לשחזר את תוצאות הניסויים המתוארים במאמרים אלה.

  1. לפי תשובת השופטים, העורך מחליט על הצעד הבא:
    • אם תגובת השופטים הייתה שלילית (כולם או רובם), אזי סביר שהעורך ידחה את המאמר.
    • אם לשופטים אין מילה רעה לומר, כמובן שהמאמר יתקבל. מקרים אלו נדירים עד מאוד.
    • לרוב, תשובתם של השופטים היא חיובית, בתנאי שהחוקר יבצע שינויים, שנוגעים לאחד או יותר מהסעיפים שהוזכרו למעלה. שינויים אלה יכולים לכלול דרישה לניסויים נוספים, שינויים בטקסט ו/או בדרך הצגת התוצאות.

במקרה השלישי, העורך יכול להחליט על הקצבת זמן לחוקר לצורך ביצוע השינויים (בין חודש לחצי שנה – תלוי בהיקף העבודה), או על דחיית המאמר, אם היקף השינויים הנדרשים גדול מדי לטעמו.

במידה והתמזל מזלו של החוקר ומאמרו התקבל "על תנאי", עליו לשלוח מחדש את המאמר עם כל השינויים, התוספות והתיקונים, בליווי מכתב לשופטים המפרט אחד לאחד מה היו הדרישות, מה נעשה ומה התוצאה. חשוב לציין שבניגוד לשלב השיפוט הראשון, בשלב זה השופטים רואים גם את הביקורת של עמיתיהם.

זהו שלב ההכרעה – האם כל (או לפחות רוב) דרישותיהם של השופטים קוימו? האם השינויים שיפרו את המאמר בכל אחד מהפרמטרים שצוינו למעלה?

בשלב זה, מדובר על תשובת כן/לא בלבד. במידה ואין תמימות דעים בין השופטים, העורך מכריע – לפי העניין של כתב העת במאמר. במקרים נדירים, המאמר נשלח לשופט נוסף שלא ראה את המאמר המקורי, או שהעורך מאפשר סבב שני של תיקונים מדעיים (כלומר ביצוע ניסויים נוספים) לפני ההכרעה.

המאמר התקבל? מזל טוב! עתה יש צורך להתאים את המאמר לדרישות הטכניות של כתב העת (אורך, עיצוב הטקסט, התאמת התמונות והגרפים לרזולוציה וצבע מומלצים ועוד). נוסף על כך, החוקר משלם לכתב העת על מנת לפרסם את המאמר. מדובר על תשלום שיכול לנוע בין כמה מאות לכמה אלפי דולרים, תלוי בכתב העת ובפרטים אחרים (למשל, תשלום תוספת על תמונות בצבע). ניגע גם בנקודה זו בהמשך.

תהליך ביקורת העמיתים עד לפרסום המאמר אורך, בממוצע, כתשעה חודשים, אבל משך הזמן יכול להתארך גם לשנה וחצי או אפילו יותר (וכאן, לצערי, אני מדבר מניסיוני האישי). כמובן שכל דחיה של המאמר מצריכה התחלת התהליך מחדש בכתב עת אחר (שוב, מניסיון אישי). אין זה נדיר שמאמר מתפרסם אחרי שהסטודנט שהוביל את המחקר כבר עזב את המעבדה לתפקיד הבא (וגם את זה חוויתי).

יתרונות השיטה

יתרונות השיטה ברורים. כל מחקר מדעי עובר סינון לפחות פעמיים: פעם אחת על-ידי העורך המדעי של כתב העת – לרוב מדובר על בעל תואר דוקטור באחד התחומים הרלוונטיים לכתב העת, או בחוקר פעיל באוניברסיטה שמתפקד גם כעורך – ופעם נוספת על ידי 2-3 מומחים חיצוניים. הסינון ע"י השופטים בשלב השני חוסך לעורכים עבודה על מאמרים לא ראויים, ועל כן, התהליך חיוני לכתב עת מודפס שמספר דפיו מוגבל. למשל, לכתב העת Nature, אשר נחשב לאחד מכתבי העת המדעיים המובילים בעולם, מתקבלים פחות מ-8% מהמאמרים המוגשים לפרסום (נכון ל-2013). לעומת זאת, כתב העת האינטרנטי (והפחות נחשב) PLoS Genetics מפרסם כ-30-40% מהמאמרים המוגשים (נכון לשנת 2008). כתב העת PLoS ONE, שמפרסם מאמרים רק על סמך מחקר עם תוצאות ומסקנות מבוססות, ללא קשר לחדשנות, מפרסם כ-69% מהמאמרים המוגשים (נכון ל-2013).

יתרון נוסף של תהליך ביקורת העמיתים הוא שהערות השופטים מביאות לשיפור של המחקר כפי שהוא מוצג במאמר, בחלק או כל הפרמטרים שנזכרו למעלה. על כך אני יכול להעיד מניסיוני האישי, ומחקר מ-1994 תומך בכך.

השופטים, כאמור, אינם מקבלים כל תמורה עבור עבודת השיפוט ולכן אין להם כביכול אינטרס כלכלי – לטובה או לשלילה. למעשה, בעיני רבים, עבודת השיפוט יכולה להתפרש כשליחות למען טובת הכלל או טובת המדע. ההטבות שבכל זאת ממריצות חוקרים לתרום מזמנם לטובת ביקורת עמיתים הן הכרה במעמדם כמומחים בתחום (בעיקר ע"י עורכים של כתבי העת) והיכולת להתוות את המחקר בתחום מומחיותם לכיוון הנראה להם. כמו כן, בחלק מהמוסדות האקדמיים, פעילות זו היא חלק מהגדרת התפקיד, ולכן חלק מהמשכורת מותנה בהקדשת זמן לביקורת עמיתים.

אולם תהליך ביקורת העמיתים כפי שהוא מתבצע היום אינו חף מבעיות, חלקן חמורות ביותר.

חסרונות, בעיות ושערוריות

שיטת ביקורת העמיתים הנוכחית אינה חפה מבעיות. מחלקן פשוט התעלמו במשך זמן רב, בעוד שחלק אחר התעורר רק לאחרונה, כך שקולות לשינוי השיטה הקיימת החלו להישמע רק בעשור האחרון, לערך. עם גידול השימוש באינטרנט וברשתות חברתיות בכלל (כולל בלוגים מדעיים) גדל הנפח של ביקורת עמיתים לאחר הפרסום, דבר שגרם להטלת ספק ביעילות השיטה הנוכחית. אבל הביקורת על השיטה עוסקת לא רק ביעילותה ככלי לשיפור המחקר המדעי, אלא גם בהשפעתה על הקריירה של המדענים.

הבעיות החלו לצוף עם העלייה המתמדת במספר כתבי העת המדעיים (המספר האחרון שמצאתי הוא 30,000, עם גידול של כ-3.5% בשנה), ובייחוד כתבי העת האינטרנטיים שהינם Open Access) OA) – פתוחים לכל.

PR evolution

גרף המראה עלייה במספר כתבי העת בתחום אקולוגיה/אבולוציה וה"לחץ האבולוציוני" המוביל לשגשוג כתבי העת. מקור: Ferreira et al. (2015) Biological Reviews. DOI: 10.1111/brv.12185

מדוע זו בעיה? ככל שיש יותר כתבי עת, ויותר מאמרים בכל כתב עת, כך עולה הצורך בשופטים. היות שביקורת עמיתים נעשית בהתנדבות, על חשבון זמנו של החוקר, הוא עלול למצוא את עצמו משקיע שעות שבועיות רבות מזמנו בביקורת עמיתים. מצב כזה מוביל לסירובים רבים יותר לשפוט מאמר, והעורך נאלץ לבזבז מזמנו על מציאת שופטים אחרים. אני מכיר מקרים בהם תהליך מציאת השופטים ארך מספר שבועות, כמו גם מקרה שבו מאמר "נפל בין הכיסאות" והתעכב מספר חודשים מכיוון שירד מסדר היום של העורך. משכבר נמצא חוקר שמוכן לשפוט מאמר, עורך כתב העת יעדיף לספוג עיכובים בהגשת עבודת השיפוט שלו לפני שיתייאש ויפנה לחפש שופט חלופי – דבר שגורם לדחיות נוספות בתהליך ביקורת העמיתים. כמו כן, ככל שיש יותר כתבי עת, שגם מתמחים בנישות קטנות יותר, כך העורכים שלהם ייטו לפסול מחקרים שאינם בדיוק בתחום התמחותם, אפילו אם המחקר עצמו הוא טוב, בין אם בשל חוסר היכרות של העורך עם נושא המאמר, ובין אם כתוצאה מ"חוסר התאמה" של הנושא לכתב העת.

חוקרים רבים אשר מסכימים לשפוט מאמר, עושים עבודה שטחית, או לחילופין לא עושים זאת בעצמם, אלא מעבירים את העבודה לאחד מהסטודנטים שלהם (מדובר בייחוד בפרופסורים ותיקים). מצד אחד, אפשר לראות בכך יתרון, שכן הדבר מקנה לסטודנטים אפשרות לתרגול חשיבה ביקורתית. מצד שני (ושוב, מניסיוני האישי) לא תמיד הסטודנטים מקבלים הנחייה נאותה כיצד לשפוט מאמר. בנוסף, סטודנט שרוצה "למצוא חן" בעיני המנחה, ינסה למצוא כמה שיותר בעיות במאמר, ירד לפרטים מאוד קטנים ויציע ניסויים מורכבים לשיפור המאמר, תוך איבוד פרופורציות וראיה רחבה יותר של הדברים. לא כל המנחים אכן בודקים שהביקורת שמתחו הסטודנטים תקפה או בת-ביצוע. ולבסוף, תתכן בכך הפרה של הנחיות כתב העת, שכן כתב היד המוגש לשיפוט אמור להיות חסוי (הנה דיון לדוגמה בנושא).

cari

תהליך השיפוט, לפי PHD comics

יתר על כן, לא קיים סטנדרט קבוע לביקורת עמיתים. כל שופט מחליט בעצמו על מה לשים דגש, עד כמה לפרט ועד כמה להתחשב ביכולות הטכניות/כלכליות של המעבדה ובזמן שיידרש לתיקונים. אחת הטענות כנגד נוהל הצעת ניסויים נוספים על ידי השופטים היא שבמקרים רבים החוקרים "מאלצים את התוצאות", במודע או שלא במודע, כך שיתאימו לבקשות השופטים. כמו כן, אין סטנדרט קבוע לקביעה האם השינויים שהחוקר ביצע מספקים את דרישות השופטים. בנוסף, הערות השופטים אינן מתואמות ביניהן, ויתכנו מקרים של חוסר עקביות בין שופטים שונים, עד כדי דרישות הפוכות.

PHD worksheet

הצעה הומוריסטית ל"לוח ניקוד" בביקורת עמיתים. מקור: PHD comics

העובדה שביקורת העמיתים היא אנונימית (כלומר החוקר אינו יודע את זהות השופטים) מקנה לשופטים חופש לכתוב בצורה גסה, מעליבה ופוגענית, לעיתים ללא כל צנזורה מהעורך (הנה דוגמה שרצה באינטרנט לאחרונה). מחקר בנושא מצא שכאשר שופטים חותמים את שמם על הביקורת הם כותבים בצורה מנומסת יותר, הביקורת מושקעת יותר ואף כתובה כביקורת בונה יותר מאשר ביקורות אנונימיות. עם זאת, חלק מהשופטים (בייחוד חוקרים בתחילת דרכם) עלולים לחשוש מלחתום את שמם על ביקורת שלילית, מחשש שכותבי המאמר ינקמו בהם בעתיד.

התהליך סובל מחוסר שקיפות – הקורא מקבל למעשה אך ורק את המוצר הסופי. הוא אינו מודע לשינויים שנערכו במאמר בין גרסתו הראשונית לבין זו שפורסמה. האם חלקים מסוימים נחתכו? מה תרומתם של השופטים לגרסה הסופית?

בתהליך קבלת המאמר לפרסום עולה השאלה האם, אם להשתמש בהשאלה, המחקר הוא "סקסי". ככל שהמחקר יותר חדשני ופורץ דרך או שנוי במחלוקת, כך הוא יעניין יותר את עורכי כתב העת. הדבר נכון בייחוד לכתבי עת שגובים דמי מנוי, שכן זו דרכם למשוך מנויים (כמו גם פרסומות של חברות המספקות שירות או ציוד מדעי). הדרך העיקרית שבה נמדדת מצוינות של כתב עת היא מדד שנקרא IF) Impact Factor). מדד זה מבוסס על חישוב של עד כמה המאמרים בכתב עת מסוים מצוטטים ע"י מאמרים אחרים. זהו מדד אובייקטיבי (אך לא בלתי ניתן להטיה) ועל כן הוא הפך בעשורים האחרונים לאחד המדדים העיקריים שקובעים מיהו כתב העת המוביל בכל תחום. אך זהו אינו המדד היחיד. Google Scholar מאפשר לחוקרים מעקב קבוע אחר כמות הציטוטים להם זכה כל מאמר, כמו גם חישובי מדדים שונים כגון i10 (כמה מאמרים זכו לפחות ל-10 ציטוטים) או h-index (המספר h מציין כמות המאמרים h שזכו ל-h ציטוטים). בשנים האחרונות החלו להסתכל גם על מדדים אחרים כגון altmetrics שמחשב ציון לכל מאמר לפי מספר אזכורים באתרי חדשות, בלוגים מדעיים ורשתות חברתיות.

מן הצד השני של ה"סקסי" מצויים השופטים השמרנים, שיידחו מאמר חדשני ופורץ דרך כי הוא סוטה יותר מדי מן התיאוריות המקובלות, וסיפורים כאלה לא חסרים במדע (למשל סיפורו של זוכה פרס נובל דן שכטמן).

הלחצים הרבים שפועלים לפרסום מאמרים ו"חגיגת" מדדי ההצלחה השונים הובילו למצב בעייתי באקדמיה של היום שמכונה publish or perish (פרסם או העלם).

מדוע זו בעיה? כמות המאמרים המפורסמים, כמו גם האימפקט פקטור של כתב העת שבו התפרסמו, הפכו לכלים העיקריים להערכת הצלחתו של חוקר, והם משמשים פעמים רבות כמנגנון סינון ראשוני עוד לפני שבכלל דנים במהות ואיכות המחקר. למצב זה יש השלכות ישירות על הקריירה של החוקרים:

  • התקדמות בדרגות אקדמיות שונות (קבלה ללימודי דוקטורט וקבלת תואר דוקטור, קבלה להתמחות פוסט-דוקטורט, קבלה כמרצה/חוקר באוניברסיטה, קבלת קביעות ולבסוף קבלת תואר פרופסור).
  • קבלת מלגות סטודנטים.
  • קבלת מענקי מחקר.
  • הערכת הביצוע של מחלקות ופקולטות, ואף העברת תקציבים ממשלתיים לאוניברסיטה (כך, לפחות, זה בארץ).

וזה מחזיר אותנו לתהליך ביקורת העמיתים כפי שהוא כיום: משך הזמן הארוך שחולף מהגשת המאמר ועד לפרסומו גורם לתסכול רב, הן לסטודנטים והן לראש המעבדה שהמימון והקריירות שלהם תלויים בפרסום המאמרים. התלות של החוקרים בפרסום המאמרים, ובמדדי ההצלחה של אותם מאמרים, היא בוודאי אחת הסיבות העיקריות לכך שחוקרים ימהרו לנסות לפרסם מחקרים גם אם הם לוקים בחסר, עד כדי זיופים של ממש. מהצד השני, עורכים ושופטים עלולים "לעגל פינות" ולקבל מהר לפרסום מחקרים בעיקר בזכות היותם סקסיים (הנה דוגמה למאמר בכתב עת מאוד מכובד שפורסם תוך 3 ימים, ודיון בנושא).

שתי דוגמאות בולטות מהעת האחרונה הן מאמר בכתב העת Science שתיאר חיידקים שמשתמשים בארסן במקום בזרחן במבנה ה-DNA שלהם (פריצת דרך באסטרוביולוגיה! או שלא…) ושני מאמרים בכתב העת (Nature (1, 2שתיארו כביכול שיטה פשוטה להשראת יצירה של תאי גזע (מהפיכה בשימוש בתאי גזע!). מקרה זה האחרון הסתיים בהתאבדות של אחד החוקרים, בפתיחת חקירה לגבי 20,000 מאמרים שמקורם במכון המחקר, ובאיום לסגור את מכון המחקר. אמנם, בשני המקרים רק ניסיונות כושלים לחזור על תוצאות הניסויים (1, 2) סתמו את הגולל על אותם מאמרים, אבל מקרים אלה הדגימו כיצד ביקורת עמיתים לאחר הפרסום זיהתה חשדות לשגיאות ואף זיופים, ולפיכך עוררה דיונים מחודשים באיכות התהליך הקיים.

סרטון יוטיוב על מקרה תאי הגזע:

הבלוג retraction watch מרכז מידע על מאמרים ש"נמשכו" חזרה (כלומר כאלה שפורסמו ולאחר מכן פרסומם בוטל). מדובר אמנם רק בעשרות מקרים בחודש (שמדווחים בבלוג) מתוך אלפים שמתפרסמים, אך מהמקרים האלו ניתן ללמוד על כשלים בתהליך. בין הבעיות העיקריות שמביאות למשיכת מאמרים ניתן למנות: טעויות שלא ניתן לתקן (למשל כי החוקרים לא הצליחו למצוא את תוצאות הניסויים המקוריות), זיופי תוצאות, פלגיאריזם, שימוש בשמות חוקרים או שמות מוסדות מחקר מזויפים, הוספת שמות חוקרים למאמר אף על פי שלא הייתה להם נגיעה למחקר או השמטת שמות של שותפים למחקר, שקר בהצהרות על ניגוד אינטרסים. הבעיות הפחות חמורות כוללות: עבודה שלא לפי פרוטוקול נכון מבחינה אתית במחקר עם בני אדם או בעלי חיים ופגיעה בחלק מן הדרישות של מענקי מחקר כאלה ואחרים. רובן המוחלט של הבעיות הללו אמורות להתגלות ע"י העורך עוד לפני שליחת המאמר לשופטים. הבלוג אינו מרכז מידע על תיקוני מאמרים (Correction או Errata) שמתפרסמים מעת לעת, רובם בשל טעויות טכניות (למשל שיבוש בהכנת התמונה לפרסום).

בעיית הזיופים אינה רק עניין של פגיעה בהתקדמות המדע והטעיית ציבור המדענים. מדובר גם בכסף – הרי אותם מדענים זכו במלגות או מענקי מחקר, לעיתים מענקים נדיבים עד מאוד. בארה"ב הוקם גוף בשם The Office of Research Integrity – ORI – שבוחן מקרי זיוף ובסמכותו למנוע מימון ממשלתי מאותם מדענים או גופים שנמצאו אשמים בזיוף. אמנם, מחקר שנערך לאחרונה מצא שהעלות הישירה של מענקי NIH שניתנו לזייפנים היא פחות מ-1% מכלל תקציב ה-NIH. אף על פי כן, קשה להעריך את הנזק הכלכלי העקיף שנגרם כתוצאה ממאמרים שזויפו.

ג'ון בוהנון, עיתונאי של מגזין Science, החליט בשנת 2013 לבצע תחקיר עיתונאי ע"י ניסוי "עוקץ" שנועד לבחון את תהליך הסינון של כ-300 כתבי עת מסוג OA) Open Access). הוא המציא מאמר מדעי בדוי לחלוטין שדיווח על חומר המופק מחזזית ואשר התגלה כבעל תכונות אנטי-סרטניות. המאמר הכיל כמה וכמה בעיות וטעויות שחוקר מנוסה צריך לזהות מיד ושאמורות להביא לדחייה מידית של המאמר. המאמר הבדוי (תחת שם חוקר בדוי ומוסד אקדמי בדוי) נשלח לאותם 300 כתבי עת שהם OA. התוצאות היו מדאיגות במיוחד. 157 כתבי עת קיבלו את המאמר לפרסום, לעומת 98 בלבד שדחו אותו (שאר 45 השתהו בתגובתם או לא ענו כלל). רק 60% מכתבי העת שלחו את המאמר לביקורת עמיתים (זה טוב עבור כתבי העת שדחו את המאמר – אומר טובות על העורך). במקרים בהם נערכה ביקורת עמיתים, רוב הביקורת הייתה שטחית והתייחסה לסגנון וניסוח (המאמר היה כתוב רע בכוונה). רק ב-36 מקרים (מתוך כלל 255 שזכו לתשובה) השופטים מצאו בעיות מדעיות, אך ב-16 מקרים מתוכם העורך קיבל את המאמר בכל זאת. במקרים רבים, העורך ו/או חשבון הבנק של כתב העת היו במדינות עולם שלישי (שליש מהם בהודו), למרות ששם כתב העת התהדר בכותרת “The American journal of…”.
חשוב עם זאת לציין שבוהנון לא סינן את הרשימה כדי להוציא מראש את אותם "כתבי עת טורפים" (predatory journals) שידוע שלא עורכים ביקורת עמיתים. כמו כן, התחקיר עצמו מוטה רק כלפי כתבי עת ללא דמי מנוי (אולי בשל האינטרס הכלכלי של Science שכן גובה דמי מנוי). לכן, רצוי להתייחס לתוצאות התחקיר הזה בספקנות. יחד עם זאת, חשיבותו היא בהצפת הנושא של ביקורת העמיתים בפרסום המחקר, וקיומם של כתבי עת טורפים שלא כולם (ואני ביניהם) היו מודעים להם.

לסיום חלק זה נזכיר בעיה קשורה והיא אי-פרסום של תוצאות שליליות. ניסויים שנכשלו (כלומר לא נמצאה השפעה של הגורם הנחקר לעומת הביקורת) מושלכים פעמים רבות לפח, מכיוון שלדעת העורכים ו/או השופטים אין מספיק ערך חדשני בפרסומם. ברוב המקרים החוקרים עצמם לא טורחים אפילו לשלוח עבודות כאלה לפרסום. זהו מצב בעייתי ביותר, מכיוון שהוא עלול להביא למסקנות שגויות בתכלית בתחום הנחקר – חישבו למשל על תרופה בלתי יעילה שרק שני מחקרים שהצביעו על יעילותה התפרסמו, ואילו עשרים מחקרים שלא מצאו יעילות כלשהי נגנזו בתחילת דרכם. יש לציין שדווקא בתחום הביו-רפואה קיים כתב עת מיוחד לזה, אם כי סביר להניח שרוב החוקרים טרם שמעו עליו. בעייתי עוד יותר לנסות לפרסם תוצאות שליליות של ניסיון חזרה על ניסויים של קבוצת מחקר אחרת. לא ארחיב על זה מכיוון שזה כבר נושא לרשומה אחרת, אבל למתעניינים הנה רשומה בנושא.

רוחות של שינוי

כפי שהזכרתי למעלה, אחת הטענות הקשות כלפי תהליך פרסום המאמרים כיום הוא שברגע שמאמר התפרסם, הוא מוצג כמוצר מוגמר שאין לערוך בו שינויים. ביקורת עמיתים שלאחר הפרסום יכולה אמנם לגרור דיון, שלעיתים יסתיים בפרסום תיקון למאמר, אבל רק במקרה של זיופים או טעויות קריטיות מוכחות כתב העת ימשוך את המאמר חזרה (וגם זה לא תמיד, כמו במקרה של חיידקי הארסן). לפני עידן האינטרנט, ביקורת עמיתים פומבית לאחר הפרסום הייתה כמעט אך ורק דרך מכתבים לעורך. המקום המוגבל בכתב העת למכתבים מסוג זה, כמו גם סינון אפשרי של העורך אילו מכתבים לפרסם, הגבילו מאוד את היכולת להשמיע ביקורת על מאמרים שכבר פורסמו. כיום, ניתן למצוא אלפי בלוגים מדעיים שסוקרים, ממליצים ומעבירים ביקורת על מאמרים מדעיים (הנה דוגמא לאתר שמרכז בלוגים כאלה). פורומים ורשתות חברתיות מהווים כר פורה לדיונים (תיאור של דיון כזה ניתן למצוא ברשומה הזו).

יוזמה של הממסד המדעי שקמה בשנת 2002 ונקראה F1000 (קיצור של "פקולטה של 1000"), מהווה פלטפורמה יוקרתית להמלצה על מאמרים טובים. המודל הוא של חוקרים מומחים בתחומם, אשר ממליצים על מאמרים טובים לדעתם, מעין ביקורת עמיתים חיובית, אם תרצו (ושוב נביא את חיידקי הארסן כדוגמה הפוכה). המלצה של F1000 מהווה כיום תוספת נאה לקורות החיים של חוקרים.

ביולי 2012 הוקם בלוג אנונימי בעל השם הבעייתי Science Fraud שהתיימר לחשוף מקרים של "אי-סדרים" במאמרים מתחום מדעי החיים. חצי שנה לאחר הקמתו נחשף שמו של כותב הבלוג, חוקר באוניברסיטת רוצ'סטר. האתר הורד בעקבות איומים בתביעות דיבה שהבלוגר קיבל מצד חוקרים שאת מאמריהם ביקר. במשך ששת חודשי פעילותו דווח בבלוג על 274 מקרים של אי-תקינות. מתוכם, 47 הובילו להודעות תיקון ו-16 מאמרים נמשכו מפרסום. הנה כמה מסקנות אישיות למען ממשיכי דרכו.

ממשיכי דרכו של אותו בלוג הם Retraction Watch שכבר הוזכר למעלה, כמו גם האתר Pubpeer. האתר מהווה פלטפורמה לביקורת עמיתים לאחר פרסום. הדיונים הרבים מעלים תמונה עגומה של בעיות החל מהרמה המדעית הירודה של מאמרים ועד לזיופים של ממש. אתר זה למעשה חשף לראשונה את הבעיות שהובילו לסקנדל של מאמרי תאי הגזע ב-Nature. ייחודו של האתר בכך שהוא מאפשר ביקורת עמיתים אנונימית או גלויה ויש בקרה של עורכי האתר על אופי התגובות. חשוב ביותר, העורכים שולחים דואל לכותבי המאמרים עליהם מתנהל דיון, כדי שיוכלו לענות למבקרים. למרבה הצער, תגובות כאלו מתקבלות רק לעיתים נדירות; ברוב המקרים, הדיון הוא חד-צדדי בלבד.

האתר Pubchase, שמציע למשתמשיו לבנות ספריית מאמרים, מוסיף את ההערות מ-Pubpeer למאמרים בספרייה האישית. כך, המשתמשים יכולים לראות מיד אם המאמר שהם קוראים ספג ביקורת. עורכי Pubpeer אף כתבו תוסף לדפדפני אינטרנט שמוסיף קישור לביקורות מ-Pubpeer, כאשר מבקרים באתרים הרשמיים של כתבי העת.

pubpeer1

צילום מסך לדוגמה

הדיון הציבורי הנרחב בנוגע לתהליך ביקורת העמיתים כפי שהוא כיום, ותרבות ה publish or perish בכללה, הביאו למספר שינויים אצל כתבי העת ואתרים רשמיים אחרים. ברוב כתבי העת קיימת היום אפשרות לכתוב תגובות און-ליין למאמרים. אולם, כמו מכתבים למערכת, גם תגובות אלו עוברות לעיתים סינון ע"י העורך ( בכתב העת Cell, למשל, תגובות עשויות לחכות שבועיים לאישור עד לפרסומן). לאור זאת, דיונים מסוג זה אינם נפוצים במיוחד. גם האתר PubMed (ספרייה און-ליין של ה-NIH לכלל הפרסומים במדעי ביו-רפואה) הקים ממש לאחרונה מערכת תגובות (Pubmed Commons). מעניין לציין שבניגוד לPubpeer שבו המשתמשים שמים דגש על איתור בעיות וזיופים, הדיונים בPubmed הם בעלי אופי חיובי יותר ומטרתם בעיקר לעורר דיון מדעי מפרה.

ההצלחה של pubpeer ודומיו הביאה לקריאות לחזור לביקורת עמיתים לאחר הפרסום, שנדמה שהיא יעילה ומתאימה במיוחד לעידן האינטרנט (אם כי לא בלי חשש). המודל המוצע הוא מודל שפועל מזה זמן רב בתחום המדעים המדויקים, והוא המודל של arXiv. arXiv, שקיים כבר משנת 1991, הינו שרת של אוניברסיטת קורנל, שמאפשר לחוקרים לפרסם מאמרים און ליין. זהו שירות OA, כלומר כולם יכולים לקרוא את המאמרים, ללא דמי מנוי. הייחוד שלו היא באפשרות של החוקרים לעדכן את המאמר ולערוך תיקונים ושינויים לאחר פרסומו. אך חשוב מכך, השרת שומר גם את הגרסאות הקודמות, כך שניתן לעקוב ולראות אילו שינויים נערכו במאמר. לאור הצלחתו של arXiv (שבדיוק עבר את רף מיליון המאמרים בתחילת שנת 2015), מעבדות קולד-ספרינג הרבור הקימו בשנת 2013 שרת משלהם, bioRxiv, שמיועד לביולוגים בלבד. כרגע השרת מכיל רק כמה מאות מאמרים והעניין, בינתיים, לא תופס תאוצה. בשני מקרים אלה, אין ביקורת עמיתים רשמית, ואף אין חובה לחוקרים לערוך שינויים במאמר. אחת הסיבות שחוקרים חוששים מפרסום על שרתים כאלה היא האפשרות של דחיה מכתב עת בשל "פרסום קודם", אך זה לא בהכרח נכון, שכן כתבי עת רבים מאפשרים פרסום קודם של טיוטות המאמר על שרתים ייעודיים כמו arXiv.

מעניין לציין שהוקם גם כתב עת שמבוסס על אותו רעיון, אלא שבצורה יותר רשמית. כתב העת, F1000research, מציע לכותבים תהליך ביקורת עמיתים מומחים, לאחר הפרסום. על החוקר להציע מספר מומחים שישפטו את המאמר. המאמר מועלה לאתר לאחר בדיקה קצרה (ימים אחדים) שמוודאת כי הוא עומד בסטנדרטים של פרסום. הביקורת מתבצעת רק לאחר הפרסום, ולאחריה – על החוקר להגיש מאמר מתוקן. גם כאן, כל הגרסאות נשמרות באתר, כמו גם הערות השופטים ותגובותיו של כותב המאמר.

כתב עת חדש שהוקם, PeerJ, מציע גם הוא שרת בדומה ל-bioXriv, בנוסף לפרסום מאמרים לאחר ביקורת עמיתים רגילה. בנוסף, PeerJ מנסה לצמצם את העלויות לחוקרים, בכך שהוא לא גובה תשלום על פרסום מאמר, אלא החוקר משלם תשלום נמוך וחד פעמי (100-300$) שמאפשר לו לפרסם בחינם בכתב העת עד סוף חייו. כתב העת נותן אפשרות לחוקרים לפרסם, לצד המאמר, גם את תהליך ביקורת העמיתים שעבר.

כתב העת החדש eLife הוקם, כפי שכתב העורך הראשי, זוכה פרס נובל רנדי שקמן, במטרה להוות אלטרנטיבה ל"שלושת הגדולים" (Nature, Science & Cell), שנמצאים בראש פירמידת ה-IF, כאשר הדגש המוצהר ב-eLife הוא לא על ה-IF אלא אך ורק על טיב המדע וטובת המדען. בין ה"הטבות" לכותבים ניתן למנות: קיצור משמעותי בתהליך הסינון וביקורת העמיתים (3 ימים לקבלת החלטת עורך ראשונית, חציון של 3 חודשים מרגע ההגשה ועד לקבלת המאמר), העובדה שכל העורכים הינם חוקרים פעילים שיכולים להעריך בעצמם את טיב המחקר, וקיום התייעצות בין השופטים השונים לבין עצמם ועם העורך לפני שליחת ההערות חזרה לחוקרים – זאת כדי למנוע מצב של חוסר עקביות או אפילו דרישות סותרות של השופטים. בנוסף, זהו כתב עת OA ויתרה מכך – כתב העת לא גובה תשלום מכותבי המאמר (לכתב העת ישנה תמיכה כלכלית רחבה של מכון המחקר הרפואי ע"ש הווארד יוז, מכון מקס פלאנק וה-Wellcome trust). לשם הפתיחות, eLife מפרסם גם את תגובות העורך והשופטים, ואת תשובת הכותבים. במקום קידום לפי IF, eLife מפרסם תקצירים לא-טכניים של המאמרים דרך טוויטר, בלוגים ועוד. הטבה נוספת שכתב העת מציע, במיוחד לחוקרים צעירים, היא קבלת מכתבי תמיכה מאת העורך שטיפל במאמר, לטובת קבלת מלגה, משרה, קביעות וכדומה. אין ספק ש- eLife מנסה לפתור בעיות רבות שהועלו בנוגע לכל תהליך הפרסום המדעי.

כתב העת הוותיק EMBO Journal החל לאחרונה לפרסם את התכתובת המלאה בין העורך, השופטים וכותבי המאמר, עבור כל המאמרים שהתקבלו. גם המו"ל Elsevier החל בתהליך דומה של פרסום הערות השופטים, אך כרגע רק עבור חמישה כתבי עת (מתוך 3103 כתבי עת שהמו"ל מפרסם).

כפתרון לבעיה אחרת של ביקורת עמיתים, כתב העת Nature וכתבי עת אחרים בקבוצה החלו להציע ביקורת עמיתים בסמיות כפולה – כלומר שהשופטים אינם יודעים מיהם כותבי המאמר.

גם הדרך שבה מנסחים את הביקורת על המאמר זוכה לאחרונה לתשומת לב, ואתרים ובלוגרים רבים מפרסמים הצעות כיצד לכתוב ביקורת עמיתים או לשפר את התהליך (למשל: 1, 2, 3, 4). מתקיימים אף קורסים בנושא (קובץ PDF עם אוסף קישורים; אציין גם שבמכון וייצמן מתקיים קורס שבחלקו עוסק בנושא).

סוגיית התשלום לשופטים מהווה גם היא כר פורה לדיונים ברשתות החברתיות כמו גם בכתבי העת עצמם (למשל כאן וכאן). עד כה, אף כתב עת לא הרים את הכפפה והציע תשלום כספי לשופטים, אך כן ניתן לראות ניצנים של מתן הטבות, ובעיקר הכרה בפעילות השיפוט. כך למשל, כתב העת Nature החל לאחרונה להציע מנוי חינם לשנה לכל מי שישפוט 3 מאמרים לפחות באותה שנה [אולם מכיוון שרוב החוקרים במוסדות אקדמיים משתמשים במנוי המוסדי, זו הצעה ריקה מתוכן]. בנוסף, ניתן להוריד מאתר כתב העת מכתב רשמי (שמיועד, למשל, למעסיקים) ובו הצהרה על פעילות השיפוט של אותו חוקר. המו"ל Elsevier מציע גם הוא מנוי חינם (לחודש), כמו גם "אות הצטיינות" אינטרנטי ואף תעודת "שופט מצטיין" רשמית לטובים ביותר. הכרה בפעילות השיפוט ניתן למצוא גם בכתבי עת אחרים, למשל RNA. אתר Publons מציע למשתמשיו להכין מסמך רשמי של כל פעילות השיפוט לצרכי בקשות מענקי מחקר, משרות וכדומה. לעומת כל אלה, יש גם הצעות מבזות.

EU39_reviewers_SampleCertificate-1024x752

תמונה: תעודת שופט מצטיין

רובריק היא חברה שמציעה שירותי ביקורת עמיתים בתשלום, ומתגמלת גם את השופטים עצמם על עבודתם (כולם בעלי תואר דוקטור לפחות, וחוקרים פעילים במכון מחקר או מוסד אקדמי), ב-100$ עבור כל מאמר. בנוסף, רובריק מפעילה סטנדרט אחיד לכלל הביקורות, עם דרישות להתייחסות לכלל הנושאים שהוזכרו למעלה בחלק על תהליך ביקורת העמיתים. כיום, רובריק היא הגוף היחיד שמשלם לשופטים שכר.

סיכום

ביקורת עמיתים טרום-פרסום הינה שיטה שהחלו להשתמש בה לפני מאות שנים, אך רק באמצע המאה הקודמת נכנסה לשימוש קבוע ורשמי. שיטה זו נחשבת לחותמת כשרות למאמרים מדעיים ובגדול, השיטה עובדת (הרי המדע בכל זאת מצליח להתקדם).

עם זאת, השיטה אינה חפה מבעיות.

אף כי נראה כאילו האקדמיה הינה גוף שמרני ונוקשה שאינו מוכן לשינוי, הדיון הנרחב שמתנהל בחוגים האקדמיים (בעיקר, אך לא רק, בקרב החוקרים הצעירים) וברשת האינטרנט בכלל לגבי הכשלים של שיטת ביקורת העמיתים הנוכחית, גרם לתזוזה במערכת:

  • מהירות ושקיפות – נעשים ניסיונות לזירוז התהליך מחד ולהגדלת השקיפות מאידך.
  • אמינות – גברה המודעות למה שמכונה "כתבי עת טורפים" שמוכנים לפרסם כל דבר תמורת כסף.
  • גישה חופשית – מתוך הכרה בחשיבות של פרסום מאמרים ללא גביית דמי מנוי, החלו גם כתבי עת שגובים דמי מנוי לאפשר פרסום פתוח לחלק מהמאמרים (לעיתים, בגביית תשלום נוסף מהחוקר). נוסף על כך, הרשויות הממשלתיות האמריקאיות (כדוגמה NIH) מתנות את מתן מענקי המחקר במתן גישה חינם למאמר לכל היותר שנה לאחר פרסומו.
  • ביקורת אפקטיבית יותר – גברה ההכרה בצורך ללמד איך להעביר ביקורת עמיתים אפקטיבית. אתרי ביקורת עמיתים עצמאיים דחפו גם את מערכות המו"לים ומערכות ממשלתיות לכיוון זה.
  • תגמול לשופטים – גברה ההבנה שיש צורך במתן תמורה לעבודת השיפוט, גם תמורה כספית או שוות ערך לכסף אך גם תמורה של הכרה והוקרה.

ומה צופן לנו העתיד?

לדרך החקירה המדעית אין אפשרות אחרת אלא להשתפר. אין ספק שביקורת עמיתים לאחר פרסום תתפוס עוד ועוד תאוצה (כי היא בעיקרה מקוונת, ועל כן מידית מחד, ועם אפשרות לאנונימיות מאידך), מה שיוביל לתיקון או משיכה של מאמרים רבים שכוללים טעויות, זיופים, או סתם מדע רע, ובכך ישפר את כלל הפרסום המדעי. הדבר העיקרי שיאט התקדמות זו יהיה החשש מתביעות דיבה, או חשש מנקמנות מצד החוקרים המבוקרים.

הפרסום המדעי הולך יותר ויותר לכיוון של OA, וכתבי העת הוותיקים יאלצו להתאים את עצמם לכך. ישנם אף קולות שקוראים להוציא את פרסום המאמרים מכתבי העת הפרטיים ולהעבירו למו"ל שבידיים אקדמיות, ובכך לנסות ולצמצם את ההשפעה הכלכלית על תחום זה. בנוסף, ניתן לקוות שכתבי עת נוספים ילכו אחרי F1000research, EMBO ו- eLife ויגבירו את השקיפות של תהליך הסינון והתיקונים של המאמרים.

בשנת 2012 קמה תנועה של חוקרים ועורכים (DORA – San Francisco Declaration of Research Assessment) ששמה לה למטרה לשנות את הדרך שבה מוסדות אקדמיים וקרנות למענקי מחקר שופטים מצוינות אקדמית. דגש מיוחד בביקורת מופנה כלפי השימוש הבעייתי במדד האימפקט פקטור בכל הקשור להחלטות לגבי קריירה ומענקים. כיום חתומים על ההצהרה של התנועה מעל 12,000 חוקרים ומעל 500 מוסדות, ארגונים וכתבי עת. בינתיים, השינוי עדיין רחוק מיישום, אך מעודד לדעת שמוסדות וכתבי עת רבים לפחות מכירים בבעיה.

השינוי מתרחש לנגד עינינו, ובכל שנה תהליך ביקורת העמיתים משתפר מעט. נדמה אולי כי התהליך איטי, אך אני מאמין כי בתוך עשור או שניים כבר נשכח איך עשו את זה פעם…

* * *

רשומה זו של גל עברה גם היא ביקורת עמיתים. תודה לד"ר נעם לויתן על הזמן שהשקיע בכך.
הערות, תוספות ותיקונים יתקבלו בברכה בתהליך ביקורת העמיתים שאחרי פרסום, שיתקיים כאן בתגובות.

 

לקריאה נוספת:

התייחסות נוספת לתהליך ביקורת עמיתים, בהקשר הכללי יותר של תהליך "זיקוק הידע", תוכלו לקרוא ברשומה "המדענים השמרנים האלה לא מפסיקים לשנות את דעתם".

מודעות פרסומת

27 מחשבות על “ביקורת עמיתים – עבר, הווה ועתיד

  1. אני בא מתחום המתמטיקה, ונראה לי שהמצב אצלנו די שונה.
    גם במתמטיקה יש משמעות רבה לביקורת העמיתים, והיא די דומה למה שתואר בגוף הפוסט: התאמה של שיטות המחקר לנושא המאמר, פרשנות של התוצאות, היקף המחקר, בהירות מדעית, כתיבה ברורה ושימוש נכון בגרפיקה, וכמובן חדשנות ומתן רפרנסים נאותים.
    הביקורת בקהילה המתמטית על שיטת הפרסום המדעית היא בעיקר על עיכוב הפרסום ועל הסחטנות הכספית של המו"לים, למרות שגם כאן הצורך בפרסום תכוף פוגע בעבודה המחקרית. השימוש ב-arXiv ומגזיני Oepn Access אכן פותר חלק מהבעיות.

    כמעט לא קורה שמאמרים נמשכים מפרסום. ונראה לי שזה אינדיקטור להבדל עמוק בין התחומים המדויקים יותר לבין התחומים המדויקים פחות.

    בתחום מדויק כמו מתמטיקה או פיזיקה, נדיר שיש הפתעות גדולות. שימוש בלוגיקה פשוטה מראה מה התוצאות הסבירות וכמעט אף פעם אין מהפכות אלא רק עידון של הידע הקיים. לצופה מבחוץ זה נראה כאילו במדעי החיים, ובמיוחד ברפואה ובתזונה, ההיפך נכון. כמעט כל שבוע יוצאים מאמרים שסותרים אלו את אלו ואת החוכמה המקובלת.

    זה נותן פתח לחוקרים להשתמש בשיטות מחקר פסולות או לזייף נתונים, ולנצל את החולשות במערכת כדי לפרסם תוצאות סנסציוניות. ההגיון אומר שככל שתוצאה נוגדת יותר את הידע המוכר, המאמר צריך לעבור תהליך ביקורת מדוקדק יותר. אבל סוג המאמרים הזה הוא הסוג המשפיע ביותר, ולכן ז'ורנלים יצרו להיות אלו שמפרסמים מאמרים כאלה, וזה יוצר תמריץ לא לבדוק את המאמרים האלה יותר מאשר אחרים.

    יכול להיות שהפתרון לבעיות במערכת ביקורת העמיתים צריך להיותר שונה בכל תחום, שיהיו תחומים בהם תפעל השיטה המסורתית, תחומים בהם השופטים יקבלו תשלום על העבודה (עם כל ניגודי העניינים שכרוכים בכל), ותחומים בהם תהיה ביקורת עמיתים לאחר פרסום.

    אהבתי

    • תודה, עמיר.
      אני מודה שבהיותי ביולוג, אני מוטה לכיוון הזה. אני חושב גם שרוב הנפח הפרסומי במדעים מגיע מכיוון הביו-רפואה (אאל"ט כמות החוקרים בביו-רפואה גדול פי כמה מהפיזיקאים/מתמטיקאים, מה עוד שישנם לא מעט מאלו האחרונים ש"עשו הסבה" לביולוגיה).

      אני חושב שבביולוגיה הנושא כאוב במיוחד כי לעומת פיסיקה וכימיה, זה עדיין לא מדע מדוייק לחלוטין. מעורבת המון סטטיסטיקה ואינספור פרמטרים שכל אחד מהם יכול להשפיע על תוצאות ניסוי. בגלל זה, פעמים רבות גם כשיש נסיונות כושלים לשחזור תוצאות, החוקרים של המאמר המקורי יכולים לבוא בטענה של "לא חזרתם על תנאי הניסוי בדיוק". אני במקור ממעבדת שמרים, ושם, למשל, אני יודע שיש הבדל אם מגדלים את השמרים במבחנת זכוכית או בבקבוקון זכוכית – בגלל ההבדל באוורור של מצע הגידול. הבדל של מעלה אחת בטמפרטורת האינקובטור יכולה לגרום להבדלים, כל שכן אם מנסים לחזור על ניסויים שלא עם הזנים המקוריים.
      יש מחקרים שמראים שבעבודה עם עכברים, יש לעיתים הבדל אם המטפל הוא גבר או היא אישה.

      כמו כן, מחקרים רבים הם עדיין איכותיים יותר מאשר כמותיים – אבל כיום יש מגמה לכיוון הכמותי.

      אהבתי

  2. בשורה הראשונה בפרק "סיכום" "ביקורת עמיתים לאחר פרסום הינה שיטה שהחלו להשתמש בה לפני מאות שנים…" ואני מניח שהתכוונתם לכתוב "לפני פרסום" (או שלא הבנתי את כל המאמר!).

    בכפוף להערה בסוגריים אני רוצה להודות לכם על מאמר מעניין ומחכים.

    אהבתי

  3. תודה רבה על פוסט נהדר, מפורט ומעשיר.
    כאחד שבא מתחום הביולוגיה, זה בהחלט המצב אבל ללא שום קשר, זה נהדר לקרוא פוסט כזה מושקע ופורט שמציג לאנשים את ה-Pro & con של דבר מסויים, בעיקר בנושא שמוזכר אינספור פעמים בפוסטים אחרים.
    אני מאמין כי זה ישפוך אור עבור אנשים בנושא הזה.

    ושוב, תודה רבה

    אהבתי

  4. היי גלעד, הרבה זמן לא הופיעו כאן פוסטים חדשים אז ממש נחמד לראות מאמר חדש (עדיין לא קראתי) אבל מצד שני המאמרים שכבר קיימים כאן ממצים לדעתי יפה את העניין ויותר מדי מאמרים זה לפעמים כבר מכביד ומתחילים ללכת לאיבוד.

    נתקלתי בסרטון נחמד בנושא חשיבה ביקורתית, אם מכוונים בתחתית הדף לשפה "עברית" ניתן להפעיל כתוביות בעברית:

    אהבתי

  5. מאמר מצוין ומרחיב דעת. רק הערה על נושא אחד יש לי וזה נושא האנונימיות. הנושא הוזכר מאוד בקצרה, אבל לדעתי האנונימיות חשובה בביקורת העמיתים. מכיוון שהרבה מהביקורת מבוצע ע"י חוקרים צעירים (ופה אציין, הרבה מהביקורת הרצינית משום שהאמינו לי שאת המאמר הראשון שאתה מבקר אתה קורא מתחילתו ועד סופו ואף מעיין בכמה מההפניות) חשוב שיכולו להגן על עצמם מנקמנות עקב ביקורת שלילית. בקשר לסכנת הביקורת הבוטה, בדיוק בשביל זה העורך רואה את הביקורת לפני המבוקר ואמור לסנן ביטויים בוטים ולא ראויים (בנוסף בביקורות רבות יש תיבת טקסט להערות המיועדות רק לעורך שם אפשר להיות פתוחים יותר משום שהמחבר לא אמור לקרוא זאת).

    אהבתי

    • עמית,
      אתה צודק ולא צודק.
      המקרה שהבאתי הוא מקרה קיצון, כמובן, שבו גם לעורך יש אחריות. אבל אני חושב שהאנונימיות מקנה תחושת חופש מסויימת לשופט בלי לסנן או לחשוב על הצד השני, ולפעמים גם לכתוב שטויות – שברור שהשופט לא קרא או לא הבין את הכתוב במאמר, בלי שיהיה לזה מחיר של ממש.
      אני מסכים שהאנונימיות מפחיתה את החשש מנקמנות או מלצאת דביל.
      אני בעצי לא יודע מה יותר נכון.
      יצא לי לשפוט כמה מאמרים, כאשר השם שמופיע על הביקורת הוא השם של המנחים שלי, כך ששמי בכל מקרה לא היה מופיע. פעמיים שימשתי שופט בשמי, ושם בחרתי באנונימיות, בדיוק מהחשש הזה לנקמנות בעתיד, אף על פי שלפחות בשני המקרים הללו, אני חושב שזה חשש מדומה כי קשה לי לראות את דרכינו מצלטבות.
      הייתי רוצה לחתום בשמי, ואני מניח שאעשה זאת באופן סלקטיבי: נאמר, אוותר על אנונימיות כאשר תהיה לי ביקורת חיובית בעיקרה, או במקרים של מאמרים של קולגות שאני בקשר טוב איתם.

      אהבתי

      • אני חושב שמקרה הקיצון הוא המקרה החשוב. אסור לגדף סתם או לכתוב שטויות מביכות. מותר בהחלט לבקר בחריפות. אם האנונימיות מעודדת אנשים לכתוב דעה כנה, זה דבר טוב.

        לא מזמן דחו אותי מכנס. שני המבקרים שחטו את המאמר בלי רחמים. אז אחרי שסיימתי לבכות כמו ילד קטן, התעשתתי והתחלתי לחשוב איך אני מתקן את המאמר, עם אלו ביקורות אני מסכים ועם אלו אני מתווכח, ומה אני עושה עכשיו. ככה זה. זה המקצוע, והוא דורש מאיתנו לפתח עור עבה ולהתרגל לזה שמבקרים אותנו ואת הרעיונות שלנו.

        הבעיה החמורה הרבה יותר היא הבעיה של החיפוף. אני מסכים לעשות ביקורת לכנס וזורקים עלי שלושה או ארבעה מאמרים לקרוא בשבועיים שלושה, בלי בכלל לבדוק שהם בתחום שלי (הם לא היו). קשה מאוד לתת ביקורת איכותית בתנאים כאלה. הבעיה היא באמת שאנשים מבקרים לפעמים בלי לקרוא ובלי להבין, על בסיס דעות קדומות ולפי האבסטרקט ושמות המחברים. זאת הבעיה. זה מה שפוגע במדע.

        אהבתי

  6. וממש לפני מספר ימים פורסם ראיון עם עובדת של כתב העת EMBO שתפקידה לזהות טעויות וזיופים בתמונות במאמרים שהוגשו לפרסום:

    http://www.nature.com/news/the-image-detective-who-roots-out-manuscript-flaws-1.17749

    מסתבר שהתפקיד הזה לא קיים בכל כתבי העת. כתב העת NATURE למשל בודק באופן אקראי 2 מאמרים בכל גליון, ולא את כל המאמרים.

    אהבתי

  7. ועוד לקריאה נוספת:
    רק היום גיליתי – מסתבר שגליון אפריל של כתב העת "אודיסאה" (כתב עת ישראלי על מדע ופילוסופיה) הוקדש בדיוק לנושא שבו עוסקת רשומה זו: http://odyssey.org.il/?issue=227086
    (יש צורך במנוי לקריאה בכתב העת).

    בנוסף, כתב העת eLife פורסם אתמול מאמר שמציג מסגרת עבודה לאיך לתכנן מחקר בצורה טובה, כך שתהיה הדירות (reproducibility) של התוצאות.
    http://elifesciences.org/content/4/e05519

    אהבתי

  8. תודה על המאמר המעניין.
    התאכזבתי מאוד לשמוע מה ביקורת עמיתים שלפני הפרסום באמת כוללת. תמיד חשבתי שזה משהו מקיף ומשמעותי הרבה יותר מ-2-3 עמיתים אנונימיים, שאפילו לא מחוייבים לשום קריטריונים ספציפיים של התעמקות או איכות הביקורת.

    בדמיוני זה היה משהו בסגנון של: הפצת המאמר לאיזו רשימת דיוור מקיפה של כל האוניברסיטאות, וספציפית חשיפה לכל אנשי האקדמיה המומחים בתחום של המאמר, כאשר כל המעוניין קורא ומגיב באותו פורום שחשוף לכל האחרים, יכול להתפתח דיון פתוח על הנקודות שהועלו, תגובות של כותב המאמר וכד', ולאחר פרק זמן כלשהו יש לעורכי העיתון מספיק פידבק מקצועי כדי לקבוע אם המאמר ראוי לפרסום.

    אהבתי

    • אם נדוג מכאן הערכה לגבי מספר המחקרים שמדעיים שמתפרסמים בכל שנה בשנים האחרונות – כשני מיליון מאמרים – http://openwetware.org/wiki/Journals
      כלומר, למעלה מ-5000 מאמרים ביום (!!!), או כ-230 מאמרים בשעה, או כ-4 מאמרים בכל דקה, אפשר להבין מדוע המודל שהצעת בלתי אפשרי בעליל.
      (גם אם רק אחוז מסוים מזה הוא peer review, עדיין המספרים דמיוניים).

      הנה עוד נתון:
      researchers are reading more (270 articles/y) but spend less time per article (30min, down from 45min in mid 90s)

      אהבתי

      • לא הצעתי, דמיינתי.
        בכל מקרה לא חשבתי שכולם קוראים הכל (או שמישהו קורא הכל), אלא שנניח מתפרסם מאמר בביולוגיה-מולקולרית-שקר-כלשהו-ספציפי, בעולם קיימים X אנשים שמתמחים בתחום הזה והוא זמין לעיונם (+לעיונם של אקדמאים מתחומים אחרים אם הם מעוניינים), מתוכם אחוז קטן יקרא את המאמר הספציפי ויגיב עליו, או אחוז גדול אם הוא מספיק מעניין, אבל גם אם האחוז קטן, זה יהיה לרוב מספיק אנשים, בטח יותר משניים שלושה.
        למה זה כזה בלתי אפשרי?
        בסופו של דבר זה מה שקורה בפועל אחרי הפרסום לא?
        (ו-4 מאמרים בדקה לכל תחומי המחקר הקיימים ביחד נשמע לי לא כל כך הרבה)

        אהבתי

        • להבנתי מודלים דומים לזה שאת מדמיינת מוזכרים בסוף הפוסט. רק שהם מדברים על סקירה שלאחר פרסום, אבל עם תמיכה בעריכות המאמר לצורך תיקונים, ואפשרות לעקוב אחרי היסטורית העריכות. אז במובן מסוים ההבחנה בין "לפני פרסום" ל"אחרי פרסום" קצת מתמוססת. כי אם פותחים מאמר ל"ביקורת המונים" הוא למעשה כבר פורסם.

          אהבתי

  9. פינגבק: הצד השני בדיון אטום? אולי, אבל אולי *רק* אתם אטומים – אנטי נורמות

  10. פינגבק: הצד השני בדיון אטום? אולי, אבל אולי *רק* אתם אטומים – החושב הלא נורמלי

  11. פינגבק: מי שבדיון טוען שהצד השני אטום, לעיתים אטום בעצמו – החושב הלא נורמלי

  12. פינגבק: מי שבדיון טוען שהצד השני אטום, *בהכרח* אטום בעצמו – החושב הלא נורמלי

  13. פינגבק: מי שבדיון טוען שהצד השני אטום, לעיתים אטום עוד יותר ממנו – החושב הלא נורמלי

  14. פינגבק: אטימות מחשבתית בדיונים: השלכותיה וכיצד להתמודד עמה – החושב הלא נורמלי

כתיבת תגובה

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת / לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת / לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת / לשנות )

תמונת גוגל פלוס

אתה מגיב באמצעות חשבון Google+ שלך. לצאת מהמערכת / לשנות )

מתחבר ל-%s