2017年7月13日木曜日

Visualization of peer review records

Hi, I'm Yuichi Hayakawa from CSIS (Center for Spatial Information Science), The University of Tokyo. 
I originally posted a Japanese version of this article, but there were some requests to provide it in English as well.
Thanks for giving me the opportunity to provide this article in English, regarding the visualization of peer review records. 

Supposing that many readers of this blog are researchers including students, I would like to ask you one question: 




As a researcher, submitting one's paper is an essential task.
On the flip side, reviewing papers of someone else is also necessary for publishing scientific papers. 

However, the process of peer review is often performed anonymously, and the action itself may not correctly be evaluated no matter how much a researcher takes the time to read and evaluate someone's manuscript drafts.

Even though we recognize that peer review is an essential process for the scientific community, this may lead to the disadvantageous feelings that reviewing is rather time-consuming, cost ineffective. 

To overcome such problems, there is a relatively new service, Publons

Publons, founded on 2012, provides a web service on recording and publishing peer reviews with necessary confidentiality. 
"A mission to speed up science - Publons" 
There are a variety of functions in Publons, including post-publication review. However, for simplicity, here I focus on the normal pre-publication review. 

A researcher can register the basic information of a peer review report that she/he performed, including title, journal name, date of review, and review report itself. An option of making it public or private is available for each review following the policy of the journal and the reviewer. 

Here is my case. 
An overview can be embedded in a web page like this.




In the Profile > Statistics view, the timeline of peer review records is shown (as of July 2017 – just 100!).


Monthly review records

For the old review history, I salvaged past e-mails and files to enter the records – somewhat annoying taking a long time... But finally, I can see my total review records like this. It should be better to record the current review in progress every time it is completed. 

The number of reviews has increased, where their frequency has also risen. 
It had been once every few months, but in recent years, it has become more common to review 3-4 cases per month.
This increase may be either as a result of the personal career development and the general increase in the number of publications.

Impact factor (IF) is often regarded as a standard evaluation index of academic journals, and the number of reviews for journals can be shown like this.


Impact factors of journals reviewed for

In my case, the mode is around IF = 2 to 3. This could be because I most often review for Geomorphology (Elsevier) as a board member.

Also, the trend can be compared with those in the field of earth and planetary science.
Researchers in this field seem to have many reviews conducted in journals with a bit higher IFs than me.

Another funny stat is the "weekly review punchcard" – you can see which day of the week you often submit your review report.


Weekly review punchcard

Though we can read manuscripts at any time, it is necessary to keep the time to summarize review results. The review reports, therefore, tend to be sent more frequently during the latter part of weeks where teaching classes and administrative meetings are relatively few, or on the weekend's evening (the midnight of Sunday – actually Monday).

Without doing anything, peer review is just over when it is returned – this should be, of course, a significant contribution to the scientific community. However, recording reviews would help researchers to motivate their review activities by the visualization of review records. 

By the way, we do not have, in fact, a standard lesson or training methods for reviewing so much. Some opportunities like seminars or workshops are being provided recently, but still not so many.
It is necessary to learn by themselves like an on the job training.
Preparation as a peer reviewer - PEPS Editors Blog (mostly in Japanese, but some references link to webpages in English)
Then, even by just looking at the peer review history of others, visualization of review records would help to know how to proceed with reviews.
It is not competition, of course, so the number or frequency of reviewing is not a big problem.
For the high-quality peer review, we can utilize this kind of system to enhance our motivation and to be evaluated in an appropriate manner. 

By the way, Publons has been very recently (last month) acquired by Clarivate Analytics
Also, for example, a major academic publisher like MDPI is collaborating with Publons on its peer review system.
It seems that the peer review evaluation services of Publons are becoming more popular.

2017年7月10日月曜日

「査読」の見える化

東京大学空間情報科学研究センターの早川裕弌と申します。
2017年度より、PEPSの編集委員(地球人間圏科学セクション)として参画させていただくことになりました。
地形学をはじめとして、地理空間情報科学に関する研究に、フィールド調査やGIS空間分析といったアプローチで取り組んでいます。

さて、おそらくこのブログの読者層には、学生の方も含め、研究者の方が多いと思われます。
そこで、まずはそんな研究者のみなさんに、ひとつお尋ねしたいと思います。




研究者として、自身の研究成果をとりまとめ、論文を投稿することは、言わずもがな至上命題のひとつです。
そして、論文が学術誌での出版に至る過程では、必ず、同業者による査読(ピア・レヴュー)を経て、原稿の評価が行われます。
つまり、研究者としては、ただ自分の論文を書けばよいというわけではなく、他者の書いた論文もきちんと評価して、科学的なコミュニティとして研究成果を公表していくことが必要なプロセスになります。

しかしながら、「査読」というプロセスは、一般に匿名で行われることが多く、研究者自身がどれだけ他者の論文を読んで評価をしたとしても、その行為自体が評価されることは、あまりなされていませんでした。
これでは、いくら査読が科学コミュニティにとって重要なプロセスであると認識していても、メリットが少なく、むしろ、時間を割かれるといったデメリットのみが強調され、査読はあまり行いたくない、といった考えに結びついてしまう懸念があります。

そこで、「査読」もただしく評価しよう、という考えのもと開始された、研究者向けサービスがあります。
Publonsは、2012年に開始された比較的新しいサービスで、個々の研究者が行った査読を、差し支えのない範囲で記録・公開し、その適切な評価を行おうといったものになります。
Publonsの創設者にインタビュー:「科学加速化ミッション」 - Editage Insights 
また、査読だけでなく、学術誌の編集にかかわる実績や、自身の出版論文に関する情報、さらにはすでに出版された論文に対する意見(掲載後査読)なども登録することができます。
ここでは簡単のため、通常の掲載前査読だけに焦点を絞りましょう。

Publonsのシステムでは、個々の研究者が、自身の行った査読の基本的な情報(原稿のタイトルや学術誌名、査読を完了した日付等)を登録します。また、査読結果の内容を記録することも可能です。ただし、学術誌によって、査読内容等については、原則として公開する場合と、非公開とする場合とがあります。これらはPublonsのシステム上で公開・非公開の設定が可能であり、非公開とした場合は公にされることはなく、査読をした、という事実のみが公開されることになります。

説明を手っ取り早くするために、私自身の査読履歴を例として挙げてみます。


下の図は、私が初めて査読をした時から現在(2017年7月時点)までの、すべての査読記録をグラフ化したものになります。(ちょうど累積100回目が終わったところでした)

右肩上がりの月別査読数

古い査読履歴については、過去のメールやファイル等を探し出して、少しずつ記録を入力しました(のんびりやって、1年以上かかったかも・・・)。一方、現在進行中の査読については、それが完了する度に、Publonsの自身のアカウントに登録していきます。一手間かかりますが、忘れてしまい、あとから探すよりは良いと思っています。

年を追うごとに、査読履歴も徐々に蓄積し、またその頻度も上昇傾向にあることが一目でわかりますね。
かつては数ヶ月に1度といった頻度でしたが、最近は、月に3~4件の査読をすることも多くなりました。
こうした増加の理由には、個人のキャリアにともなう変化と、論文出版数自体が世界全体で増えていることと、両方があると思われます。

また、どのような学術誌で査読をしているのか、といったことも、グラフで見ることができます。
学術誌の評価基準としてインパクトファクター(IF)がよく使われますが、IF別にみた学術誌の査読数が以下の図になります。

査読を行った学術誌のインパクトファクター

IF=2-3 くらいの学術誌が突出して多いのですが、これはElsevier社のGeomorphologyの委員になっていることもあり、そこでよく査読を行っていることが影響していると思います。
また、地球惑星科学の分野のなかでの位置づけも、同時に表示されています。
同分野の他の方は、もう少し高いIFをもつ雑誌での査読も多く行われているようです。

また、あまり意味はなさそうなのですが、何曜日に査読を返すことが多いか、といったことも見ることができます。

曜日ごとの査読返信頻度

原稿を読むのはいつでもできるとしても、その査読結果をまとめるためには、それなりのまとまった時間が必要です。そのため、授業や会議の比較的少ない週の後半や、週末の夜(日付を跨いだ月曜)に、査読結果を送信していることが多いようです。

「査読」は、何もしなければ、査読しておしまい。もちろんそれでも、科学コミュニティにおける貢献には変わりありません。しかし、表に出ない以上、下手をすると、査読の実績はそのまま闇に葬られてしうかもしれません。
こうした「見えない」査読を、「見える化」するだけでも、ちょっとしたモチヴェーションになりますね。

ところで、実は、「査読」といった作業を、どのように進めたらいいのかといったことは、授業で習うわけでもなく、実際に場数を踏んで、学んでいくしか方法がほとんどありません。
最近は、有志による勉強会やセミナーといったイベントも開かれつつありますが、まだまだ少ないのが現状です。
査読者の心構え – PEPS Editors Blog
ただ、他者の査読履歴を見るだけでも、多少なりとも参考になることはあると思います。
もちろん競争ではないので、むやみにたくさん、査読を行えばいいということではありません。
あくまで質の高い査読を行うことを目指して、そのモチヴェーションを補ったり、あるいはその行為を正当に評価してもらうことも期待して、こうした査読記録システムを活用してみるのも、一つの方法ではないでしょうか。

なお、ここで紹介したPublonsは、ごく最近、あのClarivate Analytics社に吸収されました。
また、たとえば大手学術出版社であるMDPIは、その査読システムでPublonsとの連携を取っています。
今後、Publonsの査読関連サービスも、より普及していくことが期待されます。

******

差し支えなければ、簡単なアンケートにご協力ください。