严谨透明指标:科学报道质量的大规模分析
JMIR出版公司最近发表了《用严格和透明指数建立机构评分:科学报告质量的大规模分析》医学互联网研究杂志(JMIR)该研究报告称,改进严格性和透明度措施应该会提高整个科学文献的可重复性,但如果由审稿人手动执行,评估透明度措施往往非常困难。
本研究的总体目标是建立一个可跨机构和国家使用的科学报告质量度量标准,并强调高质量报告的必要性,以确保生物医学中的可重复性,利用可重复性项目:癌症生物学的手稿。
作者提出了对先前引入的严密性和透明度指数(RTI)的改进,该指数试图自动评估期刊、机构和国家的严密性和透明度,使用在可重复性指南(例如NIH、MDAR、arrival)中发现的标准评分的手稿。
通过“可复制性项目:癌症生物学”的工作,作者能够确定复制研究的得分明显高于原始论文,根据该项目,原始论文都需要作者提供额外的信息才能开始复制工作。
不幸的是,针对期刊、机构和国家的RTI指标目前都低于重复研究的平均水平。如果他们将这些复制研究的RTI作为未来手稿的目标,将需要更多的工作来确保平均手稿包含足够的复制尝试信息。
加州大学圣地亚哥分校的Anita Bandrowski博士说:“研究的可重复性对科学进步是必要的。然而,在过去的十年中,大量关于研究不可重复性的报告揭示了一个挥之不去的问题,一个被证明既麻烦又昂贵的问题。”
“研究的可重复性是科学进步的必要条件。然而,在过去的十年中,大量关于研究不可重复性的报告揭示了一个挥之不去的问题,一个被证明既麻烦又昂贵的问题。”
为了鼓励可复制性,许多科学组织和期刊采用了透明度和公开性促进指南,重点是建立最佳实践在个别期刊的层面上。
与此类似,由出版商驱动的材料设计、分析和报告框架是一个多学科研究框架,旨在提高生命科学研究在单个手稿层面的报告透明度。
该框架提供了一个一致的、最小的报告清单,其标准部分用于创建第一个RTI杂志质量度量注重研究方法和报告透明度。
具体来说,作者在这里介绍了RTI的最新版本,它代表了论文子集的平均SciScore,并演示了它如何用于评估研究机构内部的报告透明度。
虽然简单地将所有得分为“2”的论文都描述为不可复制,而将所有得分为“8”的论文都描述为可复制是不现实的,但由于存在众多领域及其后续最佳实践,可以说,更高的分数与更多的方法细节相关,因此可能更容易用于尝试复制。
更多信息:乔·门克等人,用严格性和透明度指数建立机构评分:科学报告质量的大规模分析,医学互联网研究杂志(2022)。DOI: 10.2196/37324