Dans cette boîte à outils, vous trouverez des ressources pour vous aider à améliorer la qualité de vos recherches, à accroitre leur transparence et leur reproductibilité, et à assurer la valeur des résultats produits.
Les ressources proposées s’appliquent aux différentes étapes d’un projet de recherche, depuis la conception jusqu’à la publication et la diffusion des connaissances obtenues, sans oublier le partage des données. Il peut s’agir d’articles, de rapports, de recommandations, de sites web développés en France ou au sein de la communauté internationale. Certaines de ces ressources sont spécifiques d’un type de recherche (par exemple la recherche clinique ou la recherche en génétique), d’autres sont utiles pour plusieurs types de recherche.
Si une ressource est utilisable à différentes étapes, elle peut être mentionnée plusieurs fois.

Améliorer la visualisation des donnéesÉlaborer son projetpour répondre àun appel d'offreChoisir un modede publicationAugmenter la confiancedans l’analyseChoisir le meilleur designet anticiper les risquesde biaisPartageret diffuserÉcrire un plan d’analyseIdentifier les questionséthiquesArchiver les donnéesPublier le protocoleRédiger un protocolede rechercheÉcrire le manuscritAnalyser les donnéesAnticiper les questionsde reproductibilitéCommuniquerExécuter le projet et documenter le travailIdentifier les exigencesrèglementaires,dont la protectiondes donnéesPré-enregistrer le protocoleIdentifier saquestion de recherche
Préparer
Réaliser
Partager et diffuser
Mise à jour le 06/04/2023.

Identifier sa question de recherche

Préparer

L’important est de bien connaitre la littérature pour éviter de poser à nouveau une question scientifique qui a déjà été abordée et résolue par d’autres. Il peut être tout à fait pertinent de choisir de reproduire un travail déjà effectué, mais cela doit être délibéré.

Plusieurs articles discutent ce point :

How to increase value and reduce waste when research priorities are set, Chalmers et al., 2014

 

Value of information: a tool to improve research prioritization and reduce waste, Minelli et Baio, 2015

 

Un article récent discute l’impact, sur l’avancée des connaissances, de la manière dont les hypothèses scientifiques sont élaborées et réfutées :

How failure to falsify in high-volume science contributes to the replication crisis, Rajtmajer SM et al., 2022

Élaborer son projet pour répondre à un appel d’offres

Préparer

Les guidelines du NIH vous aideront à améliorer la rigueur et la reproductibilité des projets et à répondre au mieux aux critères d’évaluation des projets : Guidance: rigor and reproducibility in grant applications.

Le site de Victoria University propose des conseils généraux sur la conduite à tenir pour répondre à un appel d’offre ou à un contrat de recherche : Preparing a tender or research contract.

Le NIH et le Hopkins Hospital proposent des méthodes pas-à-pas pour répondre aux appels d’offres :

How to write an NIH proposal

Guidelines for writing and reviewing a research grant proposal

Rédiger un protocole de recherche

Préparer

Le format et le contenu des protocoles d’essais cliniques sont normalisés et doivent suivre un certain nombre de recommandations. Pour vous aider, vous pouvez vous appuyer sur les documents suivants qui sont complémentaires.
L’OMS a fait des recommandations sur la rédaction des protocoles de recherche : Recommended format for a research protocol.

Un guide téléchargeable permet d’avoir accès à des informations pratiques sur les caractéristiques d’une bonne question de recherche en santé, la conduite de la recherche, la présentation des résultats de la recherche et les principes éthiques : A practical guide for health researchers.

Il existe une recommandation intitulée SPIRIT concernant le contenu minimal d’un protocole d’essai clinique, qui a été approuvée comme une norme internationale et permet de guider la rédaction des protocoles d’essais cliniques : Guidance for clinical trial protocols. La version électronique appelée SEPTRE (SPIRIT Electronic Protocol Tool & Resource) permet de créer son protocole en ligne avec une interface web intuitive et de l’enregistrer dans les registres d’essais cliniques : Create, register, and manage trial protocols with SEPTRE

Les « reporting guidelines » : il est important de les connaître, afin de prendre en compte dès la conception du projet les éléments qu’il sera nécessaire de rapporter en termes de méthodes ou de résultats lors de la publication plutôt que de découvrir au moment de la rédaction de l’article ces éléments (dont certains n’auront parfois jamais été collectés). Les reporting guidelines peuvent donc aussi être considérées comme des « conducting guidelines ».

Vous trouverez sur le site EQUATOR les principales recommandations qui décrivent quels éléments doivent être rapportés dans les publications et que de très nombreux journaux scientifiques demandent de suivre. Ces recommandations concernent par exemple les essais cliniques, le développement d’outils pronostiques ou diagnostiques, les études pré-cliniques avec des animaux. Dans la plupart des cas, il existe à la fois une version courte de ces recommandations parfois sous forme d’une liste d’items, et un article plus complet (elaboration and explanation paper) qui décrit précisément les items retenus et explique en détail le contenu de chaque item : enhancing the quality and transparency of research.

Choisir
le meilleur design
et anticiper les risques de biais

Préparer

Choisir le meilleur design possible pour votre recherche, avant de débuter, est un point crucial. Certains outils peuvent vous aider à concevoir votre expérimentation, soit en vous donnant accès à des méthodes pour éviter certaines limites expérimentales, soit en vous donnant accès à des protocoles de travaux réalisés par d’autres équipes. Pour rendre votre recherche la plus reproductible possible, il est important de clarifier au préalable certaines caractéristiques de conception de votre expérience. L’une d’elles concerne l’analyse de puissance nécessaire pour estimer la taille d’échantillon appropriée pour votre expérience. D’autres aident à mettre en œuvre des mesures pour réduire le risque de biais subjectif comme la mise en aveugle et la randomisation. Se poser les questions de la randomisation, de l’aveugle, de la taille de l’échantillon, et des biais potentiels dans les études précliniques est essentiel : A call for transparent reporting to optimize the predictive value of preclinical research, Landis et al., 2012.

Il existe par exemple des outils pour améliorer le design des études animales proposés par le National Centre for the Replacement, Refinement & Reduction of Animals Research (Royaume-Uni) qui aident à concevoir des expériences robustes plus susceptibles de produire des résultats fiables et reproductibles comme l’Experimental design assistant.

Une présentation est disponible sur YouTube et un article dans Plos Biology : The experimental design assistant, Percie du Sert et al., 2017.

Protocols.io est un entrepôt en libre accès où vous pourrez retrouver des protocoles expérimentaux conçus par d’autres, afin d’améliorer la reproductibilité de vos recherches. Il est aussi possible de partager vos protocoles pour augmenter la visibilité de vos propres méthodes.

Pour vous sensibiliser aux biais cognitifs : Evidence of experimental bias in the life sciences: why we need blind data recording, Holman et al., 2015.

Anticiper les questions de reproductibilité

Préparer

Plusieurs articles insistent sur l’importance des problèmes de reproductibilité dans nos recherches actuelles et suggèrent des propositions aux différentes étapes de la recherche :

A manifesto for reproducible science, Munafo et al., 2017

What does research reproducibility mean? Goodman et al., 2016

Reproducibility in science. Improving the standard for basic and preclinical research, Begley et Ioannidis, 2015

Un rapport de l’Académie américaine des sciences, de l’ingénierie et de la médecine explore les nombreuses facettes de la recherche sur l’animal qui pourraient contribuer à des résultats non reproductibles. Ce rapport donne des perspectives sur (i) l’amélioration de la planification, de la conception et de l’exécution des expériences, (ii) l’importance de rapporter tous les détails méthodologiques, et (iii) l’intérêt d’établir des principes d’harmonisation des rapports sur les soins et l’utilisation des animaux dans les études de recherche : Reproducibility issues in research with animals and animal models: workshop in brief.

Dans ce rapport sont notamment rappelés les principes d’harmonisation proposés par le conseil scientifique international pour les animaux de laboratoire (ICLAS).

Identifier les questions éthiques

Préparer

La recherche concernant l’être humain : des règles juridiques nationales et internationales encadrent étroitement la conduite des expérimentations chez l’être humain, mais le respect de ces règles ne peut à lui seul garantir l’acceptabilité d’un projet de recherche : un questionnement éthique est nécessaire avant la mise en œuvre de chaque projet de recherche. C’est pour cette raison que tout projet de recherche impliquant l’être humain doit recevoir l’avis d’un comité d’éthique de la recherche (CER), avant sa mise en œuvre. En France, ces CER sont les comités de protection des personnes (CPP) encadrés par le code de la santé publique pour les recherches qualifiées RIPH (recherches impliquant la personne humaine) et des CER non encadrés par la loi pour les recherches non qualifiées RIPH. Voir par exemple le guide de qualification des recherches en santé.

Dans tous les cas (RIPH et non RIPH) le traitement des données de la recherche doit être conforme au RGPD et à la loi informatique et libertés.

L’utilisation d’animaux à des fins scientifiques : il existe un guide de l’évaluation éthique des projets impliquant l’utilisation d’animaux à des fins scientifiques, document élaboré par le GRICE (groupe de réflexion interprofessionnel sur les comités d’éthique), un groupe de travail du GIRCOR (groupe interprofessionnel de réflexion et de communication sur la recherche) suivant les recommandations du CNREEA (comité national de réflexion éthique sur l’expérimentation animale) et à la demande du ministère chargé de l’enseignement supérieur et de la recherche.

Pour toutes les questions relatives au principe des « 3R » (remplacement, réduction, raffinement), un groupement d’intérêt scientifique impliquant notamment l’Inserm, le FC3R vient d’être créé avec pour missions la formation aux 3R, le design de projets conformes aux 3R, leur financement, la diffusion d’informations pertinentes et des appels à projets FC3R.

La reconnaissance des contributions des personnels impliqués dans le projet  est à définir avant le début du projet de recherche ; préciser les conditions de participation de chaque équipe et membre d’équipe dans la conduite du projet ; discuter avec l’ensemble des participants leur contribution attendue et la reconnaissance de ces contributions ; et suivre ensemble l’évolution de ces éléments tout au long du projet (ordre des signataires, etc). Un document INSERM rappelle les bonnes pratiques pour la signature des publications scientifiques.

Identifier les exigences règlementaires, dont la protection des données

Préparer

Un grand nombre de sites vous permettront de compléter vos connaissances sur les aspects réglementaires associés à vos recherches. Notamment :

Les principes relatifs aux recherches impliquant la personne humaine

La loi relative aux recherches impliquant la personne humaine, dite loi Jardé

L’utilisation des animaux à des fins scientifiques.

Le guide pour la recherche du CNRS est très complet. Il renseigne également sur des ressources qui peuvent aider à rédiger un plan de gestion des données, demandé aujourd’hui par de nombreuses sources de financement et faisant partie intégrante de la recherche.

Des informations utiles sur le RGPD sont présentées sur le site de la CNIL.

Pré-enregistrer le protocole

Préparer

Selon l’OMS, « l’enregistrement de tous les essais cliniques interventionnels est une responsabilité scientifique, éthique et morale » pour tous les scientifiques.

Depuis 2005, tous les essais cliniques doivent obligatoirement être enregistrés sur un registre reconnu comme ClinicalTrials.gov  ou EuDRACT. Cet enregistrement doit avoir lieu avant le début de  l’essai et toute modification du protocole (par exemple du critère de jugement principal) doit entrainer une modification de cet enregistrement. Aucune publication n’est possible en l’absence d’enregistrement préalable.

Enregistrer les protocoles de recherche devient de plus en plus fréquent dans de nombreux domaines autres que les essais cliniques. On parle alors plutôt de pré-enregistrement. Un article discute l’intérêt de l’enregistrement des études précliniques : Should preclinical studies be registered? Kimmelman et Anderson, 2012. De même, l’article suivant vous donne des précisions pratiques sur le pré-enregistrement des protocoles : The preregistration revolution, Nosek et al., 2018.

Vous pouvez par exemple pré-enregistrer votre protocole sur Open Science Framework (OSF). OSF est maintenu et développé par le Center for Open Science (COS), une organisation à but non lucratif américaine soutenue par des agences fédérales, des fondations privées et des entités commerciales. OSF vous permet de télécharger le protocole de votre projet et d’inviter tous ceux qui y collaborent à y travailler avec vous. Vous pouvez le partager ouvertement afin que tout le monde puisse voir ce sur quoi vous travaillez. Si vous avez peur que l’on vous « vole » votre idée, vous pouvez mettre un embargo. Dans ce cas, vous gardez le protocole en mode privé et réservé à un usage interne, durant une période donnée après laquelle il sera rendu public.

De même, PreclinicalTrials est un registre international en ligne permettant d’enregistrer les protocoles des études précliniques sur l’animal.
Il existe aussi un registre pour les études utilisant l’animal géré par le German centre for the protection of laboratory animals (Bf3R). Ce registre permet d’enregistrer les études sans les rendre immédiatement accessibles et d’obtenir un DOI (Digital Object Identifyer) pour les identifier.

Publier le protocole

Préparer

Un modèle qui se développe est celui du « registered report » dans lequel, sur la base du protocole, l’article est accepté de principe avant que ne commence la collecte des données. Ensuite, si l’analyse s’est déroulée en conformité avec le protocole, l’article sera publié quel que soit le résultat, comme décrit dans :

Protocol transparency is vital for registered reports, Chambers et Mellor, 2018

The past, present and future of registered reports, Chambers et Tzavella, 2022

Vous pouvez aussi publier a posteriori le protocole de votre travail dans les journaux suivants :

Bio-protocol

STAR protocols

Exécuter le projet et documenter le travail

Réaliser

Tout travail de recherche doit être rigoureusement documenté par un cahier de laboratoire (cahier de laboratoire électronique ou, à défaut, papier). Les personnels des unités affiliées à l’Inserm ont accès à une solution sécurisée de cahier de laboratoire électronique (CLÉ) nommée LabGuru. Vous trouverez sur le site de l’Inserm plusieurs rubriques sur la mise en place du cahier de laboratoire électronique.

Le cahier de laboratoire n’est pas une solution de stockage de données personnelles concernant les participant(e)s aux études. Si l’archivage des résultats nécessite d’y inscrire des données relatives à des personnes , ces données doivent être préalablement pseudonymisées (codées) et elles ne pourront en tout état de cause être communiquées qu’après avoir été anonymisées (c’est à dire rendues non identifiantes ou ne permettant pas, compte tenu de leur niveau d’agrégation, d’identifier les personnes concernées). Vigilance, donc, sur la nature des informations que vous consignez dans votre cahier de laboratoire.

Écrire un plan d’analyse

Réaliser

Une analyse statistique implique parfois un nombre conséquent de choix qu’il convient de documenter en amont et en toute transparence dans un plan d’analyse statistique rédigé au préalable.
Ces plans d’analyses statistiques sont indispensables en recherche clinique, mais ils devraient être rédigés pour tous les types de recherche.

Différentes recommandations sont disponibles :

Statistical principles for clinical trials

Guidelines for the content of statistical analysis plans in clinical trials

Quantitative analysis documents

DEBATE-statistical analysis plans for observational studies, Hiemstra et al., 2019

Des recommandations de Plos sur comment rapporter les analyses statistiques.

L’élaboration d’un plan de gestion des données (PGD) est obligatoire pour tous les projets financés par l’ANR depuis 2019. Sur le site de l’ANR, vous trouverez un ensemble complet de recommandations, conseils pratiques et ressources.

Augmenter la confiance dans l’analyse

Réaliser

Partager ses codes d’analyse renforce la confiance dans les analyses obtenues, surtout lorsque ces analyses nécessitent un traitement complexe. Pour rendre les méthodes utilisées dans l’analyse plus transparentes et reproductibles (à la fois pour vous-même et pour les autres), vous pouvez utiliser les outils de programmation suivants :

Git, un système de contrôle de version distribué ouvert et gratuit qui vous permet d’enregistrer votre processus lors de la génération du code d’analyse. Enregistrez les versions fonctionnelles de votre code et construisez votre pipeline d’analyses étape par étape.

https://git-scm.com/

RStudio, qui vous permet d’intégrer vos codes d’analyse R ou Python dans un carnet qui contient les codes d’analyses, les résultats obtenus, des explications sur vos méthodes d’analyse.

https://www.rstudio.com/

Améliorer la visualisation des données

Réaliser

La représentation graphique des données a une importance croissante : Beyond bar and line graphs: time for a new data presentation paradigm, Weissgerber et al., 2015.

Une description des principaux problèmes d’images observés dans les publications scientifiques de biologie et des recommandations sur les améliorations possibles du traitement d’image est disponible : creating clear and informative image-based figures for scientific publications, Jambor et al., 2021.

Une vidéo de conseils sur la façon d’améliorer la visualisation de ses données, pour en augmenter la transparence et améliorer la reproductibilité de vos travaux de recherche est proposée par eLife, une organisation à but non lucratif qui propose des outils et documents pour encourager les comportements les plus responsables.

De nombreux outils existent pour aider les personnes n’ayant aucune connaissance en programmation à réaliser des graphiques statiques et interactifs pour des articles scientifiques. Ces outils permettent d’explorer différentes manières de visualiser les données et de produire des graphiques de bonne qualité pour publications.
Parmi ces outils on peut citer :

Interactive dotplot vous permet de créer des dot plots, des box plots, des violin plots et des combinaisons de ces graphiques,

Interactive line graph vous permet de créer des graphes linéaires interactifs,

Interactive repeated experiments dotplot vous permet de fabriquer des dotplots interactifs pour des expériences répétées indépendantes.

Choisir un mode de publication

Partager et diffuser

Différents modes de publication existent. Des informations complètes sont disponibles sur le site CoopIST de la délégation à l’intégrité scientifique du Cirad.

Vous pouvez par exemple choisir de publier un préprint de votre publication avant de publier dans un journal après revue par des pairs. Les serveurs de prépublication sont utilisés pour publier une version préliminaire de votre publication avant de la soumettre à une revue à comité de lecture. Publier ainsi permet de partager des résultats et de rendre son travail accessible plus rapidement.

Un guide pratique sur les prépublications a été publié par le consortium néerlandais des bibliothèques universitaires et la bibliothèque nationale des Pays-Bas (UKB), l’association des universités des Pays-Bas (VSNU) et le conseil néerlandais de la recherche (NWO). Dans ce guide, vous trouverez en particulier des informations très pratiques sur les différents serveurs de préprints, comment publier un préprint, comment préparer un préprint, comment réviser un préprint, comment lier un préprint à un article publié dans une revue.

Parmi les serveurs de préprints on citera notamment :

BioRxiv, un serveur de preprints pour la biologie

MedRxiv, un serveur de préprints pour les sciences de la santé

OSFPreprints de l’Open Science Framework, pour toutes les disciplines

Vous pouvez choisir de publier dans une revue en libre accès.

Une liste des journaux en Open Access qui obéissent à certaines normes de qualité a été réalisée par le Berlin Institute of Health. Cette liste vous permet de retrouver les revues en accès libre adaptées à votre domaine de recherche et vous donne des informations, pour chaque revue ,sur les coûts et les délais moyens de publication.

Le Directory of open access journals (DOAJ) propose une base de données plus approfondie et complète de revues en libre accès pour tous les domaines de recherche. Les revues doivent être évaluées pour leur qualité avant d’être répertoriées sur DOAJ.

Vous pouvez publier dans une archive ouverte même si vous n’avez pas publié dans une revue en libre accès (souvent après une période d’embargo). Les informations utiles sont disponibles sur le site ouvrir la science.
HAL est une archive ouverte pluridisciplinaire destinée au dépôt et à la diffusion d’articles scientifiques, publiés ou non, et de thèses, émanant des établissements d’enseignement et de recherche français ou étrangers, et de laboratoires publics ou privés. HAL-Inserm est le portail Inserm de cette archive.

Pensez à sélectionner des revues de qualité et éviter les revues prédatrices. Des dizaines de milliers de revues existent et de nouvelles revues sont lancées chaque jour. Parmi ces revues, il y a près de 15 000 revues prédatrices : avant de soumettre un article, il est donc indispensable de vérifier la qualité du journal. Une checklist pour vérifier que le journal auquel on pense soumettre son article est un journal de qualité a été proposée par le collectif international « Think check submit ».  De même, Coop’IST propose des outils pour aider à détecter les revues et éditeurs prédateurs.

Une vidéo vous permettra de mieux comprendre les aspects financiers de la publication scientifique.

Partager et diffuser

Partager et diffuser

Le journal Nature offre un service pour vous aider à répondre à vos questions sur le partage et la mise à disposition des données de la recherche.

Un FAQ sur les politiques concernant les données de recherche est disponible sur le site de Nature : Research data policies FAQs.

Il existe également un guide pratique pour celles et ceux qui ne savent pas où déposer leurs données : Data repository guidance.

Enfin, vous trouverez un ensemble de ressources sur les déclarations de disponibilité des données sur le site de Nature : Data availibility statement : guidance for authors and editors.

Communiquer

Partager et diffuser

L’Inserm a publié un petit guide de conseils sur l’usage des médias sociaux qui s’adresse à tous les personnels qui souhaitent s’exprimer et partager leurs connaissances sur un média social, quel qu’il soit : Guide pour un bon usage des médias sociaux.

Chaque jour ou presque, des résultats d’enquêtes épidémiologiques sont portés à la connaissance du public, commentés dans les médias, sur la blogosphère, ou fondent des décisions politiques. L’Inserm vous propose un document d’aide à la « traduction » de notions courantes et parfois complexes de l’épidémiologie, définies et illustrées à l’aide d’exemples concrets : Diffuser des connaissances en épidémiologie.

Archiver les données

Partager et diffuser

Vous trouverez un ensemble de ressources sur le site Coop’IST et sur le site de DoRANum.

Partager les données

Partager et diffuser

Le partage des données de recherche est très utile car il permet la réutilisation des données, la synthèse des données individuelles. Ce partage est également important pour améliorer la reproductibilité de la recherche. De nombreux gouvernements (dont le gouvernement français), revues et institutions scientifiques encouragent à ce partage.

A noter que, s’il s’agit de données portant sur des personnes, des règles spécifiques s’appliquent, et une analyse éthique rigoureuse est nécessaire.

Quelques règles simples pour renforcer l’utilité de vos données :

Une application, Shiny, a été conçue par le centre QUEST (Charité-Berlin) pour aider les scientifiques du secteur biomédical à identifier le format de publication le plus approprié pour leurs données.

Pour déposer vos données de recherche ouvertes et citables dans une archive appropriée, des référentiels vous permettent de télécharger tout le matériel lié à votre projet de recherche – donc non seulement la publication mais également les données associées ou les scripts d’analyse.

Zenodo – Un référentiel à accès ouvert à usage général développé dans le cadre du programme européen OpenAIRE et exploité par le CERN. Cet entrepôt permet de déposer des documents de recherche, des ensembles de données, des logiciels de recherche, des rapports et tout autre artefact numérique lié à une recherche. Pour chaque soumission, un identifiant d’objet numérique persistant (DOI) est créé, ce qui rend les éléments stockés facilement citables. Il n’a pas de limite de taille.

https://zenodo.org/

Figshare – Un entrepôt polyvalent permettant de mettre à disposition des documents, des données, des résultats de recherche non traditionnels. Des fichiers jusqu’à 20 Go peuvent être téléchargés.

https://figshare.com/

Open Science Framework – Un entrepôt pour enregistrer des documents et des données de votre projet de recherche avant et après la publication.

https://www.cos.io/products/osf

Écrire un plan de management des données

Réaliser

Des recommandations FAIR (Findability, Accessibility, Interoperability, and Reuse of digital assets) pour la gestion des données scientifiques ont été publiées et l’INSERM soutient ce mouvement. Ces recommandations ont pour objectifs d’améliorer la repérabilité, l’accessibilité, l’interopérabilité et la réutilisation des actifs numériques. Les principes mettent l’accent sur l’actionnabilité par la machine (c’est-à-dire la capacité des systèmes informatiques à trouver, accéder, interagir et réutiliser des données avec aucune ou une intervention humaine minimale) parce que les humains s’appuient de plus en plus sur le support informatique pour traiter les données en raison de l’augmentation du volume de la complexité et la vitesse de création des données.

https://www.go-fair.org/fair-principles/

https://www.nature.com/articles/sdata201618

Un guide de rédaction, rédigé par l’université de Paris, ayant pour vocation d’accompagner les responsables de projets dans la rédaction de plans de gestion de données de la recherche (Data Management Plans, DMP) est disponible en ligne. La structure proposée tient compte du cycle de vie des données, de leur création dans le cadre d’un projet de recherche jusqu’à leur archivage. Elle s’appuie également sur divers modèles de plans de gestion de données tels que celui de la National Science Foundation (NSF) ou de l’Interuniversity Consortium for Political and Social Research (ICPSR). Ce guide intègre en particulier les attendus de la Commission européenne dans le cadre d’Horizon 2020 et du FAIR data management.

http://www.bu.parisdescartes.fr/doc/recherche/Realiser_un_DMP_V2_2018_Def_HRS4R.pdf