Abonnement, accès ouvert, hybride — et maintenant l'IA : le biais de preuve induit par l'IA dans le travail scientifique
Subscription, open access, hybrid - and now AI: AI-induced evidence skew in scholarly work.
L’essentiel
Cet article introduit le concept de « biais de preuve induit par l'IA » (AI-induced evidence skew), défini comme une distorsion structurelle de la synthèse des preuves assistée par IA, où les productions surreprésentent la littérature en accès ouvert ou autrement accessible aux machines. Les auteurs proposent quatre voies explicatives : représentation différentielle de la littérature dans les données d'entraînement, contraintes d'accès à la récupération, pratiques humaines de vérification, et restrictions d'accès imposées par le système ou l'utilisateur. Une illustration empirique préliminaire a été menée : neuf grands modèles de langage (LLM) largement utilisés ont été invités à générer du contenu appuyé par la littérature, puis le statut d'accessibilité des références fournies a été comparé au pourcentage de notices en accès ouvert identifiées via trois bases de données scientifiques. Sur 78 références vérifiables générées par les LLM, une moyenne de 95,38 % disposait d'un texte intégral librement disponible (87,43 % en accès ouvert), contre une moyenne de 57,83 % d'accès ouvert dans les résultats de recherche des bases de données. Bien qu'exploratoires et non généralisables, ces résultats soutiennent l'hypothèse que la recherche et la synthèse assistées par IA peuvent surreprésenter la littérature publiquement accessible. Le problème n'est pas la qualité de la littérature en accès ouvert, mais le fait que l'accessibilité pourrait devenir un déterminant involontaire des preuves incluses. Les auteurs appellent à une prise de conscience accrue, une supervision humaine, une déclaration transparente de l'usage de l'IA et des limites de récupération, une vérification des références générées par l'IA et une meilleure transparence sur la couverture probatoire des IA, avec des investigations empiriques supplémentaires dans différentes disciplines, plateformes et outils d'IA.
- L'article introduit le concept de biais de preuve induit par l'IA, défini comme une distorsion structurelle où les synthèses assistées par IA surreprésentent la littérature en accès ouvert ou accessible aux machines.
- Quatre voies sont proposées pour expliquer ce biais : représentation différentielle dans les données d'entraînement, contraintes d'accès à la récupération, pratiques humaines de vérification et restrictions d'accès imposées par le système ou l'utilisateur.
- Dans l'illustration empirique, 78 références vérifiables générées par neuf LLM présentaient en moyenne 95,38 % de texte intégral librement disponible et 87,43 % d'accès ouvert, contre 57,83 % d'accès ouvert en moyenne dans les résultats de recherche de trois bases de données scientifiques.
Le texte intégral n’était pas accessible ; aucune faiblesse méthodologique ne peut être déduite de cette absence.
Comprendre l’analyse ↓Analyse du résumé uniquement. Confiance faible dans les informations extraites.
Voir les sources ↓Synthèse détaillée
Synthèse
Cet article introduit le concept de « biais de preuve induit par l'IA » (AI-induced evidence skew), défini comme une distorsion structurelle de la synthèse des preuves assistée par IA, où les productions surreprésentent la littérature en accès ouvert ou autrement accessible aux machines. Les auteurs proposent quatre voies explicatives : représentation différentielle de la littérature dans les données d'entraînement, contraintes d'accès à la récupération, pratiques humaines de vérification, et restrictions d'accès imposées par le système ou l'utilisateur. Une illustration empirique préliminaire a été menée : neuf grands modèles de langage (LLM) largement utilisés ont été invités à générer du contenu appuyé par la littérature, puis le statut d'accessibilité des références fournies a été comparé au pourcentage de notices en accès ouvert identifiées via trois bases de données scientifiques. Sur 78 références vérifiables générées par les LLM, une moyenne de 95,38 % disposait d'un texte intégral librement disponible (87,43 % en accès ouvert), contre une moyenne de 57,83 % d'accès ouvert dans les résultats de recherche des bases de données. Bien qu'exploratoires et non généralisables, ces résultats soutiennent l'hypothèse que la recherche et la synthèse assistées par IA peuvent surreprésenter la littérature publiquement accessible. Le problème n'est pas la qualité de la littérature en accès ouvert, mais le fait que l'accessibilité pourrait devenir un déterminant involontaire des preuves incluses. Les auteurs appellent à une prise de conscience accrue, une supervision humaine, une déclaration transparente de l'usage de l'IA et des limites de récupération, une vérification des références générées par l'IA et une meilleure transparence sur la couverture probatoire des IA, avec des investigations empiriques supplémentaires dans différentes disciplines, plateformes et outils d'IA.
Résultats principaux
L'article introduit le concept de biais de preuve induit par l'IA, défini comme une distorsion structurelle où les synthèses assistées par IA surreprésentent la littérature en accès ouvert ou accessible aux machines. Quatre voies sont proposées pour expliquer ce biais : représentation différentielle dans les données d'entraînement, contraintes d'accès à la récupération, pratiques humaines de vérification et restrictions d'accès imposées par le système ou l'utilisateur. Dans l'illustration empirique, 78 références vérifiables générées par neuf LLM présentaient en moyenne 95,38 % de texte intégral librement disponible et 87,43 % d'accès ouvert, contre 57,83 % d'accès ouvert en moyenne dans les résultats de recherche de trois bases de données scientifiques. Les auteurs soulignent que le problème n'est pas la qualité de la littérature en accès ouvert, mais le risque que l'accessibilité devienne un déterminant involontaire des preuves incluses dans les synthèses assistées par IA. Des mesures d'atténuation sont proposées : sensibilisation accrue, supervision humaine, déclaration transparente de l'usage de l'IA et des limites de récupération, vérification des références générées et transparence sur la couverture probatoire des IA.
Repères pour la pratique
Les cliniciens et chercheurs qui utilisent des LLM pour des synthèses de littérature doivent savoir que ces outils peuvent surreprésenter les travaux en accès ouvert, ce qui peut biaiser l'état des connaissances mobilisées dans les décisions cliniques ou les recommandations. La vérification humaine systématique des références générées par l'IA est nécessaire avant toute utilisation en contexte clinique ou scientifique, car les références fournies peuvent ne pas refléter l'ensemble des preuves disponibles. Les équipes cliniques et les institutions devraient documenter de manière transparente l'usage de l'IA dans leurs revues de littérature et signaler les limites de récupération, afin de préserver la traçabilité et la reproductibilité des synthèses probatoires. Une prise de conscience des biais d'accessibilité est particulièrement importante pour les domaines où la littérature pertinente est souvent publiée dans des revues à accès restreint, ce qui peut conduire à sous-représenter des données essentielles.
Limites et précautions
L'article traite d'un biais méthodologique dans l'utilisation des IA pour la synthèse de la littérature scientifique, sans lien direct avec les troubles neurodéveloppementaux, les populations cliniques ou les interventions en neuropsychologie. Son intérêt pour NeuroWatch est très faible, car il ne fournit pas de données cliniques ou développementales exploitables pour la veille. L'étude est exploratoire et ses résultats ne sont pas généralisables à l'ensemble des disciplines, plateformes ou outils d'IA. L'illustration empirique repose sur un nombre limité de références vérifiables (78) générées par neuf LLM, ce qui restreint la portée des conclusions. Les quatre voies explicatives proposées sont conceptuelles et n'ont pas été testées empiriquement de manière systématique. L'article est disponible uniquement sous forme de résumé, ce qui limite l'évaluation détaillée de la méthodologie et des résultats.
Analyse méthodologique
Non déterminable — Le texte intégral n’était pas accessible ; aucune faiblesse méthodologique ne peut être déduite de cette absence.
Le texte intégral ouvert n’était pas accessible. Cela rend la robustesse non déterminable : l’absence d’information n’est pas interprétée comme une faiblesse de l’étude.
Une anomalie documentaire ou méthodologique a été détectée. L’article reste disponible et doit être interprété avec prudence.
Examiner les critères point par point
Conception et objectif. Selon le résumé analysé, l'étude est de type transversal et exploratoire. Les auteurs ont invité neuf grands modèles de langage largement utilisés à générer du contenu soutenu par la littérature, puis ont comparé le statut d'accessibilité des références fournies avec le pourcentage d'enregistrements en accès ouvert identifiés via des recherches dans trois bases de données savantes. Ces éléments sont ceux rapportés par les auteurs dans le résumé ; l'analyse NeuroWatch les reprend sans les modifier. Résultats rapportés. Parmi 78 références vérifiables générées par les LLM, une moyenne de 95,38 % disposait d'un texte intégral librement disponible et 87,43 % étaient en accès ouvert. Le pourcentage moyen d'accès ouvert dans les résultats de recherche des bases de données savantes était de 57,83 %. Aucune mesure d'incertitude (intervalle de confiance) ni valeur p n'est rapportée dans le résumé pour ces comparaisons. Aucune donnée manquante n'est explicitement signalée dans le résumé. Les sources de financement et les conflits d'intérêts ne sont pas rapportés dans la source analysée. Évaluation méthodologique selon les critères NeuroWatch. La validité de la mesure a été jugée favorable : la comparaison directe entre le statut d'accessibilité des références générées et le pourcentage d'enregistrements en accès ouvert issus de bases de données constitue une mesure vérifiable, explicitement documentée dans le résumé. L'analyse statistique a également été jugée favorable, des statistiques descriptives (moyennes et pourcentages) étant rapportées pour les 78 références vérifiables et pour les résultats des bases de données. Le contrôle des facteurs de confusion est indéterminé : le résumé ne mentionne aucun contrôle des facteurs de confusion potentiels dans la comparaison entre les références générées par les LLM et les résultats des bases de données ; cette information n'est pas rapportée dans la source analysée, ce qui ne signifie pas que ce contrôle n'a pas été effectué. La sélection de la population fait l'objet d'une vigilance : les auteurs reconnaissent explicitement que l'étude est exploratoire et non généralisable, ce qui limite la portée des inférences. Conclusions des auteurs et analyse NeuroWatch. Les auteurs concluent que, bien qu'exploratoire et non généralisable, ces résultats soutiennent l'hypothèse selon laquelle la recherche et la synthèse assistées par IA peuvent surreprésenter la littérature accessible au public. L'analyse NeuroWatch relève que cette conclusion dépasse potentiellement les résultats présentés, car aucune inférence statistique formelle (valeur p, intervalle de confiance) n'est rapportée dans le résumé pour étayer la signification des écarts observés, et l'étude est elle-même décrite comme exploratoire et non généralisable. Les auteurs indiquent qu'une enquête empirique plus approfondie à travers les disciplines, les plateformes et les outils d'IA est nécessaire. Limites de l'analyse. Cette analyse est automatisée et repose uniquement sur le résumé de la publication ; le texte intégral n'a pas été lu. Par conséquent, les éléments méthodologiques non rapportés dans le résumé, notamment le contrôle des facteurs de confusion, la stratégie d'échantillonnage détaillée, les sources de financement et les conflits d'intérêts, restent indéterminés. La robustesse n'a pas pu être calculée et le niveau de confiance de l'analyse est faible, en raison de la nécessité du texte intégral. Aucune recommandation clinique n'est formulée.
confounding controlNon déterminable
Le résumé ne mentionne aucun contrôle des facteurs de confusion potentiels dans la comparaison entre les références générées par les LLM et les résultats des bases de données.
L’information nécessaire n’est pas rapportée dans la source analysée.measure validityFavorable
L'étude compare le statut d'accès des références fournies par les LLM avec le pourcentage d'enregistrements en accès ouvert identifiés via des recherches dans trois bases de données scientifiques, fournissant une mesure directe et vérifiable.
Un élément méthodologique adéquat est explicitement documenté.population selectionPoint de vigilance
Les auteurs reconnaissent que l'étude est exploratoire et non généralisable, ce qui limite la portée des inférences sur la population des références générées par les LLM.
Une limitation méthodologique est explicitement documentée.statistical analysisFavorable
Des statistiques descriptives (moyennes et pourcentages) sont rapportées pour les 78 références vérifiables générées par les LLM et pour les résultats des bases de données.
Un élément méthodologique adéquat est explicitement documenté.Cette analyse est produite automatiquement par une IA à partir des sources indiquées, puis l’appréciation est calculée avec des règles versionnées (scientific_analysis_v2). Elle ne constitue ni une validation par un professionnel ni une recommandation clinique. Consulter la méthodologie.
Classification détaillée
Informations sur l’article
- Publication
- Étude transversale
- Source
- PubMed — neurosciences cognitives developpementales
- Date
- 09 sept. 2026
- Langue
- Anglais
- Accès
- abstract only
- Licence
- Non déterminée