Un anestesista que trabaja para el Servicio Nacional de Salud de Inglaterra, se ha constituido en una piedra en el zapato de muchos investigadores. En su tiempo libre se dedica a buscar en los registros científicos datos sospechosos de investigaciones médicas. Este trabajo adicional en casi una década lo ha llevado a poner al descubierto datos defectuosos o poco fiables en ensayos clínicos.
Es conocido por su capacidad para detectar datos dudosos en ensayos médicos. También es editor de la revista Anaesthesia. En 2017, decidió revisar manuscritos que manejaba y que informaban sobre un ensayo controlado aleatorio (ECA), el estándar de oro de la investigación médica. Durante 3 años analizó más de 500 estudios.
Carlisle obtuvo acceso a datos anónimos de participantes individuales (IPD). Al estudiar las hojas de cálculo de IPD, observó que el 44% de estos ensayos contenían al menos algunos datos defectuosos: estadísticas imposibles, cálculos incorrectos o números o cifras duplicados, por ejemplo. Y el 26% de los artículos tenían problemas que estaban tan generalizados que era imposible confiar en el juicio, ya sea porque los autores eran incompetentes o porque habían falsificado los datos.
El experto llamó a estos ensayos «zombies» porque tenían la apariencia de una investigación real. Pero un examen más detenido mostró que en realidad eran caparazones vacíos, disfrazados de información confiable. Incluso él estaba sorprendido por su prevalencia. «Anticipé tal vez uno de cada diez», comentó según la revista Nature.
Ensayos clínicos defectuosos
Cuando Carlisle no podía acceder a los datos sin procesar de un ensayo, solo estudiaba la información agregada en las tablas de resumen. Según el anestesista, el 1% de estos casos eran zombies, y el 2% de los ensayos clínicos tenía datos defectuosos. Este hallazgo también lo alarmó. Sugirió que, sin acceso a la IPD, que los editores de revistas generalmente no solicitan y los supervisores no ven, incluso un detective experimentado no puede detectar fallas ocultas.
“Creo que las revistas deberían asumir que todos los artículos presentados son potencialmente defectuosos y los editores deberían revisar los datos de pacientes individuales antes de publicar ensayos controlados aleatorios”, escribió Carlisle en su informe.
El experto rechazó todos los ensayos con zombies. Pero ahora, casi tres años después, la mayoría se han publicado en otras revistas, a veces con datos diferentes a los presentados con el manuscrito que había visto.
¿Los hallazgos de Carlisle en anestesiología se extienden a otros campos? Durante años, una serie de científicos, médicos y sabuesos de datos han argumentado que los ensayos clínicos falsos, defectuosos o poco fiables están alarmantemente generalizados.
Examinaron ECA en varios campos médicos, como la salud de la mujer, la investigación del dolor, la anestesiología, la salud ósea y la COVID-19. Encontraron docenas o cientos de ensayos con datos aparentemente imposibles desde el punto de vista estadístico. Algunos, sobre la base de sus experiencias personales, señalaron que una cuarta parte de las pruebas que no son confiables podría ser una subestimación.
“Si busca todos los ensayos aleatorios sobre un tema, aproximadamente un tercio de los ensayos serán falsos”, afirmó Ian Roberts, epidemiólogo de la Escuela de Higiene y Medicina Tropical de Londres.
Con cuidado y sin generalizar
Durante la última década las revistas de muchos campos han publicado decenas de miles de documentos supuestamente falsos. Algunos de los cuales se cree que han sido producidos por empresas de terceros, denominadas fábricas de papel.
Pero los ECA falsificados o poco confiables son una amenaza particularmente peligrosa. No solo se trata de intervenciones médicas, sino que también pueden ser respetados al ser incluidos en metanálisis y revisiones sistemáticas. Estos analizan minuciosamente la literatura para evaluar la evidencia de los tratamientos clínicos. Las pautas médicas a menudo citan tales evaluaciones, y los médicos las toman en cuenta cuando deciden cómo tratar a los pacientes.
Ben Mol es especialista en obstetricia y ginecología en la Universidad de Monash en Melbourne, Australia. En su opinión entre el 20 y el 30 % de los ECA incluidos en las revisiones sistemáticas sobre la salud de la mujer son sospechosos, reseñó Scientific American.
Muchos especialistas en integridad de la investigación aseguraron que el problema existe, pero su alcance e impacto no están claros. Algunos dudan de que el problema sea tan grave como sugieren los ejemplos más alarmantes. “Tenemos que reconocer que, en el campo de la evidencia de alta calidad, cada vez tenemos más ruido. Hay algunas buenas personas que producen estadísticas realmente aterradoras. Pero también hay muchos en la comunidad académica que piensan que esto es alarmismo”, indicó Žarko Alfirević, especialista en medicina fetal y materna de la Universidad de Liverpool, Reino Unido.
Este año, él y otros investigadores están realizando más estudios para evaluar la gravedad del problema. Los resultados iniciales de un estudio dirigido por Alfirević no son alentadores.
¿En duda el método científico?
La investigación médica siempre ha tenido defraudadores. El epidemiólogo Ian Roberts se topó por primera vez con el problema cuando fue coautor de una revisión sistemática de 2005 para la Colaboración Cochrane. Un grupo prestigioso cuyas revisiones de evidencia de investigación médica se utilizan a menudo para dar forma a la práctica clínica. La revisión sugirió que las dosis altas de una solución azucarada podrían reducir la muerte después de una lesión en la cabeza.
Pero Roberts se retractó después de que surgieron dudas sobre tres de los ensayos clave citados en el artículo, todos escritos por el mismo neurocirujano brasileño, Julio Cruz. (Roberts nunca descubrió si los juicios eran falsos, porque Cruz se suicidó antes de que comenzaran las investigaciones. Los artículos de Cruz no se han retractado).
Un ejemplo más reciente sobre ensayos clínicos, sean estos confiables o defectuosos, es el de Yoshihiro Sato. Un investigador japonés sobre salud ósea. Sato, quien murió en 2016, fabricó datos en docenas de ensayos de medicamentos o suplementos que podrían prevenir la fractura ósea. Tiene 113 artículos retractados, según una lista compilada por el sitio web Retraction Watch. Su trabajo ha tenido un gran impacto: los investigadores encontraron que 27 de los ECA retractados de Sato habían sido citados por 88 revisiones sistemáticas y guías clínicas. Algunas de las cuales habían informado los tratamientos recomendados en Japón para la osteoporosis.
Los hallazgos en aproximadamente la mitad de estas revisiones habrían cambiado si se hubieran excluido los ensayos de Sato, manifestó Alison Avenell. Investigadora médica de la Universidad de Aberdeen, Reino Unido. Ella, junto con los investigadores médicos Andrew Gray, Mark Bolland y Greg Gamble, de la Universidad de Auckland en Nueva Zelanda, presionan a las universidades para que investiguen el trabajo de Sato y monitorearon su influencia.