Domanda:
Perché i ricercatori non pubblicano esperimenti falliti?
user107
2012-03-15 10:01:05 UTC
view on stackexchange narkive permalink

La seguente potrebbe essere una leggera generalizzazione per tutti i campi, ma qualcosa che ho notato specialmente nel campo del calcolo scientifico:

  1. Perché le persone non pubblicano errori? Voglio dire, se hanno provato qualche esperimento e alla fine si sono resi conto che hanno provato di tutto e niente ha funzionato. Perché non pubblicano questo? È perché tali contenuti non verranno pubblicati o è perché è vergognoso avere un esperimento fallito in un diario insieme a documenti premiati?

  2. Ho speso una parte migliore di un anno di lavoro su quello che ora sembra, un problema morto. Tuttavia, la maggior parte dei documenti che ho letto inizialmente ti ha portato al punto di sentirti ottimista. Ora che ho riletto i giornali, mi rendo conto di poter dire (con molta sicurezza) che l'autore nasconde qualcosa. Ad esempio, uno degli autori che stava confrontando due sistemi, ha fornito un'eccellente base teorica ma quando ha cercato di convalidare la teoria con esperimenti, c'erano orribili discrepanze negli esperimenti (di cui ora mi rendo conto). Se la teoria non era soddisfatta dagli esperimenti, perché non pubblicarla (indicando chiaramente parti della teoria che funzionavano e quali no) e risparmiare un po 'di tempo ai futuri ricercatori? Se non in una rivista, perché non ArXiv o i propri siti web?

questo è uno dei punti della scienza aperta. Pubblichi approcci falliti sul tuo blog o wiki. Ricordo di aver letto qualche tempo fa, che studi falliti (cioè farmaci che non fanno nulla) non pubblicati stavano diventando un problema in alcune parti della ricerca medica e ora i grandi studi NIH (credo) devono essere registrati in un database prima di essere condotti e includere i loro risultati indipendentemente dal fatto che siano positivi o meno. Sfortunatamente non ricordo una fonte per questo :(.
Bella lista Joel Reyes Noche. Tuttavia, tra le 6 riviste che hai citato, le prime cinque sono focalizzate su articoli con risultati negativi. L'ultimo, il [Journal of Errology] (http://www.bioflukes.com/JoE) è focalizzato a fornire un mezzo per quei futili tentativi inediti dietro ogni articolo pubblicato che di solito vengono scartati. Questi sono molto più comuni degli altri documenti, per i quali la maggior parte dei ricercatori non ha il tempo di pubblicare, poiché non comportano alcun vantaggio per la loro carriera.
Sto postando qui il resto del commento di Selvin (precedentemente inviato come risposta, ma convertito perché non risponde alla domanda): "Questo mi ricorda le pratiche di Edison, dove teneva un elenco di tutte le cose che non funzionavano , che in seguito lo ha aiutato in modo importante. Immagina di fare 10.000 esperimenti diversi, senza tenere adeguatamente traccia di ogni esperimento. Sarà un incubo ".
La mia ricerca di tesi è stata un risultato nullo. L'articolo su di esso ha più di 80 citazioni. Ma questo è nella fisica delle particelle dove stabilire dei limiti all'inizio di un fenomeno atteso è una cosa molto comune.
(L'ho pubblicato come risposta ma sono stato rimosso in quanto non è realmente una risposta. Quindi, postando come commento) In parte ispirato da questa discussione e in parte dalla mia esperienza, noi, un gruppo di ricercatori in scienze computazionali, stiamo organizzando un seminario intitolato "E-science ReseaRch leading to negative results (ERROR)". Il seminario si terrà in concomitanza con la conferenza eScience 2015 a Monaco, in Germania. Per ulteriori informazioni sul workshop, vedere http://press3.mcs.anl.gov/errorworkshop.
Di solito è possibile trasformare un fallimento in positivo. Ad esempio, sono a conoscenza di due casi in cui qualcuno non è riuscito a fare xyz (come avevano promesso sulla proposta di sovvenzione) ma una buona dose di pensiero + duro lavoro e sono riusciti a ricavarne un documento sulla natura, senza menzionare ovviamente che hanno mancato l'obiettivo e hanno accidentalmente fatto qualcosa di completamente diverso.
Ho sempre pensato che fosse perché gli accademici non commettono errori, mai.
Spero che questa domanda non sia offtopica, ma: come queste carte di ricerca non scompaiono nel vuoto? Se tutti pubblicano 4 articoli o giù di lì all'anno, questo non significa che ci siano quantità incredibili di articoli già esistenti su cui potresti basare / fare riferimento al tuo articolo? Ci sono circa 10000 persone acedemiche sulla terra quindi il cerchio è piuttosto piccolo? O c'è da qualche parte un database centrato che tiene traccia di tutte le informazioni scientifiche disponibili sulla terra? Mi piacerebbe sapere come avere una panoramica dei documenti esistenti, quindi non "sprecare" il tuo tempo rifacendo lo stesso
(Sì, lo so che questo "rifacimento" si chiama "Prova" ma non è questo il problema)
Otto risposte:
Joel Reyes Noche
2012-03-15 14:18:51 UTC
view on stackexchange narkive permalink

"Perché le persone non pubblicano fallimenti?"

In realtà, lo fanno.

  1. Journal of Negative Results (ecologia ed evoluzione biologia)
  2. Journal of Negative Results in Biomedicine
  3. Journal of Pharmaceutical Negative Results
  4. Journal of Interesting Negative Results (elaborazione del linguaggio naturale e apprendimento automatico)
  5. Journal of Negative Results in Environmental Science (ancora nessun problema?)
  6. Journal of Errology (ancora nessun problema?)

e così via ...

(Potresti anche voler vedere il sezione Risultati negativi del Journal of Cerebral Blood Flow & Metabolism.

lo fanno, ma non spesso e non nelle "riviste standard"
Pochissimi su nessuno di questi giornali hanno ricevuto molti contributi. Questo è tragico perché la mancanza di tentativi di replica pubblicati è uno dei maggiori problemi nella scienza (vedi il documento classico di Ioannidis, "Perché la maggior parte dei risultati della ricerca pubblicata sono falsi"). Le riforme sono necessarie per creare maggiori incentivi agli scienziati per fare e pubblicare tali studi. Ci stiamo avvicinando agli editori su un nuovo concetto di rivista in cui verrebbe rivisto solo il piano di studio (metodi e piano di analisi) per un tentativo di replica (https://plus.google.com/113040210411045341720/posts/BB2BnpHi8Tw), quindi pubblicazione garantita.
In undergrad, abbiamo fantasticato sulla creazione dell '"American Journal of Failures and Missteps".
Vorrei anche aggiungere che sfatare un'idea teorica consolidata è molto degno di pubblicazione, anche in una rivista che pubblica risultati positivi. E succede (purtroppo non abbastanza spesso).
C'è anche una ragione pratica: scrivere un * buon * articolo (anche se con risultati negativi) richiede tempo e impegno, cosa che la maggior parte dei ricercatori preferisce spendere altrimenti, ad esempio per ottenere risultati * positivi * (forse nella speranza di pubblicarli in sedi più prestigiose).
Ho guardato http://jinr.site.uottawa.ca/ - è morto Jim!
Fomite
2012-03-15 11:53:00 UTC
view on stackexchange narkive permalink

I risultati nulli sono difficili da pubblicare. Lo sono e basta. È interessante notare, tuttavia, che nel mio campo non sono la cosa più difficile da pubblicare. L'ordine generale è:

Studi (grandi) ben sviluppati che trovano ciò che le persone si aspettano
Studi (piccoli) con scarso rendimento che trovano ciò che le persone si aspettano
Studi con scarsa efficacia che trovano l'opposto di ciò che le persone risultati attesi o nulli
Studi efficaci che trovano l'opposto di ciò che le persone si aspettano

Queste due categorie centrali sono dove troverai la maggior parte dei "fallimenti", almeno in termini di ricerca di un effetto statisticamente significativo. Detto questo, c'è una crescente spinta a vedere questo tipo di studi pubblicati, perché sono una parte importante della letteratura, e diverse riviste mediche hanno compiuto passi abbastanza notevoli in quella direzione, ad esempio, se accettano un articolo sul protocollo per una sperimentazione clinica imminente, si impegnano anche a pubblicare i risultati della sperimentazione (se superano la revisione tra pari) indipendentemente dal risultato.

Quando si arriva al punto, Penso che ci siano tre ragioni per cui i risultati negativi non vengono pubblicati più che "è difficile":

  1. Mancanza di ricompensa. Ci vuole tempo e riflessione per inserire un articolo nella letteratura e impegno. E denaro, in termini di tempo e fatica. La maggior parte dei risultati / fallimenti nulli sono vicoli ciechi: non verranno utilizzati per nuove proposte di sovvenzione, non saranno dove ti fai il tuo nome. Il meglio che puoi sperare è che vengano citati alcune volte nei commenti o nei documenti di meta-analisi. Quindi, in un universo di tempo finito, perché inseguire di più quei risultati?
  2. Mancanza di lucentezza. La semplice ricerca del risultato è un passaggio intermedio nella pubblicazione dei risultati, non il passaggio "e quindi appare in una rivista". Spesso, è facile capire quando qualcosa non si preannuncia per avere successo ben prima che sia pronto per la pubblicazione: quei progetti tendono ad essere abbandonati. Quindi, anche se ci sono risultati "falliti", non sono risultati pronti per la pubblicazione, anche se ci interessavano gli errori.
  3. Molti fallimenti sono metodologici. Questo progetto di studio non può davvero rispondere alla domanda che vuoi porre. I tuoi dati non sono abbastanza buoni. L'intera linea di ragionamento è difettosa. È davvero difficile trasformarlo in un articolo.

Gli articoli di successo possono essere pubblicati in base al loro stesso successo: è interessante. I documenti falliti hanno il duplice fardello di essere sia difficili da pubblicare e di aver dovuto fallire in modo interessante.

Non mi è chiaro quale sia l'ordine dalla più difficile alla meno difficile da pubblicare nel tuo elenco?
@Stephanie Sono tutti "Non posso essere disturbato a trasformare questo in un documento", piuttosto che difficoltà nell'invio, e quindi probabilmente variano in base alla tua motivazione.
Questa parte "Studi ben potenziati (grandi) che trovano ciò che le persone si aspettano Studi poco potenziati (piccoli) che trovano ciò che le persone si aspettano Studi poco potenziati che trovano l'opposto di ciò che le persone si aspettano o risultati nulli Studi ben potenziati che trovano l'opposto di ciò che le persone si aspettano" non numerata po
@Stephanie Ah, questo ha più senso. Sono in ordine di difficoltà approssimativo, dal meno al più difficile da pubblicare, anche se questo può essere specifico del campo e si basa su una diapositiva che ho visto una volta in una presentazione.
Mi piace di più questa risposta s in realtà risponde alla domanda. Non c'è nulla che ti * impedisca * di pubblicare un errore, ma costa tempo, fatica e denaro; richiede la tua attenzione e deve essere trasformato in qualcosa con un punto. Vorrei anche aggiungere un altro: non vuoi rivelare troppo sulla tua ricerca, se mostra ancora una promessa di qualche tipo di successo. Triste ma necessario.
Stefano Borini
2012-03-15 10:19:53 UTC
view on stackexchange narkive permalink

Non è completamente vero che gli errori non vengono pubblicati. Viene pubblicata la mancanza di segnali o la mancanza di correlazione. Il punto è che tutto ciò che fa avanzare la conoscenza è degno di pubblicazione. Detto questo, ci sono altri fattori da tenere in considerazione

  1. alcuni errori sono metodologici, cioè stai facendo qualcosa di sbagliato. Questo non è un segnale scientifico. è qualcosa che devi risolvere.
  2. sapere cosa non funziona ti dà un vantaggio competitivo rispetto ad altri gruppi di ricerca.
  3. i segnali negativi non aprono quasi mai nuovi campi. Se lo fanno, è perché hanno indirizzato l'attenzione per trovare un segnale positivo da qualche altra parte. Non si avvia un nuovo sviluppo di farmaci antitumorali se si scopre che una sostanza non ha effetto. Ne chiudi uno. Per questo motivo, i documenti negativi generalmente non ricevono molta attenzione e l'attenzione dei colleghi è molto nel mondo accademico.
Interessante. Ma il punto centrale della pubblicazione non è la diffusione delle informazioni? Se chiude un campo, bene bene! Niente più perdite di tempo. Ho visto anche molte pubblicazioni di guerra, come tra i teorici delle stringhe e gli altri. O GPU * fanboys * vs multicore. Ma nessuno va contro il suo.
@Nunoxic: questo è il punto: lasciare che gli altri sprechino il loro tempo in modo che mentre sono impegnati a capire ciò che hai già imparato, puoi batterli pubblicando prima di loro. Pensi che il mondo accademico sia un gruppo di hippy?
Il miglior esempio di un risultato negativo estremamente importante a cui posso pensare è l'esperimento di Michaelson-Morley che ha fatto saltare completamente il coperchio dalla vecchia teoria dell'etere. La maggior parte dei risultati negativi non attirano così tanto l'attenzione. :)
@StefanoBorini Penso che sia piuttosto pessimista. Vedo regolarmente la letteratura medica pubblicata che non mostra alcun vantaggio / effetto per i farmaci e questo è importante. In generale, penso che molti vicoli ciechi non siano pubblicati perché spesso si presume che i vicoli ciechi; I risultati promettenti (positivi o negativi) richiedono ancora molto tempo per essere finalizzati, tempo che forse potrebbe essere speso meglio per perseguire qualcosa di più promettente.
@Nunoxic - No, il punto della pubblicazione è che stimola donazioni e interesse per la tua ricerca. Se metti un sacco di articoli in giro su come hai incasinato e sprecato milioni o addirittura migliaia in sovvenzioni e fondi privati ​​perché hai sbagliato, le persone hanno meno probabilità di finanziare il tuo prossimo progetto di ricerca e potrebbero ottenere finanziamenti per quello che stai facendo.
@george - Questa è la ricerca del settore privato. Le compagnie di assicurazione condividono volentieri informazioni che possono far risparmiare loro stessi denaro. Quello che non vedi pubblicare sono studi che dimostrerebbero che trattamenti che costano di più forniscono anche maggiori benefici. Quelli vengono dai dottori.
@StefanoBorini: Sì, in realtà siamo _siamo_ un gruppo di hippy. Alcuni di noi, comunque.
Ondrej
2012-03-15 18:26:28 UTC
view on stackexchange narkive permalink

Una delle conseguenze della mancata segnalazione degli errori è il bias di pubblicazione. È un fenomeno ampiamente descritto che di solito viene affrontato utilizzando la meta-analisi. Ciò significa che se la ricerca riguarda alcuni risultati quantificabili, ad esempio una regressione (lineare), di solito è auspicabile una significatività statistica. Se tali risultati non vengono raggiunti, i ricercatori a volte cercano di adattare la loro metodologia, i modelli, i dati o qualsiasi altra cosa al fine di avere risultati più "pubblicabili".

Il problema dell'adeguamento dei modelli o del completo ritiro dei la carta (il cosiddetto problema del cassetto degli archivi) era (e in una certa misura è ancora) un problema in medicina, come osserva @Artem Kaznatcheev nel commento e ha portato, come aggiunge, alla registrazione degli studi prima della pubblicazione. Le sue fonti possono differire, ma un documento che lo descrive è ad es. Krakovsky (2004).

Più in generale, guarda Stanley (2005) o Stanley (2008) per ulteriori informazioni su bias di pubblicazione e meta-analisi.

Bravo
2012-03-15 11:24:31 UTC
view on stackexchange narkive permalink

A volte alcuni fallimenti danno origine a nuove teorie. Ad esempio, ci sono teoremi di impossibilità nella progettazione di meccanismi (Arrow o Gibbard-Satterthwaite) che stabiliscono i limiti dei meccanismi implementabili.

In questo senso, i soli fallimenti potrebbero non essere utili in una pubblicazione. Le persone sono interessate a sapere perché le cose hanno fallito o piuttosto quale categoria di esperimenti / teorie fallirebbero. Ma procedere in questa direzione è spesso irto di rischi: è più facile enunciare un problema e risolverlo piuttosto che derivare condizioni in cui il problema non può essere risolto. Il primo è interessante per una classe di pubblico più ampia rispetto al secondo.

Quindi la linea di fondo: prova a formalizzare o teorizzare i tuoi fallimenti e vedere se un risultato si profila; altrimenti vai avanti per cercare di risolvere un problema più degno.

Mark Hahnel
2012-04-10 15:22:26 UTC
view on stackexchange narkive permalink

Penso che questo dipenda dal tempo impiegato. Personalmente non potrei essere disturbato a passare 2 giorni a scrivere e formattare un documento per dati negativi. Deve essere davvero semplice da fare e io ho bisogno di ottenere un po 'di credito per questo, o ho bisogno di essere incaricato di farlo.

C'è un crescente requisito da parte dei finanziatori e mandati che costringono i ricercatori a fare tutto i loro risultati di ricerca disponibili sono solo una questione di tempo. Nel frattempo, gli altmetrics possono agire come carote per incoraggiare i ricercatori a condividere i propri dati, anche quelli negativi.

lynxoid
2012-03-19 02:12:46 UTC
view on stackexchange narkive permalink

Se hai letto molta letteratura e poi ti sei reso conto di essere in un vicolo cieco, puoi almeno pubblicare una recensione su tutti i metodi e le tecniche che hai imparato.

uli
2015-04-02 19:03:20 UTC
view on stackexchange narkive permalink

C'è il Journal of unsolved Questions JunQ. Raccolgono ricerche con risultati "nulli" e problemi aperti.



Questa domanda e risposta è stata tradotta automaticamente dalla lingua inglese. Il contenuto originale è disponibile su stackexchange, che ringraziamo per la licenza cc by-sa 3.0 con cui è distribuito.
Loading...