Domanda:
Preoccupazioni etiche in merito alla revisione di un documento sui droni armati autonomi
Leopold Bloom
2020-03-02 18:14:15 UTC
view on stackexchange narkive permalink

Vorrei il tuo suggerimento su una questione delicata che coinvolge un documento che sto rivedendo. Eviterò di fornire troppi dettagli per preservare l'anonimato.

In questo articolo gli autori descrivono un algoritmo per il controllo (senza pilota) di un drone armato militare. Il lavoro è stato svolto completamente in un simulatore, ma gli autori mostrano immagini chiare del tipo di drone militare del mondo reale che hanno riprodotto, dicendo esplicitamente che il vero drone può essere armato con diversi tipi di bombe. Le prestazioni dell'algoritmo vengono valutate in base al numero di volte in cui il drone simulato ha colpito autonomamente il bersaglio. Gli autori non discutono mai le possibili preoccupazioni etiche di questa tecnologia, né dicono esplicitamente se questa tecnologia sarà utilizzata su droni reali per colpire obiettivi umani con possibile coinvolgimento di civili (ad esempio nell'antiterrorismo).

Il mio personale posizione è contro lo sviluppo di armi autonome letali. Anche se ho diversi anni di esperienza nella revisione di documenti, questa è la prima volta che devo affrontare un problema del genere e non sono sicuro di come muovermi. Penso che questo tipo di problemi etici siano comuni nei campi relativi alla medicina, ma piuttosto rari nell'ingegneria, e che stiano prendendo alla sprovvista la nostra comunità.

Si noti che, da un punto di vista formale, la situazione è sfocato. Anche se c'è stata una petizione internazionale contro lo sviluppo di armi autonome, la formalizzazione in un divieto internazionale (come quello per le armi chimiche) sembra essere lontana. Inoltre, le linee guida etiche della rivista si applicano solo all'uso degli animali nella ricerca e agli esperimenti su soggetti umani. Questo mi permette di concludere che da un punto di vista formale il documento è legittimo poiché non infrange alcuna regola.

Ho considerato la possibilità di scrivere all'editore esprimendo le mie preoccupazioni o sottolineando queste preoccupazioni direttamente nella recensione, in modo che gli autori possano dare una risposta alle mie domande. Come ultima soluzione sto valutando anche la possibilità di ritirarmi, ma preferirei instaurare un dialogo con gli autori e l'editore poiché questo è più costruttivo per tutti. Tuttavia, penso sia anche importante considerare l'ipotesi che la mia posizione etica possa influenzare la mia revisione (anche se sto cercando di essere il più neutrale possibile) e questo potrebbe essere ingiusto per la valutazione della qualità tecnica del metodo proposto.

La mia domanda è : come devo procedere nel processo di revisione? Ci sono alcune opzioni: ritirarsi per questioni etiche, rivedere l'articolo, rivedere ed esprimere le mie preoccupazioni etiche all'editore (e forse agli autori).


Aggiornamento: 5 marzo 2020

Grazie a tutti per le vostre risposte, mi hanno davvero aiutato a capire meglio la situazione. Ho deciso di ritirarmi come revisore e ho inviato una lettera ufficiale all'editore. Nella lettera ho espresso le mie preoccupazioni etiche senza dare alcun commento sulla qualità tecnica del documento. Il documento non infrangeva alcuna regola formale, quindi raccomandare un rifiuto ufficiale sarebbe stato come imporre la mia etica personale sul processo di revisione. Nella lettera ho riportato anche quelle frasi che inquadravano chiaramente il drone come un'arma letale autonoma.

L'assistente redattore mi ha scritto dicendo che all'editore piaceva il mio atteggiamento accademico e mi voleva per una seconda revisione. La redazione ha contattato gli autori, che hanno affermato di non voler creare malintesi e di essere disponibili a modificare le espressioni. Ciò sembra implicare che abbiano inoltrato agli autori l'elenco delle frasi che ho segnalato in via confidenziale all'editore e che gli autori vogliano modificare quelle frasi nella versione rivista.

La mia opinione personale è che riformulare il foglio senza cambiare la sostanza non sarebbe sufficiente. Puoi sostituire "bersaglio" con "obiettivo" e "attacco" con "portata", ma questo rimane un drone armato autonomo.

I commenti non sono per discussioni estese;questa conversazione è stata [spostata in chat] (https://chat.stackexchange.com/rooms/105143/discussion-on-question-by-leopold-bloom-ethical-concerns-regarding-the-review-of).
La selezione del bersaglio è autonoma o solo l'attacco stesso dopo che un operatore umano ha selezionato il bersaglio? Direi che il primo è pericoloso, il secondo no.Ci sono stati missili guidati, missili da crociera, bombe guidate con laser / GPS, ecc. Da molto tempo, ed è meglio usarli e non bombardare a tappeto l'intera area in stile seconda guerra mondiale.
@Nyos il documento non ha discusso questo particolare dettaglio.L'obiettivo è dato, ma non c'è una descrizione del modo in cui è stato acquisito.Tuttavia, si noti che la distinzione tra un'arma letale autonoma (LAW) e un'unità bomba guidata (GBU) non viene effettuata in base al modo in cui viene fornito l'obiettivo, ma in base al grado di autonomia dell'arma stessa.Le LEGGI hanno un livello più alto di autonomia e la capacità di prendere decisioni autonome per la navigazione e l'attacco.Il drone descritto nel documento è chiaramente una LEGGE.Vi invito a dare uno sguardo alla pagina su Wikipedia sulle LEGGI per maggiori dettagli.
@Nyos anche questo può essere facilmente visto come eticamente problematico.Certo, un attacco di precisione con un drone che uccide solo la persona che vuoi uccidere e forse alcuni collaterali (oggettivando gli umani qui ^^) proprio accanto a quella persona (chiaramente colpa sua ^^) forse meglio che bombardare a tappeto l'intero villaggio.Ma poi di nuovo, forse non uccidere nessuno è ancora meglio.Cioèfornendo tali armi di precisione potresti rendere più probabile che tali omicidi avvengano del tutto.Quindi ci possono essere motivi di preoccupazione indipendentemente dal tipo di drone / arma che viene preso in considerazione.
@FrankHopkins ma non l'hai astratto troppo nell'altra direzione?Ci si dovrebbe rifiutare di rivedere qualsiasi ricerca che potrebbe * potenzialmente * essere utilizzata in qualsiasi tipo di arma?Ad esempio, sosterresti il rifiuto di rivedere la ricerca sull'aerodinamica, perché i droni usano le ali per volare?
@dwizum Non lo trovo affatto astratto.Non si tratta di martelli o ali, stiamo ancora parlando di cose che sono principalmente un'arma.E trovo che questa affermazione categorica che un tipo di arma non sia problematica perché è più chirurgica molto discutibile e trovo molto ragionevole - sia che lo segua in ogni caso o meno - che qualcuno consideri queste armi ugualmente o più non etiche di wmd.Tanto per cominciare perché lo rendono molto facile e quindi rimuove anche parte del controllo pubblico automatico (quando è necessario inviare forze speciali).
@dwizum Btw.con una visione pacifista più generale, è tipicamente facile sostenere che qualsiasi nuova arma "migliore" può essere immorale, ma non è nemmeno questo il punto.(E no, non sto dicendo che dovremmo tutti sostenere una posizione così pacifista, ma capirei comunque se alcune persone lo volessero e lo troverebbero non meno etico di persone che hanno un approccio più pragmatico).
@dwizum Considerare l'avvelenamento di un'ex spia in un paese straniero.Con solo pochi collaterali di persone che si avvicinano troppo quando avviene l'avvelenamento.Molto più chirurgico dell'invio di bombardieri e più conveniente dell'invio di una squadra operativa speciale.Lo sviluppo di un tale veleno è etico?All'Ovest di certo non piace.... quando è finito sul loro terreno. ^^ E se qualche cattivo dittatore avesse tali droni da attacco chirurgico e potesse giocare comodamente a "uccidere l'opposizione" dalla sua sedia da gioco.Come cittadino schietto, preferirei che avesse bombe atomiche, almeno sarebbe meno probabile che le usasse contro di me.;)
La loro ricerca è inestricabilmente legata al loro attuale dominio applicativo?Cioè, la stessa ricerca / algoritmi possono essere ugualmente utili quando applicati a un caso d'uso non controverso (come il rilascio di [granate antincendio] (https://www.fireprouk.com/products/firepro-fire-suppression-systems/ firepro-condensed-aerosol-generators-lpcb-certificate /) on wildfire hotspot)?Una ricerca utile inquadrata in un dominio di problema non etico probabilmente garantisce una risposta diversa rispetto alla ricerca che non ha un caso d'uso etico.
Mi chiedo se sarebbe più utile suddividere questo problema nella tua etica personale e nel documento vero e proprio.La revisione di un articolo dovrebbe tenere conto delle opinioni personali del revisore?In tal caso, cosa dobbiamo aspettarci da recensioni, pubblicazioni, ecc.?Dichiari la differenza tra il contenuto e il più ampio mondo etico in cui esiste, ma non sono del tutto sicuro se un documento è "cattivo" se si concentra solo sulla sua prospettiva ingegneristica.Forse un secondo articolo solo sull'etica sarebbe più appropriato.
@LeopoldBloom Penso che il vero problema sia che questo tipo di ricerca è inarrestabile.Se convincerai il diario a rifiutarlo, potrebbe essere riscritto come se stesse accadendo in un mondo virtuale come un videogioco che lo nasconderebbe comunque.Finirà comunque nelle mani delle persone che vorrebbero usarlo per fare esattamente ciò che il giornale dice che dovrebbe fare.Se fosse attualmente situato in un mondo virtuale e non applicato a un contesto del mondo reale, lo rifiuteresti perché _pote_ essere applicato a un contesto del mondo reale?È molto difficile fermare il "progresso".
@FrankHopkins * potrebbe essere riscritto come se stesse accadendo in un mondo virtuale come un videogioco che lo velerebbe comunque sottilmente * Non penso che abbiamo bisogno di * poter * quella frase, perché sta già accadendo.Non devi nemmeno lasciare Stack Exchange per vedere le prove: vai in giro per il sito AI per un po 'e guarda il numero di domande che fondamentalmente chiedono come programmare l'IA del computer per essere bravo sia nello scegliere che nel colpireobiettivi.
@dwizum Non credo che il tuo ultimo commento fosse destinato a me;)
@GenericJam Non interromperò questa istanza di A perché qualche altra istanza di A "sicuramente" non verrà fermata (da un'altra persona, perché mi citeranno come scusa ^^) è una scusa piuttosto debole per non fermare ilistanza di A che puoi fermare.Detto questo, il fatto che la tecnologia possa essere utilizzata in modi diversi è precisamente il motivo per cui l'etica non è mai completamente fuori dal quadro.E non è neanche in bianco e nero.Se potessi scegliere di inventare un virus mortale in grado di uccidere l'umanità e non farlo ritarderei solo di 3 anni la sua invenzione, la considererei comunque una decisione eticamente buona.
"gli autori non discutono mai le possibili preoccupazioni etiche di questa tecnologia" - Immagino che non ci sarebbe stato molto spazio per il resto dell'articolo se lo avessero fatto!
Sì.Riformulare la carta non è sufficiente.Spiegando che il loro lavoro non è pratico perché qualsiasi arma controllata dal loro algoritmo rischia di violare il principio di proporzionalità e quindi le leggi di guerra sarebbero sufficienti.In quanto studiosi, sono obbligati a dichiarare i limiti del loro lavoro.Non possiamo sperare in un divieto dei sistemi d'arma autonomi, ma possiamo avere un trattato che ne regola l'uso.Rimanendo in qualità di revisore puoi costringere gli autori a citare le leggi di guerra ea dare un piccolo contributo a questo trattato.
@Strawberry ha convenuto che non possono discutere l'argomento nel loro articolo e che sarebbe considerato una detrazione dall'argomento principale.Quello che potrebbero fare facilmente, tuttavia, è fare riferimento a una rispettiva pubblicazione, articoli di notizie, loro carta separata nella sezione delle opere correlate in una singola frase o due.
Undici risposte:
Buffy
2020-03-02 18:55:09 UTC
view on stackexchange narkive permalink

Ti suggerisco di ritirarti e di inviare una lettera formale all'editore esprimendo le tue preoccupazioni. Cita un universo morale più ampio di quello ristretto coperto dalle politiche della rivista. Suggerisci che la ricerca in sé non sia etica e raccomanda, senza una revisione dettagliata, che il documento venga rifiutato.

Sono stato in un caso simile ma meno complicato. Ero pastore di una carta che ha attraversato un confine meno pericoloso. Ho avuto contatti ripetuti con gli autori e ho cercato, in più comunicazioni, di convincerli che le azioni che stavano proponendo erano sbagliate. Non sono riuscito a convincerli. Il documento è stato respinto. In realtà mi è stato assegnato un premio per i miei sforzi per convincerli, anche se ho fallito.

La mia esperienza suggerisce che le persone che fanno questo genere di cose non saranno convinte da un dialogo di alcun tipo. Sono troppo coinvolti per preoccuparsi di ascoltare.

Non aspettare che "i poteri forti" decidano che questa roba è immorale e porta a una brutta fine. Se le persone come i revisori in fondo alla piramide non si lamentano, questo tipo di ricerca continuerà e verrà implementato. Ci sono troppi esempi storici di questo per ignorarne le conseguenze.

I commenti non sono per discussioni estese;questa conversazione è stata [spostata in chat] (https://chat.stackexchange.com/rooms/105142/discussion-on-answer-by-buffy-ethical-concerns-regarding-the-review-of-a-paper-o).
"Cita un universo morale più ampio di quello ristretto coperto dalle politiche della rivista. Suggerisci che la ricerca stessa non sia etica e raccomanda, senza una revisione dettagliata, che l'articolo venga rifiutato".<- Sì, tutto questo.Altrimenti ci saremo caduti.
@Araucaria-Nothereanymore.È chiaro che il tuo suggerimento è in buona fede, e sono d'accordo, tuttavia tieni presente che raccomandare esplicitamente i rifiuti basati sull'etica non è diverso dal raccomandare i rifiuti basati su razza, religione, politica o colore della pelle, o qualsiasi altra cosa non correlata all'articolocaratteristica che l'articolo mostra.Quello che voglio dire è che persone diverse hanno opinioni diverse su cosa sia etico o meno e questo apre solo la strada alla tana del coniglio.Lo stesso vale per questa risposta complessivamente: sono d'accordo ma è un consiglio terribile.
Penso che * "un universo morale più ampio di quello ristretto coperto dalle politiche della rivista" * sia una descrizione appropriata.A volte emergono nuovi argomenti che non rientrano nei vecchi criteri e i criteri dovrebbero essere aggiornati.Il ritiro è un chiaro segnale per il diario che hanno bisogno di riflettere loro stessi su questo aspetto.
@gented Mi fa sempre il solletico vedere che le persone si comportano moralmente nel tentativo di rimanere amorali;)
@Araucaria-Nothereanymore.intendi _la tua opinione sulla moralità_ vs _la tua opinione sull'amoralità_?Anche questo mi solletica molto :)
@Buffy.Speculando da una posizione di ignoranza, posso proporre che la pubblicazione del suddetto articolo possa essere un netto positivo in quanto si possono pensare contromisure (tecniche e politiche) per le strategie pubblicate.Cosa significa impedire a un laboratorio di implementare / vendere tale tecnologia senza pubblicare?
AppliedAcademic
2020-03-02 20:13:20 UTC
view on stackexchange narkive permalink

L'OP è indubbiamente consapevole che questa è una domanda difficile con alcune aree grigie. Potrebbe anche essere difficile fornire una singola risposta oggettiva, quindi evidenzierò prima alcune linee di azione e poi fornirò un suggerimento personale.

(1) Rifiuto per il fatto che il lavoro non è etico: un revisore ha il diritto morale di farlo. Ovviamente, se non esiste una legislazione o un precedente di supporto, questo può diventare abbastanza soggettivo e il revisore dovrebbe essere preparato a confutare.

(2) Rifiuto per motivi accademici: l'approccio sarebbe quello di sottolineare che il gli autori non hanno svolto un lavoro rigoroso poiché non si sono soffermati sulle possibili conseguenze di tale tecnologia, e questa è una parte importante dello sviluppo tecnologico.

(3) Rivedi il documento su meriti puramente accademici, ma nella recensione, comunica esplicitamente all'editore che questo lavoro potrebbe avere conseguenze negative non intenzionali e la tua recensione non le considera.

(4) Esamina la rivista e vedi se pubblica articoli che sono (nel parere del revisore) problematico. In tal caso, ritirati dalla revisione E sensibilizzare pubblicamente su questa rivista attraverso i media, le reti accademiche e così via. (Scrivi anche al diario, poiché questa è una corteggiamento atteso.) Senza la seconda azione, la prima è sterile e quasi sfugge alla responsabilità.

Sì, nessuna delle opzioni è facile e coinvolgono invitando contraccolpi o portando senso di colpa. Bisogna prendere una decisione basata sulla propria forza d'animo e sulla voglia di critiche. Personalmente non posso raccomandare di prendere una via d'uscita più morbida, quindi la mia raccomandazione sarebbe (3) o (4) a seconda di quanto ci si sente fortemente riguardo al problema.

MODIFICA:

Seguendo un suggerimento nei commenti, può valere la pena differenziare lo sfondo di (3) e (4).

In (3), dove si trasmettono le proprie apprensioni tramite una comunicazione privata all'editore, il peso morale è posto direttamente sull'editore / giornale. Il revisore ha svolto un compito puramente accademico e si accontenta di comunicare privatamente le apprensioni. Potrebbero esserci delle buone ragioni per adottare questa posizione: fidarsi del nucleo etico / morale dell'editor / rivista, credendo che questa zona grigia debba essere trattata all'interno dei confini professionali e non pubblicamente.

In (4) , non ci si assolve da alcuna responsabilità morale e si sceglie di affrontare personalmente le questioni etiche. Ciò significa accettare la responsabilità non solo per il contraccolpo, ma anche per la diffusione del messaggio con successo. È intrinsecamente l'approccio più difficile, ma più responsabile e possibilmente soddisfacente.

Questa è una buona risposta, ma sarebbe migliorata elaborando la differenza tra trasmettere avvertimenti sulla moralità della tecnologia nella recensione stessa rispetto alla corrispondenza privata con il presidente.
Sono d'accordo con @StellaBiderman, questa sembra una risposta buona ed equilibrata.Per quanto riguarda il punto (4) non ho trovato nessun articolo simile pubblicato sulla rivista, quindi scarto questa soluzione.Al momento ho optato per l'opzione (3), scrivendo un paragrafo sulle mie preoccupazioni etiche e una revisione tecnica dettagliata.
Puoi anche ritirarti dal processo di revisione per motivi etici personali.Rifiutare l'articolo per motivi etici spetta alla rivista decidere: non è corretto presentare un rifiuto su quella base se l'editore è altrimenti d'accordo con la pubblicazione del contenuto.Tuttavia, non devi accettare di esaminarlo.
Anche se mi piace la tua presentazione delle linee di condotta, disapprovo la tua raccomandazione.(3) non va bene.
* il revisore dovrebbe essere preparato alla confutazione * Probabilmente non capisco correttamente la parola "confutazione" (non un madrelingua inglese) quindi cosa significa esattamente?Se il revisore dice di no perché etica non c'è nulla che possa costringerlo a fare la revisione.Vuoi dire che l'editore cercherà di spiegare che va tutto bene, vai avanti per favore?
@WoJ in informatica è tipico per gli autori essere in grado di scrivere una risposta ai revisori, presentando una controargomentazione per qualsiasi preoccupazione sollevata e chiarendo i punti di incomprensione.Quindi i revisori aggiornano le loro recensioni in base alla risposta e viene raggiunta una decisione finale.Questa risposta viene definita "confutazione".Nell'inglese comune, una confutazione è un argomento che contrasta l'argomento di qualcun altro.
@StellaBiderman: grazie - Ho pensato che sarebbe stato un messaggio dell '** editore **, ora capisco che è l' ** autore ** che fornisce la loro risposta (questo è - o almeno era quando stavo facendo delle ricerche-lo stesso in fisica).
Allure
2020-03-03 12:13:32 UTC
view on stackexchange narkive permalink

Se ti dà davvero fastidio, ritirati dalla revisione dell'articolo e informa l'editore delle preoccupazioni etiche.

Se rifiuti il ​​documento per qualsiasi motivo diverso da Stai implicitamente imponendo la tua etica agli autori. Affermazioni etiche che hanno perfettamente senso per te potrebbero non avere senso per qualcun altro; il fatto stesso che gli autori abbiano svolto la ricerca indica che non trovano i droni armati autonomi eticamente ripugnanti. Potresti affermare che la tua etica è "migliore" della loro, ma non è certo, e una persona ragionevole potrebbe assumere la posizione opposta. Se non vuoi avere niente a che fare con il documento per motivi etici, rifiuta di esaminarlo e lascia che qualcuno che è meno turbato dall'etica lo riveda.

Detto questo, puoi segnalare il problema alla rivista e assicurati che siano d'accordo con l'etica. È possibile che la rivista concordi con te sul fatto che i droni armati autonomi non sono etici e rifiuterà il documento senza revisione. Se pubblicano comunque, puoi prendere le distanze dalla rivista evitando di recensirli e / o pubblicando con loro in futuro.

* il fatto stesso che gli autori abbiano svolto la ricerca indica che non trovano i droni armati autonomi eticamente ripugnanti *, o hanno messo a tacere la loro coscienza interiore a beneficio dell'interesse del soggetto, dell'estratto conto bancario, dello stato sociale, della pressione dei pari o di una combinazione di altritali ragioni.Non sarebbe la prima volta.
È vero per qualsiasi numero di cose che un numero significativo di persone trova ripugnante.Dal mangiare carne di maiale al pagamento dell'imposta sul reddito.
Mefitico
2020-03-03 03:58:26 UTC
view on stackexchange narkive permalink

TL, DR: dovresti semplicemente ignorare le tue domande morali allo scopo di rivedere questo documento.

Per la divulgazione: lavoro in un campo relativo alla difesa.

In sintesi:

  1. La domanda che potresti proporre è probabilmente molto più complessa e coinvolge disegnare linee di quanto potresti pensare.

  2. Qualsiasi posizione politica che potrebbe essere assunta dal giornale sarebbe altamente discutibile e, inoltre, non spetta a te decidere loro.

  3. È fuori portata avere una discussione etica su ogni documento tecnico di questo tipo. Anche se i codici etici dovrebbero essere conosciuti e rispettati da tutti i professionisti in ogni campo.

  4. Per quanto esistono linee guida etiche stabilite su questo tipo di pubblicazione, nessuna è stata violata secondo alla domanda attuale (come hai indicato te stesso).

  5. Tu come persona ed essere umano, hai la possibilità di rifiutare di rivedere l'articolo. Ma non aspettarti o costringere gli altri a fare lo stesso.

Modalità dettagliata / inveente:

Nonostante questo sia un documento di ingegneria, dovresti pensare alla struttura della scienza in generale. "Scienza" ed "etica" sono cose diverse, che si intersecano all'interno di "azioni". L'articolo non pretende di uccidere persone allo scopo di testare, parla solo di simulazioni, quindi, a causa della mancanza di azioni, la parte scientifica è distinta dalla parte etica qui, quindi nel mio libro non c'è assolutamente alcuna preoccupazione etica qualsiasi cosa a cui un revisore dovrebbe preoccuparsi mentre esamina l'articolo (a parte risultati falsi simulati, rapporti disonesti e altre cose applicabili anche alla matematica pura).

Vedo molte sfide tecniche nel campo delle armi autonome / droni / automobili e così via, e quelli sono campi in cui le persone lavorano attivamente e sviluppano la loro carriera, nel bene e nel male.

Se sei contrario allo sviluppo di armi autonome, questa è una tua posizione politica che (IMHO) non dovrebbe essere approvata da nessuna rivista scientifica come entità. Potresti controllare se la rivista che hai richiesto la tua recensione ha qualche politica correlata, ma dubito che sia così. Quindi, non fa parte del tuo compito di revisione fare affermazioni politiche sui documenti che rivedi.

Dove esattamente tracci il confine? Le armi di uccisione autonome stanno a te, ma per quanto riguarda il riconoscimento facciale AI? Ci sono anche preoccupazioni per lo sviluppo non regolamentato di applicazioni di intelligenza artificiale e persino proposte di divieti temporanei sull'utilizzo di questa tecnologia. Ti aspetti che ogni rivista di intelligenza artificiale interrompa la pubblicazione fino a nuovo avviso? Forse vorresti che cessassero anche tutte le pubblicazioni relative alle prestazioni delle armi perché le armi in generale sono cattive? Ottengo migliaia di risultati dalla ricerca di "efficienza missilistica" su Google Scholar, tutti nelle prime pagine che parlano di ingegneria senza discussioni etiche. Dovrebbero essere rifiutati anche tutti quei documenti?

Ti allevierebbe la coscienza se il "tema" del giornale fosse un po 'più mascherato? Forse non avresti nulla contro un saggio puramente matematico sui metodi Monte-Carlo, ma indovina un po ': risalgono al progetto della bomba atomica. Quando ero uno studente universitario, ho lavorato a un progetto in cui un drone simulato avrebbe scattato foto di un bersaglio. Stranamente, la fotocamera si rompeva sempre dopo aver scattato la prima foto. Mi ci sono voluti alcuni minuti per notare che si intendeva simulare una bomba. Anche se è stata l'unica volta in cui ho visto questo argomento essere trattato senza che persone inconsapevoli fossero un po 'scosse, a quanto pare è stata una mossa di empatia da parte dell'insegnante.

Senza mezzi termini, se il mio articolo (solo tecnico / teorico) fosse negato perché un revisore pensava che "questa tecnologia dovrebbe essere vietata", non vedrei diversamente il fatto che lui / lei dice "la mia religione non è d'accordo con ciò che tu stanno dicendo". Cosa che accadde in passato, le storie raccontano che Napoleone una volta interrogò Laplace sul non dedicare alcuna parola a Dio in uno dei suoi trattati. Ovviamente questo si confonde nei campi delle scienze umane, dove i contenuti di una pubblicazione scadente possono tradursi in cose esplicitamente proibite come incitamento all'odio, parole di combattimento e così via. C'è anche un problema nelle scienze mediche / biologiche in cui qualsiasi pubblicazione decente necessita di risultati empirici (cioè mentre posso simulare un attacco con un drone, non posso simulare un veleno che agisce sul corpo umano). Ma questa domanda non riguarda il merito scientifico dell'articolo.

Inoltre, non chiedere agli autori di includere una discussione etica nel loro articolo. È solo fuori portata, e francamente questo è un campo della scienza delle scienze umane, non un campo dell'ingegneria. Da un lato, sono completamente attrezzato per scrivere e leggere la letteratura scientifica sull'ingegneria delle armi (nei settori in cui lavoro), e ho dovuto seguire un corso di etica durante la scuola universitaria, sono consapevole e aderisco ai codici di etica applicabile alla mia professione, ma sono un completo noob quando si tratta di scienze etico / politiche e legislative a livello di ricerca. Non posso e non devo essere richiesto di rivedere e discutere congiuntamente la letteratura più recente sull'etica delle armi autonome e il loro funzionamento interno tecnico ogni volta che scrivo di algoritmi per armi. Faccio solo quest'ultimo. Si potrebbe fare un'eccezione per l'aggiunta di un testo standard come "Dichiarazione di non responsabilità: questo documento non approva l'omicidio". Ma solo solo gli avvocati si preoccupano del testo standard e immagino che tu non sia un avvocato.

Senti, lavoro in un campo correlato alla difesa e conosco persone che lavorano con alcuni prodotti che potrebbero eventualmente (deliberatamente) uccidere le persone. Davvero, la discussione etica invecchia, potresti passare qualche giorno a decidere se ti va bene, ma una volta che hai finito, la discussione è finita, vai avanti e fai il lavoro o rifiutalo, rivisita i tuoi valori una volta che hai ne hai voglia, ma non tutti i giorni (o su tutti i giornali per l'esempio attuale) e non andare in giro a fare domande ai tuoi colleghi su questo ogni volta che ne hai la possibilità. Non lo sto minimizzando, le aziende che sviluppano tali prodotti dovrebbero e generalmente hanno psicologi per supportare le persone che potrebbero sentirsi a disagio con questa situazione. E chiedono se il potenziale dipendente è d'accordo a lavorare su questo tipo di prodotto, perché questo dovrebbe essere pensato. Ma queste domande giungono a conclusioni e insistere sulla discussione significa semplicemente convincere gli altri ad aderire alla tua visione del mondo.

Mentre alcune persone hanno obiezioni sul lavoro con le armi (in particolare le armi disponibili per i consumatori), e i loro piedi "rifiutandosi di lavorare in questo campo, gli aspetti pratici della vita si impongono in una fiorente industria di" difesa ", poliziotti armati, forze armate e così via. Ci sono solo molti più voti a favore delle armi esistenti e in via di sviluppo che altrimenti, piaccia o no, d'accordo o no. E tanto più la domanda per una maggiore produzione e sviluppo di armi.

I commenti non sono per discussioni estese;questa conversazione è stata [spostata in chat] (https://chat.stackexchange.com/rooms/105144/discussion-on-answer-by-mefitico-ethical-concerns-regarding-the-review-of-a-pape).
Gli accademici devono concentrarsi sulle azioni e sui risultati per questo genere di cose.Sicuramente non è una cosa chiara
"... è stata una mossa empatica ..." Trovo divertenti questi eufemismi sottilmente velati.Viene da chiedersi se l'insegnante stia insultando l'intelligenza degli studenti che potrebbero aver avuto preoccupazioni etiche sul progetto.Qualcosa sulla falsariga di "o sei un vero patriota o sei stupido".Un altro di questi è la categoria `` difesa '' di campo, compagnia, ecc.Che implica che le armi siano destinate esclusivamente alla difesa della nazione, e quindi eticamente accettabili, quando in realtà sono molto più probabili essere utilizzate per assalti.altre nazioni sovrane.
Ho votato contro questa risposta, perché ritengo che sostenga che gli accademici non dovrebbero occuparsi di etica, un punto di vista con cui sono in forte disaccordo.
L'etica dovrebbe essere la base di qualsiasi attività umana.Il pragmatismo e l '"oggettivismo" nella scienza è una minaccia per l'umanità.
Trovo controverso che qualcuno che beneficia direttamente dell'industria delle armi consigli a un accademico di ignorare le loro domande sul morale e di continuare a rivedere un articolo.Si noti che un accademico non viene compensato finanziariamente per questa recensione, il che almeno dà loro piena libertà di seguire la propria bussola morale.
@DmitrySavostyanov: Ho consigliato di rifiutare la revisione del documento, lasciando cadere le domande morali è per il caso in cui il revisore insiste nel rivedere.Tieni inoltre presente che non hai completamente ragione nel dire che gli accademici non sono compensati finanziariamente per le recensioni [vedi le risposte in questa domanda] (https://academia.stackexchange.com/questions/68191/why-dont-researchers-request-payment-per arbitraggio).
@DmitrySavostyanov Un altro fatto della vita è che non puoi sempre vivere e fare affari / ricerche completamente esenti da conflitti di interesse, e mentre le conseguenze del conflitto di interessi devono essere tenute sotto controllo, anche la censura delle opinioni delle parti interessate è praticamente immorale(e spesso controproducente).
Apprezzo i tuoi commenti e pensieri.Anch'io ho lottato con i concetti del mio lavoro.Non li superi e potresti diventare desensibilizzato, ma vedere la morte e la distruzione visitate non è diverso.Traccerei anche paralleli con l'utilizzo di squadre di cecchini per gli obiettivi.Loro stessi hanno scelto quando e dove.Le storie raccontate nei libri hanno lasciato un ricordo: di una squadra che guardava un ragazzo pranzare e quando ha finito gli hanno sparato alla testa.Questo è un obiettivo complesso e la nostra moralità e le nostre leggi non hanno raggiunto ciò che è possibile.
Il fatto che tu possa trovare difficile tracciare una linea non significa che una linea non possa essere tracciata.
@henning--reinstateMonica e * anche se * non è possibile tracciare una linea, ciò non significa che non dovresti agire nel caso in cui ritieni che il problema sia lontano dal confine potenzialmente sfocato.La lunghezza della costa dipende dalla scala che usi per misurarla, ma so che è più lunga del mio piede.
@llama esattamente, questo è chiamato errore di pendenza scivolosa."Se vietiamo l'omicidio, finiamo per vietare le auto, perché le persone muoiono nel traffico".
gerrit
2020-03-03 20:18:44 UTC
view on stackexchange narkive permalink

Potresti pensare troppo a questo. Un revisore non accetta o rifiuta un articolo. Un revisore consiglia all'editore di accettare o rifiutare un articolo.

Se ritieni che il giornale non dovrebbe voler essere coinvolto nella ricerca sulle armi, consiglia il rifiuto in base a motivi morali. Se l'editore ritiene che i motivi morali non debbano essere presi in considerazione o crede che la ricerca sulle armi sia etica, potrebbe ignorare la tua raccomandazione.

La decisione difficile qui spetta agli editori¹, non ai revisori.


¹Raccogliere esempi più estremi di ricerca che non ha danneggiato direttamente nessuno nella metodologia ma ha ancora implicazioni fortemente non etiche è l eft un esercizio per il lettore. sup>

Ciò darebbe motivo ai revisori religiosi di raccomandare il rifiuto di articoli contrari alla loro teologia.Non credo che un revisore dovrebbe mai fare una raccomandazione su qualcosa di diverso dal contenuto scientifico di un articolo.
@Persistence Se un revisore ritiene che una rivista non dovrebbe voler essere coinvolta nella ricerca sull'aborto, allora è suo diritto raccomandarlo.Gli editori molto probabilmente non saranno d'accordo e probabilmente non chiederanno più a questa persona come revisore.Nessun danno fatto.Penso che "questa ricerca è etica?"è una domanda pertinente da considerare per i revisori, la nota a piè di pagina nella mia risposta contiene un collegamento su in quale direzione sto pensando quando portato al suo estremo.
D'accordo con gerrit.C'è un continuum multidimensionale della morale.Questo esempio è sicuramente in un'area grigia in cui le persone ragionevoli potrebbero non essere d'accordo, come mostrano le risposte.Ma per un singolo revisore, il bianco o il nero possono essere scelte facili.Gli editori sono quelli che devono affrontare il difficile compito di conciliare più input.
einpoklum
2020-03-03 03:24:37 UTC
view on stackexchange narkive permalink

tl; dr: mostra la spina dorsale e rifiuta il documento.

@Applied Academic ha presentato quattro linee di azione nella loro risposta; Mi riferisco a quelli e potresti leggerlo prima (ma non devi).

Il mio consiglio è:

  • Inizia con (4): Controlla se il diario è un luogo problematico. Potresti aver commesso un errore se ti sei associato a un diario che occasionalmente legittima gli omicidi e la polizia letale militarizzata usando i droni, o altre attività simili.
  • Se è un diario problematico, segui semplicemente ( 4).
  • Se la rivista raramente, o mai, pubblica un lavoro del genere: Do (1). Cioè, rifiutare il documento dovrebbe essere respinto per motivi etici. Il fatto che ci siano linee guida etiche e divieti accettati significa che hai abbastanza terreno per sostenere che tale ricerca non dovrebbe essere condonata, legittimata e divulgata tramite la rivista. Prova a sostenere la tua argomentazione sia su un principio generale, sia - se hai informazioni credibili sulla ricerca specifica che stai esaminando - esempi di abuso della tecnologia dei droni da parte degli autori, del loro istituto, dei loro finanziatori o del loro governo. Sfortunatamente, tali esempi abbondano nel nostro mondo oggi.

Sono contrario all'opzione option (2), perché lamentarsi della mancanza di una "sezione etica" suggerisce implicitamente che il documento nel complesso è vicino a essere legittimo. Sono anche contrario all'opzione (3), perché questo significa che hai "superato il dollaro" - hai fatto la tua parte nel far pubblicare quel documento e ora speri che l'editore abbia più spina dorsale di te. È dubbio che lo faranno, dopo aver visto che lo hai accettato.

Nota: @DanRomik sottolinea in un commento che un revisore non rifiuta o accetta effettivamente un articolo, ma piuttosto raccomanda l'accettazione o il rifiuto. Vale la pena ricordarlo anche se noi (e questa risposta) usiamo i termini "rifiuta" o "accetta".

Rifiutare un articolo sulla base di considerazioni etiche di questo tipo non è di per sé etico.
@puppetsock: 1. Con quale standard etico?2. Quella rivista già presumibilmente applica considerazioni etiche, secondo OP.
Ha senso chiarire che i revisori non rifiutano i documenti, ma raccomandano solo il rifiuto.E se la raccomandazione si basa su un motivo che l'editore trova irrilevante per l'attività che ha chiesto al revisore di eseguire, invierà semplicemente l'articolo a un altro revisore.Quindi, a meno che tu non stia suggerendo a OP di _lie_ e rifiutare il documento sulla base di basi tecniche fittizie e inventate, questo rifiuto simbolico di protesta non è diverso dal semplicemente ritirarsi dalla revisione.
@DanRomik: 1. Punto preso su chi effettua la chiamata finale (sebbene a volte sia una formula meccanica delle chiamate dei revisori).2. "A meno che tu non stia suggerendo a OP di mentire" <- Ho suggerito qualcosa del genere?No;allora perché fare una simile allusione?3. È completamente diverso.Un rifiuto etico porta con sé la minaccia di ulteriori azioni (pubbliche) se non viene accolto dall'editore.
@einpoklum ha capito, grazie.Sì, sia il tuo suggerimento che la spiegazione mi sembrano ragionevoli.
Ho problemi con "show backbone".Questa è una cosa aggressiva e offensiva da dire, poiché stai insinuando che se OP sceglie una modalità di azione alternativa, allora manca la spina dorsale (e così chiunque altro legga la tua risposta che non è d'accordo sul fatto che questa sia la cosa migliore da fare).Ti suggerisco anche di "mostrare un po 'di spina dorsale" e modificare la tua risposta ... ;-)
@DanRomik: L'implicazione è presente per OP, ma non per altri lettori.OP ha indicato di avere problemi etici con il giornale, ma esita ad agire di conseguenza.Quindi sì, penso che se lascia che quelle che credo siano scuse gli impediscono di recitare, mostrerà mancanza di spina dorsale.Spero che OP apprezzerà questo tipo di posizione enfatica.
@DanRomik è la prima volta che sento quella frase interpretata come "aggressiva" o "offensiva".
Scott Seidman
2020-03-03 20:17:35 UTC
view on stackexchange narkive permalink

Hai una serie di scelte praticabili, ovviamente. La mia inclinazione personale è che se scegli di raccomandare di rifiutare il documento in base all'etica dei droni armati, lo fai, dichiara questa opinione nella recensione e scendi dal palco, astenendoti dal riesaminare su questioni scientifiche.

In questo modo viene annotata la tua obiezione, non ti sei reso parte della cattiva situazione etica e offri all'editore l'opportunità di seguire la raccomandazione o chiedere un'ulteriore revisione.

L'altro estremo è consiglia di abbassare la carta, non dicendo che è per motivi etici e di cercare una giustificazione scientifica per la tua raccomandazione. Personalmente prenderei in considerazione questo sabotaggio scientifico e quindi lo sconsiglio.

La via di mezzo è affermare la tua convinzione, ma offrire un'equa revisione scientifica. Credo che sia difficile da fare e metta in discussione la tua recensione. Mi asterrei dal farlo.

Personalmente, se avessi questa particolare convinzione morale, mi limiterei a contattare l'editore e rifiuterei di rivedere l'articolo, spiegando perché.

Le industrie della difesa hanno guidato un sacco di tecnologia. C'è chi promuove questo sforzo. Posso capire il rifiuto di farne parte, ma traccia la mia linea personale quando si tratta di sabotare il campo con recensioni menzognere. Ci sono modi per far sì che le tue convinzioni arrivino ben prima di questo: rifiutare la revisione, scrivere una lettera all'editore per la pubblicazione, lavorare sulla leadership delle organizzazioni professionali per porre fine alla politica di pubblicazione di tali cose, raccomandare al tuo bibliotecario di interrompere gli abbonamenti, ecc.

cbeleites unhappy with SX
2020-03-04 01:58:48 UTC
view on stackexchange narkive permalink

Riepilogo: le preoccupazioni etiche sono graduali.

  1. Alcuni sono sufficientemente standardizzati nel mondo accademico (o anche in generale) che la violazione di questi standard significa che il documento dovrebbe essere respinto per motivi etici.

  2. Altre preoccupazioni etiche sono più personali, nel senso che un revisore può considerarle personalmente, ma non sono così ampiamente condivise / standardizzate che gli autori dovrebbero essere ritenuti responsabili nei loro confronti.
    L'OP dovrebbe IMHO tollerare che altri possano avere un punto di vista diverso per queste preoccupazioni (2.).

    Tuttavia, le preoccupazioni etiche personali generali (2.) spesso includono preoccupazioni etiche che sono ampiamente accettate ( 1.) ma su un ambito più ristretto. Anche questi sono in argomento per la revisione dell'articolo.


Suggerirei di analizzare ulteriormente i punti (non) etici.

Non ho mai avuto a che fare con le armi ricerca, ma nel mio campo gli esperimenti sugli animali sono rilevanti, quindi li userò come un esempio per il quale ho considerato la mia etica personale, e per il quale ho incontrato anche considerazioni etiche di altre persone.

Ecco il mio punto di vista:

  • Il punto non etico è qualcosa che è "universalmente" * concordato come non etico dal mondo accademico o anche il grande pubblico? In altre parole, esiste un consenso mainstream attuale che afferma che i requisiti etici formali non etici e forse anche standardizzati vengono violati? In tal caso, rifiutare per motivi etici.

    Esempi potrebbero essere il plagio, la presentazione di risultati o osservazioni falsi o un progetto di studio considerato non etico dalle regole su cui lavorano i comitati etici (se c'è una variazione locale rilevante, giudicherei in base alle regole locali in cui gli autori sono).

    * Sto cercando un livello di accordo più forte / più ampio di "i miei amici professionisti sono d'accordo con me" e anche più forte di "la mia comunità / società locale" o "la mia religione dice": ad es. il mio paese ha leggi più severe (che prendo come surrogate degli accordi etici) sugli esperimenti sugli esseri umani rispetto ad altri paesi. Ma queste differenze non significano che l'altra società pensa che causare danni agli esseri umani sia eticamente corretto, le differenze derivano dalle sfumature nel punto esatto in cui viene tracciata la linea, dalla sofferenza che si ritiene possa causare una particolare procedura, quanta sofferenza si ritiene sopportabile e quanta sofferenza si considera degna di essere vissuta. Quindi ci possono essere alcuni casi in cui il giudizio è diverso, ma in molti casi il giudizio etico sarà d'accordo. Ed è quello che cerco qui: un "consenso mainstream attuale" (grazie @ObscureOwl) attraverso continenti, paesi, religioni, ....

    (non credo si possa affermare che ogni una singola persona è d'accordo su un dato punto etico, ma chiedere un accordo così assoluto è inutile per lo scopo pratico qui poiché non potrebbe essere usato per determinare se le azioni di qualcuno sono immorali: non appena sarebbero in disaccordo, l'accordo richiesto non potrebbe essere raggiunto.)

  • Ma potrei avere obiezioni etiche che derivano dalla mia visione del mondo / filosofia / religione / ... e dove direi mentre va benissimo obiettare personalmente, ma qui io (OP) devo tollerare che altre persone abbiano altri punti di vista. Qui,

    • un rifiuto come sopra non è possibile. Sarebbe un abuso di potere per un revisore imporre la propria opinione personale agli autori e quindi non etico.

    • Potrei dire "Non sarò associato in alcun modo a tali ricerche" e rifiutare di essere un revisore.
      Sfortunatamente, questo non farà il minimo in termini di diminuzione della ricerca non etica.

    • A volte, scavare un po 'più a fondo nel perché esattamente ti opponi a questa ricerca può aiutare ad arrivare a una soluzione più costruttiva in quanto faccio la revisione e in modo equo e pertinente le mie preoccupazioni sono state ascoltate.

    Le preoccupazioni personali generali che sono espresse a un livello più dettagliato possono tradursi in preoccupazioni etiche che sono universalmente concordate (su un ambito più ristretto rispetto alla preoccupazione più generale) o talvolta anche a punti scientificamente rilevanti.


Esempio dalla ricerca medica

Una volta ho ricevuto un articolo per la revisione in cui più di 100 roditori erano stati usati e uccisi per la ricerca. Il documento riportava una corretta approvazione etica e una corretta gestione (finora soddisfaceva i requisiti etici universalmente concordati). Avevano studiato un sacco di condizioni diverse.
Le molte condizioni diverse significavano che i supgruppi nell'esperimento avevano solo pochissimi animali. Anche se a prima vista può essere positivo non far soffrire più animali, significava davvero che l'intero studio era inutile perché non si potevano trarre conclusioni affidabili. Questo avrebbe potuto essere conosciuto in anticipo.

Quindi, abbiamo

  • le preoccupazioni scientifiche di una non corretta pianificazione delle dimensioni del campione, che porta
  • i risultati dello studio ad essere troppo incerti per essere di qualsiasi valore scientifico e questo porta anche a
  • la preoccupazione etica universalmente concordata che una sofferenza inutile fosse causata agli animali.

In altri parole, validi motivi per raccomandare di rifiutare lo studio.


Applicazione al documento in questione

Un'ovvia differenza tra questo esempio e i bracci automatizzati è che le preoccupazioni per la ricerca sugli animali riguardano ciò che è già stato fatto, mentre immagino che le tue preoccupazioni sulle armi automatizzate riguardino più le future conseguenze nella vita reale.

Considerando come un esperimento mentale che è accettabile per te pensare a preoccupazioni più specialistiche come il fatto che la tecnologia proposta rappresenta un pericolo per i civili.

Anche se come dici tu un divieto di armi automatizzate non è (ancora) universalmente concordato, AFAIK è universalmente accettato che i civili non dovrebbero essere messi in pericolo inutile o inutilmente alto.

Partendo da questa preoccupazione etica più ristretta ma universale, sospetto dalla tua descrizione che ci possano essere diversi problemi scientifici e ingegneristici correlati con l'articolo. Che sono gravi a causa delle preoccupazioni etiche dietro di loro.

Le prestazioni dell'algoritmo vengono valutate in base al numero di volte in cui il drone simulato ha colpito autonomamente il bersaglio.

Qualsiasi figura di merito di questo tipo può al massimo essere parte della verifica e validazione dell'algoritmo.

La valorizzazione deve includere la stima e la segnalazione del rischio ai civili: se non sappiamo se l'algoritmo porta a un pericolo inutile per i civili, non possiamo considerarlo adatto allo scopo.

Personalmente, sospetto che inoltre qui ci sia un compromesso in quanto colpire più bersagli potrebbe benissimo avere il prezzo di colpire anche più civili. Se ciò è possibile, una funzione di punteggio che non penalizza il colpire i civili potrebbe essere considerata intrinsecamente inadatta anche per scopi di sviluppo.

Trovo spesso procedure di convalida imperfette in documenti con argomenti molto meno pericolosi. Se l'argomento non è troppo importante e lo sforzo sperimentale per eseguire una corretta convalida ora è sproporzionato, spesso sto bene se le limitazioni risultanti vengono discusse onestamente.

Il manoscritto nelle domande non sembra nemmeno soddisfare questo requisito molto più debole:

Gli autori non discutono mai le possibili preoccupazioni etiche di questa tecnologia,

(E con un argomento così critico tenderei a insistere sulla corretta convalida.)


né dicono esplicitamente se questa tecnologia verrà utilizzata su droni reali

... questo potrebbero non saperlo.

Etica universalmente concordata?C'è mai stata una cosa del genere?
Penso che "universalmente accettato" sia una scelta sbagliata di parole.Forse qualcosa come "attuale consenso mainstream"?Ma penso che questa risposta sia un buon punto: alcune etiche sono sufficientemente "standardizzate" e formalmente catturate in una politica che puoi ** rifiutare ** un documento basato su di esse.In questo caso, il consenso accademico sembra andare nella direzione del divieto delle LEGGI, ma non è (ancora) successo.
Quindi puoi ancora rifiutarti di rivedere il documento per i tuoi motivi etici personali.La rivista può quindi cercare un revisore diverso, se lo desidera.Ma assumendo una posizione del genere sposti un po 'la discussione etica generale nella direzione di non supportare più la ricerca di LAW.
@Bex: ho aggiunto un chiarimento su cosa intendo con "universale".
@ObscureOwl: grazie per il suggerimento - mi piace (anche se principalmente ho mantenuto universale in quanto è più breve).Ho anche aggiunto un chiarimento più lungo su cosa intendo, che penso sia ancora necessario con il mainstream per assicurarmi che il mainstream non sia solo il mainstream locale nel gruppo di pari più stretto di OP.
E ovviamente rifiutarsi di recensire è un'opzione valida.Ma al massimo dirà all'editore che c'è un altro revisore con preoccupazioni etiche (se il modulo di rifiuto presenta la possibilità di dare una ragione e che è effettivamente letto).Gli autori non lo sapranno mai a causa dell'accecamento, e sarebbe ancora più importante che gli autori venissero a conoscenza delle preoccupazioni piuttosto che l'editore venisse a conoscenza delle preoccupazioni - dopotutto, sono gli autori che conducono la ricerca a cui l'OP si oppone.
puppetsock
2020-03-02 20:48:04 UTC
view on stackexchange narkive permalink

Nel contesto della revisione di un articolo per la pubblicazione, non è compito tuo salvare il mondo. Stabilire un dialogo con gli autori significherebbe porsi come arbitro delle azioni di un gruppo di persone. L'editore della rivista dovrebbe, giustamente, rifiutare un tale piano come parte della revisione di un articolo. Sebbene sia possibile che un tale programma possa essere accettabile al di fuori del contesto di una revisione di un articolo, la rivista non è affatto obbligata a seguire un tale piano.

Fondamentalmente hai due scelte. Puoi ritirarti dalla revisione. Oppure puoi fornire una revisione obiettiva dell'articolo in base al contenuto e alle politiche di pubblicazione della rivista.

Se la rivista in questione pubblica regolarmente tali informazioni e non puoi accettare elementi come morali o etici, quindi dovresti informarli, immediatamente, che non dovresti essere preso in considerazione per la revisione di tali articoli.

La cura per la parola con cui non sei d'accordo è più discorso. Se pensi che il lavoro in questo articolo non avrebbe dovuto essere svolto, dovresti pubblicare il tuo lavoro spiegandone il motivo. Ci saranno punti vendita per le tue posizioni e argomenti. Se sono argomenti validi basati su ragionamenti solidi e dati validi, saranno accettati.

Non ho sottovalutato la tua risposta.Tuttavia, penso che alcuni dei ragionamenti alla base della tua risposta rimangano nascosti dietro l '"obiettivo" del mondo.Molti saranno d'accordo sul fatto che l'articolo debba essere valutato oggettivamente, ma pochi possono essere d'accordo su cosa significhi veramente.La tua risposta implica che è ovvio che l'etica e la moralità sono considerazioni soggettive, non scientifiche, sociologiche e non dovrebbero far parte del processo di revisione.Puoi approfondire quelli che, a tuo avviso, sono criteri puramente oggettivi?Sono novità, significato, chiarezza o ampio interesse?
L'ho fatto."... in base al contenuto e alle politiche di pubblicazione della rivista."
"La cura per la parola con cui non sei d'accordo è più parlare."Pensi davvero che il problema qui sia * la parola *?Il motivo per cui potrei obiettare che qualcuno vada in giro a insegnare alla gente come costruire armi non ha nulla a che fare con la libertà di parola e ha tutto a che fare con il fatto che le persone possono prendere quella conoscenza e costruire armi con essa.Qui il collegamento è ancora più diretto: la ricerca in questione è stata molto probabilmente finanziata con lo specifico intento di sviluppare e utilizzare tali armi.Inoltre, come i commenti di AA, i tuoi argomenti possono essere facilmente adattati a quelli che si oppongono agli IRB.Ti opponi agli IRB?
"... in base al contenuto e alle politiche di pubblicazione della rivista."Ti sto chiedendo cosa rende alcuni criteri accettabili da considerare e altri no.Non è molto soddisfacente dire che seguiremo ciecamente i criteri della rivista.Gli editori accademici esistono per diffondere ricerche che gli accademici giudicano importanti, non il contrario.
@StellaBiderman "Speech" è l'argomento della revisione di un articolo di giornale.
Leggi letteralmente, non c'è niente in questa risposta con cui non sono d'accordo.Ma implicitamente, suggerisce fortemente che "una revisione oggettiva dell'articolo basata sul contenuto e le politiche di pubblicazione della rivista" è incompatibile con l'idea di sollevare preoccupazioni etiche nella revisione - che è molto discutibilmente una falsa dicotomia, poiché la maggior partei settori con un impatto etico significativo considerano tale etica una parte importante della loro integrità scientifica.Se il rispondente non intendeva questa implicazione, suggerisco di chiarirlo;se lo intendevano, suggerisco di giustificarlo esplicitamente.
Non ho mai voluto "salvare il mondo", voglio solo fare la mia parte del lavoro.Chiudere gli occhi di fronte a un problema non è la soluzione.Il fatto che una rivista non abbia una politica per questo tipo di articoli non significa che i revisori non debbano sottolineare le proprie preoccupazioni.Le politiche non sono immutabili, possono essere adattate quando si raccolgono nuovi problemi o nuovi punti di vista.Detto questo, al momento sono propenso a scrivere una recensione tecnica imparziale dell'articolo, presentando le mie preoccupazioni etiche sia all'editore che agli autori.
@richard * "Molti saranno d'accordo sul fatto che l'articolo debba essere valutato oggettivamente, ma pochi possono essere d'accordo su cosa significhi veramente." * Gli standard con cui la rivista ha chiesto la revisione dei documenti?
Paragonare il non partecipare a una recensione e il "chiudere gli occhi" è parte del problema qui.Non ho mai detto che dovevi ignorare la questione etica.Anzi, ho suggerito come affrontarlo.Ma non dovresti farlo come revisore di articoli di riviste.
Persistence
2020-03-04 22:12:30 UTC
view on stackexchange narkive permalink

Per me, la risposta è abbastanza semplice.

La questione in esame non è considerata immorale da una netta maggioranza della comunità scientifica (se lo fosse ci sarebbero delle regole contro di essa). Di conseguenza, indipendentemente dal fatto che tu lo consideri non etico è di scarsa rilevanza, le tue opinioni non dovrebbero influire sulla capacità della macchina scientifica di fare progressi.

Quindi le tue scelte sono ritirate e non fare raccomandazioni su ciò che accade al documento o per rivedere il documento nel suo merito e lasciare le discussioni sull'etica al loro forum appropriato che non è il processo di revisione.

Grazie per la tua opinione.La tua ipotesi ha un errore logico, il fatto che non ci siano regole contro uno specifico pezzo di tecnologia non implica che la maggioranza della comunità scientifica lo consideri etico.Sono parzialmente d'accordo con te per quanto riguarda la seconda parte della risposta.
Per essere chiari, non ho detto che sia considerato etico dalla maggioranza della comunità scientifica, ho detto che non è considerato non etico da una netta maggioranza ... C'è una sottile differenza lì.Immagino che la maggior parte delle persone (me compreso) sia attualmente indifferente al problema.La comunità non è certo unita contro la ricerca è il mio punto.
Grazie per il chiarimento, tuttavia l'errore nell'ipotesi rimane ancora anche con la riformulazione.Un modo possibile per conoscere la posizione della comunità di ricerca sarebbe un'indagine su larga scala, questo non può essere dedotto dal fatto che non ci sono regole contro qualcosa.Concordo con te sul fatto che le posizioni etiche non dovrebbero influenzare il rifiuto / l'accettazione di un articolo (ovviamente solo nel caso in cui tali preoccupazioni non fanno parte delle linee guida ufficiali).
No, non sono ancora d'accordo ... Il fatto che non ci siano regole contro di essa è la prova in sé che non c'è consenso contro di essa.Altrimenti ci sarebbe una moratoria.
@Persistence Non esiste una regola per iniziare a cantare ad alta voce canzoni rap quando ci si incontra per una serata di giochi da tavolo, ma in quasi tutti i casi posso immaginare che la maggior parte dei partecipanti non sarebbe particolarmente simpatica.L'unica cosa che puoi dedurre dall'inesistenza di una regola è che le persone non hanno ancora stabilito la regola.Dall'esistenza di una regola si può dedurre che c'era abbastanza supporto per introdurre la regola (che non significa necessariamente maggioranza a seconda del contesto).Ma tutto sommato questa è una logica strada a senso unico.
@Persistence btw.qualcosa può benissimo essere immorale quando è sostenuto dalla maggioranza.I genocidi in generale non sono etici, ma la maggior parte del paese in cui si verificano spesso è favorevole o neutrale nei loro confronti.In generale, il mondo accademico è per molti aspetti una sottocultura relativamente non regolamentata, con regole relativamente poche e decisioni ad hoc.Più alta è la fiducia nell'etica personale e più ragioni per essere chiari su di loro.
Carl Christian
2020-03-05 04:23:12 UTC
view on stackexchange narkive permalink

Vorrei rivedere l'articolo e sottolineare che i limiti molto pratici del lavoro non sono chiaramente indicati.

L'obiettivo finale di questa ricerca è chiaramente quello di costruire un sistema d'arma autonomo che può funzionare sul campo di battaglia. Ora, tutta la guerra è soggetta alla legge. Ciò include il principio di proporzionalità. Il principio di proporzionalità consente danni collaterali e vittime civili purché tali perdite non siano eccessive rispetto al vantaggio militare diretto derivante dall'attacco.

È chiaro che gli autori non hanno considerato il principio di proporzionalità, perché il loro algoritmo di punteggio non considera il valore dell'obiettivo militare e non ha il concetto di danno collaterale o di perdita di vite umane. Ne consegue che qualsiasi sistema d'arma autonomo controllato utilizzando il loro algoritmo avrà un alto potenziale di violare le leggi di guerra. Pertanto, la loro ricerca ha un valore pratico limitato e come studiosi sono obbligati a dichiarare chiaramente tali limitazioni.

Se ti fai da parte, non c'è alcuna garanzia che queste limitazioni molto pratiche vengano menzionate. Ancora più importante, ai lettori non verranno ricordate le leggi di guerra.

In questo articolo c'è un buon riassunto dei principi legali della guerra. L'obiettivo principale è il principio di proporzionalità.



Questa domanda e risposta è stata tradotta automaticamente dalla lingua inglese. Il contenuto originale è disponibile su stackexchange, che ringraziamo per la licenza cc by-sa 4.0 con cui è distribuito.
Loading...