fbpx L’incertezza di un sistema senza valutazione del merito | Scienza in rete

L’incertezza di un sistema senza valutazione del merito

Primary tabs

Tempo di lettura: 5 mins

La nuova procedura di abilitazione per aspiranti ordinari e associati dell’ANVUR, l’Agenzia Nazionale di Valutazione del settore Universita’ e Ricerca, contiene il primo esempio di valutazione meritocratica su larga scala nel settore. Specialmente negli ambiti che possono beneficiarsi di indicatori bibliometrici, come quello biomedico di cui faccio parte, e’ indubbio che ciò sia un miglioramento quantico rispetto al passato (si veda il recente contributo al riguardo di Alberto Mantovani su Scienza in Rete). Nonostante ciò, il diavolo, come al solito, sta nei dettagli. Questi rivelano come il sistema di monitoraggio oggettivo scelto “collettivizzi” il merito, falsando la prima valutazione in assoluto del sistema esistente e futuro. Per capire che cosa intenda, e’ utile spiegare nel dettaglio come sara’ attuata la valutazione per merito, discuterne pregi e difetti e infine analizzare i dati che ne derivano. 

I parametri presi in considerazione dall’ANVUR includono il numero di pubblicazioni dei candidati su riviste scientifiche nei dieci anni precedenti alla richiesta di abilitazione, le citazioni medie ottenute all’anno, calcolate considerando tutte le pubblicazioni, e l’h-index contemporaneo che, piu’ o meno, comprende qualitativamente i primi due (per la formula di calcolo si veda Sidiropoulos A. et al., Scientometrics 2007). L’ANVUR specifica che tali parametri non saranno vincolanti, e che le commissioni di selezione chiamate a decidere chi abilitare sulla base di questo sistema, avranno libertà di considerare l’intero curriculum dei candidati. Nonostante cio’, vengono indicate come soglie non vincolanti le medie ottenute valutando con lo stesso sistema la popolazione attuale di associati e ordinari (I migliori dei quali faranno parte delle commissioni di selezione). In essenza, il pregio di questo sistema e’ che permette di fotografare la produttivita’ scientifica ad oggi esistente all’interno del sistema universita’ e ricerca e confrontarla alla pari con quella di chi chiede di entrarci. Inoltre, selezionando candidati sopra media, si contribuisce a innalzarla nel tempo e, con essa, la qualità del settore. 

Uno dei difetti e’ che purtroppo nella valutazione oggettiva per pubblicazioni non si tiene conto in nessun modo del contributo relativo dell’autore nella pubblicazione. Ad esempio, un articolo con vari autori citato un certo numero di volte ha per ANVUR lo stesso peso sia che chi contribuisce sia primo, ultimo autore o altro. Anche se per alcuni settori potrebbe non essere cosi’, nel settore biomedico la differenza tra pubblicare tanto come primo o ultimo autore rispetto ad altre posizioni e’ enorme. Tipicamente, tante pubblicazioni come primo autore identificano colui che ha condotto con successo la maggior parte sperimentale in molti progetti, idealmente un perfetto aspirante associato. Tante pubblicazioni come ultimo denotano chi ha molte volte agito come responsabile scientifico dello studio, un solido potenziale ordinario. Nelle altre posizioni i contributi sono variabili, spesso frutto di collaborazioni, e in genere meno importanti. L’uso della posizione degli autori come criterio di discriminazione e’ relativamente standard, ed e’ infatti attualmente usato insieme ad altri parametri anche in Italia da associazioni come l’Associazione Italiana Ricerca sul Cancro (AIRC) per la selezione meritocratica di progetti scientifici da finanziare. La cecita’ dell’ANVUR a questo parametro premia in modo abnorme le collaborazioni, collettivizzando il merito a discapito dell’efficacia della valutazione meritocratica. Senza adeguata correzione, c’e da aspettarsi che il nuovo sistema fornisca un’immagine un po’ troppo sfuocata della produttivita’ del sistema universita’ e ricerca. 

Nonostante la miopia, sempre della prima immagine si tratta e, le medie di associati e ordinari esistenti forniscono gia’ una prima indicazione ad oggi della qualita’ comparto. (vedi tabelle ANVUR 1 e 2). Consideriamo il settore della biologia molecolare o della genetica di cui faccio parte, uno di quelli che maggiormente dipende dalle pubblicazioni. Qui l’associato medio ha pubblicato attorno a 18 articoli negli ultimi 10 anni di carriera, che sono stati citati un totale di 345 volte, cioe’ in media 19 volte per articolo, se consideriamo una ipotetica carriera di 10 anni. Anche se e’ qui che la suddetta miopia complica la valutazione, si tratta di un buon valore per numero di articoli, ma un valore piuttosto basso per le citazioni per articolo, anche considerando che non si escludono le autocitazioni. L’accoppiata alto numero di pubblicazioni - basso numero di citazioni si ottiene solitamente pubblicando lavori su riviste scientifiche poco lette (a questo proposito e’ interessante leggere la polemica su cosa l’ANVUR consideri rivista scientifica nei settori dove e’ piu’ difficile usare strumenti bibliometrici - 1  e 2). La strada da percorrere da qui all’eccellenza si puo’ misurare confrontando le nostre medie ai dati che si ottengono valutando con gli stessi parametri, un ricercatore con approssimativamente 10 anni di carriera in un contesto di eccellenza in USA, Germania, UK o Francia: Roberto Zoncu a Yale (USA): 21 articoli negli ultimi 10 anni citati in media 74 volte per articolo; Federico Calegari da all’ CRT di Dresda (Germania): 23 articoli negli ultimi 10 anni citati in media 56 volte per articolo; Eugenia Piddini al Gurdon Institute di Cambridge (UK) 10 articoli negli ultimi 10 anni citati in media 38 volte; Filippo Del Bene all’Institute Curie 20 articoli negli ultimi 10 anni, 53 citazioni medie per articolo (Fonte Pubmed e ISI o Google scholar per le citazioni). E’ un confronto impari, visto che ho messo a confronto delle medie con degli esempi di singoli. Ma i singoli in questione come si vede sono tutti Italiani e tutti formati all’estero, in contesti dove la meritocrazia e’ applicata da anni.  

In sintesi, aver instaurato un sistema di monitoraggio e selezione oggettivo, condiviso e trasparente che ci permetta questo tipo valutazioni e confronti e’ un grandissimo passo avanti. L’immagine che ne deriva, pur sfuocata, non ci fa certo disonore, ma da’ la misura e la direzione di quanto resta ancora da fare. Pubblicare non necessariamente di piu’, ma meglio e da primi attori, e riconoscere e incentivare chi lo fa. Per farlo e’ imperativo continuare sostenere la meritocrazia e migliorarne la valutazione in questo senso.  



Scienza in rete è un giornale senza pubblicità e aperto a tutti per garantire l’indipendenza dell’informazione e il diritto universale alla cittadinanza scientifica. Contribuisci a dar voce alla ricerca sostenendo Scienza in rete. In questo modo, potrai entrare a far parte della nostra comunità e condividere il nostro percorso. Clicca sul pulsante e scegli liberamente quanto donare! Anche una piccola somma è importante. Se vuoi fare una donazione ricorrente, ci consenti di programmare meglio il nostro lavoro e resti comunque libero di interromperla quando credi.


prossimo articolo

Giulio Maccacaro e la lezione della talidomide: scienza, politica e responsabilità sociale

confezione di contergan

La storia della talidomide, con le sue drammatiche conseguenze, ha segnato un punto di svolta per la medicina e la regolamentazione farmaceutica. Le parole di Giulio Maccacaro, del quale ricorrono nel 2024 i cent'anni dalla nascita, ci ricordano ancora oggi l'importanza della consapevolezza e della responsabilità collettiva.

Crediti immagine: modificata da Kai Oesterreich/Wikimedia Commons. Licenza: CC BY-SA 3.0

Lo studente, diciottenne, che si è appena iscritto in una nostra università per laurearsi medico tra sei anni, può intendere il titolo di questo libro? Conosce il significato di “talidomide”? Immagina il “potere dell’industria farmaceutica”? Io, suo insegnante, posso rispondere, negativamente, per lui che era appena scolaro delle elementari quando termini come “talidomide” e focomelia”, nomi come Chemie Grünenthal e Contegan facevano titolo su tutti i giornali del mondo.