Quando la variabile da prevedere che non è continua, ma categorica allora la regressione lineare non è una scelta adatta. Al suo posto, entra in scena la regressione logistica. In questo articolo vedremo a cosa serve, come interpretarne i risultati e come usarla.
Indice
Cos’è la regressione logistica
La regressione logistica è una tecnica di analisi dei dati che ha come obiettivo la stima della relazione tra due o più variabili. Nello specifico, si basa su un modello matematico che stima la probabilità che si verifichi un certo evento, sulla base di uno o più variabili predittive.
La particolarità di questa tecnica è nel risultato stimato: non un numero qualsiasi, ma una probabilità compresa tra 0 e 1. In altre parole, questa tecnica di analisi ci permette di rispondere a domande tipo “qual è la probabilità che si verifichi l’evento per uno specifico individuo?”
Qual è la differenza tra regressione lineare e logistica?
Matematicamente, il modello di regressione logistica è molto simile a quello della regressione lineare. La differenza principale è nella variabile dipendente:
- Regressione lineare: la variabile dipendente è continua
- Regressione logistica: la variabile dipendente è categorica
La regressione lineare può quindi rispondere a domande come “Quale sarà il prezzo di una casa tra 5 anni?” in quanto il risultato è un numero. La regressione logistica invece, risponde a domande tipo “Il prezzo di una casa aumenterà di almeno il 30% nei prossimi 5 anni?” perché il risultato è una probabilità.
Infatti, nella regressione logistica si utilizza la funzione logit, che permette di trasformare qualsiasi combinazione lineare di fattori predittivi in un numero tra 0 e 1: poiché il risultato della regressione logistica è una probabilità, la variabile dipendente deve essere infatti delimitata tra questi due valori.
In termini geometrici, la funzione logit permette di adattare le formule di una funzione lineare (dove per definizione una retta può andare da meno infinito a più infinito) a quelle di una curva S avente come asintoti 0 e 1.
Se nella regressione lineare il metodo più utilizzato per la stima dei coefficienti di regressione è quello dei minimi quadrati (OLS), nel modello di regressione logistica questa stima viene comunemente effettuata mediante il metodo della massima verosimiglianza (MLE) che ha l’obiettivo di massimizzare la funzione di verosimiglianza logaritmica per determinare i coefficienti beta del modello.
Interpretazione dei risultati di un modello di regressione logistica
In questo modello, i coefficienti di regressione non rappresentano direttamente l’aumento della probabilità, ma l’aumento del log-odds associato a un’unità di incremento nella variabile predittiva.
Ma nessuna paura: per riuscire ad interpretare i risultati di un modello di regressione logistica, non serve andare a ripassare le proprietà dei logaritmi. L’esponenziale delle stime beta permette infatti di trasformare i risultati in OR (Odds Ratio), molto più intuitivi da interpretare, e molti software statistici fanno questo calcolo automaticamente.
Quello che è quindi importante tenere a mente è come si interpretano gli odds ratio. L’OR rappresenta le probabilità che si verifichi un risultato in un determinato evento, rispetto alle probabilità che il risultato si verifichi in assenza di tale evento:
- OR maggiore di 1 significa che al crescere dei valori della X aumentano le probabilità dell’evento (in
genere, sono associati ai fattori di rischio) - OR minore di 1 significa che al crescere dei valori di X invece le probabilità diminuiscono in genere (sono associati ai fattori protettivi)
- OR uguale a 1 significa che le probabilità che si verifichi l’evento non dipendono dai valori della X
Proprio come avviene nel modello di regressione lineare, i valori delle stime (ed in questo caso anche
degli OR) ci permettono di descrivere la relazione presente nel campione. Per poter generalizzare tali
risultati, e quindi poter valutare se la relazione è statisticamente significativa, dobbiamo basarci su uno dei
due seguenti valori:
- P-value: l’effetto della X è statisticamente significativo se il p-value associato alla stima del suo
coefficiente di regressione è inferiore ad alpha (in genere 0,05) - Intervallo di confidenza: l’effetto della X è generalizzabile anche alla popolazione quando la soglia di non effetto (che nel caso dell’OR è pari a 1) non è inclusa all’interno dell’intervallo di confidenza
Quando usare la regressione logistica
La regressione logistica si può utilizzare quando la variabile dipendente è categorica:
- Se la Y è una variabile dicotomica 0/1, allora puoi utilizzare la regressione logistica binaria. Ad esempio, questa tecnica può essere utilizzata per prevedere se una e-mail sia o meno spam, oppure se un tumore è benigno o maligno. O ancora, per stimare la probabilità di guasti dei pezzi di una catena produttiva.
- Se la Y è una variabile categorica con più di due modalità, allora la scelta corretta è la regressione logistica multinomiale. Ad esempio, questa analisi può essere utilizzata per prevedere quale genere musicale è preferito da un certo gruppo di individui.
- Se le modalità della Y sono ordinabili, allora puoi valutare la regressione logistica ordinale. Ad esempio, questa analisi può essere utilizzata per valutare l’impatto su una scala di valutazione da 1 a 5.
In generale, lavorando sulle probabilità e non sulle medie, tutti i modelli di regressione logistica richiedono poi una numerosità campionaria minima superiore a quella dei modelli di regressione lineare.
É quindi consigliabile utilizzare questi modelli quando le osservazioni a disposizione sono almeno un centinaio e quando la probabilità che si verifichi l’evento sia compresa tra il 10% ed il 90%. Se infatti il verificarsi dell’evento, o il suo non verificarsi, è troppo raro allora è preferibile utilizzare dei modelli più specifici, come la regressione di Poisson.
Regressione logistica: e adesso?
Per scoprire in pratica come effettuare questa analisi con un software statistica, dai un’occhiata al mio videocorso su Jamovi!
