Bias di genere nei modelli AI per la salute

Workshop in collaborazione fra SIIAM (Società Italiana di Intelligenza Artificiale in Medicina) e Tech4Fem.

L’intelligenza artificiale è sempre più utilizzata come supporto alle decisioni cliniche. Tuttavia, molti modelli vengono sviluppati su dataset che non rappresentano adeguatamente la popolazione reale. Questo può generare differenze sistematiche di performance tra gruppi di pazienti, ad esempio tra uomini e donne o tra sottogruppi clinici.

Il workshop propone un formato hands-on, pensato per clinici, professionisti sanitari, ricercatori biomedici e altre figure interessate al rapporto tra dati, modelli e qualità delle decisioni in ambito salute. Attraverso attività guidate, i partecipanti osserveranno direttamente come la composizione del dataset influenzi il comportamento dei modelli di classificazione e come metriche aggregate possano nascondere pattern di bias rilevanti dal punto di vista clinico.
La struttura didattica privilegia inizialmente modelli semplici e interpretabili, così da rendere immediato il collegamento tra dati, training e performance. In una fase finale, il workshop potrà includere anche un piccolo classificatore neurale fully connected, sviluppato in Google Colab, per mostrare che il problema del bias non riguarda solo gli algoritmi tradizionali, ma può emergere anche in approcci più moderni quando i dati di training non sono sufficientemente rappresentativi.

Il workshop è progettato per essere modulare, replicabile e facilmente adattabile a diversi contesti formativi o clinici. L’obiettivo non è insegnare tecniche avanzate di programmazione, ma fornire ai partecipanti strumenti pratici per leggere criticamente i risultati di un modello e riconoscere segnali di squilibrio nei dati clinici.

Obiettivi formativi
• Comprendere come la composizione dei dataset influenzi il comportamento dei modelli.
• Capire perché metriche globali come accuracy o AUC possano nascondere bias tra sottogruppi.
• Imparare a riconoscere problemi di rappresentatività nei dataset clinici.
• Introdurre pratiche di base per l’auditing dei dati e l’interpretazione critica delle performance.
• Mostrare, con un confronto semplice, che il bias può emergere sia nei modelli classici sia in un piccolo modello di deep learning.

Formato del workshop
Sessione pratica in Google Colab con notebook guidato, visualizzazioni preimpostate e spazio finale per discussione clinica dei risultati.

REGISTRATI ALL’EVENTO