FairGATDANN: A Fairness-Aware Graph Attention and Domain-Adversarial Neural Network for ICU Mortality Prediction
2025 (engelsk)Independent thesis Advanced level (degree of Master (Two Years)), 20 poäng / 30 hp
Oppgave
Abstract [en]
This thesis introduces FairGATDANN, a fairness-aware machine
learning model designed for ICU mortality prediction. FairGATDANN
integrates Graph Attention Networks (GAT), domain-adversarial neural
networks (DANN), and adaptive fairness constraints to address
key challenges in healthcare AI, including predictive accuracy, fairness,
explainability, and robustness to domain shifts. The model incorporates
GraphSMOTE to address class imbalance, a Gradient-Reversal
Layer to achieve domain-invariant representations, and utilizes dynamic
dual-ascent optimization to maintain adaptive fairness constraints
(here, Equalized Odds). Evaluations using the MIMIC-IV, MIMICIII,
and eICU datasets demonstrate that FairGATDANN has the potential
to achieve predictive performance comparable or superior to
traditional ensemble methods, such as the Random Forest classifier
or XGBoost, and reduces fairness disparities. Thus, FairGATDANN
presents as a robust and compliant solution in line with regulatory
frameworks such as the EU AI Act, contributing significantly to the
development of equitable and reliable healthcare AI solutions.
Abstract [sv]
Denna avhandling presenterar FairGATDANN, en rättviseinriktad maskininlärningsmodell för prediktion av dödlighet på intensivvårdsavdelningar (IVA). FairGATDANN kombinerar Graph Attention Networks (GAT), domän-adversariella neurala nätverk (DANN) och adaptiva rättvisekrav för att hantera centrala utmaningar inom AI i hälso- och sjukvården, såsom prediktiv noggrannhet, rättvisa, transparens och robusthet mot domänskiften. Modellen använder GraphSMOTE för att balansera ojämna klasser, en Gradient Reversal Layer för att uppnå domäninvarianta representationer och dynamisk dual-ascent-optimering för att upprätthålla adaptiva rättvisekrav (Equalized Odds). Utvärderingar på MIMIC-IV, MIMIC-III och eICU-databaserna visar att FairGATDANN har potential att prestera lika bra eller bättre än traditionella ensemblemetoder som Random Forest eller XGBoost, samtidigt som modellen minskar orättvisa skillnader. Därmed utgör FairGATDANN en robust och regelverksefterlevande lösning i linje med exempelvis EU:s AI-förordning, och bidrar till utvecklingen av mer jämlik och tillförlitlig AI inom hälso- och sjukvården.
sted, utgiver, år, opplag, sider
2025. , s. 137
Emneord [en]
FaMachine learning, Graph Attention Networks, GAT, Domain-Adversarial Neural Networks, Domain adaptation, Source-free adaptation, ICU mortality prediction, Healthcare, Bias mitigation, Fairness, Explainable AI, XAI, GraphSMOTE, Class imbalance, EU AI Act, GDPR, Protected attributes
Emneord [sv]
Maskininlärning, Domän-adversariala neurala nätverk, Domänanpassning, Källfri anpassning, mortalitetsprediktion, sjukvård, Bias-mitigering, Rättvisekrav, Förklarbar AI, GraphSMOTE, Klassobalans, EU:s AI-förordning, GDPR, Skyddade attribut (kön, etnicitet, ålder)
HSV kategori
Identifikatorer
URN: urn:nbn:se:hh:diva-57131OAI: oai:DiVA.org:hh-57131DiVA, id: diva2:1987943
Utdanningsprogram
Master's Programme in Information Technology, 120 credits
Presentation
2025-06-04, 15:00 (engelsk)
Veileder
Examiner
2025-08-202025-08-082025-10-01bibliografisk kontrollert