FairGATDANN: A Fairness-Aware Graph Attention and Domain-Adversarial Neural Network for ICU Mortality Prediction
2025 (English)Independent thesis Advanced level (degree of Master (Two Years)), 20 credits / 30 HE credits
Student thesis
Abstract [en]
This thesis introduces FairGATDANN, a fairness-aware machine
learning model designed for ICU mortality prediction. FairGATDANN
integrates Graph Attention Networks (GAT), domain-adversarial neural
networks (DANN), and adaptive fairness constraints to address
key challenges in healthcare AI, including predictive accuracy, fairness,
explainability, and robustness to domain shifts. The model incorporates
GraphSMOTE to address class imbalance, a Gradient-Reversal
Layer to achieve domain-invariant representations, and utilizes dynamic
dual-ascent optimization to maintain adaptive fairness constraints
(here, Equalized Odds). Evaluations using the MIMIC-IV, MIMICIII,
and eICU datasets demonstrate that FairGATDANN has the potential
to achieve predictive performance comparable or superior to
traditional ensemble methods, such as the Random Forest classifier
or XGBoost, and reduces fairness disparities. Thus, FairGATDANN
presents as a robust and compliant solution in line with regulatory
frameworks such as the EU AI Act, contributing significantly to the
development of equitable and reliable healthcare AI solutions.
Abstract [sv]
Denna avhandling presenterar FairGATDANN, en rättviseinriktad maskininlärningsmodell för prediktion av dödlighet på intensivvårdsavdelningar (IVA). FairGATDANN kombinerar Graph Attention Networks (GAT), domän-adversariella neurala nätverk (DANN) och adaptiva rättvisekrav för att hantera centrala utmaningar inom AI i hälso- och sjukvården, såsom prediktiv noggrannhet, rättvisa, transparens och robusthet mot domänskiften. Modellen använder GraphSMOTE för att balansera ojämna klasser, en Gradient Reversal Layer för att uppnå domäninvarianta representationer och dynamisk dual-ascent-optimering för att upprätthålla adaptiva rättvisekrav (Equalized Odds). Utvärderingar på MIMIC-IV, MIMIC-III och eICU-databaserna visar att FairGATDANN har potential att prestera lika bra eller bättre än traditionella ensemblemetoder som Random Forest eller XGBoost, samtidigt som modellen minskar orättvisa skillnader. Därmed utgör FairGATDANN en robust och regelverksefterlevande lösning i linje med exempelvis EU:s AI-förordning, och bidrar till utvecklingen av mer jämlik och tillförlitlig AI inom hälso- och sjukvården.
Place, publisher, year, edition, pages
2025. , p. 137
Keywords [en]
FaMachine learning, Graph Attention Networks, GAT, Domain-Adversarial Neural Networks, Domain adaptation, Source-free adaptation, ICU mortality prediction, Healthcare, Bias mitigation, Fairness, Explainable AI, XAI, GraphSMOTE, Class imbalance, EU AI Act, GDPR, Protected attributes
Keywords [sv]
Maskininlärning, Domän-adversariala neurala nätverk, Domänanpassning, Källfri anpassning, mortalitetsprediktion, sjukvård, Bias-mitigering, Rättvisekrav, Förklarbar AI, GraphSMOTE, Klassobalans, EU:s AI-förordning, GDPR, Skyddade attribut (kön, etnicitet, ålder)
National Category
Medical Informatics Engineering Computer and Information Sciences
Identifiers
URN: urn:nbn:se:hh:diva-57131OAI: oai:DiVA.org:hh-57131DiVA, id: diva2:1987943
Educational program
Master's Programme in Information Technology, 120 credits
Presentation
2025-06-04, 15:00 (English)
Supervisors
Examiners
2025-08-202025-08-082025-10-01Bibliographically approved