Background: Artificial intelligence (AI) is predicted to be a groundbreaking solution to improve health care, increase efficiency and save time and recourses. Due to recent attention to AI, the lack of ethical principles has been brought to attention by several stakeholders. Research shows the urgency of the need to address ethical implications related to AI-based solutions in healthcare. Primarily in a chaotic setting such as an emergency department where many life and death decisions are made. However, the five ethical principles (autonomy, non-malfeasance, beneficence, justice, and explicability) may not be enough to describe the rising concern with AI. Therefore, there is a need to address different ethical aspects of AI-based solutions in healthcare. Objective: The aim was to explore healthcare professionals’ perspectives on the ethical aspects of implementing AI-based solutions to predict mortality in emergency departments. Methods: A semi-structured interview study was conducted with 18 participants, eleven healthcare professionals and seven healthcare managers. An abductive analysis was made to find theoretical patterns by pairing the meaning units with the corresponding categories of the prima facie principles of medical ethics (autonomy, beneficence, non-malfeasance, and justice) and the additional principle of explicability. Any data that could not be systematically mapped into the preexisting categories were given a new category. Using a subsequent analysis, data were compared to further identify subcategories. Results: A total of ten subcategorize emerged to answer the aim of the study. The main result aligned with the five main categories (autonomy, beneficence and non-malfeasance, justice, explicability and professional governance) presented healthcare professionals’ perspectives on the ethical aspects of implementing AI in emergency departments. The results were related to aspect of sharing information made by an AI, resources versus demands, providing equity care, using AI as a support system, trustworthiness to AI, AI-based knowledge, professional knowledge verses AI-based information and conflict of interested in the healthcare system. Conclusions: It needs to be emphasized that the ethical aspects of AI-based solutions from healthcare professionals’ perspective is much broader than the prima facie principles of medical ethics and the principle of explicability. Thus, the ethical aspects need to be viewed from a broader standpoint to cover different encounters that healthcare professionals may face in their clinical practice when working with an AI-based solution in emergency departments.

Bakgrund: Artificiell intelligens (AI) förutspås vara en banbrytande lösning till att förbättra vården, detta genom en ökad effektivitet som sparar tid och resurser. Med följd av ökat intresse för AI har bristen på etiska principer fått stor uppmärksamhet av flera aktörer inom området. Forskning visar på att det är både brådskande och angelägen att klarlägga etiska konsekvenser relaterat till AI-baserade lösningar inom sjukvården. Främst anses det viktigt att belysas i en kaosartad miljö som en akutmottagning, där många beslut gällande liv och död fattas. De fem etiska principerna (autonomi, inte skada, göra gott, vara rättvis och vara förklarlig) räcker möjligtvis inte för att beskriva de ny etiska utmaningarna med AI. Därmed finns det ett ökat behov av att kartlägga olika aspekter av AI-baserade lösningar inom sjukvården. Syfte: Syftet var att utforska vårdpersonals perspektiv på de etiska aspekterna av att implementera AI-baserade lösningar för att förutsäga dödlighet på akutmottagningar. Metod: En semistrukturerad intervjustudie genomfördes med 18 deltagare, elva vårdpersonal och sju vårdchefer. En abduktiv analys gjordes för att finna teoretiska mönster genom att para ihop meningsbärande enheter med kategorier utformade från medicinsk etik som bygger på de fyra prima facie-principer (autonomi, inte skada, göra gott och vara rättvis) och förklarlighetsprincipen. Alla data som inte systematiskt kunde paras ihop med de redan existerande kategorierna fick en ny kategori. Med hjälp av en efterföljande analys jämfördes data för att ytterligare identifiera underkategorier. Resultat: Totalt tio underkategorier framkom för att svara på studiens syfte. Huvudresultatet i linje med de fem huvudkategorierna (autonomi, inte skada och göra gott, vara rättvis, vara förklarlig och professionell styrning) belyste vårdpersonals perspektiv på de etiska aspekterna av att implementera AI på en akutmottagning. Resultaten visade att de etiska aspekterna handlade om att dela information från en AI, resurser gentemot krav, tillhandahållandet av likvärdig vård, användning av AI som ett stödsystem, pålitlighet till AI, AI-baserad kunskap, professionell kunskap gentemot AI-baserad information och intressekonflikter i sjukvårdssystemet. Slutsats: Det finns ett behov att markera, att de etiska aspekterna av en AI-baserad lösning ur vårdpersonals perspektiv är mycket bredare än de etiska principerna inom prima facie-konceptet för medicinsk etik och förklaringsprincipen. Således måste de etiska aspekterna ses ur en bredare synvinkel för att täcka in nya situationer som sjukvårdspersonal kan möta i sin kliniska praxis när de arbetar med en AI-baserad lösning på akutavdelningar.