Performance Evaluation of Privacy-Preserving Machine Learning for IoT: Are obfuscation networks comparably lightweight and effective in preserving privacy during remote inference with a backend server?
2024 (English)Independent thesis Advanced level (professional degree), 20 credits / 30 HE credits
Student thesis
Abstract [en]
In today's interconnected digital world, ensuring data privacy is critical, particularly for neural networks operating remotely in the age of the Internet of Things (IoT). This thesis addresses the challenge of preserving data privacy in IoT environments by evaluating ObfNet, a novel neural network-based obfuscation algorithm.
Building upon the image obfuscation capabilities of ObfNet, we introduce LightNet and DenseNet as novel neural networks to showcase ObfNet's limitations, particularly for larger and more complex images. We uncover vulnerabilities in the ObfNet algorithm through comprehensive security assessments, highlighting its susceptibility to information leakage. Our findings underscore the challenges and possibilities in preserving privacy during remote neural network inference, especially for resource-limited edge devices.
This study highlights the necessity of robust privacy-preserving methods in remote neural network operations. Our work extends ObfNet, illustrating the critical need for improved techniques in this domain and suggesting directions for future research to enhance data privacy in IoT applications.
Abstract [sv]
I dagens sammankopplade digitala värld är det avgörande att säkerställa datasekretess, särskilt för neurala nätverk som opererar på distans i åldern av Internet of Things (IoT). Detta examensarbetet tar upp utmaningen att bevara datasekretess i IoT-miljöer genom att utvärdera ObfNet, en ny neural-nätverksbaserad obfuskeringsalgoritm.
Genom att bygga vidare på ObfNets bildobfuskeringsmöjligheter introducerar vi LightNet och DenseNet som nya neurala nätverk för att visa ObfNets begränsningar, särskilt för större och mer komplexa bilder. Vi upptäcker svagheter i ObfNet-algoritmen genom omfattande säkerhetsbedömningar, och framhäver dess känslighet för informationsläckage. Våra upptäckter understryker de utmaningar och möjligheter som finns i att bevara sekretessen under fjärrinferens med neurala nätverk, särskilt för resursbegränsade edge-enheter.
Denna studie belyser nödvändigheten av robusta sekretessbevarande metoder i fjärrdrift av neurala nätverk. Vårt arbete utökar ObfNet, illustrerar det kritiska behovet av förbättrade tekniker inom detta område och föreslår riktningar för framtida forskning för att förbättra datasekretessen i IoT-applikationer.
Place, publisher, year, edition, pages
2024. , p. 88
Keywords [en]
AI, Machine Learning, Data Privacy, Privacy Protection, Neural Network, Data Obfuscation, Image Classification, Iot, Internet of Things, Edge Computer, Resource Constrained Devices, Edge Device, Cloud Computing
National Category
Engineering and Technology
Identifiers
URN: urn:nbn:se:hh:diva-54137OAI: oai:DiVA.org:hh-54137DiVA, id: diva2:1879256
Subject / course
Computer science and engineering
Educational program
Computer Science and Engineering, 300 credits
Presentation
2024-05-29, R4147, Kristian IV:s väg 3, Halmstad, 14:45 (English)
Supervisors
Examiners
2024-07-192024-06-272025-10-01Bibliographically approved