Artificial intelligence and neurotechnology - Ethical issues arising from technological innovations
DOI:
https://doi.org/10.26034/lu.akwi.2024.4503Keywords:
Artificial Intelligence, Ethics, Healthcare, Neurotechnology, Medical Research, Human-Machine InteractionAbstract
Advances in artificial intelligence and neurotechnology have the potential to redefine human-machine interaction. For example, increasingly powerful robotic prostheses are being developed that, in conjunction with the human nervous system, also enable applications outside of therapeutic measures. These developments raise great expectations in society, but also raise fundamental ethical questions. This work examines how a responsible design of AI and neurotechnology can be achieved on a socio-political level. In particular, the focus is on the ethical discourse. After an overview of the basics, the potentials of the technologies are presented and the ethical challenges are outlined. Finally, possible approaches to solutions will be outlined.
References
Barton, Marie-Christin; Pöppelbuß, Jens (2022): Prinzipien für die ethische Nutzung künstlicher Intelligenz. In: HMD 59 (2), S. 468–481. https://doi.org/10.1365/s40702-022-00850-3.
Bauer, Wilhelm; Ganz, Walter; Hämmerle, Moritz; Renner, Thomas: KÜNSTLICHE INTELLIGENZ IN DER UNTERNEHMENSPRAXIS. Online verfügbar unter https://www.smart-ai-work.de/wp-content/uploads/2020/01/kuenstliche-intelligenz-in-der-unternehmenspraxis.pdf.
Bear, Mark F.; Connors, Barry W.; Paradiso, Michael A. (2018): Neurowissenschaften. Ein grundlegendes Lehrbuch für Biologie, Medizin und Psychologie. 4. Aufl. 2018. Hg. v. Andreas K. Engel. Berlin, Heidelberg: Springer Berlin Heidelberg. Online verfügbar unter http://nbn-resolving.org/urn:nbn:de:bsz:31-epflicht-1555094.
Berger, Sara; Rossi, Francesca (2023): AI and Neurotechnology. In: Commun. ACM 66 (3), S. 58–68. https://doi.org/10.1145/3529088.
BMWK (2023): Den digitalen Wandel gestalten. BMWI. Online verfügbar unter https://www.bmwk.de/Redaktion/DE/Dossier/digitalisierung.html, zuletzt aktualisiert am 04.05.2023, zuletzt geprüft am 04.05.2023.
da Silva Castanheira, Jason; Orozco Perez, Hector Domingo; Misic, Bratislav; Baillet, Sylvain (2021): Brief segments of neurophysiological activity enable individual differentiation. In: Nature communications 12 (1), S. 5713. https://doi.org/10.1038/s41467-021-25895-8.
Davidoff, Erika J. (2020): Agency and Accountability: Ethical Considerations for Brain-Computer Interfaces. In: The Rutgers journal of bioethics 11, S. 9–20. Online verfügbar unter https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7654969/.
Dilsizian, Steven E.; Siegel, Eliot L. (2014): Artificial intelligence in medicine and cardiac imaging: harnessing big data and advanced computing to provide personalized medical diagnosis and treatment. In: Current cardiology reports 16 (1), S. 441. https://doi.org/10.1007/s11886-013-0441-8.
DIN e. V.; DKE Deutsche Kommission Elektrotechnik: Ethik und Künstliche Intelligenz. Was können technische Normen und Standards leisten? Online verfügbar unter https://www.din.de/resource/blob/754724/00dcbccc21399e13872b2b6120369 e74/whitepaper-ki-ethikaspekte-data.pdf.
Doya, Kenji; Ema, Arisa; Kitano, Hiroaki; Sakagami, Masamichi; Russell, Stuart (2022): Social impact and governance of AI and neurotechnologies. In: Neural networks: the official Journal of the International Neural Network Society 152, S. 542–554. https://doi.org/10.1016/j.neunet.2022.05.012.
Ekin, Annette (2023): AI can help us fight climate change. But it has an energy problem, too. Online verfügbar unter https://ec.europa.eu/research-and-innovation/en/horizon-magazine/ai-can-help-us-fight-climate-change-it-has-energy-problem-too, zuletzt aktualisiert am 01.05.2023, zuletzt geprüft am 01.05.2023.
Europäische Kommission (2022): RICHTLINIE DES EUROPÄISCHEN PARLAMENTS UND DES RATES zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung). Online verfügbar unter https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:52022PC0496.
Fairclough, Stephen H.; Lotte, Fabien (2020): Grand Challenges in Neurotechnology and System Neuroergonomics. In: Front. Neuroergonomics 1, Artikel 602504. https://doi.org/10.3389/fnrgo.2020.602504.
Farahany, Nita A. (2023): Neurotech at Work. Online verfügbar unter https://hbr.org/2023/03/neurotech-at-work, zuletzt aktualisiert am 14.03.2023, zuletzt geprüft am 30.04.2023.
Fraunhofer Institut (2023): Künstliche Intelligenz (KI) und maschinelles Lernen - Fraunhofer IKS. Online verfügbar unter https://www.iks.fraunhofer.de/de/themen/kuenstliche-intelligenz.html, zuletzt aktualisiert am 05.05.2023, zuletzt geprüft am 05.05.2023.
Friedrich, Orsolya (2021): Clinical Neurotechnology Meets Artificial Intelligence. Philosophical, Ethical, Legal and Social Implications. Unter Mitarbeit von Andreas Wolkenstein, Christoph Bublitz, Ralf J. Jox und Eric Racine. Cham: Springer International Publishing AG (Advances in Neuroethics Ser). Online verfügbar unter https://ebookcentral.proquest.com/lib/kxp/detail.action?docID=6511455.
Gaudry, Kate S.; Ayaz, Hasan; Bedows, Avery; Celnik, Pablo; Eagleman, David; Grover, Pulkit et al. (2021): Projections and the Potential Societal Impact of the Future of Neurotechnologies. In: Frontiers in neuroscience 15, S. 658930. https://doi.org/10.3389/fnins.2021.658930.
Goering, Sara; Klein, Eran; Specker Sullivan, Laura; Wexler, Anna; Agüera Y Arcas, Blaise; Bi, Guoqiang et al. (2021): Recommendations for Responsible Development and Application of Neurotechnologies. In: Neuroethics 14 (3), S. 365–386. https://doi.org/10.1007/s12152-021-09468-6.
Hertz, Nora (2023): Neurorights – Do we Need New Human Rights? A Reconsideration of the Right to Freedom of Thought. In: Neuroethics 16 (1). https://doi.org/10.1007/s12152-022-09511-0.
Hirsch-Kreinsen, Hartmut; Karacic, Anemari (2019): Autonome Systeme und Arbeit. Bielefeld, Germany: transcript Verlag. Online verfügbar unter https://library.oapen.org/bitstream/handle/20.500.12657/25346/1/9783839443958.pdf.
Ienca, Marcello; Ignatiadis, Karolina (2020): Artificial Intelligence in Clinical Neuroscience: Methodological and Ethical Challenges. In: AJOB neuroscience 11 (2), S. 77–87. https://doi.org/10.1080/21507740.2020.1740352.
Iliashenko, Oksana; Bikkulova, Zilia; Dubgorn, Alissa (2019): Opportunities and challenges of artificial intelligence in healthcare. In: E3S Web Conf. 110, S. 2028. https://doi.org/10.1051/e3sconf/201911002028.
Kehl, Christoph: Möglichkeiten und Grenzen ethischer Technikgestaltung. In:, S. 151–170. Online verfügbar unter https://www.researchgate.net/profile/Christoph-Kehl-2/publication/355208420_Moglichkeiten_und_Grenzen_ethischer_Technikgestaltung/links/61ab79bdca2d401f27c4dff2/Moeglichkeiten-und-Grenzen-ethischer-Technikgestaltung.pdf.
Larsson, Stefan; Heintz, Fredrik (2020): Transparency in artificial intelligence. In: Internet Policy Review 9 (2). https://doi.org/10.14763/2020.2.1469.
Lorenz, Jeanette Miriam (2022): Bessere KI-Algorithmen durch Quantencomputing? Online verfügbar unter https://publica.fraunhofer.de/entities/publication/84e250b1-6691-4261-ac55-abf58c4406a7/details.
Lubkowitz, Matthias (2022): Bessere KI-Algorithmen durch Quantencomputing? Online verfügbar unter https://publica.fraunhofer.de/entities/publication/84e250b1-6691-4261-ac55-abf58c4406a7/details.
McKinsey Global Institute (2018): NOTES FROM THE AI FRONTIER MODELING THE IMPACT OF AI ON THE WORLD ECONOMY. Online verfügbar unter https://www.mckinsey.com/featured-insights/artificial-intelligence/notes-from-the-ai-frontier-modeling-the-impact-of-ai-on-the-world-economy.
Müller, Oliver; Rotter, Stefan: Neurotechnologie: Aktuelle Entwicklungen und ethische Fragen 2016, S. 36–40. Online verfügbar unter https://www.fiff.de/publikationen/fiff-kommunikation/fk-2016/fk-2016-2/fk-2016-2-content/fk-2-16-p36.pdf.
Musk, Elon (2020): Neuralink Demo Event 2020. The Presentation, 29.08.2020.
Neurologie: Schalten die Gehirne Pädophiler einfach falsch? (2007). In: WELT, 30.11.2007. Online verfügbar unter https://www.welt.de/wissenschaft/article1415943/Schalten-die-Gehirne-Paedophiler-einfach-falsch.html, zuletzt geprüft am 04.05.2023.
Paek, Andrew Y.; Brantley, Justin A.; Evans, Barbara J.; Contreras-Vidal, Jose L. (2021): Concerns in the Blurred Divisions between Medical and Consumer Neurotechnology. In: IEEE Systems journal 15 (2), S. 3069–3080. https://doi.org/10.1109/jsyst.2020.3032609.
Paszkiel, Szczepan; Rojek, Ryszard; Lei, Ningrong; Castro, Maria António (2021): A Pilot Study of Game Design in the Unity Environment as an Example of the Use of Neurogaming on the Basis of Brain–Computer Interface Technology to Improve Concentration. In: NeuroSci 2 (2), S. 109–119. https://doi.org/10.3390/neurosci2020007.
Patel, Vimla L.; Shortliffe, Edward H.; Stefanelli, Mario; Szolovits, Peter; Berthold, Michael R.; Bellazzi, Riccardo; Abu-Hanna, Ameen (2009): The coming of age of artificial intelligence in medicine. In: Artificial intelligence in medicine 46 (1), S. 5–17. https://doi.org/10.1016/j.artmed.2008.07.017.
Ponseti, Jorge; Granert, Oliver; Jansen, Olav; Wolff, Stephan; Beier, Klaus; Neutze, Janina et al. (2012): Assessment of pedophilia using hemodynamic brain response to sexual stimuli. In: Archives of general psychiatry 69 (2), S. 187–194. https://doi.org/10.1001/archgenpsychiatry.2011.130.
PwC (2023): How will automation impact jobs? Online verfügbar unter https://www.pwc.co.uk/services/economics/insights/the-impact-of-automation-on-jobs.html, zuletzt aktualisiert am 04.05.2023, zuletzt geprüft am 04.05.2023.
Rainey, Stephen; Erden, Yasemin J. (2020): Correcting the Brain? The Convergence of Neuroscience, Neurotechnology, Psychiatry, and Artificial Intelligence. In: Science and Engineering ethics 26 (5), S. 2439–2454. https://doi.org/10.1007/s11948-020-00240-2.
Robinson, Jacob T.; Rommelfanger, Karen S.; Anikeeva, Polina O.; Etienne, Arnelle; French, Jennifer; Gelinas, Jennifer et al. (2022): Building a culture of responsible neurotech: Neuroethics as socio-technical challenges. In: Neuron 110 (13), S. 2057–2062. https://doi.org/10.1016/j.neuron.2022.05.005.
Santosh, KC (2023): AI, Ethical Issues and Explainability—Applied Biometrics. Hg. v. SpringerLink. Online verfügbar unter https://link.springer.com/book/10.1007/978-981-19-3935-8, zuletzt aktualisiert am 07.05.2023, zuletzt geprüft am 07.05.2023.
Savage, Neil (2019): How AI and neuroscience drive each other forwards. In: Nature 571 (7766), S15-S17. https://doi.org/10.1038/d41586-019-02212-4.
Stahl, Bernd Carsten; Schroeder, Doris; Rodrigues, Rowena (2022): Ethics of Artificial Intelligence. Case Studies and Options for Addressing Ethical Challenges. 1st ed. 2023. Cham: EU-funded Sherpa project.
Stuart Russell, Peter Norvig: Artificial Intelligence: A Modern Approach (3rd Edition). Online verfügbar unter http://repo.darmajaya.ac.id/3800/1/Artificial%20Intelligence%20A%20Modern%20Approach%20%283rd%20Edition%29.pdf%20%28%20PDFDrive%20%29.pdf. https://doi.org/10.1016/j.artint.2011.01.005.
Thompson, Neil C.; Greenewald, Kristjan; Lee, Keeheon; Manso, Gabriel F. (2021): Deep Learning's Diminishing Returns: The Cost of Improvement is Becoming Unsustainable. In: IEEE Spectr. 58 (10), S. 50–55. https://doi.org/10.1109/MSPEC.2021.9563954.
Topol, Eric J.; Verghese, Abraham (2019): Deep medicine. How artificial intelligence can make healthcare human again. First edition. New York, NY: Basic Books.
Unabhängige hochrangige Expertengruppe für Künstliche Intelligenz (2018): ETHIK-LEITLINIEN FÜR EINE VERTRAUENSWÜRDIGE KI.
Vukelic, Mathias (2023): Jedes Hirn tickt anders: Wie mit Neurotechnologie und KI berufliche Inklusion gelingen kann. Online verfügbar unter https://blog.iao.fraunhofer.de/jedes-hirn-tickt-anders-wie-mit-neurotechnologie-und-ki-berufliche-inklusion-gelingen-kann/, zuletzt aktualisiert am 13.03.2023, zuletzt geprüft am 04.05.2023
Downloads
Published
Issue
Section
License
Copyright (c) 2024 Veronika Öttl, Elena Bleher, Lorena Frankenreiter, Katharina Schnetzer, Ajla Glušac, Prof. Dr. Jörg Puchan
This work is licensed under a Creative Commons Attribution 4.0 International License.
