The problem of moral responsibility in the context of strong artificial intelligence development
Minin University, Russian Federation; Nizhny Novgorod Institute of Railway Engineering - branch of the Volga State University of Railway Engineering, Russian Federation.
Email: maltsewasvetlana@yandex.ru
0000-0002-7273-1852Abstract
Background. The rapid development of machine learning technologies and generative neural networks has intensified the debate about the boundaries of moral subjectivity and responsibility in situations where autonomous systems make decisions affecting people’s lives and well-being. Strong intelligence is an assumed technical system that is capable of performing intellectual tasks at the human level, that is, with understanding and the possibility of self–learning. It goes through several stages in its development: from controlled through reduced supervision to minimal to an autonomous and self-sufficient stage. At the same time, morality is also changing: from an attempt to embed it in algorithms to a revision of the essence and grounds in the face of an agent who is different or even superior to a person. Classical ethical theories, built around free will and rational choice, are insufficient to qualify the actions of agents devoid of consciousness in the philosophical sense.
Purpose – to identify the conceptual limitations of applying the category of moral responsibility to systems of strong artificial intelligence and to propose a three-level model of distributed responsibility.
Hypothesis: moral responsibility for the actions of autonomous intelligent systems cannot be localized in one entity; it is distributed among developers, operators and the institutional environment.
Materials and methods. The methodological basis of the research is a conceptual analysis that allows reconstructing the content of philosophical categories (moral responsibility, subjectivity, intentionality) and assessing the boundaries of their application to new objects. In parallel, a comparative method is used, through which the positions of representatives of various ethical traditions and the novelty of the research are compared. The interpretation of the problem of responsibility through the prism of the concept of the «vacuum of responsibility» is proposed. Mattias, supplemented by the provisions of ethics of care and institutional ethics, which makes it possible to overcome individualistic reduction.
Results. It is shown that neither Aristotle’s model of voluntary action nor Kant’s criterion of will autonomy are directly applicable to artificial agents. Searle’s argument about the impossibility of genuine intentionality in computing systems remains valid, but it does not remove the question of responsibility for the consequences. It is proved that an adequate framework is distributed responsibility, which includes three levels: technical accountability of the developer, operational responsibility of the user and regulatory responsibility of institutions.
Keywords
moral responsibility, strong artificial intelligence, moral agency, responsibility gap, ethics of technology, autonomous systems, distributed responsibility, philosophy of technology
Проблема моральной ответственности в контексте развития сильного искусственного интеллекта
Мининский университет, Российская Федерация; НИПС - филиал ПривГУПС, Российская Федерация.
Email: maltsewasvetlana@yandex.ru
0000-0002-7273-1852Аннотация
Обоснование. Стремительное развитие технологий машинного обучения и генеративных нейросетей обострило дискуссию о границах моральной субъектности и ответственности в ситуациях, где автономные системы принимают решения, затрагивающие жизнь и благополучие людей. Сильный интеллект – это предполагаемая техническая система, которая способны выполнять интеллектуальные задачи на уровне человека, то есть с пониманием и возможностью самообучения. В своем развитии он проходит несколько этапов: от контролируемого через уменьшение надзора до минимального к автономной и самодостаточной стадии. Вместе с этим меняется и мораль: от попытки встроить ее в алгоритмы к пересмотру сущности и оснований перед лицом агента, отличного или даже превосходящего человека. Классические этические теории, выстроенные вокруг свободной воли и рационального выбора, оказываются недостаточными для квалификации действий агентов, лишённых сознания в философском смысле.
Цель исследования – выявить концептуальные ограничения применения категории моральной ответственности к системам сильного искусственного интеллекта и предложить трехуровневую модель распределённой ответственности.
Гипотеза: моральная ответственность за действия автономных интеллектуальных систем не может быть локализована в одном субъекте; она распределяется между разработчиками, операторами и институциональной средой.
Материалы и методы. Методологической основой исследования выступает концептуальный анализ, позволяющий реконструировать содержание философских категорий (моральная ответственность, субъектность, интенциональность) и оценить границы их применения к новым объектам. Параллельно используется сравнительный метод, посредством которого сопоставляются позиции представителей различных этических традиций.
Новизна исследования. Предложена интерпретация проблемы ответственности через призму концепции «вакуума ответственности» А. Маттиаса, дополненной положениями этики заботы и институциональной этики, что позволяет преодолеть индивидуалистическую редукцию.
Результаты. Показано, что ни модель добровольного действия Аристотеля, ни критерий автономии воли Канта не применимы к искусственным агентам напрямую. Аргумент Сёрла о невозможности подлинной интенциональности у вычислительных систем остаётся состоятельным, однако не снимает вопроса об ответственности за последствия. Обосновано, что адекватной рамкой выступает распределённая ответственность, включающая три уровня: техническую подотчётность разработчика, операционную ответственность пользователя и регуляторную ответственность институтов.
Ключевые слова
моральная ответственность, сильный искусственный интеллект, моральная субъектность, вакуум ответственности, этика технологий, автономные системы, распределённая ответственность, философия техники
Список литературы
1. Аристотель. (2020). Никомахова этика. Москва; Берлин: Директ-Медиа, 222 с.
2. Баксанский, О. Е., & Сорокина, С. Г. (2025). Этика искусственного интеллекта: сбалансированный подход к развитию и применению. Общество: философия, история, культура, 1, 23–33. https://doi.org/10.24158/fik.2025.1.2, EDN: https://elibrary.ru/AVFHGB
3. Бостром, Н. (2016). Искусственный интеллект. Этапы. Угрозы. Стратегии. Москва: Манн, Иванов и Фербер, 496 с.
4. Йонас, Х. (2004). Принцип ответственности. Опыт этики для технологической цивилизации. Москва: Айрис-пресс, 480 с.
5. Кант, И. (2005). Критика практического разума. Санкт-Петербург: Наука, 528 с.
6. Лекторский, В. А. (2024). Человек и системы искусственного интеллекта. В Искусственный интеллект: материалы заседания 14 октября 2023 (с. 20–50, 76–77, 164–167). Москва: Новые печатные технологии.
7. Никитина, Е. А. (2014). Искусственный интеллект: философия, методология, инновации. Философские проблемы информационных технологий и киберпространства, 2(8), 108–122. EDN: https://elibrary.ru/TENWVP
8. Сёрл, Дж. (1990). Разум мозга – компьютерная программа? В мире науки, 3, 7–13.
9. Сорокина, С. Г. (2023). Искусственный интеллект в контексте междисциплинарных исследований языка. Вестник Кемеровского государственного университета. Сер.: Гуманитарные и общественные науки, 7(3), 267–280. https://doi.org/10.21603/2542-1840-2023-7-3-267-280, EDN: https://elibrary.ru/FEIQKS
10. Филиппович, Ю. С., & Филиппович, М. С. (2025). Опыт доверия в контексте усталости и одиночества человека в современном обществе. Вестник Мининского университета, 13(3). https://doi.org/10.26795/2307-1281-2025-13-3-14, EDN: https://elibrary.ru/SRYPUQ
11. Юдин, Б. Г. (2018). Человек: выход за пределы. Москва: Прогресс-Традиция, 472 с.
12. Coeckelbergh, M. (2020). AI Ethics. Cambridge, MA: MIT Press, 237 p. https://doi.org/10.7551/mitpress/12549.001.0001
13. Floridi, L., & Sanders, J. W. (2004). On the morality of artificial agents. Minds and Machines, 14(3), 349–379. https://doi.org/10.1023/B:MIND.0000035461.63578.9d, EDN: https://elibrary.ru/ECMQOX
14. Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford: Oxford University Press. https://doi.org/10.1093/oso/9780198883098.001.0001
15. Korsgaard, C. M. (1996). The Sources of Normativity. Cambridge: Cambridge University Press, 290 p. https://doi.org/10.1017/CBO9780511554476
16. Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175–183. https://doi.org/10.1007/s10676-004-3422-1, EDN: https://elibrary.ru/WQSUMU
17. Mill, J. S. (1863). Utilitarianism. London: Parker, Son and Bourn, 95 p.
18. OECD. (2019; обновлено в 2024). Recommendation of the Council on Artificial Intelligence. Paris: OECD. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 (дата обращения: 24.05.2026).
19. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). (2024). Official Journal of the European Union, 12 июля. https://eur-lex.europa.eu/eli/reg/2024/1689/oj (дата обращения: 24.05.2026).
20. Santoni de Sio, F., & Mecacci, G. (2021). Four responsibility gaps with artificial intelligence: Why they matter and how to address them. Philosophy & Technology, 34, 1057–1084. https://doi.org/10.1007/s13347-021-00450-x, EDN: https://elibrary.ru/FNKIAH
21. Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). Gaithersburg: National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1
22. UNESCO. (2022). Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000380455 (дата обращения: 24.05.2026).
23. Vallor, S., & Vierkant, T. (2024). Find the gap: AI, responsible agency and vulnerability. Minds and Machines, 34(3). Article 20. https://doi.org/10.1007/s11023-024-09674-0, EDN: https://elibrary.ru/STVLOD
24. Veluwenkamp, H., & Hindriks, F. (2024). Artificial agents: Responsibility & control gaps. Inquiry. Advance online publication. https://doi.org/10.1080/0020174X.2024.2410995
References
1. Aristotle. (2020). Nicomachean Ethics. Moscow; Berlin: Direct-Media, 222 p.
2. Baksansky, O. E., & Sorokina, S. G. (2025). Ethics of artificial intelligence: A balanced approach to the development and application. Society: Philosophy, History, Culture, 1, 23–33. https://doi.org/10.24158/fik.2025.1.2, EDN: https://elibrary.ru/AVFHGB
3. Bostrom, N. (2016). Artificial Intelligence: Stages. Threats. Strategies. Moscow: Mann, Ivanov and Ferber, 496 p.
4. Jonas, H. (2004). The Principle of Responsibility: An Attempt at an Ethics for the Technological Civilization. Moscow: Iris-Press, 480 p.
5. Kant, I. (2005). Critique of Practical Reason. St. Petersburg: Nauka, 528 p.
6. Lektorsky, V. A. (2024). Man and artificial intelligence systems. In Artificial Intelligence: Proceedings of the Meeting of October 14, 2023 (pp. 20–50, 76–77, 164–167). Moscow: New Printing Technologies.
7. Nikitina, E. A. (2014). Artificial intelligence: Philosophy, methodology, innovations. Philosophical Problems of Information Technologies and Cyberspace, 2(8), 108–122. EDN: https://elibrary.ru/TENWVP
8. Searle, J. (1990). Is the mind of the brain a computer program? In the World of Science (Russian edition of Scientific American), 3, 7–13.
9. Sorokina, S. G. (2023). Artificial intelligence in the context of interdisciplinary studies of language. Bulletin of Kemerovo State University. Series: Humanities and Social Sciences, 7(3), 267–280. https://doi.org/10.21603/2542-1840-2023-7-3-267-280, EDN: https://elibrary.ru/FEIQKS
10. Filippovich, Yu. S., & Filippovich, M. S. (2025). The experience of trust in the context of fatigue and loneliness of a person in modern society. Vestnik of Minin University, 13(3). https://doi.org/10.26795/2307-1281-2025-13-3-14, EDN: https://elibrary.ru/SRYPUQ
11. Yudin, B. G. (2018). Man: Going Beyond the Limits. Moscow: Progress-Tradition, 472 p.
12. Coeckelbergh, M. (2020). AI Ethics. Cambridge, MA: MIT Press, 237 p. https://doi.org/10.7551/mitpress/12549.001.0001
13. Floridi, L., & Sanders, J. W. (2004). On the morality of artificial agents. Minds and Machines, 14(3), 349–379. https://doi.org/10.1023/B:MIND.0000035461.63578.9d, EDN: https://elibrary.ru/ECMQOX
14. Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford: Oxford University Press. https://doi.org/10.1093/oso/9780198883098.001.0001
15. Korsgaard, C. M. (1996). The Sources of Normativity. Cambridge: Cambridge University Press, 290 p. https://doi.org/10.1017/CBO9780511554476
16. Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175–183. https://doi.org/10.1007/s10676-004-3422-1, EDN: https://elibrary.ru/WQSUMU
17. Mill, J. S. (1863). Utilitarianism. London: Parker, Son and Bourn, 95 p.
18. OECD. (2019; updated 2024). Recommendation of the Council on Artificial Intelligence. Paris: OECD. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 (accessed: 24.05.2026).
19. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). (2024). Official Journal of the European Union, July 12. https://eur-lex.europa.eu/eli/reg/2024/1689/oj (accessed: 24.05.2026).
20. Santoni de Sio, F., & Mecacci, G. (2021). Four responsibility gaps with artificial intelligence: Why they matter and how to address them. Philosophy & Technology, 34, 1057–1084. https://doi.org/10.1007/s13347-021-00450-x, EDN: https://elibrary.ru/FNKIAH
21. Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). Gaithersburg: National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1
22. UNESCO. (2022). Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000380455 (accessed: 24.05.2026).
23. Vallor, S., & Vierkant, T. (2024). Find the gap: AI, responsible agency and vulnerability. Minds and Machines, 34(3). Article 20. https://doi.org/10.1007/s11023-024-09674-0, EDN: https://elibrary.ru/STVLOD
24. Veluwenkamp, H., & Hindriks, F. (2024). Artificial agents: Responsibility & control gaps. Inquiry. Advance online publication. https://doi.org/10.1080/0020174X.2024.2410995