Проблема моральной ответственности в контексте развития сильного искусственного интеллекта
Аннотация
Обоснование. Стремительное развитие технологий машинного обучения и генеративных нейросетей обострило дискуссию о границах моральной субъектности и ответственности в ситуациях, где автономные системы принимают решения, затрагивающие жизнь и благополучие людей. Сильный интеллект – это предполагаемая техническая система, которая способны выполнять интеллектуальные задачи на уровне человека, то есть с пониманием и возможностью самообучения. В своем развитии он проходит несколько этапов: от контролируемого через уменьшение надзора до минимального к автономной и самодостаточной стадии. Вместе с этим меняется и мораль: от попытки встроить ее в алгоритмы к пересмотру сущности и оснований перед лицом агента, отличного или даже превосходящего человека. Классические этические теории, выстроенные вокруг свободной воли и рационального выбора, оказываются недостаточными для квалификации действий агентов, лишённых сознания в философском смысле.
Цель исследования – выявить концептуальные ограничения применения категории моральной ответственности к системам сильного искусственного интеллекта и предложить трехуровневую модель распределённой ответственности.
Гипотеза: моральная ответственность за действия автономных интеллектуальных систем не может быть локализована в одном субъекте; она распределяется между разработчиками, операторами и институциональной средой.
Материалы и методы. Методологической основой исследования выступает концептуальный анализ, позволяющий реконструировать содержание философских категорий (моральная ответственность, субъектность, интенциональность) и оценить границы их применения к новым объектам. Параллельно используется сравнительный метод, посредством которого сопоставляются позиции представителей различных этических традиций.
Новизна исследования. Предложена интерпретация проблемы ответственности через призму концепции «вакуума ответственности» А. Маттиаса, дополненной положениями этики заботы и институциональной этики, что позволяет преодолеть индивидуалистическую редукцию.
Результаты. Показано, что ни модель добровольного действия Аристотеля, ни критерий автономии воли Канта не применимы к искусственным агентам напрямую. Аргумент Сёрла о невозможности подлинной интенциональности у вычислительных систем остаётся состоятельным, однако не снимает вопроса об ответственности за последствия. Обосновано, что адекватной рамкой выступает распределённая ответственность, включающая три уровня: техническую подотчётность разработчика, операционную ответственность пользователя и регуляторную ответственность институтов.
Скачивания
Литература
Аристотель. (2020). Никомахова этика. Москва; Берлин: Директ-Медиа, 222 с.
Баксанский, О. Е., & Сорокина, С. Г. (2025). Этика искусственного интеллекта: сбалансированный подход к развитию и применению. Общество: философия, история, культура, 1, 23–33. https://doi.org/10.24158/fik.2025.1.2, EDN: https://elibrary.ru/AVFHGB
Бостром, Н. (2016). Искусственный интеллект. Этапы. Угрозы. Стратегии. Москва: Манн, Иванов и Фербер, 496 с.
Йонас, Х. (2004). Принцип ответственности. Опыт этики для технологической цивилизации. Москва: Айрис-пресс, 480 с.
Кант, И. (2005). Критика практического разума. Санкт-Петербург: Наука, 528 с.
Лекторский, В. А. (2024). Человек и системы искусственного интеллекта. В Искусственный интеллект: материалы заседания 14 октября 2023 (с. 20–50, 76–77, 164–167). Москва: Новые печатные технологии.
Никитина, Е. А. (2014). Искусственный интеллект: философия, методология, инновации. Философские проблемы информационных технологий и киберпространства, 2(8), 108–122. EDN: https://elibrary.ru/TENWVP
Сёрл, Дж. (1990). Разум мозга – компьютерная программа? В мире науки, 3, 7–13.
Сорокина, С. Г. (2023). Искусственный интеллект в контексте междисциплинарных исследований языка. Вестник Кемеровского государственного университета. Сер.: Гуманитарные и общественные науки, 7(3), 267–280. https://doi.org/10.21603/2542-1840-2023-7-3-267-280, EDN: https://elibrary.ru/FEIQKS
Филиппович, Ю. С., & Филиппович, М. С. (2025). Опыт доверия в контексте усталости и одиночества человека в современном обществе. Вестник Мининского университета, 13(3). https://doi.org/10.26795/2307-1281-2025-13-3-14, EDN: https://elibrary.ru/SRYPUQ
Юдин, Б. Г. (2018). Человек: выход за пределы. Москва: Прогресс-Традиция, 472 с.
Coeckelbergh, M. (2020). AI Ethics. Cambridge, MA: MIT Press, 237 p. https://doi.org/10.7551/mitpress/12549.001.0001
Floridi, L., & Sanders, J. W. (2004). On the morality of artificial agents. Minds and Machines, 14(3), 349–379. https://doi.org/10.1023/B:MIND.0000035461.63578.9d, EDN: https://elibrary.ru/ECMQOX
Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford: Oxford University Press. https://doi.org/10.1093/oso/9780198883098.001.0001
Korsgaard, C. M. (1996). The Sources of Normativity. Cambridge: Cambridge University Press, 290 p. https://doi.org/10.1017/CBO9780511554476
Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175–183. https://doi.org/10.1007/s10676-004-3422-1, EDN: https://elibrary.ru/WQSUMU
Mill, J. S. (1863). Utilitarianism. London: Parker, Son and Bourn, 95 p.
OECD. (2019; обновлено в 2024). Recommendation of the Council on Artificial Intelligence. Paris: OECD. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 (дата обращения: 24.05.2026).
Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). (2024). Official Journal of the European Union, 12 июля. https://eur-lex.europa.eu/eli/reg/2024/1689/oj (дата обращения: 24.05.2026).
Santoni de Sio, F., & Mecacci, G. (2021). Four responsibility gaps with artificial intelligence: Why they matter and how to address them. Philosophy & Technology, 34, 1057–1084. https://doi.org/10.1007/s13347-021-00450-x, EDN: https://elibrary.ru/FNKIAH
Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). Gaithersburg: National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1
UNESCO. (2022). Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000380455 (дата обращения: 24.05.2026).
Vallor, S., & Vierkant, T. (2024). Find the gap: AI, responsible agency and vulnerability. Minds and Machines, 34(3). Article 20. https://doi.org/10.1007/s11023-024-09674-0, EDN: https://elibrary.ru/STVLOD
Veluwenkamp, H., & Hindriks, F. (2024). Artificial agents: Responsibility & control gaps. Inquiry. Advance online publication. https://doi.org/10.1080/0020174X.2024.2410995
References
Aristotle. (2020). Nicomachean Ethics. Moscow; Berlin: Direct-Media, 222 p.
Baksansky, O. E., & Sorokina, S. G. (2025). Ethics of artificial intelligence: A balanced approach to the development and application. Society: Philosophy, History, Culture, 1, 23–33. https://doi.org/10.24158/fik.2025.1.2, EDN: https://elibrary.ru/AVFHGB
Bostrom, N. (2016). Artificial Intelligence: Stages. Threats. Strategies. Moscow: Mann, Ivanov and Ferber, 496 p.
Jonas, H. (2004). The Principle of Responsibility: An Attempt at an Ethics for the Technological Civilization. Moscow: Iris-Press, 480 p.
Kant, I. (2005). Critique of Practical Reason. St. Petersburg: Nauka, 528 p.
Lektorsky, V. A. (2024). Man and artificial intelligence systems. In Artificial Intelligence: Proceedings of the Meeting of October 14, 2023 (pp. 20–50, 76–77, 164–167). Moscow: New Printing Technologies.
Nikitina, E. A. (2014). Artificial intelligence: Philosophy, methodology, innovations. Philosophical Problems of Information Technologies and Cyberspace, 2(8), 108–122. EDN: https://elibrary.ru/TENWVP
Searle, J. (1990). Is the mind of the brain a computer program? In the World of Science (Russian edition of Scientific American), 3, 7–13.
Sorokina, S. G. (2023). Artificial intelligence in the context of interdisciplinary studies of language. Bulletin of Kemerovo State University. Series: Humanities and Social Sciences, 7(3), 267–280. https://doi.org/10.21603/2542-1840-2023-7-3-267-280, EDN: https://elibrary.ru/FEIQKS
Filippovich, Yu. S., & Filippovich, M. S. (2025). The experience of trust in the context of fatigue and loneliness of a person in modern society. Vestnik of Minin University, 13(3). https://doi.org/10.26795/2307-1281-2025-13-3-14, EDN: https://elibrary.ru/SRYPUQ
Yudin, B. G. (2018). Man: Going Beyond the Limits. Moscow: Progress-Tradition, 472 p.
Coeckelbergh, M. (2020). AI Ethics. Cambridge, MA: MIT Press, 237 p. https://doi.org/10.7551/mitpress/12549.001.0001
Floridi, L., & Sanders, J. W. (2004). On the morality of artificial agents. Minds and Machines, 14(3), 349–379. https://doi.org/10.1023/B:MIND.0000035461.63578.9d, EDN: https://elibrary.ru/ECMQOX
Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford: Oxford University Press. https://doi.org/10.1093/oso/9780198883098.001.0001
Korsgaard, C. M. (1996). The Sources of Normativity. Cambridge: Cambridge University Press, 290 p. https://doi.org/10.1017/CBO9780511554476
Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175–183. https://doi.org/10.1007/s10676-004-3422-1, EDN: https://elibrary.ru/WQSUMU
Mill, J. S. (1863). Utilitarianism. London: Parker, Son and Bourn, 95 p.
OECD. (2019; updated 2024). Recommendation of the Council on Artificial Intelligence. Paris: OECD. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 (accessed: 24.05.2026).
Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). (2024). Official Journal of the European Union, July 12. https://eur-lex.europa.eu/eli/reg/2024/1689/oj (accessed: 24.05.2026).
Santoni de Sio, F., & Mecacci, G. (2021). Four responsibility gaps with artificial intelligence: Why they matter and how to address them. Philosophy & Technology, 34, 1057–1084. https://doi.org/10.1007/s13347-021-00450-x, EDN: https://elibrary.ru/FNKIAH
Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). Gaithersburg: National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1
UNESCO. (2022). Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000380455 (accessed: 24.05.2026).
Vallor, S., & Vierkant, T. (2024). Find the gap: AI, responsible agency and vulnerability. Minds and Machines, 34(3). Article 20. https://doi.org/10.1007/s11023-024-09674-0, EDN: https://elibrary.ru/STVLOD
Veluwenkamp, H., & Hindriks, F. (2024). Artificial agents: Responsibility & control gaps. Inquiry. Advance online publication. https://doi.org/10.1080/0020174X.2024.2410995
Copyright (c) 2026 Svetlana M. Maltseva, Arina D. Gracheva, Mira B. Rotanova
Это произведение доступно по лицензии Creative Commons «Attribution-NonCommercial-NoDerivatives» («Атрибуция — Некоммерческое использование — Без производных произведений») 4.0 Всемирная.
