канд. филос. наук, доцент, доцент кафедры философии и теологии; доцент кафедры общеобразовательных и профессиональных дисциплин
PhD, Associate Professor, Associate Professor of the Department of Philosophy and Theology; Associate Professor of the Department of General Education and Professional Disciplines
Student of the Department of Professional Education and Management of Educational Systems
студент кафедры профессионального образования и управления образовательными системами
канд. филос. наук, доцент кафедры философии, общественных коммуникаций и туризма
PhD, Associate Professor of Philosophy, Public Communications and Tourism
Background. The rapid development of machine learning technologies and generative neural networks has intensified the debate about the boundaries of moral subjectivity and responsibility in situations where autonomous systems make decisions affecting people’s lives and well-being. Strong intelligence is an assumed technical system that is capable of performing intellectual tasks at the human level, that is, with understanding and the possibility of self–learning. It goes through several stages in its development: from controlled through reduced supervision to minimal to an autonomous and self-sufficient stage. At the same time, morality is also changing: from an attempt to embed it in algorithms to a revision of the essence and grounds in the face of an agent who is different or even superior to a person. Classical ethical theories, built around free will and rational choice, are insufficient to qualify the actions of agents devoid of consciousness in the philosophical sense.
Purpose – to identify the conceptual limitations of applying the category of moral responsibility to systems of strong artificial intelligence and to propose a three-level model of distributed responsibility.
Hypothesis: moral responsibility for the actions of autonomous intelligent systems cannot be localized in one entity; it is distributed among developers, operators and the institutional environment.
Materials and methods. The methodological basis of the research is a conceptual analysis that allows reconstructing the content of philosophical categories (moral responsibility, subjectivity, intentionality) and assessing the boundaries of their application to new objects. In parallel, a comparative method is used, through which the positions of representatives of various ethical traditions and the novelty of the research are compared. The interpretation of the problem of responsibility through the prism of the concept of the «vacuum of responsibility» is proposed. Mattias, supplemented by the provisions of ethics of care and institutional ethics, which makes it possible to overcome individualistic reduction.
Results. It is shown that neither Aristotle’s model of voluntary action nor Kant’s criterion of will autonomy are directly applicable to artificial agents. Searle’s argument about the impossibility of genuine intentionality in computing systems remains valid, but it does not remove the question of responsibility for the consequences. It is proved that an adequate framework is distributed responsibility, which includes three levels: technical accountability of the developer, operational responsibility of the user and regulatory responsibility of institutions.
Обоснование. Стремительное развитие технологий машинного обучения и генеративных нейросетей обострило дискуссию о границах моральной субъектности и ответственности в ситуациях, где автономные системы принимают решения, затрагивающие жизнь и благополучие людей. Сильный интеллект – это предполагаемая техническая система, которая способны выполнять интеллектуальные задачи на уровне человека, то есть с пониманием и возможностью самообучения. В своем развитии он проходит несколько этапов: от контролируемого через уменьшение надзора до минимального к автономной и самодостаточной стадии. Вместе с этим меняется и мораль: от попытки встроить ее в алгоритмы к пересмотру сущности и оснований перед лицом агента, отличного или даже превосходящего человека. Классические этические теории, выстроенные вокруг свободной воли и рационального выбора, оказываются недостаточными для квалификации действий агентов, лишённых сознания в философском смысле.
Цель исследования – выявить концептуальные ограничения применения категории моральной ответственности к системам сильного искусственного интеллекта и предложить трехуровневую модель распределённой ответственности.
Гипотеза: моральная ответственность за действия автономных интеллектуальных систем не может быть локализована в одном субъекте; она распределяется между разработчиками, операторами и институциональной средой.
Материалы и методы. Методологической основой исследования выступает концептуальный анализ, позволяющий реконструировать содержание философских категорий (моральная ответственность, субъектность, интенциональность) и оценить границы их применения к новым объектам. Параллельно используется сравнительный метод, посредством которого сопоставляются позиции представителей различных этических традиций.
Новизна исследования. Предложена интерпретация проблемы ответственности через призму концепции «вакуума ответственности» А. Маттиаса, дополненной положениями этики заботы и институциональной этики, что позволяет преодолеть индивидуалистическую редукцию.
Результаты. Показано, что ни модель добровольного действия Аристотеля, ни критерий автономии воли Канта не применимы к искусственным агентам напрямую. Аргумент Сёрла о невозможности подлинной интенциональности у вычислительных систем остаётся состоятельным, однако не снимает вопроса об ответственности за последствия. Обосновано, что адекватной рамкой выступает распределённая ответственность, включающая три уровня: техническую подотчётность разработчика, операционную ответственность пользователя и регуляторную ответственность институтов.