кандидат философских наук, старший научный сотрудник отдела философии
PhD in Philosophy, Senior Researcher Philosophy Department
Background. The development of IT technologies and efforts to develop artificial intelligence (AI) are proving to be the most important trends of our time. The author seeks to substantiate that, in the context of ethical trust in the development of automated control systems (ACS), a key question deserving attention from information technology specialists is which technical tools and properties are relevant for ensuring the inherent reliability of systems. Reliability, in an ethical sense, means a conscientious and competent approach to the task at hand. Trust, in turn, based on reliability, simultaneously serves as a prerequisite, a result, and a fundamental ethical value for the full development of society.
Purpose – to analyze the ethical implications of using IT technologies through the prism of such categories as moral trust and reliability.
Materials and methods. The primary research method is axiological, normative, and comparative. Qualitative indicators were used to describe the ethical aspects of IT development. The article draws on a comprehensive set of theoretical sources related to this topic.
Results. In the context of trust in IT developments, a key question deserving attention from IT specialists is which technical tools can ensure moral trust in them. This question, in turn, leads to a more fundamental issue: what does trust in a non-human agent mean in domains such as human-computer and human-robot interactions? Empirical research shows that people develop different expectations of machines than they do of other humans, regardless of how intelligent these machines are perceived. For AI to support rather than undermine human well-being, it must be developed within a biopsychoethical paradigm that takes into account biological and social needs, as well as the psychological development of the subject.
Обоснование. Развитие IT-технологий и усилия по разработке искусственного интеллекта (ИИ) оказываются важнейшими трендами настоящего времени. Автор стремится обосновать, что в контексте этического доверия к разработкам автоматизированных систем управления (АСУ) ключевой вопрос, заслуживающий внимания со стороны специалистов в области информационных технологий, состоит в том, какие технические инструменты и свойства являются релевантными для обеспечения внутренней надёжности систем. Надежность в этическом аспекте означает добросовестное, компетентное отношение к поставленной задаче. В свою очередь, доверие, опираясь на надежность, одновременно выступает предпосылкой, результатом и основополагающей этической ценностью для полноценного развития социума.
Цель – анализ этических последствий использования IT-технологий сквозь призму таких категорий, как моральное доверие и надежность.
Материалы и методы. Основный метод исследования – аксиологический нормативно-компаративный. Качественные показатели использовались как средство описания этических аспектов развития IT-технологий. Статья основывается на совокупности теоретических источников, связанных с указанной тематикой.
Результаты. В контексте доверия к разработкам IT-технологий ключевой вопрос, заслуживающий внимания со стороны специалистов в области информационных технологий, заключается в том, какие технические инструменты способны обеспечить моральное доверие к ним. Данный вопрос, в свою очередь, выводит на более фундаментальную проблему: что означает доверие к нечеловеческому агенту в таких областях, как взаимодействие человека с компьютером и человека с роботом? Эмпирические исследования свидетельствуют, что у людей формируются иные ожидания в отношении машин по сравнению с их ожиданиями относительно других людей – независимо от того, насколько интеллектуальными воспринимаются эти машины. Для того чтобы ИИ поддерживал, а не подрывал человеческое благополучие, его необходимо разрабатывать в рамках биопсихоэтической парадигмы, в рамках которой учитывались бы биологические и социальные потребности, а также психологическое развитие субъекта.