ISSN 2071-8594

Российская академия наук

 

С. В. Гарбук "Особенности применения понятия «доверие» в области искусственного интеллекта"

Аннотация.

Рассмотрены особенности использования понятия «доверие» применительно к системам искусственного интеллекта. Показано, что исторически сложившееся в гуманитарных науках содержание данного понятия накладывает определенные ограничения на его использование в области искусственного интеллекта и информационных технологий в целом. Игнорирование этих особенностей может привести к опасным последствиям при использовании «доверенных» систем искусственного интеллекта при решении особо ответственных прикладных задач интеллектуальной обработки данных.

Ключевые слова:

искусственный интеллект, задачи искусственного интеллекта, прикладные технологии искусственного интеллекта, доверие к системам искусственного интеллекта, качество систем искусственного интеллекта, экосистема искусственного интеллекта.

DOI 10.14357/20718594200302

Стр. 15-21.

Литература

1. Department of Defense standard. Department of Defense trusted computer system evaluation criteria. DoD 5200. December 1985.
2. ERCIM News. Special theme: Trustworthy Systems of Systems. Safety & Security Co-. Num.102. European Research Consortium for Informatics and Mathematics. July 2015.engineering
3. OECD. Artificial Intelligence in Society. 2019. 150 p.
4. ISO 24028:2019 Information technology — Artificial intelligence (AI) — Overview of trustworthiness in Artificial intelligence. 2019.
5. Национальная стратегия развития искусственного интеллекта на период до 2030 года. Утверждена Указом Президента Российской Федерации от 10 октября 2019 г. № 490.
6. DARPA. Explainable AI (XAI) Project//URL: https://www.darpa.mil/program/explainable-artificial-intelligence (дата обращения: 05.02.2020).
7. Ильясов Ф. Н. Типы шкал и анализ распределений в социологии // Мониторинг общественного мнения: экономические и социальные перемены. 2014. №4. С. 24-40.
8. Ильин Е. П. Психология доверия. СПб.: Питер. 2013. 288 с.
9. Giddens A. The consequences of modernity. Stanford: Stanford univ. Press. 1990.
10. Гельфанова С.В., Лавров В.Н. Доверие как феномен культуры // URL: http://www.delorus.com/medialibrary/detail.php?ID=1896 (дата обращения: 20.02.2020).
11. Фукуяма Ф. Доверие: социальные добродетели и путь к процветанию. М.: ACT: ЗАО НПП «Ермак». 2004. 730 с.
12. Большой психологический словарь. Под ред. Б.Г. Мещерякова, В.П. Зинченко. М.: Прайм-ЕВРОЗНАК. 2003.
13. Яхонтова Е. С. Доверие в управлении персоналом. Зарубежные подходы и отечественный опыт оценки // Социологические исследования. 2004.- №9. С. 117-121.
14. Энциклопедический Словарь Ф.А. Брокгауза и И.А. Ефрона. Санкт-Петербург. 1890-1907.
15. Тихомиров О.К. Психология мышления. М.: МГУ. 1984. 272 с.