Когнитивные искажения при внедрении интеллектуальных систем поддержки принятия решений в государственном управлении: теоретико-эмпирический анализ

Исследована ограниченность учета когнитивных искажений при внедрении интеллектуальных систем поддержки принятия решений (далее – ИСППР) в федеральных органах исполнительной власти Российской Федерации. Изучены и описаны основные группы когнитивных искажений, которым подвержен человек, использующий технологии искусственного интеллекта. Целью настоящего исследования является оценка того, насколько психологические факторы интегрируются в проекты цифровой трансформации. Методология включает анкетирование 30 сотрудников 6 федеральных органов исполнительной власти. Результаты показали, что 87 % респондентов признают важность когнитивных рисков, однако лишь 20 % фиксируют их в регламентах; ключевые барьеры – сопротивление персонала (53 %), дефицит компетенций (50 %). Подтверждена гипотеза о систематическом игнорировании когнитивных факторов, что снижает точность и доверие к ИСППР. Практическая значимость результатов заключается в формулировании рекомендаций по внедрению человеко-ориентированного дизайна, метрик «когнитивной устойчивости» и обязательных обучающих модулей для госслужащих. Сделан вывод о необходимости институционализировать психологическую экспертизу как неотъемлемую часть государственной стратегии развития искусственного интеллекта. Перспективы дальнейших исследований – расширение выборки, факторный анализ влияния стажа и роли пользователя, а также разработка ключевых показателей эффективности для мониторинга когнитивных рисков на всех этапах жизненного цикла ИСППР.

1. Веретехин А.В. Управление организацией в цифровой экономике: градация по степени использования цифровых технологий. Вестник университета. 2024;7:5–15. https://doi.org/10.26425/1816-4277-2024-7-5-15

2. Канеман Д., Словик П., Тверски А. Принятие решений в неопределенности: правила и предубеждения. Харьков: Институт прикладной психологии «Гуманитарный центр»; 2005. 632 с.

3. Талер Р., Санстейн К. Подталкивание: как улучшить наши решения насчет здоровья, благосостояния и счастья. Нью-Хейвен: Йельское университетское изд-во; 2008. 293 с.

4. Логинов Н.И., Александрова А.И. Современные тенденции в зарубежных исследованиях когнитивных искажений в процессах принятия решений. Психология. Журнал ВШЭ. 2020;3.

5. Канеман Д., Словик П., Тверски А. Принятие решений в неопределенности: правила и предубеждения. Харьков: Институт прикладной психологии «Гуманитарный центр»; 2005. 632 с.

6. Каштанова Е. В., Лобачева А. С. Проблемы предвзятости и дискриминации человеческого капитала в системах искусственного интеллекта. Вестник университета. 2024;3:176–185.

7. Малыхин Е.А., Лаврик О.В. Методика PCD-18 как инструмент изучения и прогнозирования когнитивных искажений при принятии управленческих решений. Экономические анналы-XXI. 2023;11-12(162):93–97.

8. Sweller J. Cognitive load during problem solving: Effects on learning. Cognitive Science. 1988;2(12):257–285.

9. Nickerson R.S. Confirmation bias: A ubiquitous phenomenon in many guises. Review of General Psychology. 1998;2(2):175–220.

10. Norman D. The Design of Everyday Things: Revised and Expanded Edition. Cambridge: MIT Press; 2013. 368 p.

11. Carruthers P. Phenomenal Consciousness: A Naturalistic Theory. Cambridge: Cambridge University Press; 2000. 304 p.

12. Cranford E.A., Lebiere Ch., Gonzalez C., Aggarwal P., Somers S., Mitsopoulos K., Tambe M. Personalized model-driven interventions for decisions from experience. Topics in Cognitive Science. 2024.

13. Phillips-Wren G., Power D.J., Mora M. Cognitive bias, decision styles, and risk attitudes in decision making and DSS. Journal of Decision Systems. 2019;2(28):63–66.

14. Gull H., Iqbal S.Z. Usability Evaluation of E-Government Websites in Saudi Arabia by Cognitive Walkthrough. In: Usability Evaluation of E-Government Websites in Saudi Arabia by Cognitive Walkthrough. IGI Global; 2017.

15. Грошев И.В., Мэнин Х. Управление цифровой трансформацией организационной культуры и формирующих ее факторов в условиях цифровизации. Вестник университета. 2024;11:5–13. https://doi.org/10.26425/1816-4277-2024-11-5-13