guuvestВестник университетаVestnik Universiteta1816-42772686-8415State University of Management10.26425/1816-4277-2024-3-176-185guuvest-5171Research ArticleСОЦИАЛЬНЫЕ ТЕХНОЛОГИИ И ПРОЦЕССЫSOCIAL TECHNOLOGIES AND PROCESSESПроблемы предвзятости и дискриминации человеческого капитала в системах искусственного интеллектаProblems of bias and discrimination of human capital in artificial intelligence systemshttps://orcid.org/0000-0002-5949-9198КаштановаЕ. В.KashtanovaE. V.

Каштанова Екатерина Викторовна - канд. экон. наук, доц. каф. управления персоналом,

г. Москва

Ekaterina V. Kashtanova - Cand. Sci. (Econ.), Assoc. Prof at the Personnel Management Department,

Moscow

kashtanovae@mail.ruhttps://orcid.org/0000-0002-4210-9018ЛобачеваА. С.LobachevaA. S.

Лобачева Анастасия Сергеевна - канд. экон. наук, доц. каф. управления персоналом,

г. Москва

Anastasia S. Lobacheva - Cand. Sci. (Econ.), Assoc. Prof at the Personnel Management Department,

Moscow

aslobacheva@mail.ruГосударственный университет управленияРоссияState University of ManagementRussian Federation20241105202403176185Copyright © Каштанова Е.В., Лобачева А.С., 20242024Каштанова Е.В., Лобачева А.С.Kashtanova E.V., Lobacheva A.S.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://vestnik.guu.ru/jour/article/view/5171

Статья посвящена изучению генезиса понимания причин предвзятости и дискриминации человеческого капитала от традиционных форм до эпохи цифровизации и искусственного интеллекта (далее – ИИ). В данной статье авторы продолжают свои тематические исследования в области изучения вопросов этики ИИ, преимуществ и рисков его повсеместного распространения и использования. Основной целью написания этой работы является изучение вопроса о том, насколько усугубляет применение ИИ и алгоритмизированных решений проблему предвзятости и дискриминации человеческого капитала, которая неизбежно связана с появлением ИИ. Авторы статьи представляют краткий обзор ретроспективы, а также открывают новые современные формы проявления дискриминации, порождаемые действием ИИ, и подвергают их открытому обсуждению, предлагая свое видение решения вопросов по нейтрализации рисков, распространяемых применением технологий ИИ в отношении тех или иных групп трудящихся. Авторы рассматривают в статье проявления предвзятости и дискриминации в обществе в целом и в сфере управления человеческими ресурсами в частности, определяют возможные угрозы дискриминации в результате распространения ИИ и последствия этих угроз.

The article is devoted to the study of the genesis of understanding the causes of bias and discrimination of human capital from traditional forms to the era of digitalisation and artificial intelligence (hereinafter referred to as AI). In this article, the authors continue their case studies in the field of studying the ethics of AI, advantages and risks of its widespread distribution and use. The main purpose of writing this work is to study the question of how the use of AI and algorithmic solutions aggravates the problem of bias and discrimination of human capital which is inevitably associated with the emergence of AI. The authors of the article present a brief overview of the retrospective, discover new modern forms of discrimination generated by the action of AI and subject them to open discussion, offering their vision of solving issues on neutralisation the risks caused by the use of AI technologies in relation to certain groups of workers. The authors consider in the article the manifestations of bias and discrimination in society in general and in the field of human resource management in particular, identify possible threats of discrimination as a result of the spread of AI and the consequences of these threats.

искусственный интеллектдискриминация человеческого капиталацифровизацияцифровая грамотностьцифровая компетентностьпредвзятость искусственного интеллектаэтика искусственного интеллектацифровая предвзятостьartificial intelligencehuman capital discriminationdigitalisationdigital literacydigital competenceartificial intelligence biasartificial intelligence ethicsdigital biasReferencesLeonov V.A., Kashtanova E.V., Lobacheva A.S. Ethical aspects of artificial intelligence use in social spheres and management environment. European Proceedings of Social and Behavioural Sciences. 2021;118:989–998. http://doi.org/10.15405/epsbs.2021.04.02.118Leonov V.A., Kashtanova E.V., Lobacheva A.S. Ethical aspects of artificial intelligence use in social spheres and management environment. European Proceedings of Social and Behavioural Sciences. 2021;118:989–998. http://doi.org/10.15405/epsbs.2021.04.02.118Suen H.-Y., Hung K.E., Lin Ch.-L. Intelligent video interview agent used to predict communication skill and perceived personality traits. Human-centric Computing and Information Sciences. 2020;3(10). http://dx.doi.org/10.1186/s13673-020-0208-3Suen H.-Y., Hung K.E., Lin Ch.-L. Intelligent video interview agent used to predict communication skill and perceived personality traits. Human-centric Computing and Information Sciences. 2020;3(10). http://dx.doi.org/10.1186/s13673-020-0208-3Vinichenko M.V., Narrainen G.S., Melnichuk A.V., Chalid Ph. The influence of artificial intelligence on human activities. In: Frontier information technology and systems research in cooperative economics. Heidelberg: Springer; 2020. Pp. 561–570.Vinichenko M.V., Narrainen G.S., Melnichuk A.V., Chalid Ph. The influence of artificial intelligence on human activities. In: Frontier information technology and systems research in cooperative economics. Heidelberg: Springer; 2020. Pp. 561–570.Symitsi E., Stamolampros P., Daskalakis G., Korfiatis N. The informational value of employee online reviews. European Journal of Operational Research. 2021;2(288):605–619. http://dx.doi.org/10.1016/j.ejor.2020.06.001Symitsi E., Stamolampros P., Daskalakis G., Korfiatis N. The informational value of employee online reviews. European Journal of Operational Research. 2021;2(288):605–619. http://dx.doi.org/10.1016/j.ejor.2020.06.001Sinha N., Singh P., Gupta M., Singh P. Robotics at workplace: an integrated Twitter analytics – SEM based approach for behavioral intention to accept. International Journal of Information Management. 2020;55:102210. http://dx.doi.org/10.1016/j.ijinfomgt.2020.102210Sinha N., Singh P., Gupta M., Singh P. Robotics at workplace: an integrated Twitter analytics – SEM based approach for behavioral intention to accept. International Journal of Information Management. 2020;55:102210. http://dx.doi.org/10.1016/j.ijinfomgt.2020.102210Courtland R. Bias detectives: the researchers striving to make algorithms fair. Nature. 2018;558:357–360. https://doi.org/10.1038/d41586-018-05469-3Courtland R. Bias detectives: the researchers striving to make algorithms fair. Nature. 2018;558:357–360. https://doi.org/10.1038/d41586-018-05469-3Popkova E.G., Gulzat K. Contradiction of the digital economy: public well-being vs. cyber threats. In: Economy: complexity and variety vs. rationality: Proceedings of the 9th National Scientific and Practical Conference, Vladimir, April 17–18, 2019. Cham: Springer; 2019. Pp. 112–124.Popkova E.G., Gulzat K. Contradiction of the digital economy: public well-being vs. cyber threats. In: Economy: complexity and variety vs. rationality: Proceedings of the 9th National Scientific and Practical Conference, Vladimir, April 17–18, 2019. Cham: Springer; 2019. Pp. 112–124.Heinrichs B. Discrimination in the age of artificial intelligence. AI & Society. 2022;37:143–154. https://link.springer.com/article/10.1007/s00146-021-01192-2Heinrichs B. Discrimination in the age of artificial intelligence. AI & Society. 2022;37:143–154. https://link.springer.com/article/10.1007/s00146-021-01192-2

The authors declare that there are no conflicts of interest present.