В статье автор исследует проблему моделирования структуры и свойств менталитета в комплексе искусственного интеллекта.
Ключевые слова: искусственный интеллект, управление персоналом, ментальная безопасность, национальная принадлежность
Национальная принадлежность — одна из проблем, связанных с созданием искусственного интеллекта (ИИ). Так, в ходе выступления на форуме Digital Almaty 2024 премьер-министр Михаил Мишустин подчеркнул недопустимость использования западных ИИ в критически важных отраслях отечественной экономики и промышленности. «В «мозгах» российского GigaChat и западного ChatGPT фактически разные картины мира. Разное понимание, что такое хорошо, а что такое плохо. И при допуске ИИ-решений в критически значимые отрасли, например, в науку, медицину, промышленность, важно использовать модели, отвечающие собственным национальным интересам», — отметил Мишустин [5]. Здесь помимо вопросов национальной экономической безопасности речь идет и о ментальной безопасности, о способности ИИ влиять на картину мира человека.
Все сталкивались с таким эффектом: стоит один раз что-то поискать в интернете, как реклама этого товара будет у пользователя на каждом сайте. И хотя основная цель таких механизмов — заставить человека приобрести что-либо, сегодня такие системы уже умеют не только предлагать товары, они с точностью определяют национальность или менталитет (или какие-либо взгляды) пользователя и способны предложить зашедшем на сайт людям из разных стран товар в соответствии с их национальностью или ментальными установками: например, противнику убийства животных ради меха — товары из искусственных тканей.
На изучении ИИ ментальных особенностей пользователей построена не только эффективность рекламных компаний, но и избирательные технологии, прогнозирования эффективности или реакции различных слоев общества на предполагаемые реформы, реорганизации, изменения масштаба цен и так далее. Вполне возможно, что со временем ИИ будет под силу менять мировоззрение целых наций, закладывая необходимую картину мира, включая набор прикладных ценностей, позволяя манипулировать людьми. Поэтому, например, в Евросоюзе, реализуя свою доктрину национальной безопасности, уже подготовили первый свод правил для разработчиков искусственного интеллекта, среди которых — наличие политики допустимого использования и предоставление информации о данных, на которых обучали модель. Данные, обучения ИИ, которые касаются поведенческой культуры одной страны, могут быть ментально опасны для другой. В связи с этим возникают ментальные риски применения продукта, особенно в сферах менеджмента.
Как отмечает Н.Бондаренко [2], те или иные бизнес-процессы, теории маркетинга и менеджмента, пришедшие к нам с Запада, не только плохо приживаются, но и не дают обещанных результатов. Созданные и отработанные в большинстве своем на типичных американцах, эти методики просто не могут «работать», когда дело касается представителей других культур. Несмотря на заимствование западных практик, российский менеджмент сохраняет ряд отличительных национальных особенностей. Вот некоторые проявления национальной деловой культуры:
Коллективизм. Для россиян характерно стремление к групповой работе, тесные неформальные связи внутри коллектива.
Патернализм. Работники ожидают от руководителя заботы и внимания к своим нуждам, как от родителя.
Стремление к справедливости. Важно чтобы вознаграждение соответствовало трудовому вкладу каждого сотрудника.
Избегание неопределенности. Россияне предпочитают ясность и определенность в работе, четкие инструкции.
Негативное отношение к конфликтам. Конфликты стараются замять, не выносить разногласия наружу.
Высокая степень централизации управления, сосредоточение полномочий у руководителя.
Любовь к авралам и неритмичной работе.
Приоритет интуиции над системным аналитическим подходом в принятии управленческих решений [1].
Все эти особенности могут рассматриваться как системные недостатки лишь с точки зрения управленческих традиций других стран. И применяя системы генеративного искусственного интеллекта (ИИ), которые не являются российским продуктом, в сфере управления персоналом, мы пытаемся не улучшить организационную культуру предприятия, а перекроить ее на чужой лад. Необходимость учета ментальных особенностей наиболее очевидна, например, при обучении ИИ анализировать поведение сотрудников на работе по видеонаблюдению или при собеседовании кандидата на должность. Фиксируя различные положения тела и мимику, которые указывают на ту или иную эмоцию, алгоритм начинает сопоставление с имеющимися в базе данными по аналогичным позам человека, но жесты и мимика имеют и национальные особенности. Рекрутер составляет вопросы, на которые должен ответить кандидат и выделяет нужные характеристики для конкретной должности (память, внимание, гибкость реагирования), а ИИ на основе тестирования и резюме подбирает наиболее подходящего кандидата на должность. Однако следует учитывать, например, что русская культура относиться к полиактивным культурам и наш среднестатистический работник планирует только в общих чертах, делает несколько дел одновременно, может работать в любое время суток, непунктуален, позволяет проектам накладываться друг на друга, может изменять планы и лучшая форма инвестирования времени для него — это общение с людьми, то есть соответственно его показатели памяти, внимания, гибкости реагирования не могут быть как у работника моноактивной или реактивной культуры.
В этой связи показателен пример, приведенный по поводу различия в организационной культуре народов генеральным директором Orange Business Services Ричардом Ван Вагенинген [8]. Чтобы уничтожить определенные документы шредером для сотрудника в Саудовской Аравии, желательно разложить просьбу на четкие составляющие начиная с решения, как должны быть уничтожены бумаги — с верха или низа страницы. Тогда как в Нидерландах любое указание, как правило, приводит к возникновению множества вопросов и четкий алгоритм действий не принимается на веру. В России же может быть озвучен лишь необходимый финальный результат, а процесс оставлен на усмотрение самого сотрудника, у которого вопросы чаще всего не возникают.
Учет ментальности не следует путать с встроенными предубеждениями, обусловленными моделями и усреднёнными представлениями о том, как выбирать кандидата на соответствующую должность. Алгоритмы ИИ могут воспроизводить и усиливать существующие предвзятости, поскольку они обучаются на основе существующих данных, которые могут содержать исторически сложившиеся стереотипы и предубеждения, поэтому проблема разделения исторического стереотипа (первое отрицательно влияет на принятие решения) и особенностей менталитета (второе учитывается как допустимая погрешность) — это тоже одна из задач разработчиков.
Проблема моделирования структуры и свойств менталитета в комплексе искусственного интеллекта только поднимается современными учеными [4, с.21]. Между тем, эта проблема пересекается с проблемой рационализации коммуникаций и формализации процессов в управлении персоналом. Это те процессы, которые немецкий философ Ю. Хабермас называл «колонизацией жизненного мира» [6, C. 117]. Хабермас использовал этот термин для описания процесса, при котором системы (такие как экономика и государство) начинают доминировать в областях, традиционно управляемых межличностными отношениями и общественными нормами. Это приводит к уменьшению влияния традиционных социальных структур и ценностей. В случае распространения систем генеративного ИИ мы имеем дело с ситуацией «затвердения» и тиражирования этих норм и подходов, поскольку изначально ИИ формируется на том, что можно назвать формальными знаниями. Такая технически обеспеченная рациональность способствует созданию структур власти, которые трудно понять и критиковать обычным людям. Как считают некоторые ученые, например А. Н. Фортунатов [7], можно предположить, что уже в ближайшем будущем внедрение систем генеративного ИИ в сферу управления персонала приведет к усилению дегуманизации и обезличиванию в коммуникации и взаимодействии сотрудников компании. Особенно если использование ИИ будет приоритетнее человеческого суждения и межличностных отношений. И, несомненно, подобное использование также приведет к трансформации национального менталитета.
Таким образом, проблема национальной принадлежности искусственного интеллекта, его экономической и ментальной безопасности только начинает осознаваться обществом. И наибольшие риски его внедрения несет в гуманитарные сферы жизни, к которым относится и управление персоналом. Культура как организационная, так и национальная — это продукт ценностей и норм, которые люди используют для направления своего поведения и контроля над ним. И рациональность не может быть главным критерием никакой культуры.
Литература:
- Андреева Е. Особенности российской модели менеджмента в современных условиях — [Электронный ресурс]. — URL: https://fb.ru/article/4919/2024–2024-osobennosti-rossiyskoy-modeli-menedjmenta-v-sovremennyih-usloviyah (дата обращения 15.03.2024 г)
- Бондаренко Н. Как менталитет влияет на рабочую активность. Кросс культурные различия — [Электронный ресурс]. — URL: https://blogtrenera.ru/blog/kak-mentalitet-vliyaet-na-rabochuyu-aktivnost-ocenivaem-i-upravlyaem-personalom-s-uchetom-krosskulturnyx-razlichij-kommercheskij-direktor-1-yanvar-2012-avtorskaya-statya.html (дата обращения 15.03.2024 г)
- Костенко Е. П. Российская модель управления персоналом: предпосылки формирования и особенности // Государственное и муниципальное управление. Ученые записки. 2017. № 4 с.35–44
- Левина В. Моделирование структуры и свойств менталитета в комплексе искусственного интеллекта // Современное педагогическое образование № 5, 2023 с.21–28
- Мишустин: в российский GigaChat и западный ChatGPT заложены разные картины мира — [Электронный ресурс]. — URL: https://tass.ru/ekonomika/19882495 (дата обращения 15.03.2024 г)
- Хабермас, Ю. Хабермас, Ю. Техника и наука как «идеология» [Текст] / Пер. с нем. М. Л. Хорькова. — М.: Праксис, 2007. — 208 с.
- Фортунатов А. Н. Кибергуманизм // Как коммуникативные технологии трансформируют наше общество. Москва: ФЛИНТА. 2023, 184 с.
- Ричард Ван Вагенинген. Как культурные особенности и менталитет сотрудников влияют на стиль управления компанией — [Электронный ресурс]. — URL: https://rb.ru/opinion/mentalitet/ (дата обращения 15.03.2024 г)
