Эмоциональный ИИ на рабочем месте: инновация или инструмент тотального контроля?

В современной корпоративной культуре популярна установка: «невозможно исправить то, что нельзя измерить». С развитием технологий искусственного интеллекта компании начали применять этот подход не только к производственным показателям, но и к душевному состоянию сотрудников. Направление, получившее название «эмоциональный ИИ» (или аффективные вычисления), ставит своей целью распознавание, интерпретацию и обработку человеческих эмоций с помощью алгоритмов.

Как технологии считывают чувства

Благодаря достижениям в области компьютерного зрения, обработки естественного языка и биометрии, системы мониторинга стали способны анализировать широкий спектр данных. Разработчики таких решений, как Cogito, Hume AI и HireVue, предлагают инструменты для сбора информации из различных источников:

• Характеристики голоса: тембр, высота, темп речи и микропаузы.
• Мимика: видеоанализ лиц сотрудников во время онлайн-звонков.
• Текстовые коммуникации: автоматический анализ настроений в электронной почте и корпоративных мессенджерах (например, Slack или Microsoft Teams).
• Биосигналы: вариабельность сердечного ритма и кожно-гальваническая реакция, фиксируемые носимыми устройствами.
• Поведенческая телеметрия: скорость нажатия клавиш, динамика движения мыши и частота переключения между приложениями.

Зачем компаниям контролировать эмоции

В экспертных кругах выделяют несколько основных причин внедрения таких систем. Наиболее оправданной считается сфера безопасности: например, датчики могут вовремя заметить усталость водителя грузовика и подать сигнал, предотвращая аварию. В сфере обслуживания такие компании, как MetLife, используют ПО для мониторинга тона операторов колл-центров, чтобы предотвратить проявления грубости в общении с клиентами.

HR-департаменты рассматривают эмоциональный ИИ как способ оценки общего климата в коллективе, выявления признаков выгорания и даже как инструмент для отбора кандидатов при приеме на работу. Предполагается, что это поможет снизить текучесть кадров и повысить общую продуктивность за счет раннего выявления дисфункций в управлении.

Научная критика и этические проблемы

Несмотря на технологический прогресс, эксперты указывают на слабую научную базу подобных решений. Многие системы опираются на теорию психолога Пола Экмана, выдвинутую в конце 1960-х годов, о том, что базовые человеческие эмоции универсальны и одинаково проявляются через мимику во всех культурах.

Однако в обзоре отмечается, что метаанализ 2019 года, охвативший более тысячи исследований, поставил эти выводы под сомнение. Исследователи пришли к заключению, что невозможно достоверно судить о внутреннем состоянии человека только по движениям лицевых мышц. Эмоции индивидуальны и зависят от внешности, культуры, личности и физиологии конкретного человека.

Кроме того, использование эмоционального ИИ сопряжено с рядом серьезных рисков:

• Предвзятость алгоритмов: тесты показывают, что ИИ чаще ошибочно распознает гнев или презрение на лицах представителей определенных этнических групп по сравнению с другими.
• Нарушение приватности: даже при заявленной анонимности данных в небольших командах легко идентифицировать личность конкретного сотрудника.
• «Эмоциональный труд»: сотрудники вынуждены искусственно демонстрировать «правильные» эмоции, что ведет к дополнительному стрессу.
• Расширение функций: системы, внедренные для безопасности, со временем начинают использоваться для тотальной слежки за персоналом.

Регулирование и отказ от технологий

Растущее недовольство методами эмоционального контроля приводит к законодательным ограничениям. В прошлом году Европейский союз запретил использование эмоционального ИИ на рабочих местах и в образовательных учреждениях, сделав исключение только для медицинских целей и вопросов безопасности. Аналогичные ограничения начинают действовать в некоторых штатах США.

Некоторые технологические гиганты также пересматривают свои позиции. Например, компания Microsoft объявила об отказе от функций распознавания эмоций в своем облачном сервисе Azure Face API. Руководство по этике ИИ в Microsoft пояснило это решение отсутствием научного консенсуса в определении эмоций и высокими рисками дискриминации. Таким образом, несмотря на заманчивые перспективы для менеджмента, эмоциональный ИИ остается слишком спорной и потенциально опасной технологией для массового применения.