Как внедрение ИИ рушит экономику доверия

Когда речь заходит о внедрении в какой-либо компании технологий искусственного интеллекта, первое, что я слышу: «Покажите цифры». Не «как это изменит команду», не «что мы потеряем», а именно цифры: ROI, срок окупаемости, экономия в часах и рублях. И это правильно. Большинство руководителей ждут от нововведения измеримой отдачи. Бизнес не может работать на энтузиазме. Инструмент, который не окупается, – это не инновация, а статья неоправданных расходов. Но вот в чем проблема: традиционный показатель ROI не учитывает скрытые издержки. В этой статье обсудим, как считать полную стоимость внедрения технологий, и почему это важно для устойчивости бизнеса.

Почему сложно посчитать окупаемость ИИ

Коэффициент ROI считает только то, что легко посчитать: часы, рубли, проценты. Но вот, что не влезает в формулу:

  • Доверие, которое теряется.
  • Ошибки, которые невозможно исправить.
  • Решения, которые передаются машине, даже не замечая, что вместе с ними отдают часть своей ответственности.

И это не абстрактная философия. Это конкретные деньги, которые компания теряет, просто не сразу, а через год, два или пять.

Скрытые издержки внедрения ИИ

Представьте компанию, которая автоматизирует первичный скрининг резюме. Расчет простой: рекрутер тратит 20 часов в неделю на просмотр резюме, нейросеть делает это за 2 часа. Экономия – 18 часов. При стоимости часа 800 рублей – 14 400 рублей в неделю, 57 600 рублей в месяц. Подписка стоит 10 000 рублей. ROI – 476%. Инвестиция окупается в первый месяц.

Красиво. Но что не попало в этот расчет:

  • Стоимость ошибки найма. Если алгоритм отсеивает кандидата, который не подходит по формальным критериям, но мог бы стать звездой, компания теряет не 18 часов, а миллионы. По разным оценкам, замена сотрудника обходится в 20-200% его годовой зарплаты. Алгоритм этого не считает, а просто сортирует.
  • Эрозия бренда работодателя. Кандидаты, которые получают автоматический отказ без объяснения причин, рассказывают об этом – в соцсетях, на форумах, в чатах. Компания экономит на рекрутере, но теряет репутацию. А репутация – это стоимость привлечения талантов в будущем.
  • Предвзятость, которую алгоритм не видит. Если в исторических данных найма были перекосы (например, брали только выпускников определенных вузов), ИИ это «выучит» и будет воспроизводить. Компания теряет разнообразие мысли, а значит – инновации. Это не строка в отчете, но это реальная потеря конкурентоспособности.
  • Человеческое суждение, которое отдается машине. Опытный рекрутер чувствует «химию». Он видит потенциал там, где алгоритм видит только пробелы в резюме. Он может рискнуть и выиграть. Алгоритм не рискует, только оптимизирует.

Экономика доверия: когда автоматизация обходится дороже работы людей

Рассматривая нынешние тенденции, я часто вспоминаю свою собственную историю, когда в 2014 году потеряла почти все сбережения, доверившись инвестиционной платформе, которая работала на алгоритмах. Формально претензии предъявить было невозможно: в договоре было написано, что «алгоритм не дает гарантий». Но я потеряла не только деньги – я потеряла веру в то, что система, которая принимает решения о моих деньгах, вообще способна меня слышать.

Это и есть экономика доверия. Заменив человека алгоритмом, компания экономит на зарплате, но может потерять нечто более ценное – лояльность клиента. Столкнувшись с бездушной машиной, клиент не просто уходит к конкуренту, он рассказывает об этом другим. Он голосует против вас – своим кошельком и своим голосом.

Исследования показывают: потребители готовы платить больше компаниям, которые объясняют свои решения, даже если решение негативное. «Мы не можем одобрить кредит, потому что...», и человек понимает. «Решение принято алгоритмом», и человек чувствует себя униженным. Разница в лояльности колоссальная.

В экономике доверия ROI считается иначе. Не «сколько мы сэкономили на персонале», а «сколько потеряли на клиентах, которые ушли, потому что почувствовали себя невидимыми».

Цена ошибки человека и алгоритма

Принято считать, что алгоритм точнее человека – не устает, не ошибается, не поддается эмоциям. Это правда лишь отчасти. Алгоритм ошибается системно. Если в данных есть перекос, если модель обучили на некачественной информации, машина сделает своеобразные выводы и будет воспроизводить ошибку снова и снова, в масштабе, который человеку недоступен. Человек ошибается ситуативно. Рекрутер может предвзято отнестись к одному кандидату, но не будет систематически дискриминировать всех сразу. Он может ошибиться в оценке, но потом исправит ошибку, потому что видит контекст.

В экономике это означает простую вещь: алгоритм дешевле в краткосрочной перспективе, но дороже в долгосрочной. Технология экономит часы, но может создать системные риски, которые проявятся через годы. Эти риски не влезают в квартальный отчет, но они реальны.

Как посчитать полную стоимость автоматизации процессов

Я предлагаю считать рентабельность внедрения технологий ИИ на трех уровнях. Это позволяет увидеть полную картину, и не обманывать себя.

  • Первый уровень: финансовый ROI. Классический расчет. Экономия в часах и рублях минус затраты на внедрение. Это то, что можно показать совету директоров. Важно, но недостаточно.
  • Второй уровень: ROI доверия. Что происходит с лояльностью клиентов, сотрудников, партнеров? Как меняется бренд работодателя? Сколько клиентов уходит, потому что чувствуют себя «объектом обработки», а не человеком? Эти метрики сложнее посчитать, но их можно отслеживать: NPS, текучесть кадров, количество жалоб, отзывы в соцсетях.
  • Третий уровень: ROI человечности. Что теряется с передачей решения алгоритму? Способность к эмпатии? Готовность рисковать? Умение видеть контекст? Это самый сложный уровень, но именно он определяет, останется ли компания живой или превратится в машину по оптимизации.

Выводы

ИИ – это инструмент, который может освободить время, снизить издержки, ускорить процессы. Но не может заменить человеческое суждение, эмпатию, ответственность. Я не призываю отказываться от технологий, но рекомендую считать полную стоимость. Не только «сколько мы сэкономим», но и «что мы потеряем». Не только «как ускорить процесс», но и «где не стоит ускорять, потому что скорость убьет качество».

Я придерживаюсь мнения, что алгоритмы не создают реальность, а только повторяют или искажают картину. А значит, в бизнесе ИИ не создает ценность, а перераспределяет. Вопрос в том, в каком направлении: в карман акционера или в устойчивость компании, в доверие клиентов, в развитие сотрудников.

Руководитель, который считает только деньги, рискует однажды обнаружить, что сэкономил на главном. Руководитель, который считает полную стоимость, строит бизнес, который переживет любые технологии. Потому что технологии меняются. А доверие, человечность и ответственность остаются, и стоят дороже любых алгоритмов.

Также читайте:

Расскажите коллегам:
Комментарии
Инна Петрова пишет:
Николай Сычев пишет:
Еще меня заинтересовала фраза: Третий уровень: ROI человечности. Что теряется с передачей решения алгоритму? Способность к эмпатии? Готовность рисковать? Умение видеть контекст? Это самый сложный уровень, но именно он определяет, останется ли компания живой или превратится в машину по оптимизации. Выглядит как непродуманная спекуляция на непонятных смыслах. Что значит компания как машина по оптимизации? По-моему, тут надо очень многое прояснять. Ну и выводы статьи, по-моему, вообще туманны и запутанны.

Николай, большое спасибо за вопросы. Отвечу по существу:

О «звездах» и надежности

Проблема в том, что алгоритм систематически отсеивает надёжных людей, которые не вписываются в формальный шаблон. Замена сотрудника стоит 30–400% годовой зарплаты (Gallup). 46% новых сотрудников терпят неудачу в первые 18 месяцев, и 89% провалов — из-за установок, а не навыков (Leadership IQ). Надёжный человек часто не выглядит «идеальным» в резюме — перерыв, непрофильное образование. Алгоритм его отсеет. Компания теряет не звёзд, а устойчивость. McKinsey: разнообразие в руководстве даёт +55% шанс EBIT выше медианы. BCG: +19% инновационной выручки.

Честно говоря, уже надоело читать про страдания бизнеса по поводу поиска и набора перспективных сотрудников.

По-моему, уже и так понятно, что надо менять саму систему набора, а не пытаться автоматизировать старую.

Но на это нужно время.

А статья, по-моему, была не про участие ИИ в посике и наборе сотрудников, а про потерю лояльности клиентов и кандидатов, и упоминание этой темы в статье для меня выглядит как непонятное отступление от главного.

Инна Петрова пишет:
О «ROI человечности» Возможно, звучит абстрактно. «Машина по оптимизации» — это компания, где решения принимает алгоритм, а человек подтверждает. Гарвард показал: когда ИИ позиционируют как «сотрудника», размывается ответственность и падает качество. Эмпатия — не «мягкий навык», а фактор лояльности. Zurich (11 560 потребителей): 73% избегают компаний без эмпатии, 43% уже ушли, 61% готовы платить больше. McKinsey: эмпатия повышает удовлетворённость до 20%, снижает отток до 15%, добавляет 5–10% выручки.

Эмпатия — это фактор доверия. Если не чувствуешь эмпатию, то нет доверия, и уходишь от такого общения и общих дел.

Многие люди не имеют реальной эмпатии, а только имитируют ее.

Особенно это часто встречается у продавцов.

Я тут буквально на днях имел опыт общения с продавцами, которые отлично имитируют эмпатию словами. Правда, они делают как ИИ, просто повторяя фразы из учебника.

В результате это выглядит как фальшивое «облизывание» и заигрывание.

При этом они говорят, что именно так думают и чувствуют, то есть у них это уже вошло в сознание как часть профдеформации.

Скоро ИИ будет эмитировать эмпатию лучше и искреннее таких людей.

Это очень опасно, поэтому я против использования ИИ для изображения живого человека.

Если робот, говоря со мной, изображает живого человека, то я кладу трубку.

Робот должен оставаться роботом и не обманывать, кто он.

Еще раз, эмпатия создает доверие, изображение эмпатии его разрушает.

Инна Петрова пишет:
«Машина по оптимизации» — это компания, где решения принимает алгоритм, а человек подтверждает.

Вообще-то автопилоты уже давно используются, и ничего, всё летает, работает.

Скоро будем ездить на беспилотном такси и поезде.

Интересно, когда летать будем, хотя уже есть беспилотные дроны для перевозки людей.

Думаю, что использование оптимизации — это судьба бизнеса, а не его проклятье.

Я поосторожнее говорил об этом.

Инна Петрова пишет:
Компания, которая считает только деньги, рискует оказаться на неправильной стороне выбора.

Это так, вопрос в другом, как считать все остальное?

Можно еще до расчёта ROI зафиксировать : какие решения ИИ только готовит, а какие компания действительно разрешает ему принимать.

Там, где цена ошибки велика, должен оставаться названный человек, который видит исходные данные, может отменить рекомендацию и отвечает за последствия. Нужен также понятный порядок возврата к ручному управлению, если система начинает давать повторяющееся отклонение.

Иначе технология экономит время, но одновременно размывает ответственность: сотрудник ссылается на алгоритм, поставщик — на модель, а собственнику некому задать вопрос, почему решение вообще было принято.

1 3
Оставлять комментарии могут только зарегистрированные пользователи
Статью прочитали
Обсуждение статей
Все комментарии
Дискуссии
Все дискуссии
HR-новости
24% предпринимателей работают более 80 часов в неделю

Они почти не отключаются от бизнеса и признают, что эмоциональная перегрузка уже влияет не только на самочувствие, но и на качество управленческих решений.