Помните фильм «Приключения Электроника»? Когда-то песня «До чего дошел прогресс» казалась веселой фантазией о будущем: роботы должны были избавить человека от рутины и тяжелой работы. Спустя полвека оказалось, что авторы фильма были гораздо прозорливее, чем могли предположить. Люди начали передавать машинам не только работу, но и право думать, советовать, убеждать и даже становиться авторитетом. Любопытно, что финал фильма тоже оказался «прозорливым». Электроник так и не смог заменить человека – Сыроежкину все равно пришлось самому учиться, сдавать экзамены и принимать решения. Обсудим, как не потеряться на фоне искусственного интеллекта.
Когда ИИ стал авторитетом
После публикации моей статьи про когнитивный аутсорсинг один из читателей задал в комментариях закономерный вопрос: действительно ли эти процессы уже происходят в бизнесе или пока остаются скорее теоретическими рассуждениями? Да, они не просто происходят, а развиваются стремительно и неуправляемо. Несколько свежих примеров с полей.
На днях в Москве проходил крупный международный форум по превентивной медицине. В программе были выступления профессоров, психиатров, психологов, руководителей медицинских организаций и практикующих врачей. Искусственный интеллект не был центральной темой мероприятия. Однако именно он постоянно возникал в разговорах, комментариях и обсуждениях. Кратко перескажу три ситуации, которые произошли во время мероприятия, и одну ситуацию из своей практики.
1. Человек перестает различать инструмент и эксперта
Первый разговор у меня состоялся с известным врачом, доктором наук, который рассказывал о сложностях продвижения своих научных идей. В процессе беседы выяснилось, что он решает эту проблему сам: примерно раз в месяц просит ChatGPT разработать для него маркетинговые шаги, инструкции, планы.
Само по себе использование нейросетей не вызывает вопросов. Вопрос возник позже. Оказалось, что оценить качество предложенных стратегий и планов он не может. Не может понять, насколько предложенные ИИ решения действительно работоспособны, какие риски они несут, каковы возможные последствия для репутации и бизнеса. И главное, принесут ли технологии желаемый результат в виде клиентов. Хотя, написано очень убедительно.
В чем здесь проблема? Высокая экспертность в одной профессиональной области неожиданно начинает восприниматься как основание доверять ИИ в совершенно другой сфере, и полагать, что можно справиться с новой экспертизой. При этом отсутствует главный элемент любой профессиональной работы – способность аргументированно оценить качество результата. По сути, человек начинает доверять не специалисту по маркетингу или коммуникациям, а тексту, который выглядит убедительно.
2. Эксперт становится оператором рекомендаций нейросетей
Вопрос прозвучал от врача-гомеопата. Все чаще пациенты приходят на прием уже с готовыми рекомендациями, сформированными ИИ. От врача больной просит не диагностики и не назначения лечения, а лишь проанализировать и подтвердить то, что искусственный интеллект «не ошибся». Пациент решил, что он сэкономил на приеме, назначив себе лечение самостоятельно, и убежден, что получил отличное решение своих проблем.
Таким образом, роль специалиста стремительно обесценивается. Многолетний опыт, образование, клиническая практика уже не имеют значение, они начинают использоваться не как экспертиза – для принятия решения, а для проверки решения, которое предложила нейросеть. Врачи пока не знают, что с этим делать, боясь отказать, не выполнить свой долг или потерять клиента.
Самое опасное здесь – подмена ответственности. Искусственный интеллект предлагает вариант, но отвечать за последствия все равно придется врачу. Поэтому в подобных ситуациях, похоже, врачам придется обучаться взаимодействовать с такими пациентами по-другому.
На вопрос врача «Что делать с такими ситуациями?» мне показалось простым и очевидным следующее решение. Такому пациенту достаточно задать всего два вопроса:
- «Покажите, пожалуйста, на каких научных фактах и практических исследованиях основаны рекомендации, как вы их анализировали?».
- «Вы предлагаете мне взять на себя юридическую и профессиональную ответственность за лечение, которое назначил вам ChatGPT?».
Уверена, что после второго вопроса разговор изменится. Потому что для пациента должно стать очевидным, что ответственность по-прежнему остается в руках человека, а не у машины.
3. ИИ становится главным советчиком
Во время одной из панельных дискуссий на форуме известный психиатр говорила о стремительном росте случаев самолечения с помощью искусственного интеллекта. Люди, страдающие от тревожности и депрессий, сами назначают себе антидепрессанты, хотя препараты должны назначаться исключительно докторами, и некоторые – по рецептам.
Руководитель крупного регионального санатория поделилась другой проблемой: она не знает, что делать со своими сотрудниками, которые массово обращаются к ChatGPT практически по любому рабочему вопросу. От этого уже начали сыпаться внутренние бизнес-процессы, расти ошибки, размывается ответственность, управление выходит из-под контроля.
Эти ситуации кажутся совершенно разными. На самом деле они описывают один и тот же процесс: человек перевел искусственный интеллект из инструментария в истину первой инстанции, к которой человек обращается за ответом. Не к коллеге, не к наставнику, не к профессиональному сообществу, не к собственному анализу – именно к нейросети. Это означает, что меняется не технология работы, меняется сама культура принятия решений.
4. Спорят не люди, а нейро-ответы
Еще одна ситуация возникла уже в нашей практике. Во время разработки маркетинговой стратегии для медицинской клиники сотрудники клиента (врачи и косметологи) параллельно подготовили собственную версию с помощью ChatGPT. При обсуждении проекта произошло неожиданное. Врачи начали спорить с маркетологами, опираясь не на исследования рынка, не на собственный опыт работы с пациентами и даже не на результаты предыдущих коммуникационных кампаний. Главным аргументом стали рекомендации нейросети.
Получается, что разговор шел уже не между специалистами разных профессий, опыта и экспертизы. Фактически спорили две версии текста, одна из которых автоматически получила более высокий уровень доверия только потому, что была создана ИИ. Но ответить на вопрос, почему вы так безоговорочно верите результатам ИИ, заказчик не смог.
Почему развивается когнитивный аутсорсинг
Если посмотреть на все эти истории вместе, становится очевидно: люди сами начали передавать «в руки» искусственному интеллекту авторитет. На протяжении многих лет авторитет формировался через опыт, ошибки, практику, профессиональную репутацию и ответственность. Теперь, если ответ сформулирован уверенно, структурированно и звучит убедительно, его начинают воспринимать как экспертное мнение независимо от того, кто является автором.
Получается парадоксальная ситуация: искусственный интеллект не несет ответственности, не обладает профессиональной репутацией, не принимает решений, не отвечает за последствия. Но именно ему люди начинают доверять раньше, чем специалисту, который учился профессии десятилетиями. И это, пожалуй, более серьезный вызов, чем когнитивный аутсорсинг. Потому что передается уже не только процесс мышления, а право быть экспертной инстанцией.
Еще одна причина, почему когнитивный аутсорсинг развивается так быстро. Моя практика показывает, что человек постепенно начинает сравнивать себя с искусственным интеллектом, но по совершенно некорректным критериям. Например, восхищаться тем, что нейросеть за несколько секунд анализирует тысячи страниц текста, сопоставляет огромное количество источников, мгновенно находит закономерности и формирует ответ. Незаметно начинает примерять суперспособности машины к человеческому мозгу. И вот уже кажется, что он и маркетолог, и копирайтер, и редактор, и медик, и дизайнер в одном лице.
Красивые структурированные тексты от ИИ вводят мозг в заблуждение: начинает казаться, что хороший специалист должен знать столько же, так же быстро отвечать и ориентироваться в любой теме, так же легко оперировать огромными массивами информации. Но в этой гонке человек обречен проиграть еще до начала. Он пытается конкурировать с машиной именно в том, для чего машина и была создана:
- Компьютер хранит информацию – человек никогда не сможет хранить столько же.
- Компьютер обрабатывает миллионы параметров одновременно за секунды – человек физиологически на это неспособен.
- Компьютер не устает, не забывает и не испытывает когнитивной перегрузки – мозг человека работает совсем по другим принципам.
Поэтому попытка стать похожим на искусственный интеллект заранее обречена. Осознавая свои физические ограничения, человек начинает считать себя менее компетентным, особенно в сравнении с коллегами по цеху, которые «усилили» без перепроверки свои разноплановые компетенции с помощью ИИ.
Дело в том, что профессиональная ценность человека не заключается в объеме памяти или скорости выводов. Настоящий эксперт отличается тем, что умеет выделить главное среди огромного количества фактов, понимает, каким источникам можно доверять, видит то, чего нет в данных, замечает противоречия, чувствует контекст, учитывает человеческие последствия своих решений и способен сказать одну важную фразу, которую искусственный интеллект никогда не сможет произнести осмысленно: «Я не знаю. Давайте сначала разберемся».
Получается, вместо того чтобы изменить критерий собственной ценности, человек начинает пытаться соответствовать машине. Это абсолютно проигрышная стратегия, и это очевидно, ведь ни один ИИ никогда не станет человеком в количестве прожитого опыта.
Как остановить когнитивный аутсорсинг
После первой статьи в комментариях несколько раз звучал вопрос: «Хорошо, а что делать? Запретить сотрудникам пользоваться нейросетями?». Нет, это невозможно и бессмысленно. Искусственный интеллект встроится в профессиональную жизнь, как когда-то интернет, поисковые системы и смартфоны.
Проблема не в технологии, а в более глубоком явлении – разрывом между знанием, принятием решений и ответственностью, которые формирует сам человек. Поэтому вопрос руководителя должен звучать совершенно иначе. Не «Как использовать ИИ?», а «Как изменить управление людьми, которые уже работают вместе с искусственным интеллектом?».
На протяжении десятилетий действовало простое правило профессионального мира: кто принимает решение, тот и несет за него ответственность. Поэтому ценились опыт, образование, практика, умение сомневаться и способность прогнозировать последствия своих действий. Теперь человек сам начинает разрушать эту связь.
Люди доверяют рекомендациям системы, которая не может ошибиться в человеческом смысле этого слова, потому что не отвечает за последствия своих советов:
- Не потеряет деловую репутацию.
- Не окажется ответчиком в суде.
- Не будет объяснять руководству, почему стратегия не сработала.
- Не столкнется с пациентом, которому стало хуже.
Все это по-прежнему остается задачей человека. Получается, что человек использует ИИ не как автоматизацию отдельных процессов, а как автоматизацию авторитета.
Как проверить, что ИИ усиливает мышление сотрудников
Мы практикуем принцип, который назвали «Правило трех уровней использования ИИ»:
- Исполнитель. ИИ в руках конкретного специалиста выполняет техническую работу, собирает информацию, структурирует материалы, находит варианты. Здесь риск минимален.
- Консультант. При необходимости ИИ предлагает собственные гипотезы, показывает альтернативы, помогает увидеть слабые места, аргументирует, заставляет человека думать, но решение принимает сам человек. Это уже требует профессиональной экспертизы.
- Эксперт. Вот сюда ИИ попадать не должен никак. Если человек перестал понимать, почему именно такое решение считается правильным, если не может самостоятельно защитить вывод, значит, произошла подмена экспертизы. Именно здесь начинается когнитивный аутсорсинг.
Возникает новый вопрос: «Почему ты считаешь именно это решение правильным?». Если сотрудник способен объяснить, какие аргументы, ограничения, риски, почему он отверг другие варианты, значит, ИИ усилил его мышление.
Новая управленческая практика выглядит так: оценивать качество мышления. Можно не спрашивать прямо об использовании нейросетей. Просто в ходе рабочих дискуссий уточнять, почему сотрудник принял именно такое решение, какие альтернативы рассматривал, какие риски увидел и что готов защищать как собственную профессиональную позицию. Пока человек способен ответить на эти вопросы, искусственный интеллект остается инструментом.
Выводы
Умение пользоваться технологией – это не преимущество. Новой управленческой компетенцией и конкурентной форой будут обладать организации, которые обучат сотрудников сохранять авторство человеческих решений и способность формировать интеллектуальную самостоятельность.
Также читайте:
Вопрос, конечно, возникнуть может. Но какое он отношение имеет к сути знаний эксперта, а не к монетизации "хотелок" конкретных интересантов? Такое всегда было и есть. Взять хотя бы "безобидный" финансовый рынок: бессрочные аттестаты ФСФР заменили сертификатами по рынку ценных бумаг со сроком годности 3 года. Логика ценных бумаг уже изменилась? Нет, но монеточка капать начала. "С бабки - рубль, с десятка - червонец"... Такая же логика и в СРО: в безоблачную погоду много и шумно идет реклама, а если возникают проблемы - где и как глубоко обнаруживается СРО? Да и дисклеймеры, дисклеймеры: если что-то предъявлять - "это другое" выплывет сразу.
Обычному бизнесу важно не то, как называется инженер (мне даже "инженер-экономист" попадалась, хотя как возможен теннис в акваланге - не сильно понятно), а какую фактически инженерную функцию он выполняет.
Если человек проектирует детали, посты или процессы - как минимум, он должен понимать основы инженерного дела лучше остальных. И уже это само по себе сделает его экспертом по сравнению с не-инженерами. Конечно же, доход от депонирования средств СРО в аффилированном банке к практической задаче бизнеса, в котором нанят инженер, отношения не имеет никакого.
Насчет инженера-экономиста замечу, что для расчетов производственной экономики - себестоимость изделий, зарплата работников (сдельная), цеховая экономика и т. д., нужны знания инженерных, технологических, производственных вопросов.
Недаром во многих технических ВУЗах был экономический факультет, в Ленинграде был Инженерно-экономический институт, который сейчас объединен с Финансово-экономическим институтом.
Для решения многих инженерно-экономических задач нужно понимание производственно-технологических процессов.
Да, есть специфика. Например, в менеджменте есть деление на производственный и финансовый. В экономике - на экономику финансовых рынков и экономику промышленности, и, разумеется, специалист в экономике промышленности будет разбираться в ее особенностях, включая и начисление зарплат. Вот только в собственно инженерном деле это работника не продвигает.
Меня, например, в детстве родители записали в музыкальную школу и секцию биатлона, а потом я получил диплом экономиста. Это не сделало меня "пианистом-экономистом" или "экономистом-снайпером", как и "снайпером-пианистом с экономическим уклоном". Но ВУЗам тяга к коммерциализации хоть чего-то-там жестко "выкручивает руки" поиском маркетингово пригодных концепций. В итоге "сон компетенций" иногда оборачивается генерацией "таксономических чудовищ".
Но это - не чисто российская "придумка": раньше старались ко всему ".com" приклеить, сегодня - "ИИ", а в 80-90-х это было про экономику. Повзрослеть с тех пор, похоже, не у всех получилось: "ярлыки" продолжают клеить вне зависимости от содержания. Вопрос наполнения самих учебных программ - это отдельная большая тема.
Да. Смех сквозь слёзы. Обычная игра с первым, вторым и прочими значениями слов и - еще раз - о важности контекста.
Это правильная мысль о направлении развития.
У нас в институте читали курс лекций по управлению производством, естественно, мы интереса к этому курсу не проявляли, а лектор говорил, что он встречал много экономистов, которые перешли в эту сферу из инженеров, а обратно нет.
У меня был такой момент в "карьере", если это так можно назвать. После того как в начале 90-х я ушел из НИИ, я занимался всяко-разной деятельности, как и многие в то время.
А в начале нового века у меня появилась возможность вернуться к инженерной деятельности. И в разговоре с генеральным директором фирмы он мне говорит, у Вас большой перерыв в работе по специальности, может быть Вам будет сложно возвращаться к инженерной работе, могу предложить перейти в экономическую сферу. Ну он имел в виду сметно-договорную работу. С зарплатой будет не хуже, а может даже лучше.
Я пять секунд подумал и остался в инженерной стезе. И как мне кажется, был прав.
Нам читали лекции отвратительного качества. Группой мы обратились в деканат с пожеланиями хоть что-то сделать. Нам ответили, что читает их первый выпуск (бывшие студенты) этой программы, а первые их конспекты - те, которые пошли в мусорное ведро, были именно по экономике и менеджменту. Разумеется, читали нам экономику и менеджмент. "Повесть о потерянном времени".
Вполне логично. Инженерам нужны работающие мозги всегда, для выпускников российских программ по экономике это - не более, чем опция: диплом дают почти всем.
Зависит от человека, его интересов. В реальной экономике очень много инженерного дела. Например, часть биржевых индикаторов появились после переложения технологий по разработке сплавов, где-то прямо применяются принципы физики. Для оценки процессов нужны серьезные эконометрические процедуры, за часть из них Нобелевские премии вручали. Это - сложно, но интересно.
Другое дело, что экономист в России в массе своей - это офис-менеджер, редко когда решающий задачи, выходящие по сложности за уровень техникума. Поэтому и сравнивать типового инженера и типового экономиста будет весьма негуманно.
1. По поводу "подтвердить" - могу своим личным примером. Я - доктор экономических наук. Но когда мне пришлось работать с медиками, от которых я услышала "вы не врач, вы не понимаете!", я получила медицинское образование. Примерно такая же история у меня сложилась и с сельскохозяйственными проектами, да и вообще с любыми проектами, за которые я берусь. Историй могу рассказать много, но не буду тратить ваше время. Просто у меня была хорошая профессиональная Школа, где мне как консультанту привили серьезный подход к экспертизе и консалтингу. Возвращаясь к сути вашего "Почему?" и "Как вы можете это подтвердить?". Подтвердить могу профессиональным медицинским дипломом (и опытом практической работы медиком), при этом я не являюсь специалистом-врачом, поскольку не оказываю медицинские услуги (хотя могу, сертификаты и аккредитации есть), но мой кругозор определенно выше, чем кругозор пациентов, врачами не являющимися. И с врачами я теперь разговарваю на одном языке, равно как с фармакологами, ветеринарами и специалистами АПК, а также некоторых отраслей промышленности, которыми занимаюсь как консультант.
2. По поводу визионерства. Простой пример. Если врач ставит диагноз "аппендицит", "гангрена" или что-то еще, и не ошибается, то он может с большой точностью предсказать дальнейшее развитие событий, причем в разных вариантах (например, в случае действий или бездействий пациента и врачей). Т.е. это делает даже не эксперт, а просто обычный хороший специалист. Эксперт же видит глубже и шире, и будущее в том числе. Я бы сказала, что любой эксперт - визионер и футуролог, но не любой футоролог и визионер является экпертом.
3. Если мнение эксперта зависит от окружения, то такого человека назвать экспертом я не могу. Например, если член Экспертного совета ВАК пишет в заключении не то, что он САМ и НА САМОМ деле думает о диссертации, а то, что ему "посоветовали" написать люди из "окружения", то назвать такого человека "экспертом" я не могу. А ошибки, да, случаются. От них даже наука не застрахована.
4. Насчет вашего примера с главным бухгалтером, опять же, не соглашусь. Моя родственница является главным бухгалтером, и много лет прекрасно и безупречно ведет свое предприятие. Специалист высшего класса! Чего за это время у них там только не было, и суды, и попытки рейдерского захвата, и противостояние с администрацией. И везде она успешно "отбивалась" и "пробивала". Является ли она экспертом? Нет. Потому что круг ее профессиональных интересов ограничен ее предприятием, тогда как мой кругозор (подкрепленный опытом аудиторской и консультационной деятельности в прошлом) охватывает гораздо больше разных ситуаций, и решений я вижу и могу предложить гораздо больше (правда и услуги мои оцениваются гораздо выше в денежном эквиваленте). При этом предметная область у нас общая - бухгалтерский и статистический учет и налоги (опять же, у меня предметных областей, как у эксперта больше).
Вообще же мне кажется, вы несколько смешиваете понятия "эксперта" и "специалиста". Эксперт всегда - специалист. Но не каждый специалист - эксперт.
Уже отвечала, но повторю основные тезисы:
1. Мнение эксперта НЕ МОЖЕТ зависеть от окружения. Иначе это не эксперт. Пример уже приводила. Если эксперт Экспертного совета ВАК высказывает по поводу диссертации не свое личное мнение, а мнение, которое ему настоятельно порекомендовали высказать или "подсказали", то такой человек экспертом не является.
2. Вы путаете специалиста с экспертом. Каждый эксперт является специалистом, но не каждый специалист является экспертом.
3. Если нет врачей, то вы занимаетесь самолечением (или сподвигаете к этому штукатура, не суть). Это не делает вас ни экспертом, ни специалистом. Вы просто действуете по обстоятельствам в меру доступных вам знаний и прошлого опыта, не более. Возможно, штукатур в результате вашего совета выздоровеет, а может и погибнет. Специалист оказывает квалифицированную помощь, по профстандартам, которая призвана облегчить состояние как минимум. Эксперт способен оказать помощь, превосходящую по эффективности знания специалиста. Опять же личный пример. После моего падения с лошади эта проблема "всплыла" после пандемии и перенесенного ковида, да так, что я ходить не могла. Специалисты были единодушны - только операция, без вариантов. Замена сустава. Но, имея медицинское образование, я целенаправленно искала не хирурга, а именно ортопеда, который возьмется мне помочь терапевтически, без операции. Искала долго. Нашла. Нахожусь в терапии почти 3 года. Хожу на своих ногах. Так вот, врачи, которые направляли меня на операцию - это специалисты, хорошие и очень хорошие специалисты. А ортопед, взявшийся помочь мне без операции - это эксперт. Специалисты видели только один (стандартный) путь вернуть мне возможность ходить - операция по замене сустава. Эксперт к этой же задаче - вернуть мне возможность ходить - нашел другие подходы и решил ее без операции. Хожу со своими суставами, со временем все лучше. Надеюсь, что смогу бегать и вернусь в седло. Не скоро. Но вернусь. После замены сустава мне в седло уже не вернуться было бы...
Если позволите, выражу несогласие: описанное прямо и полностью противоречит процедуре экспертной оценки методом Дельфи. Идея возможности изменения позиции приглашенного эксперта под действием окружения является основой этого метода.
Более того, эффекты групповой динамики могут приводить к когнитивным искажениям участников группы, что будет влиять на принимаемые решения, но не станет умалять при этом экспертизу каждого приглашенного человека. Примеры - многочисленны: от экспериментов с длиной линий до определения цветов шаров и анализа процессов выработки решений судами присяжных.
Это вполне мог быть и специалист, которому требовался "экспериментальный образец" для тестирования своей методики реабилитации. По причине биологической нормы реакции организма терапия оказалась успешной, и Вы возвели его в ранг эксперта. Если бы терапия к успеху не привела - с той же уверенностью можно было бы списать это на особенности "хвоста распределений" итогов терапии, а то и вовсе считать врача неспециалистом и подать иск о компенсации вреда.
Кроме того, если терапия оказывается платной, то 36 месяцев ее применения - это вполне конкретный трек монетизации экспертизы врача. Это потенциально может существенно расширить список мер, которые можно пробовать в рамках "творческого поиска" лучших подходов к терапии. Ее длительность становится основой маржинальности врачебной практики.
В любом случае - скорейшей Вам реабилитации.
Простите, не понял. Вы получили медицинский диплом, но никого не лечите? И при чём здесь кругозор пациентов?
В чем конкретно была Ваша роль в этих проектах?
То есть знаете термины? О чём Вы разговариваете, к примеру, с ветеринарами, которых учат в других местах и по другим программам?
Это то что написано в учебнике. В протоколе. В рекомендациях по применению лекарств, Считаем это минимумом.
Но задача врача, среди прочих, поставить правильный диагноз - и не ошибиться. Или ошибиться не слишком сильно. И это далеко не так просто.
Жаль, если Вы говорите серьёзно.
Будущее "в том числе" (!) не видит никто. Оно еще не наступило. Нельзя увидеть то, чего нет.
Понятно. Имеете полное право это сказать.
Мы не говорим об экспертах по должности - только по сути. С иерархией и подчинением это не связано.
Эксперт даёт свои рекомендации и предложения, исходя из того, что он считает правильным в данной ситуации с данной проблемой. Другой эксперт может считать иначе. И любая экспертиза ограничена - это скоропортящийся товар.
Вы сравниваете реальные знания и профессиональный опыт специалиста высшего класса - по Вашим словам - и Ваш кругозор?
Сдаюсь.
Если это упрёк в мой адрес, то - нет, не смешиваю. Это примерно как повар и шеф-повар.