Помните фильм «Приключения Электроника»? Когда-то песня «До чего дошел прогресс» казалась веселой фантазией о будущем: роботы должны были избавить человека от рутины и тяжелой работы. Спустя полвека оказалось, что авторы фильма были гораздо прозорливее, чем могли предположить. Люди начали передавать машинам не только работу, но и право думать, советовать, убеждать и даже становиться авторитетом. Любопытно, что финал фильма тоже оказался «прозорливым». Электроник так и не смог заменить человека – Сыроежкину все равно пришлось самому учиться, сдавать экзамены и принимать решения. Обсудим, как не потеряться на фоне искусственного интеллекта.
Когда ИИ стал авторитетом
После публикации моей статьи про когнитивный аутсорсинг один из читателей задал в комментариях закономерный вопрос: действительно ли эти процессы уже происходят в бизнесе или пока остаются скорее теоретическими рассуждениями? Да, они не просто происходят, а развиваются стремительно и неуправляемо. Несколько свежих примеров с полей.
На днях в Москве проходил крупный международный форум по превентивной медицине. В программе были выступления профессоров, психиатров, психологов, руководителей медицинских организаций и практикующих врачей. Искусственный интеллект не был центральной темой мероприятия. Однако именно он постоянно возникал в разговорах, комментариях и обсуждениях. Кратко перескажу три ситуации, которые произошли во время мероприятия, и одну ситуацию из своей практики.
1. Человек перестает различать инструмент и эксперта
Первый разговор у меня состоялся с известным врачом, доктором наук, который рассказывал о сложностях продвижения своих научных идей. В процессе беседы выяснилось, что он решает эту проблему сам: примерно раз в месяц просит ChatGPT разработать для него маркетинговые шаги, инструкции, планы.
Само по себе использование нейросетей не вызывает вопросов. Вопрос возник позже. Оказалось, что оценить качество предложенных стратегий и планов он не может. Не может понять, насколько предложенные ИИ решения действительно работоспособны, какие риски они несут, каковы возможные последствия для репутации и бизнеса. И главное, принесут ли технологии желаемый результат в виде клиентов. Хотя, написано очень убедительно.
В чем здесь проблема? Высокая экспертность в одной профессиональной области неожиданно начинает восприниматься как основание доверять ИИ в совершенно другой сфере, и полагать, что можно справиться с новой экспертизой. При этом отсутствует главный элемент любой профессиональной работы – способность аргументированно оценить качество результата. По сути, человек начинает доверять не специалисту по маркетингу или коммуникациям, а тексту, который выглядит убедительно.
2. Эксперт становится оператором рекомендаций нейросетей
Вопрос прозвучал от врача-гомеопата. Все чаще пациенты приходят на прием уже с готовыми рекомендациями, сформированными ИИ. От врача больной просит не диагностики и не назначения лечения, а лишь проанализировать и подтвердить то, что искусственный интеллект «не ошибся». Пациент решил, что он сэкономил на приеме, назначив себе лечение самостоятельно, и убежден, что получил отличное решение своих проблем.
Таким образом, роль специалиста стремительно обесценивается. Многолетний опыт, образование, клиническая практика уже не имеют значение, они начинают использоваться не как экспертиза – для принятия решения, а для проверки решения, которое предложила нейросеть. Врачи пока не знают, что с этим делать, боясь отказать, не выполнить свой долг или потерять клиента.
Самое опасное здесь – подмена ответственности. Искусственный интеллект предлагает вариант, но отвечать за последствия все равно придется врачу. Поэтому в подобных ситуациях, похоже, врачам придется обучаться взаимодействовать с такими пациентами по-другому.
На вопрос врача «Что делать с такими ситуациями?» мне показалось простым и очевидным следующее решение. Такому пациенту достаточно задать всего два вопроса:
- «Покажите, пожалуйста, на каких научных фактах и практических исследованиях основаны рекомендации, как вы их анализировали?».
- «Вы предлагаете мне взять на себя юридическую и профессиональную ответственность за лечение, которое назначил вам ChatGPT?».
Уверена, что после второго вопроса разговор изменится. Потому что для пациента должно стать очевидным, что ответственность по-прежнему остается в руках человека, а не у машины.
3. ИИ становится главным советчиком
Во время одной из панельных дискуссий на форуме известный психиатр говорила о стремительном росте случаев самолечения с помощью искусственного интеллекта. Люди, страдающие от тревожности и депрессий, сами назначают себе антидепрессанты, хотя препараты должны назначаться исключительно докторами, и некоторые – по рецептам.
Руководитель крупного регионального санатория поделилась другой проблемой: она не знает, что делать со своими сотрудниками, которые массово обращаются к ChatGPT практически по любому рабочему вопросу. От этого уже начали сыпаться внутренние бизнес-процессы, расти ошибки, размывается ответственность, управление выходит из-под контроля.
Эти ситуации кажутся совершенно разными. На самом деле они описывают один и тот же процесс: человек перевел искусственный интеллект из инструментария в истину первой инстанции, к которой человек обращается за ответом. Не к коллеге, не к наставнику, не к профессиональному сообществу, не к собственному анализу – именно к нейросети. Это означает, что меняется не технология работы, меняется сама культура принятия решений.
4. Спорят не люди, а нейро-ответы
Еще одна ситуация возникла уже в нашей практике. Во время разработки маркетинговой стратегии для медицинской клиники сотрудники клиента (врачи и косметологи) параллельно подготовили собственную версию с помощью ChatGPT. При обсуждении проекта произошло неожиданное. Врачи начали спорить с маркетологами, опираясь не на исследования рынка, не на собственный опыт работы с пациентами и даже не на результаты предыдущих коммуникационных кампаний. Главным аргументом стали рекомендации нейросети.
Получается, что разговор шел уже не между специалистами разных профессий, опыта и экспертизы. Фактически спорили две версии текста, одна из которых автоматически получила более высокий уровень доверия только потому, что была создана ИИ. Но ответить на вопрос, почему вы так безоговорочно верите результатам ИИ, заказчик не смог.
Почему развивается когнитивный аутсорсинг
Если посмотреть на все эти истории вместе, становится очевидно: люди сами начали передавать «в руки» искусственному интеллекту авторитет. На протяжении многих лет авторитет формировался через опыт, ошибки, практику, профессиональную репутацию и ответственность. Теперь, если ответ сформулирован уверенно, структурированно и звучит убедительно, его начинают воспринимать как экспертное мнение независимо от того, кто является автором.
Получается парадоксальная ситуация: искусственный интеллект не несет ответственности, не обладает профессиональной репутацией, не принимает решений, не отвечает за последствия. Но именно ему люди начинают доверять раньше, чем специалисту, который учился профессии десятилетиями. И это, пожалуй, более серьезный вызов, чем когнитивный аутсорсинг. Потому что передается уже не только процесс мышления, а право быть экспертной инстанцией.
Еще одна причина, почему когнитивный аутсорсинг развивается так быстро. Моя практика показывает, что человек постепенно начинает сравнивать себя с искусственным интеллектом, но по совершенно некорректным критериям. Например, восхищаться тем, что нейросеть за несколько секунд анализирует тысячи страниц текста, сопоставляет огромное количество источников, мгновенно находит закономерности и формирует ответ. Незаметно начинает примерять суперспособности машины к человеческому мозгу. И вот уже кажется, что он и маркетолог, и копирайтер, и редактор, и медик, и дизайнер в одном лице.
Красивые структурированные тексты от ИИ вводят мозг в заблуждение: начинает казаться, что хороший специалист должен знать столько же, так же быстро отвечать и ориентироваться в любой теме, так же легко оперировать огромными массивами информации. Но в этой гонке человек обречен проиграть еще до начала. Он пытается конкурировать с машиной именно в том, для чего машина и была создана:
- Компьютер хранит информацию – человек никогда не сможет хранить столько же.
- Компьютер обрабатывает миллионы параметров одновременно за секунды – человек физиологически на это неспособен.
- Компьютер не устает, не забывает и не испытывает когнитивной перегрузки – мозг человека работает совсем по другим принципам.
Поэтому попытка стать похожим на искусственный интеллект заранее обречена. Осознавая свои физические ограничения, человек начинает считать себя менее компетентным, особенно в сравнении с коллегами по цеху, которые «усилили» без перепроверки свои разноплановые компетенции с помощью ИИ.
Дело в том, что профессиональная ценность человека не заключается в объеме памяти или скорости выводов. Настоящий эксперт отличается тем, что умеет выделить главное среди огромного количества фактов, понимает, каким источникам можно доверять, видит то, чего нет в данных, замечает противоречия, чувствует контекст, учитывает человеческие последствия своих решений и способен сказать одну важную фразу, которую искусственный интеллект никогда не сможет произнести осмысленно: «Я не знаю. Давайте сначала разберемся».
Получается, вместо того чтобы изменить критерий собственной ценности, человек начинает пытаться соответствовать машине. Это абсолютно проигрышная стратегия, и это очевидно, ведь ни один ИИ никогда не станет человеком в количестве прожитого опыта.
Как остановить когнитивный аутсорсинг
После первой статьи в комментариях несколько раз звучал вопрос: «Хорошо, а что делать? Запретить сотрудникам пользоваться нейросетями?». Нет, это невозможно и бессмысленно. Искусственный интеллект встроится в профессиональную жизнь, как когда-то интернет, поисковые системы и смартфоны.
Проблема не в технологии, а в более глубоком явлении – разрывом между знанием, принятием решений и ответственностью, которые формирует сам человек. Поэтому вопрос руководителя должен звучать совершенно иначе. Не «Как использовать ИИ?», а «Как изменить управление людьми, которые уже работают вместе с искусственным интеллектом?».
На протяжении десятилетий действовало простое правило профессионального мира: кто принимает решение, тот и несет за него ответственность. Поэтому ценились опыт, образование, практика, умение сомневаться и способность прогнозировать последствия своих действий. Теперь человек сам начинает разрушать эту связь.
Люди доверяют рекомендациям системы, которая не может ошибиться в человеческом смысле этого слова, потому что не отвечает за последствия своих советов:
- Не потеряет деловую репутацию.
- Не окажется ответчиком в суде.
- Не будет объяснять руководству, почему стратегия не сработала.
- Не столкнется с пациентом, которому стало хуже.
Все это по-прежнему остается задачей человека. Получается, что человек использует ИИ не как автоматизацию отдельных процессов, а как автоматизацию авторитета.
Как проверить, что ИИ усиливает мышление сотрудников
Мы практикуем принцип, который назвали «Правило трех уровней использования ИИ»:
- Исполнитель. ИИ в руках конкретного специалиста выполняет техническую работу, собирает информацию, структурирует материалы, находит варианты. Здесь риск минимален.
- Консультант. При необходимости ИИ предлагает собственные гипотезы, показывает альтернативы, помогает увидеть слабые места, аргументирует, заставляет человека думать, но решение принимает сам человек. Это уже требует профессиональной экспертизы.
- Эксперт. Вот сюда ИИ попадать не должен никак. Если человек перестал понимать, почему именно такое решение считается правильным, если не может самостоятельно защитить вывод, значит, произошла подмена экспертизы. Именно здесь начинается когнитивный аутсорсинг.
Возникает новый вопрос: «Почему ты считаешь именно это решение правильным?». Если сотрудник способен объяснить, какие аргументы, ограничения, риски, почему он отверг другие варианты, значит, ИИ усилил его мышление.
Новая управленческая практика выглядит так: оценивать качество мышления. Можно не спрашивать прямо об использовании нейросетей. Просто в ходе рабочих дискуссий уточнять, почему сотрудник принял именно такое решение, какие альтернативы рассматривал, какие риски увидел и что готов защищать как собственную профессиональную позицию. Пока человек способен ответить на эти вопросы, искусственный интеллект остается инструментом.
Выводы
Умение пользоваться технологией – это не преимущество. Новой управленческой компетенцией и конкурентной форой будут обладать организации, которые обучат сотрудников сохранять авторство человеческих решений и способность формировать интеллектуальную самостоятельность.
Также читайте:
Вот возражу по поводу Вашего тезиса "во-первых". В любой компании бухгалтер явно знает больше других в компании по своему (бухгалтерскому) профилю.Ну, хотя бы в силу специфичности образования. Делает ли это бухгалтера компании "экспертом"? Нет. Это просто специалист, хорошо владеющий своей специальностью, не более. Об определении можно спорить. Но мне ближе "Человек, который знает по немногу обо всем и все о немногом". Причем в части "понемногу обо всем" знания эксперта всегда выше знаний, назовем это так - среднестратистического гражданина. Т.е. даже общая эрудиция эксперта всегда выше того, что принято называть "банальной эрудицией". А еще эксперт - это всегда визионер, футуролог. Потому что "просто знать в компании лучше всех все по своему профилю" еще недостаточно для глубокой экспертизы, нужно видеть и понимать перспективы. А просто знающие лучше других по своему профилю - это просто хорошие специалисты, не более.
По поводу "в-третьих" тоже не соглашусь. Экспертное заключение никогда не зависит от окружения. Оно либо экспертное, либо нет. А в кругу штукатуров вы высказали просто мнение, свое личное. Любой штукатур знает, что если живот заболит, то идти нужно к врачу, а не к вам.
Ну и любой эксперт ДУМАЕТ САМ, а ИИ лишь "суммирует" высказанную где-то кем-то информацию. Ну и на вопрос, что не может ИИ: вот, к примеру, не может провести "полевой" эксперимент.
Почему же нет? Главный бухгалтер именно эксперт. Он может вынести квалифицированнно е решение, мнение, заключение. Этогог догстаточно. Эксперт это же не должность. Экспертиза (сразу исключаю судебную) и проводится именно специалистами.
Есть у нас один депутат, в прошлом игрок телешоу. Это не эксперт, Совсем не эксперт. Но он "Человек, который знает по немногу обо всем и все о немногом".
Причем скажу ещё следующее. Экспертное мнение не обязательно может быть объективным. Как я уже писал, оно зависит от окружения. Эксперт имеет право на ошибку. И экспертное мнение именно этим отличается от научного. Эксперт работает в зоне неопределенности. Он просто оценивает, исходя из своих знаний и оптыа.
Мне кажется, что вы слишком преувеличиваете значение эксперта. Почти обожествляете.
С теми же штукатурами. Ну представьте, что нет врачей на всем белом свете. Или мы на необитаемом острове. )))
Мой экспертное мнение в таком случае:
- Обратись к врачу.
- но врачей же нет.
-тогда прими тот-то и то-то.
И "пацент" принимает. Я оказался самым подготовленным специалистлом по больным животам. Экспертом.
Так ведь я возражаю против названия статьи...по крайней мере в этой реплике. На мой взгляд это "кликабельный" заголовок, но суть содержания он не отражает. А я привыкла экономить и свое время и чужое, ибо очень его ценю.
Елена, ваши возражения приняты. Заголовок статьи - версия редакции. И он хорошо сделал свою работу. Статья Гюльмиры вошла в "Лучшие статьи июля" и стала лидером месяца по лайкам.
Почему? Как Вы можете это подтвердить?
Тот же вопрос.
Это удивительно.
Если серьёзно, то любое заключение может быть правильным. Или частично. Или неправильным. И это естественным образом зависит от эксперта, его подготовки, опыта и предыстории. Например, от научной школы или производственной среды, в которой он сформировался. Как и от окружения.
В медицине принято, для исключения субъективных факторов, в сложных случаях собирать консилиумы или искать второе мнение. Там все эксперты, часто - высокого уровня в узких и специализированных областях. Но аргументированные (!) мнения экспертов по одному и тому же вопросу могут различаться.
О разнообразии мнений экспертов в экономике даже не стоит спецально говорить.
Кто и в чём был прав - со временем узнаем. Для этого экспертов и привлекают, но иногда внешняя или внутренняя экспертиза помогает получить правильный ответ раньше.
Со всей очевидностью. Есть предметная область, есть экспертиза именно в ней.
А гарантированно правильный ответ на любой сложный вопрос на любую тему - это другое. Недостижимый идеал. Или просто обман.
Ровно так же удивился: видеть в каждом эксперте футуролога - это сильно. Что же тогда делать с футурологами как экспертами?
Визионерство - это вообще за гранью: эксперт разбирается в существующем, визионер способен предвидеть отсутствующее.
Есть шутка о том, что где есть два юриста - там будет три мнения. С экономистом проще - он может иметь три мнения сразу, и этот плюрализм мнений в отдельно взятой голове будет именоваться не шизофренией, а экспертностью. Варьируя предпосылки, экономист-эксперт сможет прийти к совершенно противоположным мнениям, причем доказать их в рамках теорий прошлого. Именно экспертиза в экономике как науке это и позволяет сделать.
В норме - да, но в России возможно все:
Как эксперт может быть не-специалистом, а специалист оказаться не-экспертом - это вопрос, а как экспертность может различаться "сортами" - второй вопрос. Кроме разработчиков документа ответить не сможет никто. Видимо, "осетрина третьей свежести", все-таки, существует. Зато - честно.
Это мне напомнило, когда мы с коллегами перешли к нашему новому месту работы с предыдущего, встал вопрос, как называть наши должности. Что писать в трудовой книжке и что писать на визитках, причем последнее для нас было даже более существенно.
Но мы говорим, давайте как было, инженеры разных направлений и рангов.
А нам говорят, нельзя, юристы возражают. Дело в том, что мы были оформлены в представительстве иностранной компании, а она согласно законодательству в отличии от филиала, не должна заниматься "конкретной" деятельностью, а только рекламой, маркетингом, экспертизой, консультированием и т.д.
Поэтому, нам сказали, называйтесь как хотите, эксперты, консультанты, только не инженеры.
Но мы как люди скромные на экспертов и консультантов не согласились, стали именоваться специалистами разных рангов.
Ну собственно, дело даже не скромности, а в том, что наши контрагенты, инженеры, технологи, начальники цеха, главные специалисты и главные инженеры предприятий, не очень бы понимали, кто такие эксперты и консультанты.
Красота - в глазах смотрящего.
Я иногда общался и общаюсь с теми, кого считаю экспертами высокого уровня, и никто из них не является футурологом. Более того, они предельно аккуратно говорят о будущем. Для меня это признак профессионализма.
Зачем Вам (или мне) что-то с ними делать? Пусть расцветают все цветы.
Попробуйте добавить "не" и перечислить все варианты. Я, к примеру, не эксперт и не футуролог.
О предвидении я бы поговорил отдельно.
Завтра появятся новые концепции и теории, послезавтра - следующие. Что-то в отдельные моменты времени лучше описывает реальность, если это как-то можно проверить.
Одни формулируют мнения и варианты, другие предлагают выбрать из этого сырья что-то конкретное. И не так важно, что было в основе. Интересен только результат - от уровня компании до глобальной экономике. А жизнь при этом идёт дальше.
Интересно. А не в рамках госслужбы еще есть такие должности?
Когда-то при образовании СП вполне могла быть позиция "эксперт". Ничего особенного не подразумевалось.
В коммерческих структурах мне не попадались. Главный, ведущий специалисты - были, но эксперт нигде не выступал как "доминирующий вид". Звучит это как "мокрая вода".
Эксперт изначально должен обладать компетенциями, а вот займет ли он позицию старшего, ведущего или главного кого-то-там - это вопрос назначения.
Более 20 лет назад у меня на одном совещании интересный диалог возник. Был коммерческий провал одного направления, руководитель некомпетентно принимал решения, что обернулось убытками. На совещании я указал на то, что специалисту следовало предвидеть ситуацию, а с другой стороны защищавший позицию отметил, что прнимал решение руководитель, а не специалист, имея в виду должностные ранги. Я возразил, что в этом и была причина: руководил не-специалист. Игра понятий изрядно развеселила участников.
Действительно, нигде вне пределов России мне не встречались ситуации противопоставления эксперта и специалиста в рамках оргструктур. Это похоже на тот же хаос, какой имеется с "департаментами" и "отделами" при их переводе на английский.
Ну тут много разных казусов может возникать.
Вот, например, в штате есть инженер-проектировщик, а не может ли возникнуть вопрос, а где ваше СРО?
Хотя эта организация может не выдавать проекты на сторону как коммерческий продукт.
Я сам с этим не сталкивался, но слышал, что бывают такого рода проблемы. Ведь в этой ситуации есть интересанты, те, кто хочет, чтобы организация вступила в то или иное СРО.