Помните фильм «Приключения Электроника»? Когда-то песня «До чего дошел прогресс» казалась веселой фантазией о будущем: роботы должны были избавить человека от рутины и тяжелой работы. Спустя полвека оказалось, что авторы фильма были гораздо прозорливее, чем могли предположить. Люди начали передавать машинам не только работу, но и право думать, советовать, убеждать и даже становиться авторитетом. Любопытно, что финал фильма тоже оказался «прозорливым». Электроник так и не смог заменить человека – Сыроежкину все равно пришлось самому учиться, сдавать экзамены и принимать решения. Обсудим, как не потеряться на фоне искусственного интеллекта.
Когда ИИ стал авторитетом
После публикации моей статьи про когнитивный аутсорсинг один из читателей задал в комментариях закономерный вопрос: действительно ли эти процессы уже происходят в бизнесе или пока остаются скорее теоретическими рассуждениями? Да, они не просто происходят, а развиваются стремительно и неуправляемо. Несколько свежих примеров с полей.
На днях в Москве проходил крупный международный форум по превентивной медицине. В программе были выступления профессоров, психиатров, психологов, руководителей медицинских организаций и практикующих врачей. Искусственный интеллект не был центральной темой мероприятия. Однако именно он постоянно возникал в разговорах, комментариях и обсуждениях. Кратко перескажу три ситуации, которые произошли во время мероприятия, и одну ситуацию из своей практики.
1. Человек перестает различать инструмент и эксперта
Первый разговор у меня состоялся с известным врачом, доктором наук, который рассказывал о сложностях продвижения своих научных идей. В процессе беседы выяснилось, что он решает эту проблему сам: примерно раз в месяц просит ChatGPT разработать для него маркетинговые шаги, инструкции, планы.
Само по себе использование нейросетей не вызывает вопросов. Вопрос возник позже. Оказалось, что оценить качество предложенных стратегий и планов он не может. Не может понять, насколько предложенные ИИ решения действительно работоспособны, какие риски они несут, каковы возможные последствия для репутации и бизнеса. И главное, принесут ли технологии желаемый результат в виде клиентов. Хотя, написано очень убедительно.
В чем здесь проблема? Высокая экспертность в одной профессиональной области неожиданно начинает восприниматься как основание доверять ИИ в совершенно другой сфере, и полагать, что можно справиться с новой экспертизой. При этом отсутствует главный элемент любой профессиональной работы – способность аргументированно оценить качество результата. По сути, человек начинает доверять не специалисту по маркетингу или коммуникациям, а тексту, который выглядит убедительно.
2. Эксперт становится оператором рекомендаций нейросетей
Вопрос прозвучал от врача-гомеопата. Все чаще пациенты приходят на прием уже с готовыми рекомендациями, сформированными ИИ. От врача больной просит не диагностики и не назначения лечения, а лишь проанализировать и подтвердить то, что искусственный интеллект «не ошибся». Пациент решил, что он сэкономил на приеме, назначив себе лечение самостоятельно, и убежден, что получил отличное решение своих проблем.
Таким образом, роль специалиста стремительно обесценивается. Многолетний опыт, образование, клиническая практика уже не имеют значение, они начинают использоваться не как экспертиза – для принятия решения, а для проверки решения, которое предложила нейросеть. Врачи пока не знают, что с этим делать, боясь отказать, не выполнить свой долг или потерять клиента.
Самое опасное здесь – подмена ответственности. Искусственный интеллект предлагает вариант, но отвечать за последствия все равно придется врачу. Поэтому в подобных ситуациях, похоже, врачам придется обучаться взаимодействовать с такими пациентами по-другому.
На вопрос врача «Что делать с такими ситуациями?» мне показалось простым и очевидным следующее решение. Такому пациенту достаточно задать всего два вопроса:
- «Покажите, пожалуйста, на каких научных фактах и практических исследованиях основаны рекомендации, как вы их анализировали?».
- «Вы предлагаете мне взять на себя юридическую и профессиональную ответственность за лечение, которое назначил вам ChatGPT?».
Уверена, что после второго вопроса разговор изменится. Потому что для пациента должно стать очевидным, что ответственность по-прежнему остается в руках человека, а не у машины.
3. ИИ становится главным советчиком
Во время одной из панельных дискуссий на форуме известный психиатр говорила о стремительном росте случаев самолечения с помощью искусственного интеллекта. Люди, страдающие от тревожности и депрессий, сами назначают себе антидепрессанты, хотя препараты должны назначаться исключительно докторами, и некоторые – по рецептам.
Руководитель крупного регионального санатория поделилась другой проблемой: она не знает, что делать со своими сотрудниками, которые массово обращаются к ChatGPT практически по любому рабочему вопросу. От этого уже начали сыпаться внутренние бизнес-процессы, расти ошибки, размывается ответственность, управление выходит из-под контроля.
Эти ситуации кажутся совершенно разными. На самом деле они описывают один и тот же процесс: человек перевел искусственный интеллект из инструментария в истину первой инстанции, к которой человек обращается за ответом. Не к коллеге, не к наставнику, не к профессиональному сообществу, не к собственному анализу – именно к нейросети. Это означает, что меняется не технология работы, меняется сама культура принятия решений.
4. Спорят не люди, а нейро-ответы
Еще одна ситуация возникла уже в нашей практике. Во время разработки маркетинговой стратегии для медицинской клиники сотрудники клиента (врачи и косметологи) параллельно подготовили собственную версию с помощью ChatGPT. При обсуждении проекта произошло неожиданное. Врачи начали спорить с маркетологами, опираясь не на исследования рынка, не на собственный опыт работы с пациентами и даже не на результаты предыдущих коммуникационных кампаний. Главным аргументом стали рекомендации нейросети.
Получается, что разговор шел уже не между специалистами разных профессий, опыта и экспертизы. Фактически спорили две версии текста, одна из которых автоматически получила более высокий уровень доверия только потому, что была создана ИИ. Но ответить на вопрос, почему вы так безоговорочно верите результатам ИИ, заказчик не смог.
Почему развивается когнитивный аутсорсинг
Если посмотреть на все эти истории вместе, становится очевидно: люди сами начали передавать «в руки» искусственному интеллекту авторитет. На протяжении многих лет авторитет формировался через опыт, ошибки, практику, профессиональную репутацию и ответственность. Теперь, если ответ сформулирован уверенно, структурированно и звучит убедительно, его начинают воспринимать как экспертное мнение независимо от того, кто является автором.
Получается парадоксальная ситуация: искусственный интеллект не несет ответственности, не обладает профессиональной репутацией, не принимает решений, не отвечает за последствия. Но именно ему люди начинают доверять раньше, чем специалисту, который учился профессии десятилетиями. И это, пожалуй, более серьезный вызов, чем когнитивный аутсорсинг. Потому что передается уже не только процесс мышления, а право быть экспертной инстанцией.
Еще одна причина, почему когнитивный аутсорсинг развивается так быстро. Моя практика показывает, что человек постепенно начинает сравнивать себя с искусственным интеллектом, но по совершенно некорректным критериям. Например, восхищаться тем, что нейросеть за несколько секунд анализирует тысячи страниц текста, сопоставляет огромное количество источников, мгновенно находит закономерности и формирует ответ. Незаметно начинает примерять суперспособности машины к человеческому мозгу. И вот уже кажется, что он и маркетолог, и копирайтер, и редактор, и медик, и дизайнер в одном лице.
Красивые структурированные тексты от ИИ вводят мозг в заблуждение: начинает казаться, что хороший специалист должен знать столько же, так же быстро отвечать и ориентироваться в любой теме, так же легко оперировать огромными массивами информации. Но в этой гонке человек обречен проиграть еще до начала. Он пытается конкурировать с машиной именно в том, для чего машина и была создана:
- Компьютер хранит информацию – человек никогда не сможет хранить столько же.
- Компьютер обрабатывает миллионы параметров одновременно за секунды – человек физиологически на это неспособен.
- Компьютер не устает, не забывает и не испытывает когнитивной перегрузки – мозг человека работает совсем по другим принципам.
Поэтому попытка стать похожим на искусственный интеллект заранее обречена. Осознавая свои физические ограничения, человек начинает считать себя менее компетентным, особенно в сравнении с коллегами по цеху, которые «усилили» без перепроверки свои разноплановые компетенции с помощью ИИ.
Дело в том, что профессиональная ценность человека не заключается в объеме памяти или скорости выводов. Настоящий эксперт отличается тем, что умеет выделить главное среди огромного количества фактов, понимает, каким источникам можно доверять, видит то, чего нет в данных, замечает противоречия, чувствует контекст, учитывает человеческие последствия своих решений и способен сказать одну важную фразу, которую искусственный интеллект никогда не сможет произнести осмысленно: «Я не знаю. Давайте сначала разберемся».
Получается, вместо того чтобы изменить критерий собственной ценности, человек начинает пытаться соответствовать машине. Это абсолютно проигрышная стратегия, и это очевидно, ведь ни один ИИ никогда не станет человеком в количестве прожитого опыта.
Как остановить когнитивный аутсорсинг
После первой статьи в комментариях несколько раз звучал вопрос: «Хорошо, а что делать? Запретить сотрудникам пользоваться нейросетями?». Нет, это невозможно и бессмысленно. Искусственный интеллект встроится в профессиональную жизнь, как когда-то интернет, поисковые системы и смартфоны.
Проблема не в технологии, а в более глубоком явлении – разрывом между знанием, принятием решений и ответственностью, которые формирует сам человек. Поэтому вопрос руководителя должен звучать совершенно иначе. Не «Как использовать ИИ?», а «Как изменить управление людьми, которые уже работают вместе с искусственным интеллектом?».
На протяжении десятилетий действовало простое правило профессионального мира: кто принимает решение, тот и несет за него ответственность. Поэтому ценились опыт, образование, практика, умение сомневаться и способность прогнозировать последствия своих действий. Теперь человек сам начинает разрушать эту связь.
Люди доверяют рекомендациям системы, которая не может ошибиться в человеческом смысле этого слова, потому что не отвечает за последствия своих советов:
- Не потеряет деловую репутацию.
- Не окажется ответчиком в суде.
- Не будет объяснять руководству, почему стратегия не сработала.
- Не столкнется с пациентом, которому стало хуже.
Все это по-прежнему остается задачей человека. Получается, что человек использует ИИ не как автоматизацию отдельных процессов, а как автоматизацию авторитета.
Как проверить, что ИИ усиливает мышление сотрудников
Мы практикуем принцип, который назвали «Правило трех уровней использования ИИ»:
- Исполнитель. ИИ в руках конкретного специалиста выполняет техническую работу, собирает информацию, структурирует материалы, находит варианты. Здесь риск минимален.
- Консультант. При необходимости ИИ предлагает собственные гипотезы, показывает альтернативы, помогает увидеть слабые места, аргументирует, заставляет человека думать, но решение принимает сам человек. Это уже требует профессиональной экспертизы.
- Эксперт. Вот сюда ИИ попадать не должен никак. Если человек перестал понимать, почему именно такое решение считается правильным, если не может самостоятельно защитить вывод, значит, произошла подмена экспертизы. Именно здесь начинается когнитивный аутсорсинг.
Возникает новый вопрос: «Почему ты считаешь именно это решение правильным?». Если сотрудник способен объяснить, какие аргументы, ограничения, риски, почему он отверг другие варианты, значит, ИИ усилил его мышление.
Новая управленческая практика выглядит так: оценивать качество мышления. Можно не спрашивать прямо об использовании нейросетей. Просто в ходе рабочих дискуссий уточнять, почему сотрудник принял именно такое решение, какие альтернативы рассматривал, какие риски увидел и что готов защищать как собственную профессиональную позицию. Пока человек способен ответить на эти вопросы, искусственный интеллект остается инструментом.
Выводы
Умение пользоваться технологией – это не преимущество. Новой управленческой компетенцией и конкурентной форой будут обладать организации, которые обучат сотрудников сохранять авторство человеческих решений и способность формировать интеллектуальную самостоятельность.
Также читайте:
Спасибо, мне приятно! Сейчас в силу известных обстоятельств не публикую материалы на эту тему, просто консультирую некоторые проекты. Кое-что из намеченного в статье успешно реализуется. Жаль, что пока фрагментарно и "отдельными кусочками", а не системно и целостно, но тема интересная и работать над ней (или в ней?) интересно. В 60е скорость прогресса в суптниковой навигации была намного более впечатляюща, чем сейчас, все же поколение шестидесятников - это совершенно уникальные люди, где-то даже смелые мечтатели. И разработки у них такие же смелые. Но, думаю, вскоре нужно ожидать нового интенсивного всплекска исследований и результатов в этой области. Все же мы хоть и медленно, но неуклонно движемся к тому, что будем в космос "пешком ходить", а там без надежной связи никак...да и на земле тоже, с учетом разных автопилотных видов транспорта. Так что, возможно, эта тема еще вас удивит и снова заинтересует.
Ну и для прокурора в том числе. Но это если подходить к вопросу сугубо формально, не вникая в вопрос самостоятельно. Это примерно как в банке кредитный договор подписывать. Кто-то подписывает не читая, кто-то подписывает, пробежав наскоро основные пункты, кто-то подробно и пунктуально выясняет все о каждом пункте. Сиречь, как относиться к бумаге на подписание - это личное дело каждого. На мой взгляд, нужно получать максимально подробную информацию и делать собственный выбор. Но можно и не делать. Тем более сейчас страховые компании обязали отвечать на вопросы пациентов, касающихся их лечения.
Не совсем так. В ч.2 ст. 20 ФЗ 323 "Об основах охраны здоровья граждан в Российской Федерации" четко оговорены случаи, когда вмешательство производится без согласия пациента (по причине невозможности получения оного, но позднее, когда пациент "придет в себя", ему все равно обязаны подробно донести информацию обо всех вмешательствах):
- эктренные показания для спаения жизни, когда нужно срочно устранить причину угрозы жизни, а пациент не может выразить свою волю. напримерЮ без сознания;
- тяжелые психические расстройства;
- паллиативная помощь, если нет законного представителя, а пациент не может выразить волю самостоятельно.
Ну и в случаях, назовем это так, общественной необходимости:
- опасные для окружащих заболевания;
- судмедэкспертиза;
- совершение общественно опасных деяний.
Таким образом, если человек в сознании, дееспособен и отдает отчет в своих действиях, то и разобраться и принять решение касательно своего здоровья он сможет. Если захочет вникать, конечно. У нас же свобода, принуждать его никто не будет.
О, это очень интересно, поверьте! Это не просто "сельское хозяйство" (хотя и оно тоже), это роскошь, традиции, аристократизм и управление сверхценными альтернативными активами из топ Luxury Asset Management в закрытой индустрии шейхов, монарших семей, долларовых миллиардеров, где стоимость одной лошади может превышать стоимость частного суперджета или суперъяхты, и где финансовые мкханизмы и риск-менеджмент на порядок сложнее, чем в случае классических активов и классического же фондового рынка. А еще это про спорт, здоровье, продовольственную и лекарственную безопасность, про охрану правопорядка и много чего еще. А когда это еще и личное хобби...сами понимаете. Всегда получаю истинное удовольствие, когда занимаюсь этими вопросами.
Да, заинтересовала. Или, точнее, мной заинтересовались и предложили поработать над проектами в этой сфере. Увлеклась. До сих пор не отпускает. Больше даже, пожалуй, в практике, чем в научном плане. Но сейчас я пока на эту тему не публикуюсь в силу всем известных обстоятельств. Писать всем известные вещи, давно ставшие "общим местом" и кочующие из работы в работу и из документа в документ, мне не хочется, да и не интересно. А писать о новом и конкретном, включая полученные результаты, пока время не пришло.
ну, тогда вы вероятно, не прочитали все комментарии. Я писала, что редация портала сама меняет названия статей и на реагирует пока ни на какие запросы. поэтому перед спором лучше спросить)))
я тоже думала, что экспертиза - это производная, следствие специализации и опыта)))
простите, пожалуйста, здесь не соглашусь с вами. На мой взгляд, эксперт - это все же специалист, который почти идеально владеет узкой специализацией, опытом во этом и практической наработанностью. И его экспертиза оценивается минимальным количеством или отсутствием ошибок в его деятельности, особенно на уровне предиктивки. Эксперт умеет спрогнозировать и просчитать риски и возможности и предпринять действия, чтобы эти риски не произошли. А понемногу обо всем - это всего лишь вспомогательные компоненты, как инструментарий, как элемент самообразования или повышения квалификации. то есть этот факт просто может усилить его экспертизу, но не сделать из него эксперта)
Слишком много "если". Такой вывод будет очень нелегко обосновать.
Дееспособность - снова для прокурора. И проблема в том, что человек не может знать последствия своих действий и решений, если говорить о медицине, диагностике и лечении. Вспомним недавнюю эпидемию коронавируса и количество мнений о том, когда, как и что делать.
Но достаточно часто бывает, что ситуация еще хуже. Что бы человек не думал, принять профессиональное решение и выбрать лучший из возможных вариантов, учитывающий все симптомы, последствия, противопоказания, более ранние назначения и результаты обследований и анализов, наследственность, анамнез и прочее, о чём думает хороший врач, он не сможет. Обычные люди не читают The Lancet на сон грядущий, не знакомы с результатами клинических испытаний, не видели протоколы и другие обязательные рекомендации для врачей и персонала. Кто-то ставит сам себе наркоз? Или делает заключение по результатам КТ или МРТ?
И посмотрите на Ваш список состояний выше, когда пациент вообще не может принять какое-либо осмысленное решение.
Что ему сообщат потом, насколько полно, в какой форме, и что он из этого поймёт - совсем другой и отдельный вопрос. Решение за него уже приняли.
Интересно, кто Вас консультировал.
В этой отрасли исторически много науки, достижений, важных технологических деталей и нерешенных проблем. Когда-то давно у физиков и технологов в СССР был приоритет в некоторых важнейших областях. Из того, что на слуху и открыто публиковалось - Нобелевская премия по физике академика Ж.И.Алфёрова. Сейчас всё, мягко говоря, изменилось.
Благодарю Вас! Имел честь быть близко знакомым с великими разработчиками первой отечественной навигационной системы: Ю.И.Максютой, В. П. Заколодяжным, Б.Г.Мордвиновым (ему в этом году исполнилось бы 100 лет, по нашей заявке Почта России сделала вот такой конверт) и многими другими.
Восхищаюсь их настойчивостью - работы шли очень трудно. Есть замечательная книга "Летопись Суворова...", там много про разработку нашей СНС.
С Вами очень интересно дискутировать, Елена Владимировна! Иногда не со вем могу согласиться, но общие выводы у нас как-то совпадают. Но вы умеете настоять на своем и не перейти границу приличной дискуссии.
Я вам завидую! Знать ТАКИХ людей, да еще и не просто знать, а быть близко знакомыми - это дорогого стоит. И благодарю Вас за то, что сохраняете и поддерживаете память. Мне очень хочется, чтобы их традиции были живы и передавались дальше следующим поколениям, чтобы наша наука продолжала быть и дальше Наукой, величайшей ценностью для всего человечества, мощным стимулом к познанию нового, движению вперед, изменению жизни к лучшему, тем от чего горят глаза и расцветают души, тем, ради чего хочется просыпаться каждое утро (а не тем, во что некоторые деятели пытаются превратить науку сейчас...ну да ладно, бывало и похуже...главное, что есть люди, которые помнят и знают как это было, как это должно быть, сохраняют это и стараются передать и приумножить, каждый на своем месте). О таких людях нужно рассказывать. Вы не хотите книгу воспоминаний написать?
Ну, по моим наблюдениям в настоящей науке легко никогда не бывает. Она всегда рождается в трудностях и идет через трудности. Именно поэтому в ней и выковывается истина. Мне мой дядя, когда я только-только перестала пешком под стол ходить (ему 26го августа тоже бы 100 лет исполнилось, фронтовик) уже часто цитировал "В науке нет широкой столбовой дороги. И только тот достигнет ее сияющих вершин, кто неустанно карабкается по ее каменистым тропам". Вот и карабкаемся! Зато какие вершины берем! За ссылку на книгу спасибо, постараюсь найти и прочитать. Мне тоже интересно с вами общаться, вы умеете подсветить грани многих вещей совершенно особым образом, и это ценно.
Я написал книгу про них. Но там не совсем про СНС, а больше про историю жизни руководителя НИИ-9 Ю.И.Максюту (без его чрезвычайного характера мы бы не догнали американцев, это все отмечают, получил Ленинскую премию) и про его товарищей. Максюта и руководил запуском первого спутника. Самое невероятное, что против спутниковой навигации была даже АН СССР.
А вот "Летопись". Е.Ф.Суворов - личность трагичная, он погиб. Его товарищи собрали все его записи и после смерти издали книгу. В кругу его товарищей она так и называется - "ЛетописьСуворова".
Поищу и обязательно прочитаю. Очень интересно!
А как ваша книга называется? Тоже было бы интересно почитать...