Как умные люди работают с нейросетями

Давайте поразмышляем: какого человека можно назвать умным? Возможно, это тот, кто знает много фактов? На самом деле, это тот, кто умеет видеть контекст и работать с ним. Кто понимает, что факты без контекста – это просто набор данных, а не решение. Потому что технологии искусственного интеллекта работают с фактами лучше и быстрее любого человека. Но есть одна проблема. Этот мощный инструмент работает с тем, что есть – с данными, цифрами, текстами, а связей между ними не замечает. Можно ли доверять такой технологии? Некоторые пользователи нейросетей доверяют, считая, что машина знает и видит все. А как работают с информацией и технологиями умные люди? Обсудим.

Искусственный интеллект и бублики – что общего?

Когда люди принимают решения, то опираются на две вещи: факты и контекст.

  • Факты – это информация, которую можно увидеть, измерить через цифры, описать через слова, оценить. Это то, что лежит на поверхности. Многие люди доверяют этому, считая, что это и есть реальность.
  • Контекст – это другая, невидимая сторона, которая определяет все остальное. Это отношения, мотивация, неопределенность, доверие, восприятие.

Именно контекст превращает информацию в понимание. А технология не распознает контекста. Здесь уместна метафора: искусственный интеллект видит только бублик (факты), а дырку (контекст) не замечает. Но ведь именно дырка делает выпечку бубликом. Без отверстия – это просто кусок теста.

Как работать с ИИ на экспертном уровне

В работе с искусственным интеллектом есть три уровня. Каждый уровень можно сравнить с отдельным видом бублика:

  • Технический уровень (сладкий с маком). Самый простой, когда нейросеть используют как редактор для исправления ошибок, переводчик. Даете задачу, ИИ ее выполняет, вы забираете результат. Контекст на этом уровне не нужен. Вы не думаете, как устроен алгоритм, не проверяете каждое слово, просто используете инструмент, потому что это эффективно.
  • Информационный уровень (соленый с кунжутом). Здесь происходит взаимодействие как с ассистентом, а не исполнителем: сбор информации, сравнение вариантов, аналитика, подготовка отчетов, проверка гипотез. Контекст здесь нужен, но в ограниченном объеме: важно понимать материал, но необязательно вникать в детали технологии его производства. Достаточно знать, что искать, с какой целью, и в каком направлении. Не слепо доверять ответам, а проверять, сопоставлять, оценивать.
  • Экспертный уровень (горький с перцем). Здесь нет готовых ответов, но есть неопределенность. Непонятно, какое решение правильное, какие факты самые важные, что будет через месяц. ИИ делает черновик, который нельзя просто взять и использовать, его необходимо пересобирать, добавить смысл, превратить в решение. Контекст в этой работе – центральный элемент. Без него материал так и останется сырым. На этом уровне автор решения несет ответственность, потому что ИИ – лишь инструмент в его руках.

Вернемся к бубликам – у каждого своя дырка разного размера:

  • У сладкого с маком дырка маленькая, почти не влияет на вкус. Пользователь просто ест бублик. Контекст не важен.
  • У соленого с кунжутом дырка уже заметная. Контекст нужен, но в ограниченном объеме. Стоит знать, что это за бублик, но не нужно понимать всю технологию его производства.
  • У горького с перцем дырка – центральный элемент. Контекст определяет все. Человек, который работает с ИИ на экспертном уровне, видит дырку. Он знает, что без контекста любое решение – формальность. Он не просто потребляет бублик. Он понимает, как устроена дырка.

Когда человек доверяет информации от нейросетей, и думает, что это и есть решение, он будто кушает красивый, аппетитный бублик. Он не разбирается в дырках, не задает вопросов, просто берет готовый результат и идет с ним в мир. А мир не такой гладкий. Там есть нюансы, которые ИИ не увидел. Связи, которые алгоритм не уловил. Контекст, который он не учел. В итоге, люди принимают решения, которые формально правильные, но по факту не работают. Это и есть главный риск: стать потребителями бубликов и перестать быть умными.

Как использовать ИИ-инструменты с умом

Умная работа с технологиями – это значит: уметь разделять зоны.

  • Зона ИИ (бублик). Логика, данные, алгоритмы, форма.
  • Зона разумного человека (дырка). Контекст, смысл, ответственность.

Если вы не понимаете, где заканчивается зона «бублика» и начинается ваша – вы не умный, а ведомый. Умный человек не доверяет ИИ как истине, он использует инструмент, но знает, что ИИ может дать факты, но не может дать понимание. Умный человек не боится контекста, а работает с ним, достраивает смысл там, где данные не дают ответа.

Если вы используете нейросети на первом уровне – это нормально, но это не уровень эксперта. Если вы проверяете, собираете, сопоставляете данные нейросети, значит, уже есть понимание, что ИИ может ошибаться, поэтому слепо доверять ему не стоит. Если вы работаете в неопределенности, принимаете решения и несете за них ответственность, то вы готовы к сложности, к риску, готовы отвечать за результат.

Проверьте себя по этому списку вопросов, когда будете принимать решение с участием ИИ:

  • Какой уровень задач я сейчас решаю – технический, информационный или экспертный?
  • Я проверяю контекст, прежде чем довериться ИИ?
  • Я готов отвечать за решение, или прячусь за «так сказала нейросеть»?
  • Что именно я делегирую алгоритму, а что оставляю за собой?
  • Я развиваю свою экспертизу, чтобы переходить на следующие уровни?

Выводы

ИИ – это мощный, удобный, быстрый инструмент. Но бублик без дырки – это просто булка. Если вы не видите дырку, вы просто потребляете, а не думаете. Можно дальше кушать сладкие бублики – они вкусные и безопасные, но они вас не меняют. А можно взять горький бублик и понять, что решения – это ваша зона ответственности. Вопрос не в том, умеете ли вы пользоваться технологиями, а в том – умеете ли вы думать, пока нейросеть работает.

Также читайте:

Расскажите коллегам:
Комментарии
Николай Сибирев пишет:
Ирина Плотникова пишет:
Если под контекстом понимать взаимосвязи внутри текста, то ИИ не просто его «видит» — он видит его гораздо глубже, точнее и в большем объеме, чем любой человек. Смысл жизни, физический мир, намерения, конечно, ИИ «не видит», этой реальности для него не существует.

1.Здесь смешаны два разных утверждения, и одно выдаётся за следствие другого. "В большем объёме" — это проверяемо и верно: модель обработала больше текста, чем любой человек. Но "глубже и точнее" — это уже оценочные характеристики, и они не вытекают из объёма. Объём — количественная характеристика, глубина и точность — качественные. Из того, что модель охватила больше связей, не следует, что она понимает их глубже.

 

2.Более того, вторая часть фразы подрывает первую. Если "смысла, мира и намерений для ИИ не существует", то в каком смысле он видит связи "точнее"? Точнее относительно чего? Если относительно мира — то доступа к миру у него нет. Если относительно текста — то это точность воспроизведения статистики, а не понимания. Автор не оговаривает, в каком смысле употребляет "точнее", и читатель сам достраивает вывод "значит, ИИ понимает лучше меня". Это и есть подмена: верное наблюдение об объёме используется для оценочного вывода, который из него не следует.

3.Это пример того о чеи написна материал,

Это вам ИИ рассказал, Николай? ) Интересно, а если бы ввы сами  анализировали абзац, смогли бы сделать такой же глубокий анализ? )

Ирина Плотникова пишет:
Николай Сычев пишет:
Ирина Плотникова пишет:

Кроме того, обучающие тексты пропитаны человеческим контекстом, и именно из них ИИ извлекает свои статистические закономерности.

Когда модель анализирует миллиарды книг, статей и диалогов, она оцифровывает связи между словами. Математическая вероятность строится не на случайном наборе букв, а на реальном человеческом опыте, зафиксированном в языке.

ИИ — это зеркало человеческой речи. Он выдает глубокие, контекстные ответы не потому, что сам понимает ситуацию, а потому, что безупречно копирует контекст, который мы, люди, когда-то вложили в свои тексты.

Если под контекстом понимать взаимосвязи внутри текста, то ИИ не просто его «видит» — он видит его гораздо глубже, точнее и в большем объеме, чем любой человек. Смысл жизни, физический мир, намерения, конечно, ИИ «не видит», этой реальности для него не существует.

Я бы все-таки сказал, что ИИ не видит, а вычисляет.

Я с этим явлением столкнулся именно в бизнесе.

Владельцы многое видят, а менеджеры вычисляют по формулам, которым их научили.

Так и с ИИ происходит.

Вычислять и видеть — это два разных инструмента, и их лучше использовать вместе.

Спасибо за натолкнули меня на более четкого понимание и формулирование этого.

Ну, конечно, вычисляет, Николай ) Я ж взяла слово в кавычки. Для каждого слова модель вычисляет математический коэффициент связи со всеми остальными словами

В предложении «Ограбление банка произошло на берегу реки, где стояла банка с огурцами» ИИ безошибочно поймет оба значения слова «банка». Первое слово «банка» притянется к вектору «ограбление», а второе — к вектору «огурцы». Для модели это и есть «видеть контекст».

Хотя есть еще и термин в ИТ – "машинное зрение", если уж гоорить в целом )

Спасибо, меня аналогия «человек — владелец, ИИ — менеджер» заинтересовала.

Это проясняет многие вопросы в использовании ИИ.

И всё больше людей примеряют на себя роль и ответственность владельца.

1 2 4
Оставлять комментарии могут только зарегистрированные пользователи
Статью прочитали
Обсуждение статей
Все комментарии
Дискуссии
Елена Иванова
Олег, здравствуйте,только дошли руки привести статусы, про которые спрашивалавот по ним вы когда...
Все дискуссии