Как умные люди работают с нейросетями

Давайте поразмышляем: какого человека можно назвать умным? Возможно, это тот, кто знает много фактов? На самом деле, это тот, кто умеет видеть контекст и работать с ним. Кто понимает, что факты без контекста – это просто набор данных, а не решение. Потому что технологии искусственного интеллекта работают с фактами лучше и быстрее любого человека. Но есть одна проблема. Этот мощный инструмент работает с тем, что есть – с данными, цифрами, текстами, а связей между ними не замечает. Можно ли доверять такой технологии? Некоторые пользователи нейросетей доверяют, считая, что машина знает и видит все. А как работают с информацией и технологиями умные люди? Обсудим.

Искусственный интеллект и бублики – что общего?

Когда люди принимают решения, то опираются на две вещи: факты и контекст.

  • Факты – это информация, которую можно увидеть, измерить через цифры, описать через слова, оценить. Это то, что лежит на поверхности. Многие люди доверяют этому, считая, что это и есть реальность.
  • Контекст – это другая, невидимая сторона, которая определяет все остальное. Это отношения, мотивация, неопределенность, доверие, восприятие.

Именно контекст превращает информацию в понимание. А технология не распознает контекста. Здесь уместна метафора: искусственный интеллект видит только бублик (факты), а дырку (контекст) не замечает. Но ведь именно дырка делает выпечку бубликом. Без отверстия – это просто кусок теста.

Как работать с ИИ на экспертном уровне

В работе с искусственным интеллектом есть три уровня. Каждый уровень можно сравнить с отдельным видом бублика:

  • Технический уровень (сладкий с маком). Самый простой, когда нейросеть используют как редактор для исправления ошибок, переводчик. Даете задачу, ИИ ее выполняет, вы забираете результат. Контекст на этом уровне не нужен. Вы не думаете, как устроен алгоритм, не проверяете каждое слово, просто используете инструмент, потому что это эффективно.
  • Информационный уровень (соленый с кунжутом). Здесь происходит взаимодействие как с ассистентом, а не исполнителем: сбор информации, сравнение вариантов, аналитика, подготовка отчетов, проверка гипотез. Контекст здесь нужен, но в ограниченном объеме: важно понимать материал, но необязательно вникать в детали технологии его производства. Достаточно знать, что искать, с какой целью, и в каком направлении. Не слепо доверять ответам, а проверять, сопоставлять, оценивать.
  • Экспертный уровень (горький с перцем). Здесь нет готовых ответов, но есть неопределенность. Непонятно, какое решение правильное, какие факты самые важные, что будет через месяц. ИИ делает черновик, который нельзя просто взять и использовать, его необходимо пересобирать, добавить смысл, превратить в решение. Контекст в этой работе – центральный элемент. Без него материал так и останется сырым. На этом уровне автор решения несет ответственность, потому что ИИ – лишь инструмент в его руках.

Вернемся к бубликам – у каждого своя дырка разного размера:

  • У сладкого с маком дырка маленькая, почти не влияет на вкус. Пользователь просто ест бублик. Контекст не важен.
  • У соленого с кунжутом дырка уже заметная. Контекст нужен, но в ограниченном объеме. Стоит знать, что это за бублик, но не нужно понимать всю технологию его производства.
  • У горького с перцем дырка – центральный элемент. Контекст определяет все. Человек, который работает с ИИ на экспертном уровне, видит дырку. Он знает, что без контекста любое решение – формальность. Он не просто потребляет бублик. Он понимает, как устроена дырка.

Когда человек доверяет информации от нейросетей, и думает, что это и есть решение, он будто кушает красивый, аппетитный бублик. Он не разбирается в дырках, не задает вопросов, просто берет готовый результат и идет с ним в мир. А мир не такой гладкий. Там есть нюансы, которые ИИ не увидел. Связи, которые алгоритм не уловил. Контекст, который он не учел. В итоге, люди принимают решения, которые формально правильные, но по факту не работают. Это и есть главный риск: стать потребителями бубликов и перестать быть умными.

Как использовать ИИ-инструменты с умом

Умная работа с технологиями – это значит: уметь разделять зоны.

  • Зона ИИ (бублик). Логика, данные, алгоритмы, форма.
  • Зона разумного человека (дырка). Контекст, смысл, ответственность.

Если вы не понимаете, где заканчивается зона «бублика» и начинается ваша – вы не умный, а ведомый. Умный человек не доверяет ИИ как истине, он использует инструмент, но знает, что ИИ может дать факты, но не может дать понимание. Умный человек не боится контекста, а работает с ним, достраивает смысл там, где данные не дают ответа.

Если вы используете нейросети на первом уровне – это нормально, но это не уровень эксперта. Если вы проверяете, собираете, сопоставляете данные нейросети, значит, уже есть понимание, что ИИ может ошибаться, поэтому слепо доверять ему не стоит. Если вы работаете в неопределенности, принимаете решения и несете за них ответственность, то вы готовы к сложности, к риску, готовы отвечать за результат.

Проверьте себя по этому списку вопросов, когда будете принимать решение с участием ИИ:

  • Какой уровень задач я сейчас решаю – технический, информационный или экспертный?
  • Я проверяю контекст, прежде чем довериться ИИ?
  • Я готов отвечать за решение, или прячусь за «так сказала нейросеть»?
  • Что именно я делегирую алгоритму, а что оставляю за собой?
  • Я развиваю свою экспертизу, чтобы переходить на следующие уровни?

Выводы

ИИ – это мощный, удобный, быстрый инструмент. Но бублик без дырки – это просто булка. Если вы не видите дырку, вы просто потребляете, а не думаете. Можно дальше кушать сладкие бублики – они вкусные и безопасные, но они вас не меняют. А можно взять горький бублик и понять, что решения – это ваша зона ответственности. Вопрос не в том, умеете ли вы пользоваться технологиями, а в том – умеете ли вы думать, пока нейросеть работает.

Также читайте:

Расскажите коллегам:
Комментарии
Ирина Плотникова пишет:
Николай Сибирев пишет:
Ирина Плотникова пишет:
О каком контксте  вы  все время говорите, Николай?

Есть разные подходы, где рассматривается одно и тоже, но с разных позиций. поэтому каждый может вкладывать свой смысл, у меня нет желания доказывать свою экспертизу, пусть каждый делает те выводы, которые хочет сделать сам. Чем глубже, тем сложней.

  • Лингвистика
  • Когнитивная лингвистика
  • Когнитивная психология

Можно придерживаться любой позиции, я не случайно использую самые простые метафоры.

Вы же знаете, что идея книги Лакоффа, Джонсона «Метафоры, которыми мы» в бизнесе сводится к простому тезису: метафора — это не украшение речи, а инструмент управления мышлением и, следовательно, поведением сотрудников и клиентов.

А эти инструменты уже давно используется западными полит и разанд технологами.

У меня был простой вопрос, Николай, какой контекст вы имете в виду. Только и всего. И тот только для того, чтобы понять вашу мысль, что очень важно для дискуссии. 

я уже ответил.

Николай Сычев пишет:
Ирина Плотникова пишет:
Николай Сычев пишет:
Ирина Плотникова пишет:
Николай Сычев пишет:
Ирина Плотникова пишет:
Конечно, с  т. э. строгой формальной логики модель права. Я уже как-то говорила вам давно в  другой дискуссии, метафоры – это хоорошо, но они опасны  тем, что теряется  точность. В данном случае я сейчас про себя – использовала красивые метафоры («глубже», «точнее»), чтобы подчеркнуть масштаб работы нейросетей )

Это так, но без метафор очень многое человек не может понять.

Люди мыслят образами, а не формулами.

Формула не создает образа, а метафора создает.

Ирина Плотникова пишет:
Если под контекстом понимать сугубо взаимосвязи внутри текста, то ИИ обрабатывает его в кардинально большем объеме и с более высокой математической точностью, чем любой человек. Модель способна мгновенно просчитать статистические зависимости между миллионами слов. Однако этот анализ остается исключительно плоскостным и синтаксическим: подлинной глубины, смыслов, намерений автора и связи с физическим миром для ИИ не существует, так как эта внетекстовая реальность полностью находится за пределами его математической архитектуры.

Есть такое ощущение, что это временное явление.

А точнее говоря, вполне допустимо, что ИИ скоро будет гораздо лучше обрабатывать связь с физическим миром, чем большинство людей.

Интересно, а ИИ можно научить «мыслить образами»?

Может быть, «образ» — это тип данных такой в системе мышления человека.

Люди мыслят по-разному )  У кого какое мышление более развито ) У кого-то конкретно-наглядное. у кого-то абстрактное)

Вполне допустимо. К этому все разработчики и стремятся )

Даже сейчас уже есть мультимодальные модели )

Интересно, а абстрактное мышление — это мышление абстрактными образами или формулами?

Программы тоже «мыслят» абстрактными образами.

И тем и другим ) но скорей не образами, а понятиями ) 

Как я понимаю, программы работают с типами данных.

Для каждого типа данных есть свои операции.

Возможно, люди тоже работают с типами данных, например, мысль может быть типом данных.

Но это еще плохо понятый мной вопрос, так как может быть много производных структур, а технический состав мысли как пакета данных еще мало изучен.

Можно спросить у ИИ ) Он (или она? - модель)  объяснит )

Ирина Плотникова пишет:
Я вот только что вернулась со спектакля " Танго – моя  жизнь". Участники крупнейших мировых танго-шоу, призёры и победители Чемпионатов мира по танго. Спектакль построен в формате «разговора тел в ритме танго».  — историю рассказывают танец, живая музыка и вокал. Никто, кроме главного героя Жана, мечтающего стать артистом шоу, не произносит ни слова. Вот и думаю, а если б и он ничего не говорил, сумели бы зрители понять абстракцию ?! )

Я бы не говорил об этом как о непонятной абстракции.

Идеи любви, расставания, ревности, измены, счастья известны почти всем людям.

Их с самого детства изучают.

Задача танцоров — передать их в танце.

В общем, сюжет — скука смертная, но исполнение может быть интересным.

А в балете еще и либретто пишут, хотя многие произведения и так все знают.

 

Известны, согласна. Но человечество до сих пор спорит, что есть любовь, измена, счастье и проч. )) В том числе и академики с философами )

Ирина Плотникова пишет:
Николай Сычев пишет:
Ирина Плотникова пишет:
Николай Сычев пишет:
Ирина Плотникова пишет:
Николай Сычев пишет:
Ирина Плотникова пишет:
Конечно, с  т. э. строгой формальной логики модель права. Я уже как-то говорила вам давно в  другой дискуссии, метафоры – это хоорошо, но они опасны  тем, что теряется  точность. В данном случае я сейчас про себя – использовала красивые метафоры («глубже», «точнее»), чтобы подчеркнуть масштаб работы нейросетей )

Это так, но без метафор очень многое человек не может понять.

Люди мыслят образами, а не формулами.

Формула не создает образа, а метафора создает.

Ирина Плотникова пишет:
Если под контекстом понимать сугубо взаимосвязи внутри текста, то ИИ обрабатывает его в кардинально большем объеме и с более высокой математической точностью, чем любой человек. Модель способна мгновенно просчитать статистические зависимости между миллионами слов. Однако этот анализ остается исключительно плоскостным и синтаксическим: подлинной глубины, смыслов, намерений автора и связи с физическим миром для ИИ не существует, так как эта внетекстовая реальность полностью находится за пределами его математической архитектуры.

Есть такое ощущение, что это временное явление.

А точнее говоря, вполне допустимо, что ИИ скоро будет гораздо лучше обрабатывать связь с физическим миром, чем большинство людей.

Интересно, а ИИ можно научить «мыслить образами»?

Может быть, «образ» — это тип данных такой в системе мышления человека.

Люди мыслят по-разному )  У кого какое мышление более развито ) У кого-то конкретно-наглядное. у кого-то абстрактное)

Вполне допустимо. К этому все разработчики и стремятся )

Даже сейчас уже есть мультимодальные модели )

Интересно, а абстрактное мышление — это мышление абстрактными образами или формулами?

Программы тоже «мыслят» абстрактными образами.

И тем и другим ) но скорей не образами, а понятиями ) 

Как я понимаю, программы работают с типами данных.

Для каждого типа данных есть свои операции.

Возможно, люди тоже работают с типами данных, например, мысль может быть типом данных.

Но это еще плохо понятый мной вопрос, так как может быть много производных структур, а технический состав мысли как пакета данных еще мало изучен.

Можно спросить у ИИ ) Он (или она? - модель)  объяснит )

Ирина Плотникова пишет:
Я вот только что вернулась со спектакля " Танго – моя  жизнь". Участники крупнейших мировых танго-шоу, призёры и победители Чемпионатов мира по танго. Спектакль построен в формате «разговора тел в ритме танго».  — историю рассказывают танец, живая музыка и вокал. Никто, кроме главного героя Жана, мечтающего стать артистом шоу, не произносит ни слова. Вот и думаю, а если б и он ничего не говорил, сумели бы зрители понять абстракцию ?! )

Я бы не говорил об этом как о непонятной абстракции.

Идеи любви, расставания, ревности, измены, счастья известны почти всем людям.

Их с самого детства изучают.

Задача танцоров — передать их в танце.

В общем, сюжет — скука смертная, но исполнение может быть интересным.

А в балете еще и либретто пишут, хотя многие произведения и так все знают.

 

Известны, согласна. Но человечество до сих пор спорит, что есть любовь, измена, счастье и проч. )) В том числе и академики с философами )

Думаю, что и ИИ, и академики с философами всё это рассматривают не в том контексте, который мне интересен.

Николай Сычев пишет:
Ирина Плотникова пишет:
Николай Сычев пишет:
Ирина Плотникова пишет:
Николай Сычев пишет:
Ирина Плотникова пишет:
Николай Сычев пишет:
Ирина Плотникова пишет:
Конечно, с  т. э. строгой формальной логики модель права. Я уже как-то говорила вам давно в  другой дискуссии, метафоры – это хоорошо, но они опасны  тем, что теряется  точность. В данном случае я сейчас про себя – использовала красивые метафоры («глубже», «точнее»), чтобы подчеркнуть масштаб работы нейросетей )

Это так, но без метафор очень многое человек не может понять.

Люди мыслят образами, а не формулами.

Формула не создает образа, а метафора создает.

Ирина Плотникова пишет:
Если под контекстом понимать сугубо взаимосвязи внутри текста, то ИИ обрабатывает его в кардинально большем объеме и с более высокой математической точностью, чем любой человек. Модель способна мгновенно просчитать статистические зависимости между миллионами слов. Однако этот анализ остается исключительно плоскостным и синтаксическим: подлинной глубины, смыслов, намерений автора и связи с физическим миром для ИИ не существует, так как эта внетекстовая реальность полностью находится за пределами его математической архитектуры.

Есть такое ощущение, что это временное явление.

А точнее говоря, вполне допустимо, что ИИ скоро будет гораздо лучше обрабатывать связь с физическим миром, чем большинство людей.

Интересно, а ИИ можно научить «мыслить образами»?

Может быть, «образ» — это тип данных такой в системе мышления человека.

Люди мыслят по-разному )  У кого какое мышление более развито ) У кого-то конкретно-наглядное. у кого-то абстрактное)

Вполне допустимо. К этому все разработчики и стремятся )

Даже сейчас уже есть мультимодальные модели )

Интересно, а абстрактное мышление — это мышление абстрактными образами или формулами?

Программы тоже «мыслят» абстрактными образами.

И тем и другим ) но скорей не образами, а понятиями ) 

Как я понимаю, программы работают с типами данных.

Для каждого типа данных есть свои операции.

Возможно, люди тоже работают с типами данных, например, мысль может быть типом данных.

Но это еще плохо понятый мной вопрос, так как может быть много производных структур, а технический состав мысли как пакета данных еще мало изучен.

Можно спросить у ИИ ) Он (или она? - модель)  объяснит )

Ирина Плотникова пишет:
Я вот только что вернулась со спектакля " Танго – моя  жизнь". Участники крупнейших мировых танго-шоу, призёры и победители Чемпионатов мира по танго. Спектакль построен в формате «разговора тел в ритме танго».  — историю рассказывают танец, живая музыка и вокал. Никто, кроме главного героя Жана, мечтающего стать артистом шоу, не произносит ни слова. Вот и думаю, а если б и он ничего не говорил, сумели бы зрители понять абстракцию ?! )

Я бы не говорил об этом как о непонятной абстракции.

Идеи любви, расставания, ревности, измены, счастья известны почти всем людям.

Их с самого детства изучают.

Задача танцоров — передать их в танце.

В общем, сюжет — скука смертная, но исполнение может быть интересным.

А в балете еще и либретто пишут, хотя многие произведения и так все знают.

 

Известны, согласна. Но человечество до сих пор спорит, что есть любовь, измена, счастье и проч. )) В том числе и академики с философами )

Думаю, что и ИИ, и академики с философами всё это рассматривают не в том контексте, который мне интересен.

"Никогда не знаешь, где найдешь..." –  говорит известная русская пословица )

 

1 … 5 7
Оставлять комментарии могут только зарегистрированные пользователи
Статью прочитали
Обсуждение статей
Все комментарии
Дискуссии
Елена Иванова
Олег, здравствуйте,только дошли руки привести статусы, про которые спрашивалавот по ним вы когда...
Все дискуссии