Нейросеть может всё?

Не надо обладать глубокими знаниями, чтобы получить достаточно правдоподобный ответ. А кто поручится, что лингвистическая модель обучена на достоверных и полных знаниях, или непредвзятых суждениях?
Одно дело обучить модель распознавать дорожную ситуацию. Десяток опытных водителей и инспекторы дорожного движения справятся с этим без особого труда. И так во многих областях, где всё очевидно и понятно многим. Как этим воспользоваться уже технические детали. Именно в подобных применениях нейросети вне конкуренции и весьма полезны.
А вот в вопросах, где не столь всё очевидно, например, в политике или в юриспруденции, и даже в управлении - полезность сомнительна. Непредвзятость, о которой заявляется, не метод решения человеческих проблем. Тем более что поведение модели зависит от обучающих её людей (естественного интеллекта) и здесь ни о какой непредвзятости речи быть не может.

Расскажите коллегам:
Теги: AI
Комментарии
Консультант, Москва

Вы про Data Poisoning? В прошлом году, на каком-то форуме приводились оценки, что для "отравления" достаточно "замутить" 1-2% датасетов. Тут важно как и на чем периодически дообучается сеть (корпоративная). Если Вы про сети с общим доступом - то тут получите то, что получите. 

Управляющий партнер, Санкт-Петербург

А кто поручится, что лингвистическая модель обучена на достоверных и полных знаниях, или непредвзятых суждениях?

Никто.

Более того, в рамках отдельного оператора невозможно добиться непредвзятых суждений - просто в силу наличия когнитивных искажений или проф. деформации, которые могут при том и не осознаваться.

Но ситуацию спасает то, что истинная полнота данных не требуется - нужно просто достичь допустимой модельной ошибки. Кибернетически: моделью М некой сущности А является такая сущность, которая отвечает на вопросы относительно А с заданной точностью e, то есть |M - A|<=e. Как только это достигается - дальше можно не искать.

Теперь - процедурно: необязательно использовать готовые (в открытом доступе) лингвистические модели. При наличии ресурсов можно "пустые" модели обучить на широком классе профильной литературы из рецензируемых журналов первого квартиля, и это даст уровень экспертизы, сопоставимый с лауреатами Нобелевской премии. Мне представляется весьма сомнительным возникновение в реальном бизнесе задач, для которых такой экспертизы окажется недостаточно. Разумеется, последующую выверку экспертом это не отменяет.

Нейросеть может всё?

Конечно, нет. Но может достаточно, чтобы рассмотреть ее серьезное использование в производственном процессе. Можно воспринимать ее как интерна-пятикурсника на преддипломной практике.

Оставлять комментарии могут только зарегистрированные пользователи
Обсуждение статей
Все комментарии
Дискуссии
Все дискуссии
HR-новости
Финансовая стабильность важнее продвижения по карьерной лестнице

Почти половина опрошенных не рассматривают повышение, если новый оффер предполагает ухудшение соцпакета.

Каждый пятый руководитель считает, что достиг потолка в карьере

Управленцы продолжают развиваться, но сомневаются в своих перспективах роста.