Может ли ваш цифровой профиль сработать против вас?

Он не может купить билет на самолет или скоростной поезд. Его не принимают на работу. Банк не разрешает ему делать крупные покупки. О кредитах он может вообще забыть. Это – не страшный сон, а реальность, в которой после банкротства оказался CEO и основатель компании LeEco Цзя Юэтин.

«Я очень сожалею. Виню себя из-за негативного влияния долгового кризиса LeEco», заявил Юэтин. Финансовые проблемы компании начались с одного просроченного платежа в июле 2017 года, по словам предпринимателя, это привело к замораживанию активов. Юэтин добавил, что негативное влияние на бизнес оказали также «ложные и зловредные» сообщения, из-за которых начались сложности с кредиторами и поставщиками», – сообщает vc.ru. Юэтин решил не возвращаться в Китай и остался в США, где работает над новым стартапом Farady Future.

Система социального рейтинга уже работает в Китае. Россиян перспектива цифровой дискриминации ожидает в недалеком будущем. «В рамках эксперимента планируется создать единую систему идентификации и аутентификации, которая обеспечит доступ к сведениям о гражданах в базах государственных органов, включая платформу. В ней планируется открыть сервис, который позволит гражданину управлять своим согласием на обработку персональных данных в рамках цифрового профиля», – сообщает о целях проекта «Цифровой профиль» «Российская газета».

Разработкой концепции занимаются Минкомсвязь и Банк России совместно с «Ростелекомом». Запуск цифрового профиля гражданина предусмотрен федеральным проектом «Информационная инфраструктура» цифрового нацпроекта. Пилотная часть проекта будет реализована уже в 2019 году: идею опробуют на кредитах.

В ближайшие два года у всех россиян будут цифровые профили, в которых будет собрана юридически значимая информация о них. У россиян уже есть персональные кредитные рейтинги, независимо от того, просили граждане создавать себе рейтинги или нет.

Возможно ли ограничение гражданина России в правах в зависимости от состояния его электронного досье? Если да, то в каких сферах деятельности, и в зависимости от каких параметров возможна эта дискриминация? Обсуждаем эти вопросы с экспертами.

Алексей ГоловченкоЦифровая дискриминация будет набирать обороты

Алексей Головченко, управляющий партнер юридической компании «Энсо», глава комитета «Деловой России»

Любые данные, которые попадают в госорганы или в любые цифровые профили, являются общедоступной информацией. Например, распространенная практика: судьи запрашивают в рамках судебного процесса персональные данные (место работы, сведения по движению денежных средств) не только его участников, но и тех, кто по факту отношения к процессу не имеют. Полиция и другие силовые ведомства занимаются передачей персональных данных граждан. Личные данные граждан также продаются коммерческими конторами, добывающими их из баз данных, к которым они имеют доступ в обход закона.

Итого, наблюдается серьезное нарушение конфиденциальности персональных данных граждан. Уже формируется предвзятое отношение к человеку при просмотре данных о нем в базах.

Не уверен в реальности создания в России цифровых профилей граждан, как в Китае, где цифровая информация по каждому человеку влияет на его жизненный рейтинг.

Цифровая дискриминация уже есть в России – по каждому человеку можно получить подробную информацию, которая по конкретным критериям (оплата обязательных платежей, кредитов) дает оценочную характеристику личности. Эта дискриминация будет только набирать обороты. Если она и не будет оформлена юридически, то точно будет присутствовать фактически.

Недоброжелатель сможет купить личные сведения о своей жертве (например, историю болезни), опубликовать их в сети, откуда они попадут в цифровой профиль человека, отразятся на его репутации и рейтингах. Я считаю, что оценивать людей по установленным общим критериям – абсурдно и дико.

Ксения ТрифоноваGoogle или Apple сейчас знают о человеке больше, чем государство

Ксения Трифонова, вице-президент по развитию бизнеса, КРОС

Про это не принято писать, но уже есть масса различных «рейтингов», «скорингов» и «цифровых профилей» – сотовые операторы, интернет-компании, провайдеры, рекламные площадки, банки и агрегаторы такси уже много лет собирают на регулярной основе массу данных о каждом пользователе. Google или Apple (в зависимости от того, каким телефоном пользуется человек) знают о человеке больше, чем государство. А в некоторых отраслях – даже больше, чем сам человек знает о себе.

Более того, эти данные регулярно обогащаются за счет обмена данных между компаниями; применения систем искусственного интеллекта, собирающих данные на пользователя из открытых источников; маркетинговых активностей, программ лояльности и других надуманных предлогов, которые позволяют компаниям получить еще больше личной информации. Есть рынок покупки и продажи данных, который растет на порядок каждый год. Я бы сказала, что в этой сфере времена «дикого Запада» – отрасль ни в одной стране толком не регулируется, права граждан не очень защищены. Компании делают то, что хотят.

Все слышали про «китайский социальный рейтинг» и возможно знают историю человека по имени Цзя Юэтин, которому после банкротства запрещены финансовые транзакции и который теперь не имеет права пользоваться поездами и самолетами. Однако китайцы в системе социального рейтинга видят больше плюсов – она позволяет получать различные сервисы от большинства компаний со скидками или по упрощенной схеме. При высоком личном рейтинге проще получить инвестиции на собственный бизнес или найти хорошую работу.

Система рейтингов в КНР пока применяется довольно сбалансированно. В большинстве случаев, это просто более эффективный инструмент контроля того, что и так было запрещено: к примеру, в случае фиксации запрещенного курения в высокоскоростных поездах рейтинг понижается. Если слишком много играть в компьютерные игры, тоже происходит снижение рейтинга. Хорошо это или плохо?

Ключевое здесь – «слишком много» и «уже запрещено». Никто не запрещает курить в отведенных для этого местах. Играть тоже можно, и это довольно популярное развлечение в Китае, а китайская игровая индустрия – одна из крупнейших в мире.

Нужно понимать, что цифровой профиль не равен социальному рейтингу – цифровые профили у всех уже есть, просто идет процесс легитимизации сложившейся ситуации. Да и в наличии как такового социального рейтинга тоже нет ничего плохого – гораздо важнее обеспечить контроль граждан над механизмами таких рейтингов. А вот это крайне сложно, если эти рейтинги составляются частными компаниями в своих интересах. Рекомендую всем к прочтению роман «Сфера» Дэйва Эггерса.

Хочется нам или нет, но мир стремительно диджитализируется. Цифровизация набирает обороты в большинстве отраслей именно потому, что это более эффективно и удобно всем. В первую очередь – самим людям. Меньше коррупция, лучше обратная связь, эффективнее конкуренция, быстрее обмен информацией.

Нужно ли бороться с цифровизацией? Очевидно, что нет. Но точно нужно пытаться узнать об этом больше. Иначе кто-то другой воспользуется вашими данными. И далеко не всегда это будет вам на пользу.

Байжан КанафинСвязываться с «проблемным» партнером мало желающих

Байжан Канафин, генеральный директор, Documentolog

Ограничения в правах возможны, наверное, только по решению суда. Но при появлении электронного досье вся информация о статусе и операциях гражданина со всех возможных источников будет собираться в этом досье. А это могут быть как налоговые обязательства, так и обязательства гражданско-правового характера, например, договор займа или оплата услуг ЖКХ. Соответственно, если у гражданина появятся какие-либо проблемы с его обязательствами перед государством или третьими лицами, то информация об этих проблемах сразу же станет доступна для всех его контрагентов. Таким образом, даже без решения суда гражданин может столкнуться с проблемами. Ведь связываться с «проблемным» партнером будет мало желающих.

Нужно ли это делать? Мое мнение, однозначно нужно. Это дисциплинирует. И будет возможен эффект «разбитых стекол», когда стремление к недопущению маленьких ошибок будет вести к недопущению больших. (Смысл криминологической теории разбитых окон авторы идеи Джеймс Уилсон и Джордж Келлинг сформулировали так: «Если в здании разбито одно стекло, и никто его не заменяет, то через некоторое время в этом здании не останется ни одного целого окна» – Executive.ru).

Роман МакаровЦифровая дискриминация издержка технологического прогресса

Роман Макаров, генеральный директор, МФК «Займер»

Становление единого цифрового пространства и вследствие этого формирование цифровых досье – объективные реалии ближайшего будущего. Соответственно, риск цифровой дискриминации будет неуклонной издержкой технологического прогресса. Уже вполне можно представить, как данные из всего четырех источников – ФНС, Росреестра, МВД, ПФР – могут стать препятствием для гражданина в получении той или иной услуги.

Проще всего спроецировать ситуацию на финансовый сектор. Например, уровень задолженности по налогам в совокупности с большой суммой штрафов МВД в момент оформления кредита в понимании настроенного соответствующим образом скорингового робота может стать фактором, исключающим одобрение заявки.

Доступ к досье будет удобным инструментом для финансовых организаций и прочих его потенциальных пользователей: государственных органов, надзорных, статистических, коммунально-сервисных служб... И в каждом конкретном случае, в зависимости от целей использования, можно говорить о возможности потенциальной дискриминации человека: будь-то по «количественному» (например, соотношение уровня доходов и обязательств), либо «качественному» (отметка о судимости, обременении собственности) признаку.

Тем не менее, важно, что у гражданина остается право «исправить» определенные данные о себе, либо запретить возможность доступа к своему досье на общих основаниях.

Георгий МихайлецЦифровая дискриминация в России не только возможна, но и нужна

Георгий Михайлец, управляющий партнер, Win Pay

 

Цифровая дискриминация в России не только возможна, но и нужна. Профиль гражданина должен содержать информацию о просроченных кредитах, неоплаченных штрафах, долгах по налогам и алиментам, административных правонарушениях... Все это можно объединить сквозной «балльной» системой. Скажем, набрал человек за последний год более 100 баллов – не может занимать определенные должности, более 200 – автоматически ухудшается ставка по кредитам, и так далее.

Все видят только негативные последствия введения подобной системы, а также угрозы манипуляций гражданами при помощи баллов рейтинга. Но если сделать ее по уму, то повысится прозрачность, и будет наказано множество людей, которым до этого удавалось избегать каких-либо последствий за свои действия. Например, долги россиян по алиментам превышают 100 млрд рублей. Не слишком ответственные родители экономят и неплохо живут, а страдают в итоге дети. Так быть не должно, поэтому нужно работать над системой санкций, которая сделает жизнь подобных субъектов менее «сладкой».

«Цифровая слепота» развязывает руки неблагонадежным гражданам, которым достаточно уехать в другой регион, чтобы снова начать портить жизнь людям и компаниям на новом месте. Цифровой профиль, по сути, даст возможность организациям «почитать отзывы» о человеке от тех, кто уже с ним работал, и решить, в каком объеме они готовы взаимодействовать с ним.

Татьяна БочарниковаНезрелость технологий способна спровоцировать дифференциацию

Татьяна Бочарникова, глава представительства NetApp в России и СНГ

Сами по себе технологии нейтральны. Поэтому тут, скорее, важен не сам факт создания профилей, а недостаток инструментов анализа, несовершенство алгоритмов обработки, ошибки в подборе методов анализа и качество самой собираемой информации.

Важно понимать, что сервисы, работающие с персональными данными, нацелены на повышение эффективности и качества оказания услуги, но, не обладая совершенными технологиями, нельзя быть уверенным в том, что сбор больших данных не приведет к формированию информационного неравенства.

Ограничения могут появиться со стороны государственных органов, как, например, это было сделано в Китае, но не стоит забывать и о дискриминации со стороны бизнеса, способного выставить различные тарифы для разных характеристик профиля (например, взяв за основу уровень дохода человека), будь-то авиабилеты, обед в ресторане или оплата страховки.

Иначе говоря, по той или иной причине, дискриминация будет осязаема: начиная с ограничений по возрасту (цифровые профили будут хранить 57 видов личных данных гражданина, а, значит, будут еще «уязвимые» места) и заканчивая ошибками в «недоученных» алгоритмах искусственного интеллекта. Но в ближайшем будущем скорее именно незрелость технологий способна спровоцировать дифференциацию и дискомфорт, нежели другие факторы.

Лилия АлееваЛюбой из показателей может сыграть против вас

Лилия Алеева, директор по маркетингу, ICL Services

 

Цифровая дискриминация абсолютно не новое явление ни для России, ни тем более для мира. Она появилась с возникновением интернета, с того момента, как люди начали оставлять цифровые следы в виртуальном пространстве. Способность браузеров определять демографические черты личности с помощью алгоритмов и агрегировать онлайн-данные открыла потенциальную обратную сторону прогресса, помимо проблем конфиденциальности – цифровую дискриминацию. Так, заходя в один и тот же онлайн-магазин, мы с вами видим разную цену на один и тот же товар. Это зависит от населенного пункта, в котором вы живете: его размера, стоимости доставки, логистики и многих других аспектов. Но это только верхушка айсберга.

Одним из интересных показательных кейсов в США была ситуация, когда Facebook позволил своим рекламодателям исключать людей из рекламы жилья на основании их «этнической принадлежности». Этот кейс сыграл не в пользу Facebook, который в итоге проиграл двухлетний цикл судебных разбирательств, но факт остается фактом: любой из агрегируемых в онлайн-пространстве показателей может сыграть против вас. Место проживания, место учебы или работы, профессия, пол, этническая принадлежность, национальность, покупательная способность – по любому из этих показателей вы можете оказаться в «нежелательной» группе, а значит, лишиться потенциальных возможностей или интересных предложений.

Как повлияют на россиян цифровые профили и электронные досье – сильно зависит от того, какая информация будет там аккумулироваться, и в каких целях использоваться. Будут ли люди ограничены в получении базовых услуг в зависимости от имеющегося профиля (например, право на медицинскую помощь, на вычеты от государства в зависимости от трудового стажа и выплаченных налогов), не повлияют ли случившиеся жизненные события на дальнейшие возможности (наличие судимости на трудоустройство) – все зависит от целей сбора информации. При любом раскладе, при агрегировании цифрового профиля каждого гражданина в центре внимания должен находиться принцип исключения дискриминационного использования данных.

Поэтому онлайн-пространство, которое, на первый взгляд, дало нам равные возможности – в то же время способно со временем усугубить сложившееся социальное неравенство, если не уделить этому достаточно внимания.


А что вы думаете о дискриминации человека на основании его цифрового досье? Примите участие в голосовании и поделитесь вашими идеями в форуме.

Фото в анонсе: freepik.com

Кто выиграет от создания цифрового досье?
Loading...
Комментарии
Нач. отдела, зам. руководителя, Казань

Интересный материал, согласна со спикерами!

Профессор, Уфа

В РФ, и не только, это приведет к известному эффекту -

(Ссылка оф-топ удалена модератором)

Researcher, Москва

Соучастники!
Предлагаю не путать причину и следствие. 

Дискриминация существовала раньше и будет существовать всегда в обществе людей. И зависит она от людей, а точнее от правящего класса, религии и т.д. 

А уж какие инструменты используют эти люди - дело второе. Конечно информации (данных) о каждом индивидууме сейчас можно получить значительно больше чем в 100-300 лет назад. Отсюда возможности у "нехороших" людей явно больше... А как они ("нехорошие" люди) будут ее использовать зависит от зрелости общества, морали, устоев и т.д.

Так как люди все таки стадные существа, то в стаде всегда!! будет первый и последний...

Начальник участка, Москва

Вас ограничили в правах на основании Вашего цифрового досье?

В этом нет вины Вашего "цифрового профиля"! Проблема заключается в том, что кто-то в принципе может ограничивать Вас в правах и не нести за это никакой ответственности!

Поэтому вопрос: "Может ли ваш цифровой профиль сработать против вас?" - не совсем логичен! Логичнее найти ответ на вопрос: "Законны ли основания у тех, кто ограничивает Ваши права? И насколько объективно они Вас могут оценить по этому профилю?"

А цифровой профиль - это всего-лишь ещё одна Ваша "фотография" с недоступного прежде ракурса, и если вы чисты перед своей совестью и законом, что в ней страшного?!

P.S....много лет назад повёз свою будущую жену-москвичку знакомиться со своими родителями в небольшой подмосковный городок. По дороге от ж/д станции до дома здоровался почти со всеми, кто попадался по пути.

Жена спрашивает: " Ты что, всех их знаешь?".

"Да!" - отвечаю.

"И они тебя?"

"Конечно! Город маленький - тут все друг про друга почти всё знают!"

"Чёрт! Как же вы тут можете жить? Даже плюнуть на улице нельзя!"

"А ты не плюй!" ))) ...

Партнер, Москва

«Если сделать все по уму»

уже стало смешно. Когда у нас что-то делалось по уму?

IT-консультант, Украина

Дискриминация существовала раньше и будет существовать всегда в обществе людей. И зависит она от людей, а точнее от правящего класса, религии и т.д. 

 

Старина Кольт с вами не согласен и нашел давно решение проблемы дискриминации.

Генеральный директор, Москва

С моей точки зрения проблема с подобными "цифровыми досье" в том, что они предусматривают примитивную, весьма ограниченную картину мира, в которой у человека жизнь развивается линейно и последовательно и всегда от хорошего к лучшему.

Когда достаточно быть законопослушным гражданином, ничего не нарушать и всё у тебя будет хорошо. Но это верно преимущественно для среднего класса, да для тех кто родился с золотой ложкой во рту. И поощряет это серость - тех, кто банально не хочет никак эксперементировать и чего-либо делать.

Ведь любые эксперименты - это риск. И этот риск будет отражён в цифровом досье. При этом на словах заявляется о поддержке предпринимательства. А на деле с поддержкой или без, но в среднем предприниматели разоряются по три раза. Это естественный процесс обучения и становления.

Такой же - как и обучение езде на велосипеде. И ни разу не видел, чтобы люди в процессе такого обучения ни разу не упали и не ушиблись. Вот только им на основании этих падений и ушибов никто не снижает кредитные рейнинги и не подвергает публичному порицанию....

А ведь если присмотреться, то в процессе своего становления большинство известных и тех людей, которые считаются великими, имели весьма не однозначные и спорные моменты в биографии. Сам Владимир Владимирович участвовал в неких мутных историях в 90е.

Даже у церкви больше половины святых и апостолов - это бывшие разбойники и раскаявшиеся блудницы. Чтобы с ними было - присваивай им цифровые рейтинги? ;-) Известно что - до сих пор рулили бы Фарисеи, у которых социальный рейтинг был бы в полном порядке.

Зато некто с пониженным социальным рейтингом (как раз за критику оных фарисеев) так и сгинул бы на цифровой голгофе. И накакое воскрешение не помогло бы. Его бы банально не заметили. Да и на социальном рейтинге оно отразилось бы лишь в худшую сторону, как нарушение предписаний местного минздрава...

Глава филиала, регион. директор, Минск

Добрый день, друзья.

Попытаюсь простыми словами донести свои мысли.

Безусловно, давать комментарий о цифровизации личности, когда ты сидишь в кожаном кресле и все у тебя по жизни "ровно", наверное, хорошо и просто.

А какой комментарий ты дашь, когда у тебя за плечами кредит, который ты просрочил(а)... по разным причинам, и теперь твой профиль "покрасили" в цвет неблагонадежности? И ты не можешь получить работу, которая реально может решить все твои проблемы, но... фактор просрочки по кредиту твой работодатель расценил, как неблагоприятный? Я, конечно, существоено упростил пример, но...

Один и тот же факт можно расценить по-разному. Я уже не говорю о том, что одни те же факты по-разному оцениваюся в разных национальных, этнических и т.д. группах. Даже факт судимости -  не всегда показатель, что уже говорить о других моментах?

Приведу пример повеселее. Господин Трамп. Сколько раз он банкротил свои предприятия, выводил активы, уходил от уплаты долгов кредиторам? Не раз... Как это воспринимется в США (для США - эно нормальный способ не платить кредиторам)? В России (Ужас-ужас)? По-разному.
А сколько и как "великие" бизнесмены нашей страны совершали, мягко говоря, странные операции и в отношении кредиторов в том числе? Они всегда платят по долгам? Они абсолютно чисты перед законом? Да, то, что они делают в итоге очищают юристы и адвокаты. И... это - бизес. И я с этим согласен. Вспомните старину Маркса, что он говорил о капиталистах, на что они способны ради 300% прибыли? Это, конечно же, ирония.  Но, как мы воспринимаем ситуацию, когда человек, ОБЫЧНЫЙ человек не гасит кредит? Когда он, да, сершив ошибку, старается перекредитоваться, как-то "разрулить" и... загоняет себя в болото все глубже? А в его электронном профиле, доступном для ВСЕХ - злостный неплательщик (так и сосед в итоге не "долганет" до получки). 
И, обратите внимание - простой человек, не платящий долги банку, - неплательщик, а директор (собственник, владелец бизнеса, ТОП), обходящий по законным схемам уплату по долгам - умный и успешный бизнесмен.

Я не выступаю против бизнеса, я соглашусь с тем, что правильный бизнес - это баланс "схем".
Я говорю лишь о том, что один и тот же факт - "неоплата по долгам" трактуется по-разному. Вопрос ИНТЕРПРЕТАЦИИ фактов, то есть информации - самый важный момент в оценке последсвий непродуманной цифровизации личности.

Цифровизация личности, безусловно важный и нужный шаг. Но... Важно понимать, что это - инструмент. И в чьих руках окажутся данные, как они будут формироваться, анализироваться и отображаться - далеко не последний фактор, который нужно учитывать при реализации этого проекта.

За каждым профилем - стоит сдуьба конкретного человека, семьи. И... простой человек здесь - почти не защищен. Поэтому, каждому инструменту - свое время. И погоня за скоростью внедрения в ущерб качеству и осмысленности - шаг, я не побоюсь своего сравнения, в пропасть.

Поэтом, мне ближе мнение Татьяны Бочарниковой, которая выразила озабоченность, что незрелость технологий способна спровоцировать дифференциацию, которая может перерасти в нечто большее.

Благодарю. 

 

Консультант, Санкт-Петербург

Участники обуждения, в том числе коменнтирующие публикацию, помогли увидеть разные аспекты этого явления и его важнейшие возможные последствия: в конечном счете принципиально ничего не изменится, так как общество останется обществом с его вечной дискриминацией. Но в разных обществах - в связи с разной степнью их развитости - эта цифровизация может привести к принципиально/качественно разным последствиям в плане дискриминации. Возникают новые ниши бизнеса - цифровой PR в самых разных формах, в том числе безобразных: улучшение/ухудшение цифрового профиля (реального - за счет тех или иных действий, которые вносятся в профиль, или поддельного - за счет технических манипуляций с профилями) - и своего, и своего врага/конкурента, вплоть до смены/подмены профиля личности), специфические юридические услуги, и т.п.

По мере внедрения и усиления влияния цифрового профиля человека на его жизнь вполне реалистично ожидать появление нового варианта психологических проблем человека в переживании своей идентичности. Кто я, какой я на самом деле, если организации, сообщества, люди относятся ко мне скорее так, каков мой цифровой профиль, чем какой я непосредственно? Сейчас уже наблюдается всплеск так называемых нарциссических проблем у людей - в связи с высокой интернет активностью, рекламой. Цифровой профиль должен усилить трудности формирования и функционирования Собственного Я как психической структуры, управляющей поведением человека, ощущением себя, своей жизни.

HR-директор, Ижевск

Коллеги, а вы в курсе, что в ближайшие годы Китай планирует включать в свою систему цифровых профилей "благонадежность" - то есть высказывания о правительстве, участие в различного рода акциях и т.п.? Более того, через эти же несколько лет из системы цифровых профилей исчезнет "добровольность". Рейтинг ваших друзей в соц. сетях будет влиять на ваш. Рассказать к чему это может привести? Правильно, ваш ребенок не поступит в престижный ВУЗ, не смотря на все данные, потому что вы высказывались по поводу... в негативном  ключе. Нет, простите, потому  что "индекс благонадежности его семьи ниже утвержденного нашим ВУЗом".

Мне кажется "министретсво правды" просто отдыхает. Управление поведением членов общества в 99 % объеме.....

С одной стороны - вполне понятно, что это все наше будущее. мы никуда не уйдем от цифровизации. А с другой стороны... меня пугает такая власть над людьми. И эта власть будет в руках правительства.  Или гос. корпораций.

Оставлять комментарии могут только зарегистрированные пользователи
Статью прочитали
Обсуждение статей
Все комментарии
Дискуссии
Все дискуссии
HR-новости
Как управлять коллективом?

В Ижевске состоялась конференция «Региональная модель управления человеческими ресурсами».

Кто хочет знать зарплату коллег

Служба Исследований hh.ru выяснила, кто из соискателей знает размер зарплаты своих коллег.

Травмы на работе - угроза ВВП

Почти 3 миллиона человек в мире ежегодно умирают на своих рабочих местах.

Arena: анонимный поиск работы

Запущен сервис для анонимного поиска работы в сфере разработки.