Технологии

Total control: что мешает глобальной слежке за людьми

Весной прошлого года миллионы жителей Китая не смогли приобрести билеты на скоростные поезда и самолёты — в этой покупке им попросту было отказано. Виной всему стали низкие баллы несостоявшихся покупателей в системе социального рейтинга, внедряемой в стране с 2010-х годов и обернувшейся в итоге созданием чёрных списков из нарушителей самых разных правил, законов и норм. В том числе в них оказались и китайские компании, санкции для которых обещают быть куда более серьёзными, например им могут запретить импорт товаров и участие в госконтрактах. Но станут ли подобные решения общепринятыми и как быстро это может произойти? Будущее тотального цифрового контроля, допустимые с точки зрения соблюдения прав человека его форматы, а также барьеры, которые могут встать на пути новых решений, обсудили участники международного цифрового форума Digital Innovations & Investments, который прошёл в Российском университете дружбы народов в Москве. Рассказываем о наиболее важных и ярких тезисах, прозвучавших в рамках дискуссии.

Total control: что мешает глобальной слежке за людьми

Единой модели нет

Говоря о будущем цифрового контроля за обществом, все же стоит помнить, что пока обеспечивающие его решения носят экспериментальный и территориально ограниченный характер. Другое дело, что все более частые попытки их внедрения, безусловно, настораживают.

В Китае, например, с прошлого года реализована возможность распознавания личности человека на основе анализа видеозаписей даже не по лицу, а по походке, рассказал доктор экономических наук, профессор, президент АНО «Центр защиты вкладчиков и инвесторов» Артём Генкин (он выступил на конференции с докладом «Homo electronicus: Свобода лучше, чем несвобода?»). В США компания-оператор связи Verizon предложила мониторить события в городах при помощи сетей оптоволоконного кабеля (например, отслеживать выстрелы, повышение температуры воздуха, плотность автотрафика и пр.). А в Австралии власти штата Новый Южный Уэльс протестировали систему по выявлению водителей, использующих гаджеты во время поездок (в результате за прошлый год нарушителям выписали 100 тысяч штрафов). Не отстает и Россия, например: в трех школах Перми будут установлены системы распознавания эмоций на лицах учеников. Возможно, таким образом нейросети помогут предотвратить случаи агрессии в учебных заведениях.

Кстати, эксперименты по внедрению системы социального рейтинга для людей на основе анализа поведения уже выходят за рамки Китая. Как уточнил Артём Генкин, в марте этого года в США регулятор финансового рынка разрешил страховым компаниям использовать персональную информацию из внешних баз данных, чтобы определять размер страховых премий клиентов (с оговоркой о том, что при сборе и анализе подобной информации не должна происходить дискриминация людей по каким-либо признакам, однако контроль за исполнением этой оговорки представляется весьма проблематичным).

«Это совершенно новая ситуация, в которой мы все оказываемся, и она говорит о новой степени контроля», — подчеркнул Артём Генкин.

Регуляторика как препятствие 

Неожиданно, но проблемой для тотального внедрения решений в сфере цифрового контроля может оказаться текущая регуляторика, особенно если говорить о решениях глобального уровня. Тотальный цифровой контроль будет встречать на своём пути множество законодательных межстрановых барьеров. Уже сегодня с похожими трудностями сталкиваются, например, специалисты по кибербезопасности. Как рассказал эксперт по кибербезопасности из компании Group-IB Александр Лазаренко, при поиске киберпреступников регуляторика не позволяет оперативно обмениваться данными или узнавать необходимую информацию.

«Клиенты страдают во всему миру, и это очень большая проблема», — говорит Александр Лазаренко.

Глобальные решения в сфере цифрового контроля и вовсе потребуют введения абсолютно нового законодательного регулирования, которое также займёт немало времени, что в свою очередь может провоцировать непредвиденные конфликты. Похожие ситуации уже происходят при хищениях средств, собранных в процессе ICO.

«К нам обращаются клиенты, у которых похитили криптовалюту, размер хищений доходит до десятков миллионов долларов, но даже если мы найдём похитителя, что крайне сложная задача, мы не можем ничем помочь: законодательство не позволяет запустить уголовное производство», — говорит Александр Лазаренко.

Ограничения для цифры

Цифровой контроль, а затем и системы искусственного интеллекта с правом принятия решений будут иметь и другие ограничения. Например, роботизированные решения далеко не всегда могут заменить человека, особенно если речь идёт о системах с контролирующим функционалом. Примером могут служить текущие трудности, которыми сопровождается внедрение новых технологий в юриспруденции.

Казалось бы, технологии готовы сделать работу юристов эффективнее, а главное, прозрачнее. Но пока специалисты придерживаются мнения, что искусственный интеллект не сможет вытеснить с рынка юристов. Как уточнил управляющий партнер издательства «Инфотропик Медиа» Хольгер Цшайге, это подтверждается в том числе показателями объема рынка LegalTech в мире. Так, при текущем объёме глобального рынка юридических услуг примерно в один триллион долларов, на долю LegalTech от него приходится лишь 0,3% (столько юридические фирмы и компании потратили на технологические решения для своего бизнеса в прошлом году, уточнил эксперт). А потенциальный рынок LegalTech в США, самом крупном рынке юридических услуг, составляет всего $16 млрд. Хотя ставящие юристов под контроль технологии не только повысили бы эффективность их работы, но и сделали бы юридические услуги доступнее.

Люди сопротивляются

Препятствием для тотального цифрового контроля может оказаться и неготовность к трансформации самих участников процесса. Так, сопротивление может исходить от руководящего звена, не готового к управлению по новым принципам и не желающего расставаться с прежними полномочиями, которые отчасти предстоит передать роботизированным системам. Подобные трудности довольно отчётливо проявляются уже сегодня при переводе сотрудников на работу в удалённом формате.

«Чуть ли не главной силой руководителя нередко считается присутствие в офисе и грозный взгляд. При работе с удалённой командой поддерживать такой стиль управления не получится», — уточняет основатель консалтингового проекта Bespredel Надежда Палагина.

Стоит помнить, что системы цифрового контроля также могут оказаться не всегда эффективными из-за попыток манипуляций со стороны контролируемых сотрудников. Например, сегодня за персоналом во время рабочего дня следят до 80% компаний, большинство из них даже мониторит компьютеры. Однако такие меры оказываются не всегда эффективными: многие компании регулярно сталкиваются с использованием корпоративных ресурсов для личного обогащения.

Ставка на институт репутации 

Несмотря на очевидные сложности и барьеры с внедрением, системы цифрового контроля, похоже, неминуемо станут частью будущего, причём весьма близкого. Проще всего будет поставить под контроль действия человека в интернете, и это уже реализовано во многих странах. Широко известно китайское решение «Золотой щит», которое сделало для жителей страны недоступными популярные интернет-ресурсы. Штрафами на более чем $100 000 грозят за троллинг пользователям интернета законы Новой Зеландии. А в Турции государство может с лёгкостью блокировать любые подозрительные сетевые ресурсы.

Уже сегодня методы контроля действий пользователя в сети довольно разнообразны: это и тотальное модерирование сетевых сообществ, и строжайшее сегментирование сети (по аналогии с возрастными категориями в кинематографе), и даже формирование сетевого этикета и переход к саморегулированию сети.

«Есть и четвёртый тренд, по которому, на взгляд многих экспертов, все и движется, и это полная деанонимизация в сети с введением института личной репутации. Другое дело, что открытым пока остаётся вопрос, в каких рамках допустимо внедрение технологий тотального цифрового контроля в современном обществе. Дилемма существует, и у меня лично нет однозначного ответа на вопрос “Свобода или несвобода, что лучше?”», — говорит Артём Генкин.

Однако ясно, что именно сегодня, когда эти технологии только лишь входят в нашу жизнь, необходимо как можно тщательнее на уровне общества и законодательства оценивать, каким будет их влияние на степень свободы людей.

«То есть оценивать необходимо не только технологические удобства подобных решений, но и то, каким образом инновации скажутся на правах человека», — резюмировал Артём Генкин.

Автор: Ольга Блинова

Подписывайтесь на канал «Инвест-Форсайта» в «Яндекс.Дзене»
Подписывайтесь на наши телеграм-каналы «Стартапы и технологии» и «Новые инвестиции»
Загрузка...
Предыдущая статьяСледующая статья