Интервью, Технологии

Как плохие дороги обучили искусственный интеллект

Российские программисты нашли уникальный подход к созданию «мозгов» для беспилотников. Решениями команды Cognitive Technologies интересуются крупнейшие автопроизводители. Конкурентные преимущества россиянам принесли плохие дороги и привязанность наших водителей к автонавигаторам. Чего ждать от беспилотных систем в ближайшем будущем, кто виноват в ДТП с беспилотником, чем на самом деле страшны роботы, нам рассказала основатель и президент группы компаний Cognitive Technologies Ольга Ускова. 

— Недавно мир всколыхнула новость о том, что беспилотник Uber стал участником смертельного ДТП — сбил человека, который впоследствии скончался в больнице. Как на эту ситуацию смотрят разработчики систем для беспилотных авто? Какие выводы тут можно сделать? 

— Из официальных документов, транслируемых в СМИ, нам известно, что дело произошло в темное время суток, на неосвещенном участке, женщина внезапно появилась на проезжей части. Число подобных ДТП с участием «обыкновенных» автомобилей очень высоко. У нас нет доступа к техническим аспектам аварий, и подчеркну, что судить могу только по открытым данным, но возникает минимум три вопроса. Полиция говорит, что автомобиль двигался со скоростью 45 миль/час на дороге с ограничением в 40 миль/час. Это очень странно, потому что скоростные ограничения — базовое решение для беспилотников, которое реализовано даже в не самых крутых проектах, и они автоматические. Это может говорить о том, что технологии были не настроены.

Второй странный момент в истории — почему перед аварией не сработал не только алгоритм, но и водитель-испытатель, который находился за рулем в соответствии с законами штата. Он же присутствует в автомобиле не чтобы спать и кофе пить, а чтобы контролировать тестовые проезды.

И, наконец, когда правоохранительные органы подчеркивают, что, в принципе, у них нет претензий к технологиям Uber, потому что велосипедист выехал из тени при плохом освещении, я не считаю это достойным комментарием. Беспилотные технологии должны работать лучше, чем человек. Где человек, скажем, чего-то не видит и может допустить аварию, технология как раз работает на то, чтобы ее избежать.

— То есть одно ДТП имеет важное значение для всей отрасли…

— Мы видим очень важные для отрасли маркеры. Первое — достаточно широко дискутируемый вопрос о том, что недопустимо смещать акцент с точности распознавания дорожных объектов на всякие прикладные, может быть, очень занимательные, интересные технологии, которыми пытаются «обвесить» беспилотный автомобиль. Тема хайповая: это многомиллиардный рынок, который находится в стадии формирования. Вокруг него собралось большое количество инвестиционных и прочих игроков. Естественно, всем хочется мгновенных результатов и одноходовых привлекательных схем, которые срабатывали 30 лет назад во время интернет-бума.

В Cognitive Technologies — как и многие другие представители рынка, например, немецкие автопроизводители — стоят на позициях, что для беспилотного транспорта не будет быстрых, красивых решений, которые можно выгодно продать и исчезнуть. Дело в том, что на кону не столько финансы, сколько человеческие жизни, поэтому разработчикам надо идти по консервативному пути автомобильных компаний. Если мы посмотрим, как в предыдущие 100 лет развивались традиционные автомобильные рынки, то увидим, что за каждой инновацией стоят серьезные метрики, испытания, миллионы километров, которые должна пройти новая технология до промышленного внедрения. Заметьте, все неприятности и несчастные случаи происходят не с Audi, не с Mercedes, которые тоже занимаются внедрением беспилотных технологий. Их участниками становятся молодые компании с других рынков — Tesla, Uber. Это те, кто торопится, кто пытается за счет маркетинга плохо обкатанных и сырых технологий максимально быстро выскочить на дороги.

Какое для вашей компании важнейшее достижение-2017?

— Весь год команда была сосредоточена на том, чтобы вытянуть метрики распознавания объектов до промышленного уровня. Нам это удалось: мы уверенно показываем 99,9% распознавания по целому ряду разделов — например, для режима движения в пробке. Это благодаря такому нашему ноу-хау, которое сначала только мы, а теперь и весь мир называет Low Level Data Fusion. До того существовала концепция High-Level Data Fusion, при которой алгоритм для принятия решения суммировал данные всех подсистем и датчиков на последней стадии, но при этом суммировались и ошибки, которые допускались системами. Наши ребята придумали, как собирать данные на нижнем, сыром уровне со всех датчиков и обрабатывать их «на месте», а потом поставлять нейросети глубокого обучения.

Данные, полученные с камеры (справа), данные с радара (слева), комбинированные данные (в центре)

Cognitive Technologies запустили инновацию в августе 2017 года, запатентовали технологию и фактически стали трендсеттерами. Только в марте этого года о проектах в аналогичном ключе заявили еще 9 компаний.

— Какие вызовы ставит перед вашей компанией и всеми, кто занимается искусственным интеллектом, 2018 год? 

— Сейчас мы вплотную занимаемся распознаванием смыслов на дороге. Если говорить совсем простым языком, то программируем интуитивные решения водителя — те, что сделаны на основе данных, не относящихся напрямую к процессу вождения. Например, человек боковым зрением определяет движение на обочине — животного или человека. Объект не находится в прямой видимости, логический аппарат водителя его напрямую не фиксирует. Но мозг догадался, что за этим может последовать движение или прыжок на проезжую часть, и водитель интуитивно перестраивается в другой ряд или замедляет движение. Этому мы и учим алгоритмы.

Система ИИ детектирует элементы автомобиля (боковые зеркала, колеса, фары и т.д. )

Это происходит за счет нескольких новых технологий, в частности технологии детектирования мелких предметов на дороге и элементов движущихся объектов. Благодаря, например, наблюдению за изменением угла расположения фары или бокового зеркала впередиидущей машины, мы прогнозируем возможный будущий маневр. Система должна приготовиться к нему — либо дать транспортному средству пространство для перестроения, либо, наоборот, подать сигнал, что перестроение невозможно.

— Каких результатов смогут достичь беспилотные автомобили через три года? Вообще, можно ли спрогнозировать развитие технологий? Существует мнение, будто сейчас темп разработок и внедрений настолько высок, что невозможно сказать, что будет через месяц. Или все-таки в вашей индустрии это более предсказуемо?

— Автомобильная отрасль — абсолютно плановая индустрия с пятилетним циклом: разработки, выведенные в промышленный режим, будут продаваться в последующие пять лет. Индустрия имеет свои законы, свои правила и свою структуру. Перестраиваться эта структура и правила будут в течение следующих пятнадцати лет. Поэтому, конечно, все развитие имеет плановый характер: мы прекрасно понимаем, чего хотим и на что замахиваемся в следующие годы. По моим представлениям, к 2019-20 году сможем подключить полностью беспилотное движение в пробке и на хайвэе: водителю можно будет отключиться от вождения и заниматься своими делами.

-Кто, на ваш взгляд, лучшие друзья разработчиков искусственного интеллекта для автомобилей?

— Во-первых, нейрофизиологи, поскольку мы работаем с мозгом. Во-вторых, энергетики, потому что вопрос, связанный с питанием, с электричеством, очень важен. Конечно, интересны разработки в области новых материалов. У нас очень мультидисциплинарная тема, и, знаете, большую помощь нам в каком-то смысле оказывает и искусство — это связано не только с дизайном, но и с вопросами изучения эмоционального восприятия. Я не могу сказать, что мы занимаемся программированием эмоций, но точно — более глубоким пониманием эмоций, которые являются достаточно компетентными триггерами для работы искусственных нейронный сетей.

— Бытует мнение, вы сами говорили об этом неоднократно, что в подходе иностранных разработчиков и российских есть существенная разница. В чем она?

— Да, разница очевидна. Мне кажется, этим и обусловлен наш прыжок с позиции noname до успеха на январской выставке CES в Лас-Вегасе. Международные разработчики привыкли к очень детальной специализации. Когда пошел хайп в Avtomotive, каждый попытался взять на себя решение очень узкой задачи — например, распознавание дорожной разметки или определение животного на дороге. Автопроизводителю предлагалось покупать набор таких решений и собирать их воедино. Но оказалось, что для системы этого класса сама сборка — сложная интеллектуальная задача. Из двадцати классных модулей одной классной системы не получалось.

А мы изначально делали систему целиком. Когда наша команда замахнулась на это, международные партнеры были полны скепсиса. Но через три года, в конце 2016 — начале 2017, стало очевидно, что их концепция провальна, а наша жизнеспособна. Тогда они пришли к нам, а мы к этому моменту наконец стали готовы к выходу на международные рынки.

Детекция дороги и объектов дорожной сцены в сложных погодных условиях

Второе важное отличие, обернувшееся конкурентным преимуществом, — максимальное усложнение задачи с самого начала. Cognitive Technologies не пошли по пути работы с радарами на хороших солнечных дорогах, а поставили себе задачу показать результат на дорогах низкого качества со снегом и с дождем — тех, по которым мы все ездим в Подмосковье или Набережных Челнах. Да, мы вышли с решением на два года позже, чем Google, но, по-моему, с тех пор их беспилотник недалеко продвинулся. Он все так же колесит по сухим дорогам Калифорнии. Поэтому когда мы показали свой результат, он стал гораздо более интересен, чем результаты, показанные другими компаниями, которые тренировались в менее экстремальных условиях.

И третье преимущество, как ни странно, дало наше законодательство, разрешающее использовать видеорегистраторы в автомобилях, что во многих странах запрещено. Для нас видеорегистраторы — источник огромного количества данных о реальных дорожных ситуациях для обучения наших нейронных сетей.

— В этом аспекте повезло нам с регулятором, а в других — не очень. Второго апреля в Калифорнии разрешат удаленный контроль за движением беспилотников. Насколько этот факт имеет для отрасли значение? Как в России обстоят дела с регуляторикой по этому вопросу?

— Плачевно обстоят дела в России, потому что не сделан ни один шаг. Я никак не могу понять, почему мы не можем двинуться вперед при достаточно определенной и четкой позиции президента страны. Я думаю, сейчас, наверное, будут какие-то изменения в министерствах происходить. Может быть, придет новая команда, увидим тогда какие-то результаты. Однако даже если все немедленно возьмутся за голову, мы уже заложили запаздывание в 2-3 года. Что будет дальше, страшно даже подумать. Американское законодательство идет абсолютно в ногу с технологическим развитием — закон работает на инновации. Причем даже в рисковых ситуациях. Вот я, например, не решилась бы убрать оператора из-за руля, а они нормально на такое пошли.

— Какие сопредельные отрасли затрагивает эволюция беспилотного автомобиля? 

— Разработка искусственного интеллекта для автомобилей — одна из самых сложных задач, существующих в сфере ИИ. Дорожная сцена — это место всех возможных напряжений, эмоций, которые бывают в человеческой жизни. Там все, начиная от каких-то поведенческих аспектов и кончая вопросами террористических угроз, поэтому решение такой задачи даст возможность использования разработанных алгоритмов для максимально широкого класса задач в других сферах. Этим объясняется то, что тема с беспилотниками выстрелила быстрее и раньше остальных тем искусственного интеллекта.

Процесс также тесно связан с эволюцией микропроцессорной техники: сейчас развернулась настоящая битва гигантов типа Intel, NVidia и AMD за то, чтобы выпустить самые маленькие и самые емкие бортовые компьютеры для нейронных сетей. Еще мы можем совершенно уверенно говорить, что развитие беспилотников — это вопрос совершенствования систем связи.

— Сами доверите беспилотнику свою жизнь?

— Мне сейчас, честно говоря, комфортнее передвигаться в машине, которая управляется нейросетью, чем в такси. Я совершенно уверена в ее безопасности и всегда езжу на нашей экспериментальной машине, когда есть возможность.

Один из прототипов беспилотного автомобиля Cognitive Technologies, на котором проводятся испытания

— Не все настолько продвинуты. У многих существует сильнейший страх перед роботами. Почему он возникает?

— Страх бывает двух типов. Один — перед Терминатором, который испытывают малообразованные люди, воспитанные телевизором и Голливудом. Я сама наблюдала, как на конференциях во всем мире, будь то в США или в странах Латинской Америке, к микрофону бегут встревоженные граждане с выпученными глазами и кричат: «Вы производите Терминаторов, вы планируете Армагеддон!» В России явление, может, распространено чуть меньше, так как уровень образования населения в среднем выше. Это чисто эмоциональный страх, он снимается так же, как и наводится, — ликбезом через средства массовой информации. Это естественный процесс, он будет продолжаться какое-то время. Еще наши прабабки крестились при виде автомобиля на дорогах и паровоза. Здесь особенно ничего не изменилось.

Есть верхний страх, который называют страхом Стивена Хоккинга, и во мне он, на самом деле, тоже присутствует. Это опасения людей, которые очень хорошо понимают особенности роботизированных технологий или сами их разрабатывают. Мы видим, что существует очень серьезная проблема внутри человечества — несогласованность действий и агрессивное поведение на основе эмоциональных, государственных, религиозных расхожденией. И если в такую конфликтную среду, не договорившись, погрузить еще роботов и детерминированные организмы, это может привести к неуправляемой катастрофе и уничтожению планеты.

В этом смысле речь идет не про терминаторов, а про достаточно серьезную необходимость лидерам стран договариваться между собой и закладывать базовые этические и законодательные требования для жизни смешанного общества, в котором есть люди и роботы.

— По вашим подсчетам, какое время потребуется на этот переход?

— Я думаю, еще 7-10 лет, и вопрос станет совсем болезненным, то есть закладывать этические нормы надо сейчас. Суть в том, что при программировании нейронных сетей мы сами до конца не понимаем, что происходит внутри — это «черный ящик». Не установив систему ограничений и моральных критериев, мы просто можем в какой-то момент, не понимая сами того, создать опасность для человечества.

Беседовала Анна Орешкина

Подписывайтесь на канал «Инвест-Форсайта» в «Яндекс.Дзене»
Загрузка...
Предыдущая статьяСледующая статья