Новости

Хакеры научились взламывать нейросети

Хакеры научились взламывать нейросетиХакеры научились совершать атаки на нейросети. После таких атак нейросети начинают совершать ошибки: они не могут корректно определять, кто находится между ними — кошка или собака. Об этом заявил в пятницу, 8 ноября, начальник подразделения ГосНИИ авиационных систем Юрий Визильтер в ходе круглого стола «Искусственный интеллект в распознавании: цифровой фашизм или новый шаг к свободе», организованного деловым журналом «Инвест-Форсайт» в рамках проекта «Клуб проектирования будущего».

По словам эксперта, атаки можно совершать на нейросети, занимающиеся распознаванием изображений.

«Распознающая сеть на собаку говорит “собака”, однако после атаки она начинает совершать ошибки. Например, лицо известного политика она начинает определять как лицо протестного деятеля», — рассказал эксперт.

Он обратил внимание на то, что также атаки можно осуществлять на оптический поток в автономном вождении.

«Это атаки на беспилотные автомобили. В результате этого машины, находящиеся впереди беспилотника, пропадают с радара и происходит ДТП. Такие атаки могут совершаться из реального мира, — отметил Юрий Визильтер. — Ученые сегодня спорят, можно ли совершить атаки также на естественные человеческие нейронные сети. На самом деле такие атаки уже происходят, правда, люди не воспринимают их как атаки. Например, фильтрация новостей агрегаторами: можно сказать, что новости адаптируют под нас, однако, возможно, это делается для того, чтобы, наоборот, управлять нами».

В заключение Юрий Визильтер заявил, что искусственный интеллект опасен, государство не сможет в будущем удерживать монополию над технологиями. Однако эти технологии можно будет использовать и для улучшения качества жизни человечества, поэтому отказываться от них не надо.

Подписывайтесь на канал «Инвест-Форсайта» в «Яндекс.Дзене»
Подписывайтесь на наши телеграм-каналы «Стартапы и технологии» и «Новые инвестиции»
Загрузка...
Предыдущая статьяСледующая статья