ENG
Машинное обучение должно проходить под человеческим контролем. Человек пока остается умнее машины. Если искусственному интеллекту (ИИ) позволить принимать решения самостоятельно, то он может выйти из-под контроля. Об этом заявил аналитик «Лаборатории Касперского» Евгений Лопатин, выступая во вторник, 24 октября, на форуме о современных технологиях безопасности «Say Future: Security».
По словам Евгения Лопатина, широкое распространение искусственного интеллекта делает острыми проблемы этики.
«Этические нормы в каждой стране разные. При этом они постоянно меняются — то, что можно было вчера, сегодня уже нельзя. И это надо учитывать при разработке этических норм для ИИ. Например, китайское правительство запустило недавно пилотный проект, в рамках которого можно отслеживать с помощью систем ИИ перемещение граждан. Однако если начать такую систему внедрять на Западе, то там сразу возникнут вопросы, связанные с ущемлением прав и свобод человека», — отметил эксперт.
Он добавил, что искусственный интеллект сегодня не готов еще полностью контролировать некоторые процессы.
«Например, в Калифорнии проводился эксперимент. Программа на основе искусственного интеллекта могла отправлять полицейские отряды в определенные районы города, где было зафиксировано наибольшее число преступлений. Это привело к тому, что в один прекрасный момент все полицейские оказались в одном районе, а остальные остались без контроля. Современный ИИ может совершать ошибки, и использовать его без контроля человека — нельзя», — заключил Евгений Лопатин.
