ENG
Генеративный искусственный интеллект (ГенИИ) — передовая технология, способная трансформировать не только бизнес-процессы, но и мир вокруг нас. Для полноценной реализации ГенИИ нужно создать свод общепринятых подходов и практик в отношении технологии — AI Governance.
Вызовы внедрения
Преимущества решений на генеративном ИИ для бизнеса, несмотря на их относительную новизну, уже очевидны. Работать с опорой на «умные» инструменты нового поколения станет еще проще, быстрее и эффективнее, чем на привычном уровне цифровизации.
Однако за все нужно платить. Адаптация ГенИИ потребует больших усилий организационного и управленческого характера. Вызовы во многом аналогичны недавней ситуации с большими данными и аналитикой.
Вспомним: еще вчера одной из главных задач цифровой трансформации был контроль над жизненным циклом данных — от сбора и хранения до извлечения по запросу, передачи, обработки, анализа и трактовки полученных результатов. Все эти задачи объединила концепция Data Governance как сумма политик, методов и технологий, применяемых для работы с данными. В качестве общего подхода она должна быть продолжена и в отношении к ИИ — в AI Governance.
Одним из стратегических вызовов AI Governance сегодня является обеспечение непротиворечивости и достоверности решений, принимаемым машинным интеллектом, и формирование общего доверия к результатам его работы.
Другой большой проблемой можно назвать обеспечение конфиденциальности и безопасность данных. Утечки и неоднозначные варианты использования результатов работы ИИ могут подорвать доверие к «умным» инструментам нового поколения.
И это только самая вершина пирамиды.
Почему именно сейчас
Если не начать выстраивать AI Governance сейчас, то дальше будет сложнее, как по мере проникновения ИИ во все большее количество процессов и сфер деятельности, так и с развитием сложности самого ИИ. Текущая стадия развития искусственного интеллекта находится где-то в начале пути от узкоспециализированного («слабого») к более общему ИИ («среднему»).
«Слабый» ИИ нацелен на выполнение конкретных, узкоспециализированных задач, которым его предварительно обучили. Например, распознавание определенного набора изображений.
«Средний» ИИ сможет выполнять интеллектуальные задачи, даже если его не учили этому. То есть, подобно человеку, он сможет обобщать любые вводные, базируясь на знаниях общего характера, например, что у любого предмета есть вес, размер, цвет. Переход к «среднему» ИИ будет означать значительный шаг вперед в возможностях применения технологии.
Но и на этом эволюция не закончится. Далее возможно создание Super AI — еще более продвинутый уровень, где ИИ сможет по многим аспектам превзойти человека. Хотя это и не вопрос ближайшего будущего.
«Средний» и «супер» ИИ имеют потенциал для управления работой кластеров систем и процессов в масштабах целых отраслей и даже на межотраслевом уровне, где существуют связи в рамках единых цепочек создания стоимости.
Это означает, что ИИ может интегрироваться в сложные экосистемы, обеспечивая более эффективное взаимодействие между различными секторами и этапами производства, что приведет к значительному повышению эффективности и производительности.
Но пропорционально возрастут риски и последствия различных нарушений и сбоев работы, развития и управления инструментами нового поколения. Именно поэтому исследования и разработки в области AI Governance важно вести прямо сейчас, чтобы обеспечивать максимальное соответствие между ростом потенциала ИИ и возможностями преодоления сопутствующих «болезней роста».
Практические аспекты и рекомендации
В основе построения любого подхода к AI Governance для бизнеса, внедряющего ИИ или ГенИИ, должны входить следующие базовые аспекты:
- Обучение и адаптация сотрудников
Важно проводить обучение и разъяснительную работу среди персонала, чтобы уменьшить страхи, повысить уровень доверия, осведомленность о рисках осознанного использования. Следует привлекать всех сотрудников к процессу внедрения ГенИИ, учитывать их мнение, тем самым снижая уровень сопротивления изменениям.
- Безопасность во главе угла
Разработка и внедрение строгих политик и процедур по защите данных помогут предотвратить утечки и повысить уверенность в безопасности использования ИИ и ГенИИ.
- Пилотные проекты и постепенная интеграция
Адаптация ГенИИ с небольших пилотных проектов позволяет лучше оценить эффективность и выявить потенциальные проблемы на ранних этапах.
- Тестирование перед запуском ГенИИ
ИИ далеко не всегда способен понять широкий контекст задачи, что может приводить к ошибкам и некорректным решениям. Отсутствие достаточного тестирования, оценки и валидации моделей усугубляет эту проблему. Важно проводить тщательное тестирование и оценку ИИ-систем перед внедрением, чтобы убедиться в их надежности и адекватности принимаемых решений.
- Определение центров ответственности за решения ИИ
Неоднозначность в вопросе «кто виноват, когда ИИ ошибается», создает дополнительные сложности при внедрении. Доказательство ошибки и прямой связи между решением ИИ и причиненным ущербом может быть затруднительным. Необходимо создать четкие механизмы определения ответственности, чтобы урегулировать любые подобные вопросы.
Этический айсберг
Дальнейшее будущее ИИ — особенно его генеративных возможностей — порождает множество открытых вопросов. Это касается не только технических аспектов, но и фундаментальных изменений в экономике, обществе и даже в философии.
- Вписывание ИИ в рыночный характер производства
Важнейший вопрос — как ИИ впишется в существующий рыночный характер экономики. Традиционные модели конкуренции предполагают человеческое участие на всех уровнях, от идеи до реализации. С развитием ИИ эти процессы могут кардинально измениться. Поиск оптимальных подходов будет реализован не как соревнование идей, а как точный расчет, учитывающий тысячи параметров для повышения эффективности и снижения затрат. Что неизбежно повлияет на структуру рынка и распределение ролей в нем.
- Конкуренция в эпоху «супер» ИИ
Как будет выглядеть конкуренция, если ИИ может оптимизировать целые индустрии и отрасли целиком? Традиционные конкурентные преимущества — уникальные технологии или квалифицированная рабочая сила — могут потерять актуальность. Вместо этого конкурентоспособность может определяться способностью эффективно интегрировать и использовать ИИ.
- Модель собственности
Кто будет владеть ИИ-системами и их результатами? Возможно ли появление новых форм собственности, таких как коллективная или распределенная собственность на ИИ и его продукты? Вопрос о том, кто контролирует данные и алгоритмы, становится все более актуальным по мере развития технологий.
- Центр стратегического целеполагания
Кто или что будет являться центром принятия стратегических решений? В традиционных компаниях эту роль играют топ-менеджеры и владельцы бизнеса. С внедрением ИИ возможно смещение этой функции к автоматизированным системам, способным анализировать большие объемы данных и предлагать оптимальные стратегии.
Никто не уйдет обиженным?
Самый философский вопрос касается целей оптимизации. Что именно мы будем оптимизировать с помощью ИИ? Возможны различные сценарии:
- прибыль собственника: ориентация на максимизацию прибыли может оставаться ключевым фактором, но при этом возникнут вопросы о социальной ответственности и устойчивом развитии общества;
- удовлетворение потребностей конечного потребителя: такой перенос фокуса может привести к созданию более персонализированных и качественных продуктов и услуг, с одной стороны, но бесконечное потребление не может быть самоцелью;
- баланс производства и окружающей среды: оптимизация для достижения устойчивого развития, минимизации экологических проблем и гармоничного взаимодействия с природой.
Открытые вопросы о будущем ИИ подчеркивают сложность и многогранность изменений, которые нас ожидают. Ответы на них будут зависеть от множества факторов, включая технологические достижения, регуляторные рамки, общественные ценности и экономические условия.
Важно, чтобы общество активно участвовало в обсуждении и формировании будущего ИИ, чтобы эта мощная технология приносила пользу всем, а не только избранным.
