Новейшие прорывные технологии, внедрению которых во многом посвящен этот учебник, открывают перед компаниями огромные возможности. Но, применяя эти технологии, руководители, как правило, не имеют навыков и инструментов прогнозирования целого ряда рисков и возможных последствий их использования. ИТ-компании собирают персональные данные пользователей̆ и передают сторонним организациям, социальные сети манипулируют пользователями, даже крупные игроки не способны защитить данные клиентов, а алгоритмы, используя непрозрачные системы метрик, повышают статус одних социальных групп и дискриминируют другие. Также, что более важно, и руководители, и разработчики часто оказываются в ситуации выбора, часто неосознаваемого: между заботой о пользователе и соблюдением его интересов в части приватности и объективного к нему отношения – и интересами бизнеса по массированному сбору данных, управлению пользовательским поведением и т.д. Следует ли упоминать, что побеждают чаще последние?
Все эти вопросы, проблемы и риски сейчас принято относить к области Digital Ethics – цифровой этике (по другой терминологии Ethical Tech – этики технологий)1. Множатся истории организаций, столкнувшихся с такими проблемами, как нарушение конфиденциальности, утечки данных, алгоритмическая предвзятость, масштабные технологические ошибки, ошибки систем искусственного интеллекта (ИИ) и т. д. Эти ситуации приносят компаниям репутационные и финансовые риски. Распространение новых технологий не только дало новые возможности для бизнеса, но и возложило дополнительную ответственность на людей, которые создают и внедряют технические решения.
Но компании и госорганизации редко разрабатывают общий подход к оценке этических последствий использования технологий, и эти вопросы остаются на «обочине» процесса цифровой трансформации компании. В ряде случаев организация вынуждена соблюдать определенные этические нормы; например, еще недавно компания, продающая свою продукцию в Европе, вынуждена была соответствовать нормам европейского акта GDPR (General Data Protection Regulation2), довольно жестко регулирующего защиту персональных данных в Евросоюзе. Сейчас подобную роль в России выполняют некоторые требования Роскомнадзора. Однако такие случаи – пока лишь исключения, которые только подчеркивают общее правило. В любом случае, в 2022 году руководитель организации не может считать себя высокопрофессиональным, если он не задумывается об этических последствиях использования технологии в его компании, независимо от того, относится ли компания к области ИТ или нет.
