Слово главного редактора

Г.П. ВОРОНИН

На конференции в Нижнем Новгороде «Цифровая индустрия промышленности России» прозвучала мысль — отказаться от бумаги к 2030 г. Да здравствует цифровизация! Как додумались до такого? Конечно, цифровизация — очень модная тема, и мы все больше погружаемся в нее, не понимая, что нас ждет в будущем...

Из обзора искусственного интеллекта (ИИ): «Цифровизация — это процесс глубокого внедрения цифровых технологий и информационных систем во все сферы жизни человека, общества и бизнеса с целью автоматизации процессов, повышения эффективности и улучшения взаимодействия. Она трансформирует традиционные аналоговые и физические системы в цифровые и виртуальные, что позволяет работать с большими объемами данных, улучшать качество услуг, снижать издержки и адаптироваться к быстро меняющимся условиям рынка».

Мы говорим: загрузили данные... Что это значит? Это значит, что сведения, которые мы разместили в «облаке» или в государственных системах, подвержены угрозам информационной безопасности. На сегодняшний день такие риски на 100% не купируются, человечество эту задачу не решило. Понятно, что уровень уязвимости оценивается по самому слабому звену. В данном случае им становится цифровизация.

Все ежедневно пользуются оборудованием зарубежного производства, у меня и моих коллег в карманах лежат американские или китайские смартфоны. Они работают на иностранных платформах, основанных на облачных технологиях, а значит, все наши данные принадлежат компании, выпускающей устройства.

Мы устанавливаем в смартфоны различные системы государственного управления, размещаем личную информацию. Получается, что на платформенном уровне вся информация может быть перехвачена. Возникает вопрос: как мы создадим щит кибербезопасности страны? Ответ — никак. Иностранные гаджеты для этого не подходят, сначала нужно заменить всю систему, что означает полное импортозамещение. У нас пока это не сделано.

В последнее время стали часто повторять: наши идеалы — это чиновник-робот. Электронных помощников сейчас внедряют повсеместно. Пробиться через ИИ и поговорить с человеком практически нереально.

Цифровизация — это электричество плюс интернет.

Каждый день на Москву летят БПЛА, они ориентируются по вышкам, у них триангуляция. Соответственно, для того чтобы сбить им навигацию, выключают интернет. Не хочется верить, но мы идем к глобальной войне. Через некоторое время отключение интернета станет нормой. В этом случае что будем делать — стучаться к государственному «облаку»? Если полагаться на электронные системы, то можем оказаться в момент отключения беспомощными. Это большой риск, который нельзя недооценивать. Поэтому предложение внедрить технологии ИИ в государственные системы с принятием ответственных решений для ответственного применения, типа юридических документов, категорически недопустимо.

Нельзя использовать такие системы, например, в медицине. Нам говорят: «Ну, врачи тоже ошибаются». Да, но врачи при этом несут ответственность. А тут кто будет отвечать за ошибки? Разработчик программы? А он скажет: «Я ответственность не несу, это черный ящик принял решение». Мы обсуждаем ИИ, связанные с ним риски, но не затрагиваем проблему черного ящика, и она опять остается нерешенной.

Теперь о дипфейке. Это методика синтеза изображения или голоса, основанная на ИИ. Сейчас данные технологии такого высокого уровня и качества, что вообще неотличимы от реальности. Мошенники с лицом и голосом известных персон просят нас перевести куда-то деньги, и тысячи людей попадаются на эту удочку... Вот такой технический прогресс. В этом году принят закон о мерах по противодействию мошенничеству, совершаемому с использованием сети Интернет, будем надеяться, сработает.

В одном я точно убежден: если мы что-то цифровизируем, то непременно должны иметь дубль в бумаге. Обязательно!

«Отказ от бумаги к 2030 г. — это диверсия под государственное управление. Это государственная измена», — такие слова прозвучали на конференции в Нижнем Новгороде. Полностью солидарен.

01.12.2025

---

448

Поделиться: