Взломана знаменитая китайская система распознавания лиц, заявленная как неприступная
Вот вызов, в лицо которому без малого полуторамиллиардный Китай уже посмотрел. И это прямо изнанка прогресса, за которым там следят.
Старая, как мир, история: некто обманул государство на десятки миллионов долларов. Но дело не в том, что обманул, а в том, как обманул. Аферисты обогатились, взломав легендарную китайскую систему распознавания лиц. Власти делятся информацией неохотно: Китай стал первым государством, пострадавшим от монстра, которого сам породил.
Системы распознавания лиц здесь повсюду. Чтобы войти в банк, офис или просто во двор, часто не нужны документы, достаточно лица. Камера его считает даже в маске — дверь откроется автоматически.
Если есть система, то всегда найдутся желающие ее взломать. Китайский интернет наводнен роликами, где граждане пытаются открыть замки, подставив под око камеры фотографии вместо лиц. Но замки — это детский лепет. Есть более серьезные вещи: технология Face ID в Китае вовсю используется для подтверждения банковских операций и оплате налогов. Этим, уже по-взрослому, и воспользовались аферисты.
«Они создали большое количество автоматически сгенерированных нейронной сетью несуществующих фотографий лиц несуществующих людей. И с помощью технологии deepfake они смогли их оживить и создать для них несуществующие счета», — поясняет директор компании по производству сервисных роботов Олег Кивокурцев.
Это чистый Гоголь: с помощью фейковых фото злоумышленники подавали налоговые декларации за якобы трудоустроенные мертвые души. А деньги из фонда заработной платы клали в карман. За три года набежало 76 миллионов долларов. Но что же такое deepfake, благодаря которому это стало возможным? Это технология, позволяющая путем нехитрых компьютерных манипуляций создать одно лицо из другого. Можно еще звук наложить — и, скажем, заставить известных китайских мужчин петь женским голосом.
Подобными приложениями активно балуются пользователи соцсетей. Вот и журналист не удержался, чтобы почувствовать себя героем Джона Траволты, или попытаться убить Билла, или еще хлеще — примерить на себя образ Голума из саги «Властелин колец».
Но то забавы ради. Другое дело, когда инструмент попадает в руки людей с дурными намерениями. В США женщина применила технологию deepfake, чтобы скомпрометировать конкуренток своей дочери — девушек из группы поддержки одной из спортивных команд. Она рассылала интимное видео якобы с их участием. Все было настолько реалистично, что подделку распознала только полиция.
И таких случаев все больше. Китайцев возможность манипуляций с фото и видео беспокоит давно — уже больше года за такое предусмотрена уголовная ответственность, а на местном телевидении один за другим выходят репортажи — как уберечься от мошенников. Имидж еще ладно, но как сохранить деньги?
«С точки зрения противодействия самый, на мой взгляд, эффективный метод — это так называемая двухэтапная идентификация, когда помимо того, что есть изображение, вы подтверждаете действия либо цифровым кодом, либо СМС ответным, то есть чтобы ваши операции, связанные с деньгами, предполагали минимум два действия. Потому что если вы оставите только одно действие, например, скан с отпечатками пальцев или изображение, то мошенники, используя эту методику, могут ее обойти», — рассказывает руководитель проектов «ЭР-Телеком холдинг» Дмитрий Смиркин.
Все происходящее, конечно, сильный аргумент в пользу того, чтобы держать платежные пароли только в голове, а важные данные записывать от руки на бумажку и класть в сейф. Но прогресс остановить невозможно. Цифровые технологии будут с нами, хотим мы того или нет. Тем важнее наша собственная осмотрительность.