Программисты предложили определять сгенерированные нейросетью лица по глазам

За последние годы разработчики научились использовать генеративно-состязательные нейронные сети (GAN) — комбинации двух нейросетей, одна из которых совершенствуется в генерации образцов, а вторая — в отборе правильных и неправильных. Постепенно результат их работы становится все лучше, позволяя, например, создавать портреты несуществующих людей с поразительной реалистичностью.

Такое качество подделок может стать серьезной проблемой, и пока одни разработчики улучшают работу GAN, другие ищут способы отличить реальные изображения от искусственных. Этому посвящена и новая статья программистов из Университета штата Нью-Йорк, представленная в открытой библиотеке препринтов arXiv.org. В ней Хуэй Го (Hui Guo) и его коллеги отмечают, что ключом к идентификации сгенерированных лиц могут стать зрачки.

Если у человека нет определенных редких патологий, форма зрачка сохраняется почти строго округлой. Однако нейросети не имеют никаких представлений о правильной анатомии, и на созданных ими портретах зрачки часто оказываются деформированными. «Сравнивая с реальными лицами, можно заменить, что у лиц, сгенерированных GAN, в области глаз видны различные артефакты и несоответствия», — пишут авторы статьи.

Чтобы продемонстрировать, что этот подход позволяет эффективно отличать настоящие лица от искусственных, команда разработала несложный алгоритм, который определяет форму зрачка. Испытания на наборе из 2000 фотопортретов (половина из которых были снимками реальных людей, а половина создана GAN) подтвердили, что по этому признаку их можно различать почти безошибочно. По крайней мере, до тех пор, пока другие программисты не исправили небольшой «баг» в работе своих нейросетей.