В Facebook разработали новый метод искусственного интеллекта, который, по словам разработчиков, может обнаруживать подделанные изображения и реконструировать их, чтобы выяснить, как они были созданы, и даже отследить создателей дипфейков. Об этом сообщается в исследовательском центре Facebook.

Дипфейк (deepfake) —это полностью искусственные изображения, созданные искусственным интеллектом.

Новый метод был разработан в партнерстве с исследователями из Университета штата Мичиган (MSU). В нем используется принцип так называемого «анализа модели», при котором изображение пропускается через сеть, которая способна обнаруживать уникальные шаблоны, созданные конкретным устройством, из-за несовершенства производственного процесса. Это похоже на технологию, которая может определить, какая цифровая камера сделала снимок. Руководитель прикладных исследований в Facebook AI Тал Хасснер сравнивает работу нового искусственного интеллекта с судебно-медицинскими методами, когда используется поиска закономерностей на полученных изображениях.

Новая модель искусственного интеллекта уже была протестирована на базе данных из 100 000 дипфейков, сгенерированных 100 различными генеративными моделями, каждая из которых составляет 1000 изображений. О конкретных цифровых результатах не сообщается, но указано, что подход работает значительно лучше, чем существующие модели отслеживания дипфейков.

Но важно отметить, что даже эти современные результаты далеки от надежности. Сообщает theverge. Когда в прошлом году Facebook проводил соревнование по обнаружению дипфейков, победивший алгоритм мог обнаруживать видео с искусственным интеллектом только в 65,18% случаев. Ученые заявили, что обнаружение дипфейков с помощью алгоритмов по-прежнему остается «нерешенной проблемой».

«Мы разрабатываем более совершенные модели идентификации, в то время как другие разрабатывают все более совершенные генеративные модели. Я не сомневаюсь, что в какой-то момент появится метод, который нас полностью обманет», — говорит Тал Хасснер.