“Книга Велеса”: фейковый фотопроект, которому удалось всех обмануть

Фотограф Йонас Бендиксен дал искусственному интеллекту написать книгу и проиллюстрировал ее синтетическими изображениями — но вокруг все поверили в ее реальность

“Книга Велеса”, последний проект фотографа Йонаса Бендиксена — необычное размышление на тему подлинности, правды и истины. В нем автор затрагивает вопросы, которые мучают фотожурналистов все больше с каждой новой инновацией в создании изображений. 

С первого взгляда проект выглядит как обычная фотокнига о небольшом городе Велес в Северной Македонии, который в 2016 году международные газеты называли фабрикой фейковых новостей в поддержку Трампа. “Книга Велеса” произвела фурор после того, как Бендиксен раскрыл, что фотографии проекта — не настоящие и были созданы с помощью 3D-программ, а текст книги был полностью написан искусственным интеллектом. 

Завороженный историей Велеса, а также разработками в области синтетических изображений, Бендиксен решил проверить, насколько “реальными” он сможет сделать свои фотографии. Хотя он оставил подсказки по всему тексту, к его удивлению, книга была опубликована в апреле 2021 года и получила “приятные, положительные отклики, как из эхо-камеры”, — сказал Бендиксен. Никто не усомнился в подлинности ни изображений, ни текста. Тогда он решил пойти еще дальше и отправил свои фотографии на самый престижный в мире фестиваль фотожурналистики Visa pour l’image, на котором его снимки представили публике в сентябре.

Я подумал: “Кого может быть сложнее одурачить некачественными, синтетическими изображениями, чем этих людей?”, — сказал Бендиксен. “Я решил, что в течение 24 часов буду ждать, не подойдет ли кто-нибудь с вопросами о моей работе. Этого не произошло”. В последней попытке фотографа обличить свой проект он купил целую команду ботов на Facebook и Twitter, чтобы те атаковали его в Интернете. Боты опубликовали десятки сообщений, утверждая, что его работы — фальшивка, но коллеги и сторонники Бендиксена бросились защищать его.

17 сентября Бендиксен наконец признался в интервью журналу Magnum Photos, что его фотографии не настоящие. Мы поговорили с фотографом о том, что он вынес из этого опыта и как проект продолжает удивлять его даже после его чистосердечного признания.

Интервью переведено с английского языка, отредактировано и укорочено.

Какие основные цели вы ставили перед собой?

Я хотел начать дискуссию и информировать публику об этой технологии, но я не хотел, чтобы этот проект был просто технической демонстрацией чего-то. Я берусь за проекты, потому что это истории, которые хочется рассказать. Если бы не все эти интересные моменты в истории Велеса, я бы не стал этим заниматься. Все эти части пазла чудесным образом встали на свои места.

Да, расскажите нам подробнее о том, как сложился этот пазл, ведь у этого проекта так много необычных слоев. 

Очень важным этапом стало обнаружение исторических слоев в этой истории. Город Велес назван в честь дохристианского славянского бога, который был хитрецом, оборотнем, превращающимся в медведя, богом хаоса, обмана и магии. Я подумал, что он, наверное, был бы очень рад всему этому обману, происходящему в Велесе.

Вступление, написанное ИИ, выглядит все же немного неуклюже. Некоторые из ваших изображений, особенно то, где медведь идет по городу, наверное, должны были вызвать сомнения. Тем не менее, все это было настолько “реальным”, что никто не усомнился в их подлинности.

Меня и это тоже испугало. Технология в этой области сильно развилась даже с момента как я начал ее использовать, и до завершения проекта. Мне теперь ясно, что через несколько лет 95% или даже больше людей с трудом смогут определять, написана ли статья журналистом New York Times или ботом. Я хотел, чтобы этот проект стал возможностью заглянуть в то, что, мне кажется, нас ждет в ближайшем будущем.

Чем наши нынешние опасения по поводу автоматизации или искусственного интеллекта отличаются от всех предыдущих технологических страшилок?

В фотографии на каждом этапе, когда появляется новая технология, люди говорят, что это крах истины. Так было, когда появились цифровые камеры или когда появился Photoshop. Люди всегда так ныли. Может быть, я такой же, и это просто напрасный крик, и все само собой уладится.

Но я думаю, что разница в следующем: автоматизация и синтетика. Хорошая журналистика всегда будет, но я думаю, что она будет смешана с таким количеством синтетического мусора или полусинтетического мусора, что в ней будет очень, очень хаотично и трудно ориентироваться. Разница в том, что из-за автоматизации такой контент легко распространяется, но доступ к нему ограничить трудно .

Вы неоднократно сравнивали свою работу с тестом на проникновение, который проводят хакеры в поисках уязвимостей в коде. Затем эти тесты позволяют компаниям лучше укрепить свое программное обеспечение и найти решения для лазеек в коде. Что показал ваш стресс-тест, какие решения он вам подсказал?

Я не пытаюсь делать вид, что у меня есть ответы на все вопросы, но я думаю, что решение многоуровневое. Я думаю, что бизнес по проверке контента станет самостоятельной отраслью. Это также призыв к платформам социальных сетей, которые, как я считаю, во многом подвели нас в этом направлении, активизироваться. Это призыв к нашей системе образования. Как отец четверых детей, я задаюсь вопросом, как мои дети справятся с этим. Чтобы все мы были функционирующими гражданами в ближайшие 50 лет, навигация в информационном пространстве должна быть, по крайней мере, таким же важным предметом в школах, как математика.

Ваша история продолжает развиваться в неожиданных направлениях. Расскажите нам о последних новостях.

Сайт, выдающий себя за региональную газету Texas News Today, выпустил очень похожую историю, украденную из Wired, о моем проекте. Я думаю, что это автоматизированный процесс: они всасывают материал в свою систему, переписывают его, а затем он снова рассылается на все эти сайты, которые очень похожи на фальшивые издания из Велеса. Это та же самая бизнес-модель. Я покопался, и оказалось, что эти люди из Texas News Today — сайт фейковых новостей, базирующийся в Пуне, Индия, и они управляют целым рядом сайтов на разных языках.

Теперь эти сайты фейковых новостей воруют истории о моем проекте с фейковыми фотографиями и текстом. И есть те, кто цитируют фейкового автора, якобы написавшего статью, как некий достоверный источник. Круг замкнулся. Вот он — весь механизм хаоса.

Материал создан при поддержке Медиасети.