Местный филиал NBC оказался введён в заблуждение видео, созданным ИИ, об отключении электроэнергии на гоночной трассе, вызвавшем крупную аварию.

      @SteelHorseLive через X

      Самые большие автомобильные новости и обзоры — без вранья

      Наша бесплатная ежедневная рассылка присылает истории, которые действительно важны, прямо вам, каждый будний день.

      Интернетная мания по поводу дряни, сгенерированной ИИ, выходит из-под контроля, но вам вряд ли нужно объяснять это мне. Постоянные дипфейки с участием знаменитостей, говорящих что-то нелепое, действительно могут измотать человека. Некоторые шутливые страницы в соцсетях иногда действительно удачно попадают в точку и бывают по-настоящему смешными, как слепая белка, нашедшая орешек, и при этом они обманывают множество людей. Этот поддельный ролик с массовой аварией на грунтовом треке сделал как минимум это, обманув серьёзное новостное издание и заставив его поверить, что авария действительно произошла.

      NBC Chicago показал в среду вечером короткий сюжет с видео со страницы Weaber Valley Speedway в Facebook. Поддельная съёмка показывает целую колонну грунтовых автомобилей Late Model, кружащих по треку, после чего гаснет свет, что приводит к аварии.

      Сам по себе это не выглядит совершенно невероятным — и, без сомнения, некоторые сочли бы это новостью. Но телеканал Channel Five упустил несколько ключевых подсказок, что это всё — сплошная чепуха.

      «Позже мы выяснили, что энергетическая компания в этом районе отключила свет, чтобы запугать владельцев трека и заставить их вовремя заплатить по счетам за электричество», — объяснил репортер в эфире, ссылаясь на подпись к посту, написанную корявым английским. «Затем трек дал каждому автомобилю в аварии дополнительные $5 на ремонт».

      Это полностью вписывается в фишку Weaber Valley Speedway. Если зайти на страницу, у которой примерно 340 000 подписчиков в Facebook и ещё 40 000 в Instagram, вы увидите, что она постоянно публикует усиленные до предела стереотипы о «реднеках». Иногда они публикуют что-то вполне правдоподобное, но большинство их роликов — очевидная сатира (хотя исключительно хорошо сделанная). Конечно, если бы NBC Chicago увидело видео с шаттлом НАСА, разбивающимся на треке, или опоссумом, курящим сигарету и показывающим камере «палец вверх», они тоже бы поняли, что ролик фальшивый.

      Страницу Weaber Valley Speedway ведёт Ховард Уивер; мне удалось поговорить с ним по телефону о фиаско вечерних новостей.

      «То, как он сказал это с невозмутимым лицом», — рассмеялся Уивер, говоря о том, что диктор поверил вымышленной предыстории. Когда друг прислал ему запись новостного сюжета, он задумался, реальное это или ИИ. «Нельзя ни во что теперь верить», — усмехнулся он.

      Уивер рассказал, что сделал ролик с помощью нового видеогенератора OpenAI Sora 2. Он сказал, что это сейчас лучший инструмент для создания гиперреалистичных роликов, но для того, чтобы получить что-то столь же чистое, как ролик с отключением света, требуется много наставлений.

      «Мой промпт для одного такого видео, наверное, занимает три абзаца», — сказал Уивер. «Я не просто говорю: «Сделай видео, как на грунтовом треке отключили свет, а затем авария». Я вбиваю имена файлов, которые он должен использовать, чтобы сделать его похожим на съёмку с телефона, например «дрожащая ручная съёмка iPhone 11 с трибун» и так далее».

      «Я фактически пишу книгу, чтобы получить 10‑секундное видео», — продолжил Уивер.

      Weaber Valley вырос в одну из крупнейших страниц о грунтовых треках на Facebook, уступая по числу подписчиков лишь крупным страницам вроде Eldora Speedway, и при этом всё это вовсе не настоящее. Многие люди в курсе шутки, но всё ещё находятся толпы тех, кого обманывают. Истерия будет только набирать обороты по мере того, как модели вроде Sora будут улучшаться с каждым обновлением.

      «У меня смешанные чувства: это вроде бы пугает, но в то же время смешно, а потом снова страшно», — сказал Уивер. «Думаю, это убьёт социальные сети».

      Возможно, это было бы не так уж плохо, но эта история не об этом.

      Есть совет или вопрос для автора? Свяжитесь с ним напрямую: [email protected]