Полиция использовала ИИ для составления отчётов, и он сказал, что полицейский превратился в лягушку. Это проблема | Carscoops

      Странный полицейский отчет, созданный ИИ, показывает, насколько опасно могут быть неточны записи о дорожных остановках

      8 часов назад

      от Стивена Риверса

      Полицейский ИИ ошибочно заявил, что офицер превратился в лягушку во время остановки.

      Ошибка показывает, насколько легко ИИ может неверно интерпретировать фоновую аудиозапись.

      Неверно составленные полицейские отчеты могут преследовать водителей в течение многих лет.

      Остановки на дороге — это неприятно для всех, но возникла новая проблема, которая звучит так же неправдоподобно, как и лягушачий полицейский на нашей главной иллюстрации. В декабре полиции в Хебер-Сити, штат Юта, пришлось объясняться из‑за того, почему в отчете, созданном ИИ, было указано, что офицер буквально превратился в лягушку. Виновником не был язвительный стажер или непокорный офицер. Это были галлюцинации искусственного интеллекта.

      Подробнее: законная наклейка на номерной знак, вводящая в заблуждение камеры полицейского ИИ, все равно может отправить вас в тюрьму во Флориде

      Отдел тестировал программное обеспечение на базе ИИ для составления отчетов, которое прослушивает записи с нагрудных камер и автоматически формирует полицейские отчеты. К сожалению, система улавливала аудиодорожку из фильма «Принцесса и лягушка», шедшего на заднем фоне, и с уверенностью включила это в официальный документ.

      «Программное обеспечение для нагрудной камеры и программа ИИ для составления отчетов уловили фильм, который шел на заднем фоне, — это оказалась „Принцесса и лягушка“, — сказал сержант Кил телеканалу Fox 13. — Тогда мы и узнали, как важно исправлять эти отчеты, созданные ИИ».

      Это, объективно говоря, смешно, но в то же время немного тревожно. По данным телеканала, эти инструменты на базе ИИ разработаны для того, чтобы экономить время офицеров, превращая аудиозаписи с нагрудных камер в письменные отчеты. Теоретически это означает меньше бумажной работы и больше времени на патрулирование.

      Когда программное обеспечение пишет отчет

      На практике это также означает, что теперь алгоритм интерпретирует разговоры, интонацию и фоновые шумы во время дорожных взаимодействий, включая остановки, которые могут иметь долгосрочные последствия для водителей.

      Департамент общественной безопасности штата Юта

      Легко рассматривать дорожную остановку как короткое взаимодействие, но записи об этих остановках могут быть постоянными. Этот отчет может влиять на будущие остановки, судебные разбирательства, страховые иски, приостановления водительских прав и даже проверки в трудоустройстве.

      Иными словами, когда ИИ ошибается, это не просто опечатка. Это дезинформация, запечатленная в официальном документе.

      «Почти достаточно» — недостаточно

      В случае Хебер‑Сити ошибка была настолько очевидна, что над ней можно было посмеяться. Но что произойдет, если ИИ неправильно поймет, кто что сказал, неверно интерпретирует тон водителя или неверно суммирует, почему остановка переросла в эскалацию? Такие ошибки куда более проблематичны.

      Их не только сложнее заметить, но и будет ли каждый офицер исправлять формулировки, которые похожи, но, возможно, более эмоциональны или резки, чем следовало бы, если это «достаточно близко»?

      Пока что кажется, что лучшим решением для обычных водителей будет начать пользоваться видеорегистраторами и другими устройствами записи, чтобы обеспечить наличие записи, с которой ИИ не сможет вмешиваться.

      Запрос на материалы с нагрудной камеры и отчеты по закону о свободе информации также может оказаться жизненно важным. Лягушка в отчете — это забавно, но ваша постоянная запись у правоохранительных органов — это не игра.

      Департамент общественной безопасности штата Юта