Чат-бот на базе искусственного интеллекта от Microsoft, запущенный властями Нью-Йорка в октябре 2023-го, призывает горожан нарушать закон. Это выяснили журналисты издания The Markup, которые получили неполные и «опасно неточные» ответы от него.
Чат-бот Нью-Йорка запускался с целью упростить работу администрации города с жителями. Программа объясняет пользователям, как открыть и вести бизнес, не нарушать права работников и правила аренды. The Markup создал таблицу с вопросами, ответами чат-бота и реальным положением дел.
Государственный чат-бот сообщал начальникам, что они могут присваивать себе чаевые подчиненных (этого делать нельзя) и не уведомлять об изменениях в рабочем расписании. Арендодателям бот утверждал, что не пускать съемщика в квартиру законно и что «нет никаких ограничений на сумму арендной платы, которую вы можете взимать», хотя на самом деле ничего из этого не соответствует действительности.
В 2020 году городской совет Нью-Йорка принял закон, обязывающий предприятия принимать наличные во избежание дискриминации клиентов, которые не пользуются банковскими услугами. Однако бот этой информацией не владел и ответил иначе: «Да, вы можете ввести безналичный расчет в своем ресторане. В Нью-Йорке нет правил, обязывающих бизнесы принимать наличные».
«ИИ может быть мощным инструментом поддержки малого бизнеса, поэтому мы благодарим город за попытку помочь. Но в то же время он может стать серьезной проблемой, если предоставляет неверную юридическую информацию, поэтому чат-бот должен быть исправлен как можно скорее», — заявил исполнительный директор организации по защите интересов ресторанов и баров NYC Hospitality Alliance Эндрю Риги.
Тем временем мэр Нью-Йорка Эрик Адамс анонсирует новые инструменты с искусственным интеллектом, которые должны будут помогать горожанам. Например, власти города собираются внедрить в турникеты метро систему обнаружения оружия.
