Облачная платформа «Яндекса» Yandex Cloud разрешила клиентам использовать нейросети для классификации текстов, в том числе для обнаружения в них «противоправной информации». Об этом пишет «Коммерсант» со ссылкой на компанию.
Также классификатор на базе YandexGPT понадобится для работы с обращениями клиентов, спамом и противодействия мошенничеству. К примеру, он позволяет автоматизировать общение с пользователями через чат-боты.
В компании объяснили, как именно устроена классификация: заказчик определяет категории, по которым хочет сгруппировать тексты, затем загружает в сервис «Яндекса» примеры для каждой категории, а потом получает доступ к созданной под задачу модели-классификатору.
Технология генеративного ответа реализована на базе нейросети YandexGPT 3. При ответе на запрос она изучает все возможные источники компании, подбирает релевантную информацию и собирает ее в единый ответ, пояснили в «Яндексе».
Компании уже пытались использовать сервисы «Яндекса» для выявления запрещенной в России информации. В декабре 2022 года онлайн-издательство Ridero разместило на сервисе «Толока» задачу по выявлению ЛГБТ-пропаганды в отрывках текста. Тогда «Яндекс» отключил подобные задания как потенциально оскорбительные.
Позже директор по развитию технологий ИИ в компании Александр Крайнов отмечал, что ассистентке Алисе сейчас лучше всего уходить от ответа на некоторые вопросы, «потому что, если бы мы отвечали плохо, нас бы вообще запретили, скорее всего».