Musubi выпустила открытую ИИ-модель для модерации контента в реальном времени

Компания Musubi во вторник объявила о новой модели PolicyLM-1.7B, предназначенной для модерации контента в реальном времени. Это лёгкая модель принятия решений, выпущенная с открытыми весами, поэтому её можно запускать самостоятельно.

Как работает модель

Идея состоит в том, чтобы взять политику контента, написанную простым английским языком, и применять её к сообщениям менее чем за 50 миллисекунд. По стоимости и скорости модель задумана близкой к ИИ-классификаторам, на которых строится модерация в большинстве соцсетей. Но поскольку она обладает гибкостью современных больших языковых моделей, она способна применять сложные правила без специального обучения.

Ещё одно важное преимущество: при изменении политики модель не нужно дообучать. Это позволяет тем, кто формулирует правила, дорабатывать их так часто, как требуется.

Модели принятия решений

Модели принятия решений стали популярной темой в ИИ-индустрии после выхода в сентябре модели Jev от Typesafe AI, за которой вскоре последовали конкурирующие модели от OpenAI и Amazon. Вместо текста такая модель выдаёт вероятности исходов. В случае PolicyLM результат бинарный: контент либо относится к категории, либо нет. Ограничение вывода заранее заданным набором вариантов делает такие модели быстрее и дешевле больших языковых моделей, сохраняя гибкость архитектуры трансформеров.

Одно из первых применений — сдерживание нежелательного поведения ИИ-агентов, поэтому естественно использовать ту же технологию и для поведения людей.

Позиция компании

Сооснователь и главный директор по ИИ Musubi Филип Йанкович (Filip Jankovic) считает, что модель даёт руководителям платформ возможность размечать контент заблаговременно. По его словам, продуктовые команды хотят лучше понимать, что происходит на их платформах, поскольку объём контента растёт в геометрической прогрессии, а возможность размечать всё это масштабируемо и настраиваемо крайне полезна.

Йанкович говорит, что его интерес к моделям принятия решений возник до появления Jev и восходит к проекту 2024 года GLiNER, где применялись многие из тех же методов. Компания не боится сравнений с Jev и рассчитывает использовать новый интерес к таким моделям, чтобы привлечь внимание к модерации контента.