OpenAI представила систему защиты приватности клиентов, отвечая на политику Anthropic
OpenAI анонсировала сервис Private Safety Processing для выявления злоупотреблений ИИ без сохранения данных клиентов — в противовес недавней политике хранения данных у Anthropic.
Компания OpenAI объявила о запуске пробного сервиса для избранных клиентов под названием Private Safety Processing. Это автоматизированная система, которая отслеживает возможное злоупотребление ИИ-моделями, при этом полностью не сохраняя данные клиентов.
Этот шаг выглядит прямым ответом конкуренту Anthropic, которая в июле объявила о политике, позволяющей хранить данные пользовательских сессий до 30 дней для определённых "охватываемых" моделей, включая все модели класса Mythos, в целях анализа безопасности. Эта политика вызвала недовольство у части корпоративных клиентов, работающих с чувствительными данными и не желающих, чтобы их хранила или проверяла компания-разработчик ИИ.
Как работает новая система
OpenAI, как и большинство других ИИ-компаний, уже придерживается политики Zero Data Retention (ZDR) — автоматизированные агенты проверяют возможные злоупотребления в рамках отдельной сессии, не сохраняя данные. Private Safety Processing расширяет этот подход, позволяя анализировать сразу несколько разговоров, а не только одну сессию.
Это помогает выявлять случаи, когда злоумышленник — например, пытающийся создать вредоносное ПО для кибератаки — намеренно распределяет свои запросы по нескольким сессиям, чтобы избежать обнаружения. Если система фиксирует подозрительную активность, она отправляет OpenAI узко определённый сигнал, на основании которого компания решает, требуются ли меры. В таком случае OpenAI связывается с клиентом, который по собственному усмотрению может поделиться дополнительными данными.
Anthropic, в свою очередь, утверждает, что проверка данных клиентов человеком происходит только через контролируемый путь доступа с участием небольшой группы утверждённых сотрудников, а каждая такая проверка фиксируется в защищённом от изменений журнале.
Это происходит на фоне обострения конкуренции между компаниями: по сообщениям, рост OpenAI во втором квартале отставал от роста Anthropic, чья годовая выручка достигла, по некоторым данным, 65 миллиардов долларов. Обе компании также готовятся к возможному выходу на биржу.
