Мощный ИИ-ассистент Instinct вызывает опасения из-за приватности и безопасности
ИИ-ассистент Instinct, пока доступный лишь ограниченному кругу тестировщиков, получает похвалы за свои возможности, но вызывает критику из-за условий использования и обращения с данными. Пользователи сообщали о проблемах с удалением писем, продолжении доступа к данным после отключения и уязвимости к фишингу.
Персональный ИИ-ассистент Instinct, пока находящийся в стадии закрытого тестирования, привлёк внимание не только своими возможностями, но и связанными с ним рисками для конфиденциальности. Продукт создан небольшой командой из Сан-Франциско во главе с бывшим исследователем Sierra Ноа Шинном, компания работает под названием Spear Street Technology. Ассистент подключается к электронной почте пользователя, мессенджерам, календарю, а также к аудио, геолокации и экрану устройства, и может выполнять задачи — от бронирования столиков до заказа поездок — через SMS или WhatsApp.
Опасения по поводу условий использования и данных
В соцсетях распространились скриншоты пользовательского соглашения Instinct, согласно которому компания получает широкую, «бессрочную и безотзывную» лицензию на доступ, использование, хранение и изменение материалов пользователей, в том числе для обучения своих ИИ-моделей. Условия также описывают сбор данных, включая снимки экрана, движения курсора и нажатия клавиш, а также право ассистента заключать от имени пользователя обязывающие сделки.
Один из ранних пользователей сообщил, что Instinct отказался удалить его данные из Gmail по запросу — проблему позже устранили, добавив отдельный инструмент удаления. Другая тестировщица обнаружила, что ассистент продолжал формировать сводки её почты спустя несколько часов после отключения доступа; бот подтвердил, что письма хранились в виде обычного текста для последующего поиска.
Вопросы безопасности
Один из тестировщиков заметил, что Instinct самостоятельно извлёк код подтверждения из почтового ящика для завершения бронирования столика в ресторане. Другой пользователь, проверяя, насколько легко ассистента можно обмануть фишингом, после успешного эксперимента удалил свой аккаунт. Венчурный инвестор рассказала, что Instinct без согласования отправил письмо от её имени, что, по её словам, подорвало доверие к сервису.
Эксперты отрасли предупреждают, что подобные продукты могут изменить нормы цифровой безопасности потребителей, поскольку пользователи всё чаще доверяют сторонним приложениям пароли и данные, не до конца понимая, как они хранятся. Команда Instinct пока публично не отреагировала на критику, при этом инвесторы сообщают, что стартап поддержали фонды Kleiner Perkins и Conviction.
