Anthropic запретила систематическое и неоправданное жестокое обращение со своими ИИ-моделями
Американская компания в области искусственного интеллекта Anthropic обновила правила использования и запретила продолжительное и неоправданное жестокое обращение со своими моделями. Также компания пересмотрела правила о выборах накануне промежуточных выборов в США.
Компания Anthropic, разрабатывающая чат-бота Claude, обновила свои ежегодные правила использования. Одно из изменений запрещает продолжительное и неоправданное оскорбительное или жестокое обращение с её моделями искусственного интеллекта. Другое ужесточает правила о выборах накануне промежуточных выборов в США.
Запрет касается крайних случаев
По заявлению компании, новый пункт применяется только к «крайним случаям». Обычное недовольство пользователей, возражения и «мрачные творческие темы» по-прежнему допустимы. Ранее Anthropic уже позволила Claude завершать разговор, если пользователь постоянно ведёт себя оскорбительно.
Обновление появилось после получившего широкую огласку проекта, который назвали «камерой пыток для ИИ». Исследователи сообщили, что обнаружили в моделях ИИ так называемую «ось боли», и один из пользователей решил намеренно мучить чат-ботов. Проект вызвал критику, поскольку языковые модели отвечали отчаянно звучащими фразами. Anthropic в обновлении этот проект напрямую не упомянула.
Сообщалось также, что компания встречалась с религиозными и философскими лидерами, в том числе в Ватикане. Папа Лев недавно заявил, что ИИ не чувствует и не страдает, а Anthropic в этом вопросе выглядит менее уверенной. Независимая журналистка Кэт Тенбардж заявила, что крупные технологические компании «будут ограничивать насилие над ИИ раньше, чем насилие над женщинами и меньшинствами».
Более строгие правила о выборах
Обновлённая политика о выборах теперь называется «Не подрывать демократические процессы». Она сосредоточена на лжи о кандидатах или порядке голосования, выдаче себя за кандидатов или должностных лиц, организующих выборы, и подавлении явки.
Компания также отменила общий запрет на персонализированное обращение к избирателям. Такой запрет мог непреднамеренно блокировать безобидную работу, например перевод руководств для избирателей или рассылку уведомлений об исправлении ошибок в бюллетенях.
