Суд в Германии признал Google ответственным за ложные заявления, сгенерированные AI
Мюнхенский окружной суд вынес предварительное решение, признав Google ответственным за ложные утверждения, созданные функцией AI Overviews, и обязал компанию удалить порочащий контент и оплатить 80% судебных издержек.
Местный суд в Германии вынес решение, которое может изменить работу поисковых систем и чат-ботов на основе искусственного интеллекта по всему миру. Мюнхенский окружной суд предварительно признал Google ответственным за серию ложных заявлений, сгенерированных функцией AI Overviews, обязав компанию предотвращать распространение ошибочных или неточных утверждений через свою поисковую систему.
Дело, впервые освещённое изданием Decoder, началось с того, что два издателя обнаружили: AI-сгенерированные сводки Google при определённых запросах связывали их с сомнительными деловыми практиками, мошенничеством и аферами с подписками без каких-либо оснований. Ранее в этом году пострадавшие компании направили Google письмо с требованием прекратить нарушения. Google отрицал ответственность, утверждая, что его автоматическая функция суммирования предупреждает пользователей о возможных ошибках и рекомендует проверять информацию.
Суд пришёл к выводу, что AI Google объединил информацию о других компаниях, помеченных за возможную незаконную деятельность, с данными истцов, создав ассоциации, которые не фигурировали ни в одном из источников, указанных поисковой системой. В отличие от традиционных поисковиков, которые просто показывают списки ссылок с утверждениями третьих сторон, инструмент Google создавал «независимые, новые и существенные утверждения» на основе неправильной интерпретации информации из интернета.
Суд указал, что исправление дезинформации — не обязанность третьих лиц. Только Google может изменить технологию, лежащую в основе его AI-сводок, и поэтому «должен нести ответственность». Кроме того, суд признал линию защиты Google несостоятельной, поскольку оспариваемая сводка «содержит утверждения, которых вообще нет в результатах поиска».
Суд также постановил, что результаты, созданные AI-системой, не могут быть защищены принципами свободы слова, так как они являются продуктом алгоритма, разработанного, обученного и управляемого компанией, а не выражением индивидуального мнения.
В качестве предупредительной меры для предотвращения повторения суд обязал Google удалить большую часть порочащих утверждений и покрыть 80% судебных издержек. Представитель Google заявил, что решение может быть обжаловано, и подчеркнул инвестиции компании в качество AI Overviews, отметив, что решение ещё не окончательное.
Это решение немецкого суда может иметь глобальные последствия для индустрии искусственного интеллекта. Такие компании, как OpenAI, Anthropic и Perplexity AI, также предупреждают пользователей о возможных ошибках, но данное дело показывает, что подобных предупреждений недостаточно для освобождения разработчиков от ответственности. Суд постановил, что если AI генерирует новые утверждения, отсутствующие в исходных источниках, компания, разрабатывающая, обучающая и управляющая системой, должна нести юридическую ответственность за любой ущерб, причинённый этими утверждениями.
