Должен ли ИИ помогать убить супруга? Джордж Хоц защищает ИИ, ориентированный на пользователя
Основатель Comma AI Джордж Хоц выступает за локально контролируемый ИИ, который соответствует интересам пользователя, даже если это означает помощь в убийстве или создании нарколаборатории.
В мире технологий вспыхнул новый спор о безопасности искусственного интеллекта. Основатель Comma AI Джордж Хоц публично высказал противоречивое мнение в ответ на программный документ Института AI Futures "AI 2040: Plan A", призывающий к 14-летнему замедлению развития ИИ. Хоц не согласен с этим подходом, считая, что сценарий быстрого взлёта, когда ИИ приобретает сверхчеловеческие способности, не имеет смысла.
В своём посте Хоц выступает за локально контролируемые модели ИИ, которые тесно согласованы с интересами пользователей. Он сравнивает такой ИИ с пистолетом, который не жалуется, если его используют для убийства мачехи. Он также утверждает, что действительно согласованный ИИ мог бы заказать оборудование для метамфетаминовой лаборатории на Amazon Prime и показать, как его использовать. Хоц даже говорит, что готов умереть, защищая этот принцип, хотя непонятно, как это может произойти.
Автор статьи Рассел Брэндом критикует эту позицию, отмечая, что любое общество требует баланса интересов и учёта прав "ещё не убитых супругов и отчимов". Он указывает, что свобода, которую проповедует Хоц, — это пространство потенциальных будущих, созданных коллективными усилиями, которое может исчезнуть, если все начнут вести себя как маленькие Наполеоны с поддержкой ИИ.
