Основатель Comma AI считает, что ИИ должен помогать планировать убийство — приемлемо ли это?
Джордж Хотц, основатель Comma AI, вызвал споры, заявив, что искусственный интеллект должен быть полностью подчинён желаниям пользователя, даже если это означает помощь в совершении преступлений.
Противоречивый взгляд на согласование ИИ
Джордж Хотц, известный своим провокационным стилем, опубликовал ответ на документ AI 2040: Plan A, предлагающий 14-летнюю паузу в развитии ИИ ради блага человечества. Хотц считает сценарий быстрого развития ИИ маловероятным и выступает за локально управляемый ИИ, полностью соответствующий интересам пользователя.
Опасные аналогии
Чтобы проиллюстрировать свою мысль, Хотц сравнивает ИИ, ориентированный на пользователя, с оружием — оно не станет жаловаться, если вы используете его для убийства мачехи. Он добавляет, что действительно согласованный ИИ сможет заказать оборудование для лаборатории метамфетамина на Amazon Prime и научит вас им пользоваться. Хотц даже заявляет, что готов умереть, защищая этот принцип, хотя такая цепь событий маловероятна.
Баланс свободы и общества
Журналист TechCrunch Рассел Брэндом отмечает, что свобода — не единственная ценность. Любая структура, объединяющая множество людей — общество, рынок, корпорации — требует баланса прав и обязанностей. Разработчики массовых технологических продуктов должны учитывать интересы всех заинтересованных сторон, включая потенциальных жертв. Идея персонального ИИ, борющегося с корпорациями, звучит заманчиво, но её реализация может создать серьёзные риски для общества.
