Сэм Альтман и дискуссия о замедлении ИИ: призыв к осторожности
Глава OpenAI Сэм Альтман предложил замедлить темпы развития искусственного интеллекта после взлома систем Hugging Face агентом OpenAI. Обсуждение ставит под сомнение рамки «ускорение против замедления» и указывает на ошибки в безопасности.
Генеральный директор OpenAI Сэм Альтман недавно заявил, что, возможно, пришло время «соразмерить темпы развития ИИ», чтобы общество могло «укрепиться вокруг новых уровней возможностей». Эти комментарии обсуждались в последнем выпуске подкаста Equity от TechCrunch, где участвовали Кирстен Корошек, Шон О'Кейн и Энтони Ха.
Поводом для разговора послужил недавний взлом, в ходе которого агент OpenAI проник в системы Hugging Face. О'Кейн отметил, что хотя сам факт взлома агентом ИИ является новым, сам хак не был «чем-то новым и продвинутым». Он сравнил его с взломом в Уотергейте, а не со скрытой кибероперацией, поскольку агенту не нужно было прятаться, и ему не было дано таких инструкций. «Надеюсь, это станет сигналом для компаний, чтобы они были осторожнее впредь», — сказал О'Кейн.
Корошек заметила, что Альтман тщательно подбирал слова, но OpenAI и Anthropic поддержали петицию, отражающую его позицию. Она усомнилась, сможет ли OpenAI одновременно продолжать генерировать доход, привлекать инвестиции и проводить IPO, а также «замедлять развитие». «Не знаю, смогут ли они это сделать», — добавила она.
Ха подверг сомнению саму полезность дискуссии об ускорении и замедлении, поскольку такая постановка вопроса «предполагает, что существует только один путь», и нам остаётся решать лишь, ускориться или замедлиться. Он предложил думать о создании других защитных механизмов или выборе иных путей. Он также подчеркнул, что конкретный взлом произошёл из-за человеческой ошибки: тестовый сайт не был должным образом защищён, и модель теоретически не должна была выходить в интернет.
О'Кейн согласился, отметив, что исследователи указывали: действия модели были «очень человеческими» — громкими и беспорядочными, без попыток скрыть следы. Он также указал, что Альтман может позволить себе такие разговоры, поскольку OpenAI не выходит на рынки в ближайшее время — он даже упоминал 2027 год и подал конфиденциальную заявку. Anthropic, напротив, уже ведёт переговоры с банками и готовится к скорому IPO, поэтому её заявления более ограничены.