Меняет ли Марк Цукерберг свою позицию по поводу открытого искусственного интеллекта?

Сегодня Марк Цукерберг (Mark Zuckerberg) поделился развернутым внутренним меморандумом, в котором изложил свое видение создания искусственного "суперинтеллекта". В этом меморандуме Цукерберг намекнул, что стремление к более мощному ИИ может потребовать от компании более избирательного подхода к тому, что она публикует в открытом доступе. Ссылаясь на "проблемы безопасности", он написал, что Meta должна быть "строгой" в принятии таких решений. Эта фраза привлекла внимание многих, поскольку Цукерберг — который ранее выражался резко против закрытых платформ — сделал открытый исходный код центральным элементом AI-стратегии Meta.

Во время телефонной конференции по итогам второго квартала Цукерберг также признал возможность изменения подхода, хотя и преуменьшил его значимость. Он сказал следующее, отвечая на вопрос о том, изменилось ли его мнение: "Я не думаю, что наше мышление особенно изменилось в этом вопросе. Мы всегда публиковали в открытом доступе часть наших моделей, но не все, что мы делаем. Поэтому я ожидаю, что мы продолжим создавать и делиться передовыми моделями с открытым исходным кодом.

Я также думаю, что есть несколько тенденций, которые проявляются. Одна из них заключается в том, что мы получаем модели, которые настолько велики, что их просто непрактично использовать многим другим людям. Поэтому мы размышляем о том, целесообразно ли делиться ими или это в основном помогает конкурентам. Так что я думаю, что есть эта проблема. И, очевидно, по мере приближения к настоящему суперинтеллекту, я думаю, что возникает целый ряд проблем безопасности, о которых я написал в своей сегодняшней записке. Но, думаю, суть в том, что я ожидаю, что мы продолжим публиковать работы с открытым исходным кодом. Я ожидаю, что мы продолжим быть лидером в этой области, и я также ожидаю, что мы продолжим не публиковать все, что мы делаем, что является продолжением того, над чем мы работали.

Это заметно отличается от того, что он написал почти год назад в другом меморандуме под названием "Open Source AI is the Path Forward" ("Открытый ИИ – это путь вперед"). В этой еще более развернутой записке он заявил, что открытый исходный код имеет решающее значение как для Meta, так и для разработчиков. "Люди часто спрашивают, беспокоюсь ли я о потере технического преимущества, публикуя Llama в открытом доступе, но, я думаю, они упускают общую картину", - написал он. "Я ожидаю, что разработка ИИ будет оставаться очень конкурентной, а это означает, что публикация любой конкретной модели не дает огромного преимущества над следующими лучшими моделями на тот момент времени". Он также утверждал, что открытый исходный код безопаснее. "Идет постоянная дискуссия о безопасности моделей ИИ с открытым исходным кодом, и я считаю, что ИИ с открытым исходным кодом будет безопаснее, чем альтернативы. До тех пор, пока у всех будет доступ к аналогичным поколениям моделей – что и продвигает открытый исходный код – правительства и учреждения с большими вычислительными ресурсами смогут контролировать недобросовестных участников с меньшими вычислительными ресурсами".

Стоит отметить, что Цукерберг заявил о намерении компании и дальше публиковать часть своей работы в открытом доступе. Однако, похоже, он закладывает основу для будущего, в котором "суперинтеллект" Meta может быть гораздо менее открытым.