Moonshot AI 24 октября представила новую модель Kimi K3.1 Pro, которую компания называет своей самой мощной моделью с открытым весом класса 3 триллионов параметров на сегодняшний день; публикация весов запланирована на 4 ноября, чтобы внешние разработчики могли запускать и дорабатывать её самостоятельно.
Ключевые моменты:
- Безопасность прежде всего, самоограничения: по мере того как модели ИИ становятся всё более автономными, компания опасается, что их будут использовать для усиления кибератак. Поэтому из обучающего корпуса и сред обучения с подкреплением удалены данные о кибер-нападении, оставлены лишь общие навыки программирования; компания обязалась не выпускать открытые веса, которые вывели бы кибер-возможности на новый рубеж.
- Открытость остаётся стратегией: несмотря на самоограничения, веса будут опубликованы по плану. Компания считает, что открытость позволит большему числу организаций проверять и усиливать своё программное обеспечение, включая старые системы, которым уделяется мало внимания.
- В русле политики: Китай уже открыл общественные консультации по экспортному контролю технологий генерации вредоносного ПО с помощью ИИ, чтобы ИИ не был направлен против критической инфраструктуры и государственных систем, — приоритет безопасности становится частью глобального консенсуса.
Оригинальная ссылка: Читать оригинал. Текст представляет собой краткое изложение, только для справки.
Комментарии