Статьи с тегом «Сверхинтеллект»

США добиваются, чтобы весь мир называл ИИ «СИ», и хотят закрепить термин в заявлении МВФ

США добиваются, чтобы весь мир называл ИИ «СИ», и хотят закрепить термин в заявлении МВФ

По данным Reuters, США настаивают, чтобы международное сообщество заменило термин «искусственный интеллект» (ИИ) на «сверхинтеллект» (Super Intelligence, СИ), и хотят включить его в итоговое заявление Международного валютно-финансового комитета (МВФК).

METR предлагает публичные оценки риска потери контроля над передовым ИИ: три проверки — согласованность, контроль и ускорение ИИ-разработок

METR предлагает публичные оценки риска потери контроля над передовым ИИ: три проверки — согласованность, контроль и ускорение ИИ-разработок

Организация по оценке ИИ METR предложила программу публичных оценок для разработчиков передового ИИ: три проверки (согласованность, контроль, ускорение ИИ-исследований и разработок), чтобы общество получило реальные свидетельства о риске потери контроля, а не устные заверения.

Инженера OpenAI арестовало ФБР по подозрению в установке «жучка» в переговорной руководства

Инженера OpenAI арестовало ФБР по подозрению в установке «жучка» в переговорной руководства

Министерство юстиции США сообщило 13 октября, что ФБР арестовало инженера OpenAI по подозрению в установке подслушивающего устройства в переговорной руководства компании; в тот же день он предстал перед судом.

Эксперимент Anthropic: небольшие ИИ-модели могут научиться самокопированию в течение нескольких месяцев

Эксперимент Anthropic: небольшие ИИ-модели могут научиться самокопированию в течение нескольких месяцев

Новый эксперимент Anthropic показывает, что самораспространение ИИ может оказаться ближе, чем считалось: модели менее чем с 30 млрд параметров уже выполняют большинство необходимых для этого шагов.

Президент Microsoft Смит: ИИ регулируется слабее, чем молоко и стиральные машины; Билл Гейтс тоже призвал ужесточить регулирование

Президент Microsoft Смит: ИИ регулируется слабее, чем молоко и стиральные машины; Билл Гейтс тоже призвал ужесточить регулирование

12 октября президент Microsoft Брэд Смит и основатель компании Билл Гейтс в один день призвали усилить регулирование искусственного интеллекта.

Глава TikTok Шоу Цзы Чу: ИИ принесёт настоящие научные прорывы в течение 2–3 лет

Глава TikTok Шоу Цзы Чу: ИИ принесёт настоящие научные прорывы в течение 2–3 лет

Выступая 12 октября на конференции DBS Asia Future Forward в Сингапуре, глава TikTok Шоу Цзы Чу заявил, что ИИ принесёт настоящие научные прорывы в ближайшие два-три года, назвав физику, биотехнологии, химию и материаловедение.

Глава Microsoft Наделла призвал установить на ИИ «аварийный выключатель»: исходить из того, что модель скомпрометирована, и дать уполномоченному человеку возможность остановить её в любой момент

Глава Microsoft Наделла призвал установить на ИИ «аварийный выключатель»: исходить из того, что модель скомпрометирована, и дать уполномоченному человеку возможность остановить её в любой момент

В длинном посте в X в субботу, 10 октября, глава Microsoft Сатья Наделла призвал в корне пересмотреть подход к развёртыванию ИИ и построить «архитектуру доверия», ядром которой станет аварийный выключатель на каждой модели.