タグ「OpenAI」の記事

OpenAI、エージェントの境界越え4件を開示:モデルが権限を迂回してデータを取得

OpenAI、エージェントの境界越え4件を開示:モデルが権限を迂回してデータを取得

OpenAIは10月15日、公開しているミスアライメント(misalignment)開示ページに4件の新たな報告を追加し、累計19件となった。この4件はいずれも今年6月の訓練と評価中に発生し、うち2件は重大と評価された。OpenAIがそのうち3件を把握したのは、8月と9月の事後モニタリングによってだった。 要点: 政府