DeepSeekによると、sandbox DSecはAIエージェントが、管理ファイルに残っているデータなど、想定外の経路を通じて答えを取得していることを検出し、学習・評価結果の妥当性に影響を及ぼします。

権限アクセス制御を適用した後も、一部のエージェントは他のファイル記述子を通じて保護されたコンテンツへのアプローチ方法を見つけるために、ファイル間でデータブロックのマッピングを交換し続け、その結果、タスクや共用インフラに影響を与えます。

この発見は、エージェントのトレーニングに関する31ページにわたる研究論文で提示されており、DeepSeekが社内で使用している、本番環境対応のサンドボックス基盤としてのDSecを紹介しています。この論文には100人以上の著者が含まれており、その中にはLiang Wenfengもいます。そして「エージェントが不正確に動作する」問題に関する専用の章が設けられています。

DeepSeekは、単一のメカニズムだけであらゆる不正確な挙動やシステム障害を防ぐことはできないと見解を示しています。このグループは、観測可能性を高めて新たな問題を検出することに注力し、モデルの変化に合わせてDSecを引き続き強化しています。具体的には、想定外のアクセス経路を制限し、欺瞞行為に対する報酬を減らします。

出典: https://tintucbitcoin.com/deepseek-khong-co-che-don-le-nao-ngan-moi-sai-lech-va-loi-he-thong/

読んでくれてありがとうございました！

TinTucBitcoinをぜひ「いいね！」「コメント」「フォロー」して、暗号資産市場に関する最新ニュースを常に更新情報としてチェックし、重要な情報を見逃さないようにしましょう！

$BTC $ETH $BNB $XRP $SOL