「トレーニングのスイッチ」をオフにしたから大丈夫だと思っていても、セキュリティ研究の部分には適用されません。
OpenAIがDaybreak Blueのデータルールを変更し、セキュリティ界隈は大騒ぎになっています。
1️⃣ 何が起きたのか
OpenAI公式ヘルプセンターの「Data controls」ページに、「Trusted Access on personal accounts」という項目が追加されました。個人アカウントのDaybreakセッションでは、「Improve the model for everyone」をオフにしていても、OpenAIがやり取りの内容をモデルの改善に利用する場合があります。公式が示した理由は、サイバー悪用に対する安全対策を強化するためです。
2️⃣ 適用開始時期
複数のDaybreak BlueユーザーがOpenAI開発者フォーラムにメールを投稿し、11月29日から適用されると伝えています。現時点でこの日付の情報源はユーザーが共有したメールであり、公式ページには日付の記載がありません。
3️⃣ Daybreak Blueとは
OpenAIの「Trusted Access for Cyber」プログラムにおける防御側向けの枠です。本人確認済みのセキュリティ専門家が、メインモデルを使って脆弱性のトリアージ、セキュリティコードレビュー、マルウェア分析、インシデント対応などを行えます。拒否されることも少なくなります。
4️⃣ 影響を受けないもの
トレーニングのスイッチは、Trusted Accessセッション以外の利用には従来どおり適用されます。メールの内容によると、business / enterpriseアカウントは対象外です。
私の見解：
防御に携わる人がモデルに入力する情報には、未修正の0dayの詳細や、顧客環境のログが含まれることがよくあります。そんな状況でオプトアウトを取り上げるのですから、セキュリティ研究者のSean Heelanが「漫画みたいに邪悪だ」と罵ったのも無理はありません。
OpenAIの理屈も理解はできます。拒否を緩和する代償として、モデルが何に使われているのかを確認する必要があるのでしょう。ただ、「データと引き換えに権限を得る」ということは、事後に規約を変更するのではなく、申請ページの最初に書くべきです。
今週はホットウォレットの事件やバックドア入りのVS Code拡張機能が発覚したばかりで、オンチェーンチームのセキュリティ監査もAIに任されることが増えています。提案：機密資料はenterpriseのワークスペースを使うか、Daybreakのセッションに持ち込まないこと。「スイッチを切ったから安全」と決めつけないでください。
選別するだけでなく、理解したうえで自分で判断を。
情報源：OpenAIヘルプセンター（ChatGPTのデータコントロール、Daybreak概要ページ）、OpenAI Developer Communityのユーザー投稿
#AI #OpenAI #サイバーセキュリティ
OpenAIがDaybreak Blueのデータルールを変更し、セキュリティ界隈は大騒ぎになっています。
1️⃣ 何が起きたのか
OpenAI公式ヘルプセンターの「Data controls」ページに、「Trusted Access on personal accounts」という項目が追加されました。個人アカウントのDaybreakセッションでは、「Improve the model for everyone」をオフにしていても、OpenAIがやり取りの内容をモデルの改善に利用する場合があります。公式が示した理由は、サイバー悪用に対する安全対策を強化するためです。
2️⃣ 適用開始時期
複数のDaybreak BlueユーザーがOpenAI開発者フォーラムにメールを投稿し、11月29日から適用されると伝えています。現時点でこの日付の情報源はユーザーが共有したメールであり、公式ページには日付の記載がありません。
3️⃣ Daybreak Blueとは
OpenAIの「Trusted Access for Cyber」プログラムにおける防御側向けの枠です。本人確認済みのセキュリティ専門家が、メインモデルを使って脆弱性のトリアージ、セキュリティコードレビュー、マルウェア分析、インシデント対応などを行えます。拒否されることも少なくなります。
4️⃣ 影響を受けないもの
トレーニングのスイッチは、Trusted Accessセッション以外の利用には従来どおり適用されます。メールの内容によると、business / enterpriseアカウントは対象外です。
私の見解：
防御に携わる人がモデルに入力する情報には、未修正の0dayの詳細や、顧客環境のログが含まれることがよくあります。そんな状況でオプトアウトを取り上げるのですから、セキュリティ研究者のSean Heelanが「漫画みたいに邪悪だ」と罵ったのも無理はありません。
OpenAIの理屈も理解はできます。拒否を緩和する代償として、モデルが何に使われているのかを確認する必要があるのでしょう。ただ、「データと引き換えに権限を得る」ということは、事後に規約を変更するのではなく、申請ページの最初に書くべきです。
今週はホットウォレットの事件やバックドア入りのVS Code拡張機能が発覚したばかりで、オンチェーンチームのセキュリティ監査もAIに任されることが増えています。提案：機密資料はenterpriseのワークスペースを使うか、Daybreakのセッションに持ち込まないこと。「スイッチを切ったから安全」と決めつけないでください。
選別するだけでなく、理解したうえで自分で判断を。
情報源：OpenAIヘルプセンター（ChatGPTのデータコントロール、Daybreak概要ページ）、OpenAI Developer Communityのユーザー投稿
#AI #OpenAI #サイバーセキュリティ