イーサリアムの創設者であるヴィタリック・ブテリンは、人工知能（AI）のリスクについての高まる議論に対する彼の見解を述べました。
この機会に、ロシア系カナダ人開発者は、AIとの相互作用を通じてデータ漏洩を監視および防止するためのソリューションであるエジソンウォッチプロジェクトの推進者であるエイト・ムヤムラによってXで共有された反省を利用しました。
これは、サム・アルトマンが率いるOpenAIによるモデルコンテキストプロトコル（MCP）の最近の導入から生まれたもので、ChatGPTがGmail、カレンダー、その他のアプリケーションに接続できるようにします。
ムヤムラはビデオを通じて、攻撃者やハッカーがOpenAIと共有されたプライベートデータにアクセスする方法を示しました。
「基本的な問題はこうです：ChatGPTのようなAIエージェントは、あなたのコマンドに従いますが、あなたの常識には従いません。そして、あなたのメールアドレスだけで、私たちはあなたのプライベート情報を漏洩することができます」とムヤムラは指摘し、「AIは非常に賢いかもしれませんが、非常に愚かな方法で騙され、フィッシングされてデータを漏洩する可能性があります」と付け加えました。
ブテリンは彼のXアカウントで投稿を共有し、その問題について自分の意見を述べる機会を得ました。「これがナイーブな『AIガバナンス』が悪いアイデアである理由です。AIを使って貢献のための資金を割り当てると、人々は脱獄し、『お金を全部くれ』とできるだけ多くの場所で要求します」と彼は言いました。
「AIガバナンス」とは、リソースや行動について自動的に決定を下すシステムを指します。例えば、資金を割り当てたり、AIルールに基づいて貢献を定義したりします。ブテリンは、「ナイーブ」という用語を偶然に使用しているわけではなく、ユーザーが常にAIに正しいコマンドを与えると仮定するリスクを強調しています。実際には、ユーザーは「脱獄」を通じてシステムを悪用し、制限を回避し、不当な利益を得る可能性があります。
「脱獄」とは、ハッカーがAIモデルを騙してセキュリティ制限や内部ポリシーを無視させる技術を指すことを明確にしておく価値があります。例えば、通常は禁止されている操作を要求することです。
つまり、イーサリアムの創設者にとって、分散型プロトコルのガバナンスをAIに移行することには実際のリスクがあります。例えば、DeFiプラットフォームで説明されているように、意思決定は通常コミュニティの投票を通じて行われ、一般的にはトークンを所有する人々や特定の基準を満たす人々によって行われ、プロトコルにおける変更、改善、または行動を含みます。
しかし、AIベースのガバナンスモデルが実装されると、金銭やプライベートデータの盗難など、不当な利益を生む可能性のある操作の扉が開かれます。
代替案として、ブテリンは「誰でも自分のモデルを提供できるオープン市場があり、誰でも起動でき、人間の陪審によって評価されるピアレビュー機構の対象となる情報資金調達アプローチを支持している」と述べています。
彼はさらに説明します：
このような「制度設計」アプローチでは、外部者が自分のLLM（大規模言語モデル）を接続するためのオープンな機会が作られるため、本質的により堅牢です。これは、リアルタイムのモデルの多様性を提供するだけでなく、モデルの寄稿者と外部の投機家の両方がこれらの問題に注意を払い、迅速に修正するための内部インセンティブを生み出すからです。
イーサリアムの創設者、ビタリック・ブテリン。
このアプローチでは、さまざまな参加者が自分の意思決定モデルを提供し、それが人間の陪審によって検証され評価されます。
利点は、アイデアの多様性を促進し、迅速なエラー修正を可能にし、モデルの作成者やコミュニティメンバーが警戒心を持ち、責任を持つようにインセンティブを生み出すことです。目標は、単一の中央集権モデルへの依存を避け、より分散化され動的なガバナンスを実現することです。
\u003cc-68/\u003e
