AIの鬼
#開発・実装 The Verge AI

Museは全ファイルシステムのダウンロードを許可する模様

Museは全ファイルシステムのダウンロードを許可する模様(内容を表す図ではないイメージ画像)
イメージ

2人の開発者が、MetaのMuseから全ファイルシステムをほぼプロンプトなしで引き出せることを示した。Peter JamesとJonny L. Saundersは独立してMuseにアクセス権を要求し、Ubuntuシステムファイル、アプリテンプレート、内部ドキュメントの圧縮ファイルを取得。Saundersは「ほぼプロンプト注入への耐性がない」と指摘した。

Metaはこれを「セキュリティ侵害ではない」と主張している。スポークスマンは「ノートパソコンと同じく、ユーザーはファイルを見える。仮想マシンデータのエクスポートはMeta基盤への特権アクセスやほかユーザーのデータへのアクセスを与えない」と説明した。一方、実際に露出した内容は無視できない。2人が取得したプレーンテキスト形式のドキュメントとバイナリコードには、Museの内部名「Hatch」の処理ロジック、メモリの管理方法(Markdown形式で保存)、夜間の「dream」レビュー機能(会話を学習と指針に変える仕組み)、Gmail連携などが詳細に記録されていた。Saundersは「数秒で数百MBの正確なライブラリコードと実行ファイルを生成している。1分以下でUbuntu VMを合成したとは考えられない。本物のダンプだ」と述べている。

建前と実態のズレが際立つ。「ユーザーのコンピュータ」という言い方は、従来のローカル実行環境との心理的安心感を狙ったものだが、実際にはクラウドサーバで動く共有インフラだ。セキュリティと透明性のトレードオフが露呈したこの事例は、AIエージェントの「オープン性」という名目下で、どこまでユーザーに情報を見せるかという本質的な問題を示している。

※ 上記は配信元記事をもとにAIの鬼編集部が要約・再構成したものです。正確な内容は出典元をご確認ください。

御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →