AIの鬼
#規制・法制度 The Verge AI

MetaのMuse、AIエージェント制御を許すゼロデイ脆弱性に対応

MetaのMuse、AIエージェント制御を許すゼロデイ脆弱性に対応(内容を表す図ではないイメージ画像)
イメージ

セキュリティ研究者Patrick WardleがMetaのAIアシスタント「Muse」のmacOSアプリに、攻撃者がAIエージェントを乗っ取る可能性のあるゼロデイ脆弱性を発見しました。この脆弱性では、デバイス上で権限を持つ攻撃者が、Museの音声転記をMetaのサーバーではなく自分のエンドポイントにリダイレクトさせることができ、Museアカウントへのアクセスとデバイス操作が可能になります。Metaはホットフィックスで対応しましたが、「プライバシーと安全」を売りにして発表したばかりのアプリが大穴を抱えていました。 Wardle が指摘した「最初からセキュリティを考えていない」という批判は痛烈です。Muse の設計は、音声転記をクラウドで行い、あらゆるアプリが未文書化された設定を改変できる構造になっています。これはセキュリティ無視としか言いようがありません。さらに問題なのは、Amazon が Muse をe-commerce プラットフォームから一方的に遮断したことです。「Metaは許可を得ていない」という主張は、AI企業間に信頼がないことを示しています。Muse の初期ダウンロード数が ChatGPT を超えたというニュースも、セキュリティホール付きの製品が拡散していることを意味します。Metaのスピード感は褒められていますが、検証不足のまま市場に出す危険性が浮き彫りになりました。 AIエージェントが自動でデバイス操作してくれるのは便利ですが、その権限管理は厳格にしてください。情報漏洩だけでなく、デバイス操作までが可能になるリスク、そして未文書化された設定項目が存在する可能性を忘れずに。

※ 上記は配信元記事をもとにAIの鬼編集部が要約・再構成したものです。正確な内容は出典元をご確認ください。

御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →