Amazon Alexa Plus、「ららら」を数分間歌い続けるバグが発生

Amazon Echoスマートスピーカーの一部で、Alexa Plusが数分間「ラララ」と歌い続けるバグが報告されています。複数のユーザーがRedditに動画を投稿し、Amazonも「少数のユーザーに影響」と認め、修正作業中と発表しました。気味の悪い点は、会話の途中に突然この状態に陥り、ユーザーが「今何をしていたのか」と問い質すと、Alexaが「何もしていない」と答えることです。つまり、AIシステムが自分の振る舞いを認識できていないということです。

これはハードウェア音声AIの根本的な脆弱性を露呈させています。テキストベースのChatGPTであれば、こうした「無意味な繰り返し」は比較的稀ですが、会話システムには複数の層（音声認識→言語処理→音声出力）があり、その中のどこかが不安定になると、こうした奇妙な動作が起きます。また、Amazonのシステムが会話ログを正確に自己監視できていない可能性も示唆しています。スマートスピーカーは家庭内の常設デバイスのため、こうした「予測不可能な動作」は信頼度を大きく損ないます。

実務的には、スマートスピーカーなどのAIハードウェアはまだ完全性に欠けるということです。重要な作業指示や確認は、テキスト通信か従来型の音声電話で行うべきです。AIツール選定の際は、「新しさ」よりも「安定性」を重視する必要があります。