Google EarthのAI画像生成、虚偽ニュース生成の危険性露呈
テキストプロンプトだけで、Google Earthの衛星画像・航空写真・3D画像を使用して現実を歪める画像を生成することが可能だった。撤回されたこのAI機能により、Digital DiggingのHenk van Essなどが『メキシコ国境の難民』やガザの病院近くの爆弾火口といった虚偽画像を意図的に生成していた。
出典: The Verge AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 The Verge AIで元記事を読む →
この話題に関連する、TOEの実践・観測記録
AI解体新書
AIに記憶を持たせると何が起きるか — 1,227ケースで判明した「後から効く」汚染
AIエージェントに社内の情報を覚えさせると、入力時のチェックをすり抜けて後から悪影響を出す汚染が起きます。2026年7月公開の研究が検証した1,227ケースの結果と、中小企業が記憶機能を使うときの線引きを整理しました。
続きを読む →
AI解体新書
AIに手順書を渡すと成績はどれだけ上がるか — 決済連携の実測で10.31ポイント
同じAIでも、その業務専用の手順書を渡すかどうかで成績が変わります。決済システム連携を題材にした2026年7月公開の研究では、平均10.31ポイントの改善が測定されました。中小企業がAIを使うときに、この差がどこで効くのかを整理します。
続きを読む →
AI解体新書
AIの評価を「成功率」だけで見ると何を見落とすか — セキュリティ分野の研究から
AIの性能は通常「どれだけ正解したか」で語られますが、実務では1回いくらかかったかが同じくらい効きます。2026年7月公開の研究は、コストを揃えて比較すると評価が変わること、そして仕事の種類によって「予算を積む効果」が違うことを示しました。
続きを読む →