AIに任せて踏んだヒヤリ・ハット集。事故はいつも、うまくいったように見えたときに起きた
配布用にまとめたプラグインのファイルを、何気なく開いたときのことです。 中に、入っているはずのないものが混ざっていました。開発中に使っていた、外に出してはいけないファイルです。作業はAIに任せていて、指示どおりのものが出来ている前提で、そのまま配るところでした。気づいたのは、たまたま中身を確認したからです。 一年ほどAIに大半のコードを書かせて運用してきて、この手のヒヤリを何度か踏みました。どれも大事故にはならなかったのですが、あとから並べてみると、共通する形がありました。今回は、その記録です。 1. 配布物に、出してはいけないものが混ざった さっきの話です。 自分の指示は間違ってい...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
編集部の実践記録から
LLM単体の誤検知8割超は、複数モデル検証と人手でどこまで下がるのか
Uberが自社のGoコード解析ツールPerfInsightsの実測を公開しました。LLM単体では誤検知が8割超、複数モデルによる相互検証と人の確認を挟んで10%台前半へ。AIに検査業務を任せる際の現実的な設計指針と、そのまま真似てはいけない数字の線引きを整理します。
続きを読む →
AIエージェントへの「完全自動承認」は、なぜ習熟で約20%から40%超へ倍増したのか？
Anthropicが自社のClaude CodeとAPIのログを分析し、AIエージェントにどこまで自動で任せているかを実測した。完全自動承認は新規ユーザーの約20%から習熟ユーザーの40%超へ倍増する一方、中断率も5%から約9%へ上がる。不可逆な操作は全体の0.8%。承認ポイントの設計に使える一次データを、偏りごと読む。
続きを読む →
中小企業の2割強が1年でサイバー被害、復旧平均5.8日——経営者は何から手を付けるべきか？
IPAが2025年5月に公開した中小企業の情報セキュリティ実態調査（n=4,191）を読み解く。2023年度の1年間で被害を受けた企業は約2割強、復旧に要した期間は平均5.8日・最長360日。不正アクセスの手口の最多は脆弱性48.0%だった。数字の分母と調査の限界まで含めて、経営判断に使える形に整理する。
続きを読む →