ECEを正しく理解する - ニューラルネットワークの確信度を測る・疑う・較正する
AIは精度だけでは足りない時もある 画像分類をはじめとするニューラルネットワークは、さまざまな分野で高い性能を示しています。 しかし、モデルを実際の意思決定に利用する場合、予測ラベルが正しいかどうかだけでなく、その予測に付けられた確率がどれだけ信頼できるかも重要です。 例えば、ある画像分類モデルが「この画像は病変を含む可能性が90%」と予測したとします。 この90%という値を判断材料として使うためには、同じように90%と予測されたケースが、実際にもおよそ90%の割合で正解していることが望まれます。 ところが、ニューラルネットワークは予測を間違えているにもかかわらず、高い信頼度を出す...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
編集部の実践記録から
学習データを71%捨てても精度は落ちないのか？場所認識AIの実測で見る「データ選別」の費用対効果
AIの精度はデータ量で決まる、という前提を疑う実測が出ました。画像による場所認識AIの学習で、データを71%削減しても精度は維持され、総学習時間は19.152時間から4.825時間へ74.8%削減。データを増やす前に選別する工程を挟む、という予算配分の話として読めます。ただし対象は特定タスクに限られます。
続きを読む →
AIの評価軸を「正答率」から「越えてはいけない線」に変えられるか——医療AI検査ベンチマーク100件の設計
臨床医1名が作った医療AI安全性ベンチマーク「MedFailBench」は、合成症例100件を6種類の失敗ゲートと5段階の重大度で分類した。正解率ではなく「どの安全境界が破られたか」で測る設計思想は、中小企業の社内AI評価表にそのまま応用できる。ただし実験規模は極端に小さく、論文自身が限界を並べている。
続きを読む →
検索精度スコアは、AIエージェントの正解率を予測できるのか（相関ρ=-0.0257）
複数ステップで自律検索するAIエージェントを対象に、従来の検索有用性スコアと、実際に正解へ効いた度合いの相関を測った研究。23,322件の文書観測で相関はρ=-0.0257とほぼ無相関、単体では答えを含まないのに削除すると結果が変わる「橋渡し文書」が35.72%を占めた。社内文書検索の評価の見方に直結する話です。
続きを読む →