防御側もプロンプトインジェクションを活用する時代へ
『コンテキストボミング』はハッキングエージェントを騙して、害をなす前にシャットダウンさせる。
出典: Ars Technica AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Ars Technica AIで元記事を読む →
この話題に関連する、TOEの実践・観測記録
AI解体新書
チャットボット以外の業務AIでも「人の好み学習」は効くのか？OCRで出力崩れが平均59.4%減という実測
DPO（直接選好最適化）はチャット向けの手法という理解が一般的ですが、OCRという機械判定可能な業務で検証した結果、文字化けや無限ループといった出力崩れの発生率が平均59.4%、最良ケースで87.6%減ったという数字が出ています。ただし発信元は当該OCR製品の提供者であり、効果には3つの条件がつきます。
続きを読む →
AI解体新書
画面を操作するAIは、社内PCで動かせる段階に来たのか（AndroidWorld 79.3%が示す現在地）
H companyが公開したHolo3.1は、PC画面を見て操作するエージェントを0.8B〜35B-A3Bの複数サイズで提供し、モバイル操作精度は67%から79.3%へ改善したと報告しています。ただし発表は自社製品についての自社測定であり、最高性能でも約2割は失敗します。中小企業が今どこまで試せるかを整理します。
続きを読む →
AI解体新書
AIコーディングツールで開発は本当に速くなるのか ― 実測19%遅く、本人の実感は20%速い、という調査をどう読むか
METRが熟練OSS開発者16名・実課題246件をランダム割付で測ったところ、AI使用可の条件で完了時間は19%長くなりました。一方で開発者本人は終了後も20%速くなったと信じていました。中小企業が自己申告でROIを判断する危うさを、対象範囲の限界とあわせて整理します。
続きを読む →
御社でもAIを使ってみませんか
まずはここから
御社でもAIを使ってみませんか？
御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。
「ChatGPTの使い方」を教えるだけの研修ではありません。
AI研修・AI活用相談 →