プロンプトインジェクション、AIの最先端セキュリティ課題として急速に拡大
プロンプトインジェクションはAIシステムの最先端のセキュリティ課題である。OpenAIは、これらの攻撃の仕組み、研究進展、モデル訓練、ユーザー向けセーフガード構築について説明している。
出典: OpenAI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 OpenAIで元記事を読む →
編集部の実践記録から
AI解体新書
AIエージェントの推論に「賞味期限」があるとは？ — FreshCtxがオープンソース化され、中小企業の自動判断で何が変わるのか
モデルはハルシネーションを起こしていない、推論も間違っていない、ツールも正常に動いた。それでもアクションが間違う。原因は推論してから実行するまでに現実が変わる「証拠鮮度」の問題です。オープンソース化されたFreshCtxが何を再検証するのか、中小企業の自動判断で何が変わるのかを、当社の自動運用の実測とあわせて整理します。
続きを読む →
AI解体新書
AIエージェントの推論は実行するころには古いのか — FreshCtxが実行直前に証拠を再検証する仕組みで中小企業の自動判断は何が変わるのか
モデルはハルシネーションを起こしていない、推論も間違っていない、ツールも正常に動いた。それでもアクションが間違う。原因は推論してから実行するまでに現実が変わる「証拠鮮度」の問題です。オープンソース化されたFreshCtxが何を再検証するのか、中小企業の自動判断で何が変わるのかを、当社の自動運用の実測とあわせて整理します。
続きを読む →
AI解体新書
AIエージェントは「モデル選び」で決まらない？ ─ 同じClaudeでもWeb版とClaude Codeで精度が違う理由「ハーネス」を中小企業向けに読み解く
同じモデルなのにWeb版ClaudeとClaude Codeで実用精度が変わる。その差を決めるのが「ハーネス」という道具立てです。中小企業がAIツールを選ぶとき、スペックシートより先に見るべき運用構造は何か。素材と当社の実測を突き合わせて整理します。
続きを読む →