その"NEVER"、AIを萎縮させてる？ それとも安全にしてる？ ── 禁止命令が効くときと壊すとき
1. 「禁止命令を書くな」と「禁止事項は明示せよ」、両方本当らしい AIエージェントへのシステムプロンプトを書いていると、正反対に見える2つの実務知見にぶつかる。 一方には「否定命令はLLMに効きにくい」という指摘がある。"The Pink Elephant Problem"は、Anthropicが自社のシステムプロンプトで否定命令ではなく記述的な文体（Claudeが何をする存在かを描写する）を選んでいることを指摘する。負の指示は「何をしてほしくないか」を理解してから「では何をすべきか」を逆算させるぶん、余計な推論ステップを挟み不安定になる、という説明も添えられている。 もう一方には...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
編集部の実践記録から
AIに調べ物をさせると、専門家と同じ結論に届くか — 28研究の自動メタ分析
「調べてまとめる」仕事はAIに向いていそうで、実際には根拠の追跡が難しく任せにくい領域です。2026年7月公開の研究は、検索から統計処理まで通しで自動化し、専門家によるメタ分析と近い結果を得たと報告しました。中小企業の調査業務に何が使えるかを整理します。
続きを読む →
AIの公平性を上げると、プライバシーは守られるのか — 全体平均では見えない差
採用や与信でAIを使うとき、公平性への配慮は避けられません。2026年7月公開の研究は、公平性を高める処理がプライバシー上のリスクに与える影響を部分集団ごとに調べ、全体の平均では見えない偏りがあることを示しました。
続きを読む →
社内データにAIを「たどらせる」方式は、追加学習なしでどこまで当たるのか（Macro F1 66.29%／最難関40.83%）
知識グラフを段階的にたどらせてSPARQLを生成する手法MARSが、ファインチューニングなしで既存手法を上回った。ただし最高でもMacro F1は66.29%、最難関ベンチマークでは40.83%。社内DBへの自然文質問AIを検討する中小企業が、精度の天井をどう見積もり、どこに人を残すべきかを一次資料の数字から読む。
続きを読む →