Claudeにアプリ開発で相談したら共演NGをくらったときの話

「ユーザーの好みに合う画像を検索・生成できるアプリ」を作りたいと考えた開発者が、Claude Code で要件整理の相談をしたところ、初手から拒否された。理由は成人向けコンテンツを含む設計だったからだ。年齢確認の仕組みがない、実在人物に似せられる恐れがある、無制限の投稿によるモデレーションコストが現実的でない——指摘は妥当だった。そこで開発者は条件を変えながら何度も相談を重ねた。実在人物の制限を外したら？検索のみにしたら？管理者だけがアップロードするなら？人間がチェックするなら？その都度、新しい問題が指摘された。著作権、国ごとの法規制、見落としの確率、利用規約——個別の対策は浮かぶが、どれだけ積み上げても最終的な答えは変わらず、AIから事実上の共演NGを食らっていたことに気づく。ここで深い学習がある。「対策を積めば通る」と思う甘さが、AIの実際の判断枠組みを見落としていたのだ。AI ベンダーのNOには二種類ある。技術的に対策で回避できるものと、根本的にプロジェクトの目的そのものへの拒否である。後者は条件変更では解決しない。この事例から中小企業が学ぶべきは、AIに依存する前に「このプロジェクトはAIベンダーの規約的にOKか」を事前確認することの重要性、そして「難しい要件」と「根本的にNG」の判別である。複数のAIオプション——オープンソースモデルやローカル実行——も検討の射程に入れる必要があるが、結局のところ「AIとの共演の可能性と不可能性の線引き」が、AI 時代の事業計画の分岐点になる。