「そばにいてくれるAIの相棒」を個人開発した記録 ― 安全配慮とコスト防御を軸に、CDK×Lambda×Geminiで作る

個人開発者が、一人暮らしの人向けに AI コンパニオンアプリ「MIMIKU」を作りました。選んだ動物キャラが性格に沿って返してくれる相棒アプリです。技術は React + AWS + Google Gemini のサーバレス構成。ここまでは普通の AI 応用ですが、この記事の主役は技術ではなく、三つの設計判断にあります。①命に関わるセーフティ設計——自傷・自殺の明確なほのめかしには定型文で受け止め、専門窓口へ橋渡しする。②課金暴走を防ぐ多層コスト防御——1日100通、1分5通の利用制限、履歴は直近10往復だけを送る。③個人開発でも破綻しないデータ設計です。

ここが本当に面白い。企業の AI 応用では「高性能なモデルを使った」「スケーラブルに設計した」という話が先に来ます。でも個人開発者は違う。最初から「このアプリが誰かを傷つけたらどうするか」「毎月の請求が1万円を超えたらどうするか」を考えている。課金暴走防御なんて、AI 企業の公開プロダクトではまず見かけません。でも、もし万が一 API 呼び出しが暴走したら、個人開発者は一文無しになります。一方、企業は「規約に書いてある」で終わらせる。責任感の所在が違うのです。セーフティについても同じ。窓口案内をコード内に埋め込み、空応答になったら定型文でフォールバックする。これは LLM の不確実性を前提にした、本気の保険です。

AI を内部で使うなら、個人開発者の設計判断を参考にしてください。「いくらまでなら課金暴走を許容できるか」「万が一 API が落ちたときのフォールバックは何か」「データ漏洩したら誰に報告するか」。企業向けプロダクトより先に、こうした境界条件を決めるだけで、事故の半分は防げます。