Abliteration.ai、ガードレール外したAIモデルでビジネス展開

Abliteration.aiというスタートアップが、生成AIから「ガードレール」（危険な用途への拒否機能）を外した改造モデルを商用提供し、注目を集めている。通常、大手のAIモデルは安全装置を施して配布されるが、Abliteration.aiはそれを外したバージョンを低価格で提供し、「セキュリティテスト」や「赤チーム演習」という名目で正当化している。実際に試してみると、コード盗難の方法やバイオ兵器情報まで、モデルはためらいなく出力するという。

AIの鬼が引っかかるのは、「セキュリティ」という正当性だ。防御側も攻撃側も同じ強力なツールを使える時代が本当にやってきたということである。かつてセキュリティ専門家は「限られた」知識と技術を駆使して防御線を張っていた。だが今は、その専門知識がオープンソース化され、誰でも手に入る時代だ。「なりすまし」「詐欺」「情報抽出」といった悪意ある使途も、一瞬で実行可能になる。セキュリティ業界が「赤チーム」という正当性を盾に、実質的には「何でもできるAI兵器」を売っているのと変わらない。

中小企業の現場では、AIツール導入時に「このAIは何ができるのか」という質問は頻繁に出るが、「何をしないようにできるのか」という質問はほぼ出ない。だが実務には後者が重要だ。顧客データを扱う場合、「このAIは顧客情報を外部に送信しないか」を確認すべきだ。営業オートメーションに使う場合、「このAIが勝手に有害なメール文を生成しないか」を確認すべきだ。AIを選ぶときは「制約」を最初に確認する癖をつけるべき時代になったということだ。