そのAI開発、ハルシネーションに耐えられる? ― 何も知らずに開発すると、気づかないまま壊れていく
🖋 Content 1. 導入:「視界を絞る」は誰にでもできる操作ではない 「そのAI開発、ハルシネーションに耐えられる?」と聞かれて、即答できる人は多くないと思う。少なくとも自分は、この記事で書く実例に本番環境で行き当たるまで、即答できなかった。 以前、AIの「視界」をハックせよ。という記事を書いた。要旨は、AIに何でも見せるのではなく「今どこを見るべきか」をこちらが明示的に区切ってやると、推論のノイズが減って精度が上がる、というものだった。 この記事を書いたあとで、一つ気になっていたことがある。あの「視界を絞る」という操作は、実はかなり高度な前提の上に成り立っている。「ログイ...
出典: Zenn AI(配信元の紹介文より引用)
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →


