優秀なAIほど、ポンコツになるのはなぜか ── 殴ってくる外部と、飲み込める外部
AIに文章を書かせたことがある人なら、たぶん一度は見ている光景だと思う。 出てきた原稿は、文法的に自然で、構成も整っていて、見出しも小綺麗についている。ぱっと読む分にはそれらしい。ところが中身を追っていくと、根拠の書かれていない断言が混じっていたり、引用元を開いたらそんなことは書かれていなかったり、こちらが渡した資料が読まれた形跡がなかったりする。指摘して直させると、また同じくらい綺麗な原稿が出てくる。同じ問題を抱えたまま。 不思議なのは、同じモデルにコードを書かせている時には、そうならないことだ。デバッグを任せている時のAIは普通に有能で、多少あやしい仮説を立ててもすぐ軌道に戻ってくる...
出典: Zenn AI(配信元の紹介文より引用)
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →


