AIの鬼
#新モデル Zenn AI

# くらべたら爆速 - Appleの新「Core AI」を実機ベンチ

# くらべたら爆速 - Appleの新「Core AI」を実機ベンチ(内容を表す図ではないイメージ画像)
イメージ

Core AIをiPhone 17 Proで実装し、MLXおよび自作のCoreML実装と並べてベンチマークした結果が公開された。同じモデル(Qwen3-0.6B)、同じハーネス、同一の測定条件下での比較で、Core AI GPUは定常時(warm)に181トークン/秒を記録。これはMLXの112トークン/秒と比べて約1.6倍の高速だ。唯一の弱点は初回起動時のコンパイルコストで、最初の1回だけは71トークン/秒まで落ちるが、2回目以降はキャッシュされたカーネルで定常速度に戻る。 この結果の衝撃は「Appleフレームワークが決してユーザー向けにぬるく最適化されているわけではない」という前提を打ち破ったことにある。これまでは「開発者向けツール(MLX)は速く、エンドユーザー向けフレームワークは遅い」という業界通念があった。だがCore AIは使いやすさと高速性を両立させた。その秘密は静的形状と動的形状の2つのエンジンを構造に応じて自動選択する設計にある。ANE(Apple Neural Engine)で固定的なパターンは爆速に、GPU上の動的処理はパイプライン化で効率化する。この「用途に合わせて実行部品を選ぶ」という戦略がハード層の最適化と噛み合った結果だ。記事ではメモリ効率も示されており、別の実装が最小(184MB)だが遅い一方、Core AIは速度とメモリのバランスが実用的という実測データが開示されている。 製造業や流通業にとってこれは意味がある。オンデバイスAIが「プライベート・低遅延・電池効率」の3点を同時に実現し始めたということだ。例えば工場の検査ラインにiPhone 17 Proを1台置き、画像認識で不良を判定する。クラウドへのアップロード遅延がなく、データも内部に留まる。現場のスマートフォンだけで意思決定ツールが完成する時代がようやく来た。

※ 上記は配信元記事をもとにAIの鬼編集部が要約・再構成したものです。正確な内容は出典元をご確認ください。

御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →