AIの鬼
#半導体・インフラ Zenn AI

Mac でローカル LLM を始める前に知っておきたい、ユニファイドメモリの話

Mac でローカル LLM を始める前に知っておきたい、ユニファイドメモリの話(内容を表す図ではないイメージ画像)
イメージ

はじめに 「ローカル LLM を試したいが、手元のマシンで動くのか」— ローカル LLM の相談で、最終的に行き着くのはいつもマシンの話です。 先に結論を書きます。Apple Silicon の Mac をすでにお持ちなら、ローカル LLM を始める壁はかなり低いです。特別な増設も、外付け GPU も要りません。この記事では、その理由であるユニファイドメモリの仕組みを、Windows + GPU 構成との構造の違いとあわせて説明します。 お断りしておくと、これは「Mac と Windows のどちらが優れているか」という記事ではありません。性能やコストの比較は、チップの世代や価格改定...

出典: Zenn AI(配信元の紹介文より引用)
御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →