AIの鬼
#新モデル Zenn AI

P100向けにllama.cppをビルド

P100向けにllama.cppをビルド(内容を表す図ではないイメージ画像)
イメージ

とりあえずメモ # 必要なツールをインストール # 特にopensslはhuggingfaceから直pullする場合に必須 sudo apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y # リポジトリをクローン git clone https://github.com/ggml-org/llama.cpp # CMAKE_CUDA_ARCHITECTURESでCCを60で指定必須 cmake . -DGGML_CUDA=ON -DCMAKE_CUDA_ARCHITECTURES=60 ...

出典: Zenn AI(配信元の紹介文より引用)
御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →