2025年1月18日 AI研究(Ollamaインストール)

世間では何かと話題なAIですが、使うだけではなく実際に実行環境を作成し、
動かして何が出来るかを研究する為に、AI研究部を立ち上げました。

初回は、Ollamaをインストールし生成AIとは、どんなものかを検証しました。

Ollamaのインストールは、インターネットでも情報が溢れていて、簡単にインストールできました。
次に日本語化して、モデルを導入しました。

実際に動かしてみると、回答が返ってくるスピードがぎこちない。
どうやら、cpuが使われていたので遅かったようです。

NVIDIAのグラボが入っていたので、NVIDIAのドライバとツールキットをインストールしましたが、
NVIDIAを使っている感じがしない。

原因は、オンボードのGPUを使用していたので、BIOS設定でNVIDIAを有効にしたら、
回答がスムーズに返ってきました。
こんな落とし穴があったとは。。。

それでも、作業時間は4時間半ぐらいで、環境を作ることができました。

次回は、モデルを作成してみたいと思います。