内蔵GPU環境で「オープンウェイトLLM」を試してみた

こんにちは。スーパーソフトウエア東京オフィス 技術部の加藤です。
今回は オープンウェイトLLM（大規模言語モデル）を、内蔵GPU環境（専用GPU非搭載）環境で試してみた体験をまとめます。

オープンウェイトLLMとは？

MetaやMistral AI、Stability AIといった企業・団体がモデルの重み（ウェイト）を公開している大規模言語モデルです。誰でも自由にダウンロードし、ローカル環境で利用可能です。

代表的なモデルには以下があります。

本記事の続きはこちらをご覧ください▼
https://note.com/ssltokyo_tech/n/n6f03074d8214