【概要】
LLM(大規模言語モデル)研究用コンピューターのグラフィックボード2枚挿しモデルです。より大規模なLLMに対応できます。

必要なソフトウェアはあらかじめプリインストールされているため、電源をいれたらすぐに対話チャットWebアプリでLLMを試すことができます。

もうAI実行に必要なPCパーツ構成や煩わしいソフトウェアインストールに悩まず、必要な作業にご集中いただけます。


【特長】

- 洗練されたWebUIをもつAI対話チャットツール "ChatStream" をプリインストール。開発ツールをつかってプロンプト確認やパラメータ調整も可能

- AI演算用のGPUとして 2基の GeForce 4060Ti(16GB) を搭載しており、13B(130億パラメータ)クラスのLLMまで対応

- 冷却に特化したシャーシ設計でフロント2基、リア1基、トップ2基、合計5基のファンによる高効率エアフローを実現し本体内を強力冷却しLLMを使用した長時間推論でも安心

- LLMの動作に必要十分なスペックを追求し、高いコストパフォーマンスを実現

【主なスペック】

＜ハードウェア＞
CPU : 第13世代 Intel Core i5 13400F(2.5GHz)
M/B : Intel Z790 チップセット搭載マザーボード
GPU : 2×NVidia Geforce RTX 4060Ti(16GB)
RAM : 64GB/DDR5
SSD : 1TB
Power: 850W 80Plus Gold



＜導入済ソフトウェア＞
- Ubuntu Desktop 22.04.2 LTS
- Python 3.10(Anaconda)
- Pytorch 2.0
- CUDA 11.7
- ChatStream 0.5.0

＜寸法＞
梱包サイズ : 580(D) x 500(H) x 260(W) cm 12kg
本体外形 : ミドルタワー
本体外形寸法 : 195(W)×445(H)×503(D)mm(最大突起部含む)
本体重量 : 12kg
本体フレーム : SECC(電気亜鉛メッキを施した鋼板)


【同梱】
- PC本体
- 電源ケーブル
- ライセンスガイド
- スタートアップガイド

（マウス、キーボードは付属していません）


【プリインストールソフトウェアについて】

＜プリインストールソフトウェアの保証について＞
本製品にプリインストールされているソフトウェアにつきまして出荷前の動作確認はしておりますが、完全な動作を保証するものでありませんのであらかじめご了承ください。

＜プリインストールソフトウェアのライセンスについて＞
プリンストールソフトウェアのご使用にあたっては各ソフトウェアのライセンスへの同意が必要となります。
ご購入後、同梱されたガイドの手順に従い各ライセンスの処理を行ってください。


【動作確認済モデル(※)】

以下のモデルについて本機にて動作確認を行っております

大規模言語モデル(日本語)
- matsuo-lab/weblab-10b-instruction-sft
- cyberagent/open-calm-7b
- cyberagent/open-calm-3b
- rinna/japanese-gpt-neox-3.6b-instruction-sft-v2
- rinna/bilingual-gpt-neox-4b-instruction-sft
- rinna/japanese-gpt-neox-3.6b-instruction-sft
- rinna/japanese-gpt-neox-3.6b-instruction-ppo
- stabilityai/japanese-stablelm-instruct-alpha-7b
- line-corporation/japanese-large-lm-3.6b-instruction-sft
- stockmark/gpt-neox-japanese-1.4b

　実際どのように動作するかはこちらのデモでご確認いただけます
　【デモ】https://chatstream-demo01.qualiteg.com/


大規模言語モデル(英語)
- meta-llama/Llama-2-7b-chat
- openlm-research/open_llama_3b_v2
- openlm-research/open_llama_7b_v2
- openlm-research/open_llama_3b
- togethercomputer/RedPajama-INCITE-Chat-3B-v1
- togethercomputer/RedPajama-INCITE-7B-Chat
- mosaicml/mpt-7b-chat
- databricks/dolly-v2-7b
- databricks/dolly-v2-3b


※ 当社にてマルチラウンドの文章生成を行い動作確認済ですが、上記モデルの動作を完全に保証するものではありません。

【納期の目安】
ご注文いただいてから製造するため、１週間～３週間程度が発送の目安となります。
（即納モデルを除く）

【返品ポリシー】
納品日から10日間以内であれば、返品可能です(一部製品を除きます）。
返品にかかる配送料は、返品理由がQualitegの責めに帰すべき事由による場合を除き、お客様にご負担いただきます。

【保証期間】
出荷日から1年間となります。



【背面パネル端子】

＜グラフィックカード側＞
- HDMI 2.1 Port
- 3 x DisplayPort 1.4
- DisplayPort 1.4

＜マザーボード側＞
- HDMI 2.1 Port(無効。グラフィックカード側をご使用ください)
- DisplayPort 1.4(無効。グラフィックカード側をご使用ください)
- USB 2.0 Port
- USB 3.2 Gen 2 10Gbps Type-A
- 2.5G LAN Port
- Wi-Fi / Bluetooth Antenna
- HD Audio Connectors
- Flash BIOS Button
- USB 3.2 Gen 1 5Gbps Type-A
- USB 3.2 Gen 2 10Gbps Type-A
- USB 3.2 Gen 2x2 20Gbps Type-C
- Optical S/PDIF OUT