ローカルRAGスターターBOXは、LLMアプリケーションの開発や高速化など数々のAI開発実績を誇る株式会社Ridge-iと共同開発したモデルです。
大規模言語モデル(LLM)の開発において、機密性の高い学習データをイントラから外に出すことに安全上の様々な懸念があることが多い中、お手軽・迅速・安全利用したいユーザーに最適です。
スタンダードモデルのGPUは NVIDIA Ada Lovelaceアーキテクチャを採用したRTX Adaシリーズを搭載し、第3世代の RT コア、第4世代の Tensor コア、次世代 CUDA® コアを搭載。高いAI学習性能及び推論性能を実現します。
開発環境には Dify OpenWebUIと Ollama Xinference を実装し、 AIモデルには2025年1月7日に公開された最新のMicrosoft Phi-4
[14Bモデル] 、2024年公開のLlama 3.1など複数のモデルをプリインストールしています。そのため、届いたその日から最短時間で基本機能が稼働し、迅速に業務への導入が可能です。加えてRidge-iのQ&Aに利用できるQ&Aチケットが付属していますので、サポートを受けながらスムーズな導入が可能です。
また、ローカルRAGスターターBOXは、ハードウェア構成のオプションとしてGPUカードの追加、ストレージの増設などにも柔軟に対応し、PoCから実装運用フェーズまで包括的にサポートいたします。
- Intel Xeon
- 1CPU
- Ada Lovelace
- 3GPU
- PCIe 5.0
- 10GbE
- IPMI
- SATA
- M.2
- slim SAS
- NVMe
- 8 DIMM slots
- DDR5
- ECC Registered
- 1年保証