BLOG
オンプレLLMで業務資料を整理するPoC:外部AIに出しにくい委員会資料を評価指標と要確認箇所に分ける
源内OSS公開を機に考えるオンプレRAG:外部AIアプリAPIの考え方をFastAPI+FAISS+NVIDIA Blackwell (GB10) 想定...
NVIDIA Blackwell (GB10) 上で 120B 巨大知能を「実戦配備」するレシピ:vLLMの壁を越え Native FP4 を活用した...
RTX 5070 Ti (16GB) 上で dots.ocr と vLLM を連携させるレシピ:機微PDFのローカル構造化
NVIDIA Blackwell (GB10) 上で vLLM と Whisper を共存させるレシピ
【初心者向け】AWS EC2×Docker×Ollama×Open WebUIでプライベートLLM環境を構築!
TabPyによるk-meansクラスタリング
TabPy経由のRESAS-API接続