AI基盤
高額なAI端末やローカルAI環境を導入しても、社内で使いこなせなければ投資効果は十分に得られません。
本カテゴリでは、外部AIに出しにくい資料や映像を扱う現場向けに、ローカルLLM、RAG、OCR、音声・画像・動画処理の検証を整理しています。
これらの記事は、IT・AI導入前の業務整理、ローカルAI活用のPoC設計、社内担当者の内製化支援などを検討する際の参考情報として掲載しています。
iPhoneからオンプレLLMへ直接接続する:LAN・VPN経由のテキストチャットを検証
オンプレLLMで委員意見を評価項目に結びつけるPoC:論点ラベルなし条件で試した候補生成とLLM再ランキング
オンプレLLMで業務資料を整理するPoC:外部AIに出しにくい委員会資料を評価指標と要確認箇所に分ける
源内OSS公開を機に考えるオンプレRAG:外部AIアプリAPIの考え方をFastAPI+FAISS+NVIDIA Blackwell (GB10) 想定...
NVIDIA Blackwell (GB10) 上で 120B 巨大知能を「実戦配備」するレシピ:vLLMの壁を越え Native FP4 を活用した...
RTX 5070 Ti (16GB) 上で dots.ocr と vLLM を連携させるレシピ:機微PDFのローカル構造化
NVIDIA Blackwell (GB10) 上で vLLM と Whisper を共存させるレシピ