Private AI Contactを実装しました

N.H.RのWebサイトに、新しいお問い合わせ窓口「AI Contact」を実装しました。

画面右下の「AI Contact」から、ご相談内容をそのまま入力していただけます。まだ相談内容がまとまっていなくても構いません。AIが会話を通して内容を伺い、整理したうえでN.H.Rの担当者へ引き継ぎます。

今回のAI Contactでは、問い合わせ内容を外部のAIサービスへ送信する構成を採用していません。

会話管理にはOSSのChatwootを利用し、N.H.Rが実装したContact APIと、オンプレミス環境で稼働するOllama / Qwenを組み合わせています。

問い合わせ窓口に必要なのは、AIにすべてを任せることではありません。

自然な会話や相談内容の整理はAIに任せながら、入力内容の確認、状態遷移、担当者への引き継ぎなど、確実性が必要な処理はシステム側で制御しています。

また、今回の環境では大規模なGPUサーバーを使用していません。限られたCPU・メモリ環境でも、AIに任せる役割を適切に限定することで、実用的なサービスを構成できるのか。その検証も今回の実装の目的のひとつです。

AI Contactは、このWebサイトの右下から実際にお試しいただけます。

構成や実装方法、ローカルAIを採用した理由、実際に構築・運用して分かったことについては、今後外部のテックブログで詳しく紹介する予定です。