株式会社久（Q Inc.）でデータサイエンティストを務めるRINです。
最近、業務効率化や顧客対応のために生成AIを導入する企業が増えています。しかし、「自社の製品について質問したら、全く違う仕様の回答が返ってきた」「嘘の回答が多くて、結局人間がチェックしている」といったお悩みを抱えていないでしょうか。
実は、AIを実務で活躍させるために最も重要なのは、AI自体の性能ではありません。AIに正しい情報を教えるための「社内データの整理」です。
この記事では、データサイエンティストの視点から、AIがもっともらしい嘘をついてしまう理由とそれを防ぐ仕組み、そしてAI活用を成功に導くデータ作りのポイントを分かりやすく解説します。
なぜAIは嘘をつくのか？
生成AIは、インターネット上の膨大なテキストデータを学習し、次に続く確率が最も高い言葉を繋ぎ合わせて文章を作っています。そのため、学習データに含まれていない自社の非公開マニュアルや最新の製品情報について質問されると、それらしい文脈を無理やり作り出し、事実とは異なる回答を出力してしまいます。これが「ハルシネーション」と呼ばれる現象です。
この課題を解決するために開発されたのが、RAG（検索拡張生成）という技術です。
RAGの仕組みは、人間に例えると「辞書や教科書を持ち込める試験」に似ています。自らの記憶だけで答えさせようとすると、AIは嘘をついてしまいます。そうではなく、質問に関連する社内の正しい資料をあらかじめ検索してAIの手元に用意し、それを読んだ上で回答を作らせることで、正確な案内が可能になります。
専門知識なしでわかるRAGの仕組み
では、RAGは裏側でどのように動いているのでしょうか。単にAIにPDFを読み込ませているわけではなく、システム内部では次のような処理が自動で行われています。
- AIが読みやすいサイズに切り分ける
自社のマニュアルやFAQなどの長文データをそのまま渡すと、AIは情報を処理しきれません。そのため、文脈が途切れないように意味のまとまりごとにデータを適切な長さに分割します。 - 言葉の意味を数値に変換する
分割した文章は、AIが理解しやすいように多次元の数値データに変換してデータベースに保存されます。これにより、表記の揺れがあっても意味が近い情報を探せるようになります。 - 質問に関連する情報を探し出す
ユーザーから質問が入ると、システムはデータベース内から質問の意図に最も近い情報を瞬時に検索し、抽出します。 - ルールに従って回答を作る
探し出した関連資料をAIに渡し、「この参考情報のみに基づいて答えてください」と指示を出すことで、事実に基づいた正確な回答が生成されます。
実務で比較：データが整理されているかどうかの違い
RAGの仕組みを取り入れても、参照するデータそのものの状態によってAIの賢さは大きく変わります。新製品「A-100」の返品保証期間を質問したケースで比較してみましょう。
パターンA：データが整理されていない場合
社内の共有フォルダに、昨年の古い規約（保証14日）と最新の規約（保証30日）が混在しています。また、最新規約は紙をスキャンしただけの画像データでした。
- AIの挙動： 新旧のファイルが混在しているためどちらが正しいか判断できず、さらに画像データの文字を読み落としてしまいます。
- 結果： AIは自信満々に「返品保証期間は14日です」と古い情報を答え、顧客とのトラブルに発展してしまいます。
パターンB：データが常に整理・連携されている場合
社内のドキュメント管理システムやECシステムがデータ連携ツールによって一元管理され、常に最新の状態に自動アップデートされています。表組みのデータもAIが読み取れる形式に変換されています。
- AIの挙動： 迷うことなく最新の改定後規約と製品情報をピンポイントで探し出します。
- 結果： AIは「最新の規約に基づき、保証期間は30日となっております」と、正確な根拠とともに回答します。
ゴミを入れれば、ゴミが出てくる
データサイエンスの世界には「ゴミを入れれば、ゴミが出てくる」という有名な格言があります。どれほど高価で最先端のAIを導入しても、読み込ませる社内データが古かったり乱れていたりすれば、AIはもっともらしい嘘を出力するだけです。
特にビジネスの現場では、価格情報や在庫数などは日々変動します。データが自動で更新される仕組みがないと、AIは古い情報を参照してしまいます。また、エクセルの複雑な表データなどもAIはうまく読み取れません。
つまり、実務で使えるAIを構築する最大の鍵は、常に最新かつ整理された社内データを、AIへ自動で供給し続けるデータ基盤を整備することなのです。
自社に合ったAI導入手法の選び方
システム連携やAI導入を考える際、どの手法が自社に適しているか、以下の比較を参考にしてみてください。
RAGの導入が向いている企業の特徴
- マニュアルや製品仕様が頻繁に更新されるため、常に最新情報を答えさせたい
- AIの回答に「マニュアルの〇ページを参照」といった根拠を提示させたい
- 莫大な開発費用をかけずに、既存のデータを活かして業務を効率化したい
AI活用に向けたネクストアクション
生成AIは、自社の専門知識を持った優秀なデジタル社員になるポテンシャルを秘めています。しかし、その社員が正しく働くためには、常に新鮮でクリーンなデータが届く環境が欠かせません。
AIの導入を成功させる第一歩として、まずは「AIに答えさせたい情報（商品マニュアルや社内規定など）」が、現在どこに、どのような形式で保管されているかを確認するところから始めてみてはいかがでしょうか。
■ECデータ×AI活用のECデータマネジメントクラウド「ECコネクター®」についてはこちら
〈筆者プロフィール〉
データサイエンティスト RIN
前職では、出版業界にてECモールの運営や在庫管理などの実務を担当。現在は株式会社久にて、データサイエンティストとして購買データや会員データの加工、分析、モデル構築などに携わる。 本コラムでは、EC現場での実体験とデータサイエンスの知見を掛け合わせ、データ連携や前処理の時短テクニック、AIを活用した業務効率化のノウハウをわかりやすく解説します。
