生成AIが答えを作る3つのステップ(学習・予測・生成)と、AIがときどき事実と違うことを言う「ハルシネーション(幻覚)」のしくみを3分で紹介します。業務で使うときに人間が確認したい部分もあわせてまとめました。
「生成AIって、結局自分に関係するの?」——ニュースで耳にしても、なんだか難しそうに感じるかもしれません。でも、しくみは思っているほど複雑ではありません。3分読めば、AIがどう動いているかと、自分の仕事のどこをAIと組めて、自分は何に時間を使えるようになるかがわかります。
この記事を読むと、こんなことができるようになります。
- 生成AIが答えを作るしくみ(連想ゲームのような3ステップ)がわかる
- AIが事実と違うことを言う「ハルシネーション(幻覚)」と、人間が確認すべきポイントがわかる
- AIに任せていい仕事と、今のところ人間がやるのが向いている仕事の分け方がわかる
この記事は3分で読めます。
生成AIのしくみは3ステップ
生成AIがやっていることは、ざっくり言うと「連想ゲーム」です。たくさんの文章を読んだうえで、前の言葉に自然につながりそうな言葉を、ひとつずつつないでいきます。中身は次の3つのステップでできています。
- 学習:大量の文章をあらかじめ読み込む
- 予測:入力された言葉のあとに、自然につながりそうな言葉を並べる
- 生成:そのなかからいちばん自然なものを選び、つなげて文章にする
たとえば「おはよう」と入力すると、AIは続きそうな言葉として「ございます」「世界」「太郎くん」などを候補に挙げ、いちばん自然なものを選んで文章を組み立てます。私たちが「『おはよう』のあとは『ございます』が自然」と感じるのと、似た仕組みです。
AIは情報を「覚えている」のではなく、毎回「次に来そうな言葉」を連想ゲームのようにつないでいる、というのが基本的なしくみです。
AIが事実と違うことを言う「ハルシネーション(幻覚)」
AIは「もっともらしくつながる言葉」を選んでいるだけで、その言葉が事実かどうかまでは判断していません。そのため、自然な文章のなかに、事実と違う内容が混ざることがあります。これをハルシネーションと呼びます。
たとえば、こんな場面で起きます。
- 実在しない法律名や条文番号を、本物のように出力する
- 存在しない書籍タイトルや著者名を、参考資料として挙げる
- 金額・日付・統計データを、間違った数字で出す
故障や悪意ではなく、AIのしくみ上どうしても起きる現象です。
AIには「下書き」を任せる
では、連想ゲームのように言葉をつなぎ、ときどき事実と違うことを言うこのAIを、業務にどう取り入れればいいのでしょうか。結論から言うと、AIには「下書き」を任せます。下書きには、メールや報告書のたたき台だけでなく、長文の要約、英文の下訳、アイデア出し、それに考えがまだ固まっていないときの「AIと話しながら整理する」壁打ちまで含みます。
白紙からゼロを1にするのは、誰にとっても時間とエネルギーがいる作業です。そこをAIに任せれば、自分は「判断する・選ぶ・仕上げる」に集中できます。
人間の出番が「考えること」にシフトする
AIに下書きを任せると、自分の出番が変わります。今のところ人間がやるのが向いているのは、仕事の「上流」(そもそも何をするかを決める)と「下流」(完了前の最後の判断と責任)の部分です。
- 仕事のゴールを決める(誰に、何を、どう伝えるか)
- AIに「何を、どんなふうに作ってもらうか」を指示する
- 相手の事情を踏まえて、言葉を選ぶ
- 「これで完成として良いか」を意思決定する
イメージは、「自分でやれば1時間かかる仕事を、AIと組んで20分で仕上げる」働き方です。仕事の中身が「手を動かす作業」から「考えること・人と向き合うこと」へシフトしていく、これがAIを取り入れる本当の狙いです。
とはいえ、いきなり働き方を変える必要はありません。AIは「変えなきゃ」じゃなく、「選択肢が増える」道具です。困っていないなら今のままでOK、合わなければ戻ればいい。試すハードルはそれくらい低くて構いません。
「確認の仕事」は残る — 対象が移るだけ
ここで気をつけたいのは、AIに任せても「確認する仕事」自体は消えないということです。これまでは自分で作業しながら「この状況に合っているか」「この事実は正しいか」を自然に確認していました。AIを使うと、その確認が「AIの下書きをチェックする仕事」として、作業の途中・作業後に切り出されてきます。
確認することの重要性は変わらず、確認のタイミングと対象が「自分の手」から「AIの下書き」に移る、というイメージです。
特に次の4つは、公式の情報源で確認してから使う必要があります。
- 固有名詞:会社名・人名・商品名・サービス名
- 数字:金額・日付・統計データ
- 法律・制度:法令名・条文・社内規程
- 最新の情報:AIが学習した時点より新しい出来事
ただし、確認すべき観点は業務や職種、扱うデータによって変わります。慣れてきたら、チーム内で「どんな観点をチェックしているか」をお互いに共有してみてください。一人では気づきにくいポイントが見えてきます。
次のステップ
「AIってこういう道具なんだな」とつかめたら、次は実際に頼んでみる番です。次の記事「②書く:プロンプトの書き方」では、メール返信を例に、AIへの上手な頼み方を3分で紹介します。
個人で試して「これ便利」というパターンが見つかったら、チームに持ち帰ってみてください。ひとりの工夫がチーム全体の使い方になっていく、それがAIと組む働き方の広がり方です。
1本約3分の小分け構成です。お好きなペースで読み進めてください。