生成AI 【総集編】生成AIを仕事で使う前に、作る側でなくても知っておきたい4つのこと
生成AIを使ったシステムは、作る人だけのものではありません。発注する人、導入を決める人、日々使う人にも、最低限の知識が必要です。 知らないままだと、ベンダーの説明が正しいか確かめられず、リスクにも気づけません。 この記事では、OWASP（W...
生成AI
生成AI 生成AI 【詳細①】生成AIはなぜ嘘をつくのか：ハルシネーションと情報漏えいの基礎
ハルシネーションとは ハルシネーションとは、生成AIが、正しそうに見える嘘の情報・作り話を出力することです。 OWASPは、AIが学習データの隙間を、統計的なパターンで埋めるために起きると説明しています。内容を本当に理解しているわけではない...
生成AI 【詳細②】RAGとは何か：「資料を調べて答えるAI」の仕組みと注意点
RAGとは RAG（ラグ）は、Retrieval-Augmented Generation（検索で補強した文章生成）の略です。 AIが、答える前に外部の資料から関連する部分を探し、それを参考にして答えを作る仕組みです。社内の規程やマニュアル...
生成AI 【詳細③】AIならではの攻撃：プロンプトインジェクションを中心に
プロンプトインジェクションとは プロンプトインジェクションとは、AIへの入力に細工をして、AIの動作や出力を作り手の意図しないものに変える攻撃です。OWASPは、LLMアプリの最大のリスクとして、これを第1位に挙げています 。 OWASPの...
生成AI 【詳細④】AIの「良し悪し」をどう測るか：評価（テスト）の基本
「なんとなく良さそう」では判断できない AIの出力は、毎回少しずつ違います。「何度か試したらうまくいった」では、本番で通用するかわかりません。 そこで必要になるのが、評価（eval、エバル）です。決まった問題とチェック基準を用意して、AIの...
生成AI 【詳細④】評価と運用：プロンプトは「書いて終わり」ではない
先に「成功の基準」を決める Anthropicのプロンプト入門ガイドは、始める前に、次の点を求めています。何をもって成功とするかをはっきり決めることその基準に照らして、実際に試して確かめる方法があること最初の指示文の下書きがあること また、...
生成AI 【詳細③】考えさせ方と見直させ方：「考えて」「確かめて」の正しい使い方
じっくり型は「先輩」、ふつう型は「新人」 OpenAIは、AIの種類による違いを、次のようにたとえています 。じっくり考えるタイプ（推論モデル）：ゴールを伝えれば、細かいところは自分で詰められる先輩社員。大まかな指示で、よい結果が出やすいふ...
生成AI 【詳細②】お手本と整理の仕方：「見せる」「区切る」で精度を上げる
お手本を3〜5個、「近い・幅広い・区切る」で お手本を少しだけ見せて、同じように答えてもらう方法を、専門用語で「few-shot（フューショット）」と呼びます。 Anthropicは、これで正確さと安定感が上がるとしています。お手本は、次の...
生成AI 【詳細①】明確さ・理由・肯定形：プロンプトの土台
「新人に渡す指示書」として書く Anthropicの公式ガイドは、どんな形で、どんな条件で出してほしいのかを具体的に書くこと、順番や漏れが大切なときは番号をふった手順にすることを勧めています 。 「期待以上」の出来を求めるなら、察してもらう...
生成AI 【総集編】生成AIを使いこなすプロンプト術：7つの原則
「プロンプト」とは、AIに出す指示や質問の文章のことです。 プロンプトの書き方というと、特別な呪文のようなコツを探したくなります。 しかし、AnthropicやOpenAI、Googleといった各社の公式ドキュメントを読み比べると、会社が違...