生成AIを安全に使うには、できることだけでなく、学習、入力、出力、評価の仕組みを理解する必要があります。基本30語を流れに沿って整理します。
AIとモデルの基本
- AI：予測、認識、生成など知的処理に関する広い概念です。
- 機械学習：データからパターンを学び、予測や分類に使う方法です。
- 深層学習：多層のニューラルネットワークを使う機械学習手法です。
- 生成AI：学習データの特徴を基に新しいコンテンツを生成するAIです。
- 基盤モデル：広いデータで学習し、多様な用途へ適応できるモデルです。
- LLM：大量の文章から言語パターンを学ぶ大規模言語モデルです。
- パラメーター：学習によって調整され、モデル出力へ影響する数値です。
- 推論：学習済みモデルへ入力を与えて出力を得る処理です。
入力と出力
- プロンプト：生成AIへ与える指示や文脈です。
- トークン：モデルが文章を処理する単位です。
- コンテキストウィンドウ：一度に参照できる入力・出力の範囲です。
- 出力：モデルが生成した文章、画像、数値などです。
- 温度：生成候補の選び方の多様性に関係する設定です。
- マルチモーダル：文章、画像、音声など複数種類の情報を扱うことです。
学習と適応
- 学習データ：モデルがパターンを学ぶために使うデータです。
- 事前学習：大規模データから一般的な能力を学ぶ段階です。
- ファインチューニング：追加データで特定用途向けにモデルを調整することです。
- 埋め込み：文章などの意味的特徴を数値ベクトルで表す方法です。
- ベクトル検索：埋め込みの近さを使って関連情報を探す方法です。
- RAG：外部情報を検索して生成時の文脈へ加える仕組みです。
品質と評価
- ハルシネーション：もっともらしい誤情報を生成する現象です。
- グラウンディング：回答を特定の根拠やデータへ結び付けることです。
- ベンチマーク：共通の課題やデータで性能を比較する評価方法です。
- 人手評価：人が正確性、有用性、安全性などを評価することです。
- レッドチーミング：意図的な試験で弱点や危険な挙動を探す活動です。
安全性と運用
- バイアス：データや設計により出力が偏ることです。
- プロンプトインジェクション：外部入力で本来の指示を上書きしようとする攻撃です。
- ガードレール：危険な入力や出力を制限・監視する仕組みです。
- モデルカード：モデルの用途、性能、制約などを記した資料です。
- AIガバナンス：AIの責任、ルール、リスク、監視を管理する仕組みです。
業務利用の確認点
機密情報を入力してよいか、出力を誰が確認するか、参照資料へ戻れるか、誤りが与える影響を決めます。モデル名だけでなく、利用条件と更新後の評価も記録します。
まとめ
生成AIは確率的に出力を作るため、正解を保証するデータベースではありません。30語を入力・生成・評価・統制の流れで理解し、人の確認を組み込みましょう。