「Bedrock Guardrailsのワードフィルター vs コンテンツフィルター、違いをちゃんと理解してますか?」

おはようございます。YASUです。

今日もAWS学習からブログのネタを一本、収穫してきました。

AIプラクティショナー(AIF)の模擬試験を解いていたら、見事にひっかかった問題があったので、その悔しさをそのまま記事にします。テーマは「Bedrock Guardrailsのワードフィルター vs コンテンツフィルター」。

同じように間違えやすいセキュリティー関連に関してはこちらの記事↓

結論

「特定の単語をブロックしたいならワードフィルター、内容のジャンルごとブロックしたいならコンテンツフィルター」です。これだけ覚えて帰ってもらっても大丈夫なくらい、本質はシンプルです。

でも試験では見事にこの2つを混同させる問題が出てきます。しかも選択肢の日本語が絶妙に似ているので、「なんかそれっぽい方」を選ぶと普通に間違えます。実体験済みです。

問題はこんな感じで出てくる

「Amazon Bedrockを使って生成AIアプリを作っている。ガードレール機能で、特定の冒涜的な言葉をモデルが出力しないようにしたい。どう設定すればいい?」

選択肢には「ワードフィルターの設定」と「コンテンツフィルターの設定」が両方並んでいます。そして自分は迷わず後者を選んで、盛大に不正解をもらいました。

ワードフィルターは「指名手配」タイプ

ワードフィルターは、あらかじめ「この単語はNG」とリストに登録しておく仕組みです。プロファニティ(不適切語)フィルターもここに含まれます。

イメージとしては、お店の入り口に貼ってある「出禁リスト」に近いです。名前が書いてある人は問答無用で入れない。それ以外の人がどんな服装で来ようが関係ありません。

つまり「この単語が出たらアウト」という、ピンポイント指名の仕組みです。

コンテンツフィルターは「空気を読むガードマン」タイプ

一方コンテンツフィルターは、ヘイト・暴力・性的表現・侮辱・不正行為といったカテゴリ単位で、内容がどれくらい有害かを判定してブロックする仕組みです。しきい値(低・中・高)で感度も調整できます。

こちらは単語のリストではなく、文脈や意味合いから「これは暴力的な内容だな」「これは侮辱的だな」と空気を読んで判断するタイプ。個別の単語を登録しなくても、似たようなニュアンスの表現を広くカバーできます。

で、なぜ自分は間違えたのか

「冒涜的な言葉」という表現を見て、反射的に「不適切なコンテンツ全般の話だな」→「コンテンツフィルターだ」と脳内変換してしまったのが敗因でした。

でも問題文をよく読むと「特定の」という言葉がしっかり入っています。これは「このジャンルの内容全般をブロックしたい」ではなく「この単語をピンポイントで防ぎたい」という話。つまり指名手配タイプのワードフィルターが正解、というオチです。

試験問題は「特定の」「全般的な」みたいなキーワード一つで正解が入れ替わるので、雰囲気で読むと普通に罠にハマります。

使い分けのポイントまとめ

クラウドとAIの組み合わせエンジニアの需要に関してはこちら↓

まとめ

Bedrock Guardrailsは機能が細かく分かれている分、名前だけ見るとどれも似たようなことをしてそうに見えます。でも実際は「指名手配」と「空気読み」くらい役割が違うので、ここを混同すると試験でも実務でも痛い目を見ます。

今回は模擬試験で先に痛い目を見られたので、本番前に直せてよかったです。同じところでつまずいた人の参考になれば嬉しいです。

それでは、また次の記事で。