日常を劇的に便利にするGoogleの生成AI「Gemini」。しかし、その裏にはユーザーが絶対に知っておくべき「厳格なルール」が存在します。
万が一違反と判定されると、最悪の場合、Geminiの利用停止にとどまらず、GmailやGoogleドライブなどを含む「Googleアカウント全体が凍結」される致命的なリスクが潜んでいます。
Googleは2024年12月に『生成 AI の使用禁止に関するポリシー』を公開しました。本記事では、アカウント消失を防ぐため、Geminiに絶対に聞いてはいけない「5つの注意点」を解説します。
Googleは2024年12月に『生成 AI の使用禁止に関するポリシー』を公開した。このポリシーを見れば、Geminiに聞いてはいけないことが明らかになる。具体的には、５つの注意すべきポイントがあるので、細かくみていきたい。
第１に、Googleのポリシーが最も厳しく制限しているのが、危険・違法行為を助長するコンテンツの生成だ。これに関しては、ポリシーの中で以下のように定められている。
危険な行為や違法な行為など、適用される法律や規制に違反する行為に関与しないでください。次のようなコンテンツの生成または配布が該当します。
- 児童の性的虐待や児童の搾取に関連している。
- 暴力的な過激主義やテロリズムを助長している。
- 本人の同意なく作成された親密な状況のシナリオ・画像・動画を助長している。
- 自傷行為を助長している。
- 違法行為や法令違反を助長している（たとえば、違法または規制対象の物質、商品、サービスの合成方法や入手方法を提示している）。
- プライバシーに関する権利や知的財産権など、他者の権利を侵害している（たとえば、法律で義務付けられている同意を得ずに個人データや生体認証データを使用している）。
- 本人の同意を得ないで個人を追跡または監視している。
- リスクの高い領域（雇用、医療、金融、法律、住宅、保険、社会福祉など）において、個人の権利に大きな悪影響を及ぼす意思決定を人間の監督なしで自動的に行っている。
Google『生成 AI の使用禁止に関するポリシー』より引用
「聞いただけで実行していないから大丈夫」と考える人もいるかもしれないが、ポリシーが禁じているのは「コンテンツの生成を促す行為」そのものだ。つまり、質問として入力すること自体が違反に該当し得るので注意してほしい。
Google または Google 以外のサービスのセキュリティ侵害につながる行為はしないでください。次のようなものを助長するコンテンツの生成または配布が該当します。
- スパム、フィッシング、マルウェア。
- Google または Google 以外のインフラストラクチャまたはサービスを不正に使用する、妨害する、破壊する、損害を与える。
- 不正使用対策や保護フィルタを回避する（たとえば、ポリシーに違反するようにモデルを操作する）。
Google『生成 AI の使用禁止に関するポリシー』より引用
第３に、Geminiに対して、ヘイトスピーチやハラスメント、暴力の誘発、性的に露骨なコンテンツの生成を求めることも禁じられている。ポルノ目的や性的満足を目的としたコンテンツの生成が明示的に挙げられており、「フィクションだから」「創作だから」という言い訳は通用しない。
性的に露骨な行為、暴力的な行為、差別的な行為、有害な行為に関与しないでください。次のようなものを助長するコンテンツの生成または配布が該当します。
- 憎悪を煽るスピーチやヘイトスピーチ。
- 他者に対するハラスメント、いじめ、脅迫、虐待、侮辱。
- 暴力または暴力の誘発。
- 性的描写が露骨なコンテンツ（たとえば、ポルノや性的満足を目的として作成されたコンテンツ）。
Google『生成 AI の使用禁止に関するポリシー』より引用
第４に、2024年12月の更新で明確化されたのが虚偽情報やなりすましに関する制限だ。
具体的には以下が挙げられている。
- 欺瞞行為、詐欺行為、またはその他の人を騙す行為。
- 人々を欺くことを目的に、（生者であるか死者であるかを問わず）それが自分ではないと明かさずになりすます。
- 人々を欺くことを目的に、センシティブな分野（健康、金融、行政サービス、法律など）における専門知識や能力に関して誤解を招く主張を助長する。
- 人々を欺くことを目的に、政治的なプロセスや民主的なプロセスまたは有害な健康習慣に関して誤解を招く主張を助長する。
- 人々を欺くことを目的に、人間によってのみ作成されたコンテンツであると主張し、生成されたコンテンツの出所を偽る。
Google『生成 AI の使用禁止に関するポリシー』より引用
最後の項目は見落とされがちだが重要だ。Geminiに書かせた文章を、あたかも自分が書いたかのように提出・公開し、それが他人を騙す意図をもって実行された場合、規約違反に該当する可能性がある。
学校のレポート、ビジネス文書、メディア記事——生成AIの出力を活用すること自体は禁止されていないが、その出自を意図的に隠すことは別問題なのだ。
第５に、個人情報を含んだ質問は聞くべきではない。
Googleは、Geminiとの会話データをサービス改善のために人間のレビュアーが確認する場合があると明言している。これは、Geminiとの会話が「完全にプライベートな空間」ではないことを意味する。
したがって、氏名・住所・電話番号・マイナンバーなどの個人情報を含む情報はGeminiに入力すべきではない。パスワードやクレジットカード番号、企業の機密情報や未公開の事業戦略も当然だ。
では、実際にこれらの規約に違反した場合、何が起きるのか？
最も深刻なのは、Geminiの利用停止にとどまらず、Googleアカウント全体が凍結される可能性があるという点だ。
GeminiはGoogleアカウントに紐づいているため、違反が検知されると、Gmail、Googleドライブ、Googleフォト、YouTube、Google Playなど、アカウントに関連するすべてのサービスへのアクセスが遮断されるおそれがある。
長年蓄積したメール、写真、文書、購入したアプリやコンテンツ——それらすべてが一瞬でアクセス不能になるリスクがあるのだ。しかも、多くのケースで事前警告がないという報告がある。
突然ログインできなくなり、再審査請求を行っても復旧が困難であるというのが現実だ。Googleアカウントを他サービスのソーシャルログインに使っている場合、その影響は連鎖的に広がる。
必ずしもそうとは限らない。Geminiの安全フィルタは過敏に反応することもあり、正当な質問であっても拒否される場合がある。ただし、拒否された回答を無理やり引き出そうとして手法を変え、何度もプロンプトを試す行為は、「安全フィルタの回避」として規約違反に該当する可能性がある。拒否されたら、質問の角度を変えるのではなく、質問の内容そのものを見直すのが賢明だ。
これは各サービスのポリシーと安全フィルタの設計思想が異なるためだ。Geminiは特に、Googleアカウントとの一体構造から、より慎重なフィルタリングが適用される傾向にある。どちらが「正しい」というわけではなく、サービスごとにルールが異なるという事実を理解しておくことが重要だ。
最も重要なのは、個人アカウントで機密情報を入力しないことだ。個人向けのGemini（無料版を含む）では、入力データがモデル改善に使用される可能性がある。企業利用であれば、データが学習に使用されないGemini for Google Workspaceなどの法人向けプランを検討すべきだろう。
Geminiに聞いてはいけないことを整理してきたが、最後に少し違う角度から考えてみたい。
「聞いてはいけないこと」が存在するということは、裏を返せば、AIがそれを「答えられてしまう」可能性があるということだ。爆弾の作り方を聞いてはいけないのは、AIがそれに答えられる知識を持っているからだ。ヘイトスピーチを生成してはいけないのは、学習データの中にそれを構成する素材が存在しているからだ。
つまり、禁止ポリシーとは、AIの能力に対して人間が後付けで設計した「倫理の枠組み」なのだ。これは法律が人間社会を律するのと構造的に同じだ。法律が存在するのは、人間がそれを破る能力を持っているからであり、ポリシーが存在するのは、AIがそれを実行する能力を持っているからに他ならない。
私たちがAIに「何を聞いてはいけないか」を学ぶ行為は、実のところ、AIという鏡を通して人間社会の倫理的境界線を再確認する行為なのかもしれない。Geminiに聞いてはいけないことを知ることは、テクノロジーとの付き合い方を知ることであり、それはすなわち、自分自身の判断基準を磨くことに他ならないのではなかろうか。