AIは、文章の作成、情報の検索、プログラミングなどを支援できる便利な技術です。仕事や日常生活など、さまざまな場面で活用が進んでいます。
一方で、AIがサイバー攻撃や詐欺などに悪用されるリスクもあります。
特に注意したいのは、AIが攻撃そのものに使われることだけではありません。サイバー攻撃によって流出した個人情報が分析され、詐欺やなりすましなど、別の犯罪に利用される可能性があることです。
「個人情報の流出」と「AIの進化」が重なることで、私たちの生活にはどのような影響が考えられるのでしょうか。その仕組みと対策を解説します。
1．クラウド型AIとオープンウェイトAIの違い
AIの悪用リスクを理解するために、まず知っておきたいのが、AIの提供方法や利用方法の違いです。
クラウド型AI
ChatGPT、Claude、Geminiなどのクラウド型AIサービスは、インターネットを通じて利用します。質問や指示を送ると、サービスを提供する企業のサーバーなどで処理され、回答が返ってきます。
サービスによっては、不正利用を防ぐための安全対策や利用制限が設けられています。ただし、対策の内容や効果はサービスによって異なり、すべての不正な指示を必ず拒否できるわけではありません。
オープンウェイトAI
一方、オープンウェイトAIは、AIが学習によって獲得した能力を形作る「重み」と呼ばれるデータが公開されているAIです。利用条件を満たせば、自分のパソコンやサーバーにダウンロードして動かすことができます。
代表例にはMetaのLlamaシリーズなどがあります。ただし、重みが公開されていることと、ソースコードや学習データまで公開されていることは別です。利用や改変の条件も、モデルによって異なります。
クラウド型AIがレストランで料理を注文する仕組みだとすれば、オープンウェイトAIは、自分の厨房で調理する仕組みに似ています。自分の目的に合わせて環境を整えられる一方、管理する責任も利用者側に生じます。
この自由度は、研究や仕事に役立ちます。しかし、悪意のある人が利用した場合、不正な目的に合わせてAIや周辺のシステムを構成できる可能性もあります。
2．なぜAIがサイバー攻撃に悪用されるのか
安全対策や利用方法の違い
クラウド型AIでは、提供企業がモデルや利用環境を管理し、安全対策や利用制限を設けています。
一方、オープンウェイトAIを自分の環境で動かす場合、利用者は設定や周辺システムを変更できます。モデルや構成によっては、安全上の制約が弱まる場合もあります。
そのため、悪意のある利用者が、AIを不正なプログラムの作成やシステムの弱点の調査などに利用する可能性があります。ただし、オープンウェイトAIのすべてが簡単に改造できるわけではなく、改造によって高度な攻撃が必ず可能になるわけでもありません。
自分の環境で動かせる
オープンウェイトAIは、構成によってはインターネットに接続せずに利用できます。機密情報を外部のAIサービスに送信せずに処理できることは、企業などにとって大きな利点です。
一方、外部のAIサービスを利用せずに動かせるため、サービス側の利用制限に依存せずに運用することも可能です。
ただし、ローカルで動かせば完全に匿名になるわけではありません。パソコンやネットワーク、セキュリティ製品などに利用記録が残る場合もあります。
AIエージェントによる作業の自動化
AIは、質問に答えるだけでなく、ほかのプログラムと連携して複数の作業を進める仕組みにも利用されています。こうした仕組みの一つが「AIエージェント」です。
情報を集め、内容を分析し、その結果をもとに次の作業を進めるといった処理を自動化できます。
この仕組みが悪用されれば、サイバー攻撃に関する調査や準備などの一部を効率化する可能性があります。ただし、AIを導入するだけで攻撃が自動的に成功するわけではありません。
重要なのは、AIが犯罪のすべてを実行するということではなく、情報の整理や文章の作成など、犯罪に必要な作業の一部を効率化し得るという点です。
3．本当に注意したい「流出情報の二次利用」
企業などへのサイバー攻撃によって個人情報が流出した場合、問題は情報が盗まれた時点で終わるとは限りません。
流出した情報が分析されたり、別の情報と組み合わされたりすることで、詐欺やなりすましなどに悪用される可能性があるためです。
AIは、こうした情報を整理したり、相手に合わせた文章を作成したりする作業にも利用できます。
AIを使った詐欺で考えられる例
- 本物らしい詐欺メール：実在する企業やサービスの情報をもとに、自然な文章で偽の連絡を作成する。
- 知人や取引先へのなりすまし：公開情報などを手掛かりに、本人や関係者を装った連絡を試みる。
- 企業を狙った金銭詐欺：会社名や担当者、取引関係などの情報を悪用し、偽の請求や送金依頼を信用させようとする。
- 大量の詐欺メッセージ：AIで文章の作成や翻訳を効率化し、多数の相手に異なる内容のメッセージを送る。
これらは、AIが悪用された場合に考えられるリスクです。すべての詐欺にAIが使われているわけではなく、個別の事件については確認された事実に基づいて判断する必要があります。
4．バラバラの情報が結び付くと、被害が広がる可能性
例えば、あるサービスからメールアドレスが流出し、別のサービスから氏名や電話番号が流出したとします。
さらに、SNSなどで勤務先や交友関係が公開されていた場合、それらの情報が組み合わされることで、第三者が本人について把握できることが増える可能性があります。
こうした情報を整理する作業は、AIなどを利用することで効率化できる場合があります。その結果、実在するサービスを装った連絡や、知人や取引先を装った詐欺に悪用されるおそれがあります。
ただし、情報を組み合わせるだけで本人の情報をすべて把握できるわけではありません。また、情報が流出したからといって、必ず悪用されるわけでもありません。
ある企業で起きた情報漏えいは、その企業だけの問題で終わるとは限りません。 流出した情報が別の情報と結び付き、時間がたってから悪用される可能性にも注意が必要です。
5．今日からできる4つの対策
1．メールやSMSのリンクを慎重に扱う
実在する企業や行政機関からの連絡に見えても、差出人の表示や文章だけで本物だと判断しないようにしましょう。ログインや個人情報の入力を求められた場合は、公式アプリやブックマークした公式サイトなどから確認することが大切です。
2．お金に関する連絡は別の方法で確認する
知人や取引先から送金や振り込みを求められた場合は、メッセージへの返信だけで確認を済ませず、以前から知っている電話番号など、別の信頼できる連絡手段で本人に確認しましょう。
3．パスワードを使い回さない
サービスごとに異なるパスワードを設定し、利用できる場合は多要素認証も有効にしましょう。一つのサービスから情報が流出した場合に、ほかのサービスへの被害が広がるリスクを減らせます。
4．SNSで公開する情報を意識する
勤務先や行動予定、家族や知人との関係など、公開した情報が別の情報と組み合わされる可能性があります。投稿する前に、誰がその情報を見られるのかを意識することが大切です。
まとめ：AIを恐れるのではなく、仕組みを知って身を守る
AIは、社会を便利にし、仕事や研究を効率化する可能性を持った技術です。一方で、サイバー攻撃や詐欺などに悪用される可能性もあります。
特に注意したいのは、攻撃によって流出した情報が分析され、別の犯罪に利用される可能性です。情報漏えいは、情報が盗まれた時点で終わるとは限りません。
企業や自治体には適切な情報管理と安全対策が求められます。同時に、私たち一人ひとりにも、情報を安易に信用せず、別の方法で確認する習慣が必要です。
AIを一律に恐れるのでも、無条件に信頼するのでもなく、仕組みとリスクを理解すること。それが、自分自身や家族、会社、地域の情報を守るための第一歩になるのではないでしょうか。
