中国のDeespSeekが、最先端のチップを使わずに低価格で高性能な生成AIを開発して話題になっています。
早速、DeepSeekの危険性が叫ばれていますが、このページでは生成AIを使うリスクについて考えます。
DeepSeekの衝撃
中国製の生成AIであるDeepSeekの新しいモデルが発表され、低価格で高性能なモデルが使える点で大きな反響が出ています。
米国OpenAI製のChatGPTの基盤となるLLM(大規模言語モデル)は、最先端のGPU(H100など)を何万個も使用し、数百億から数千億もの費用をかけて開発しています。
しかし、中国は米国の対中輸出規制の影響でエヌビディア製の最先端のAIチップの入手に制限がかかっています。
そのような制約の中、DeepSeekはH100チップと比べてデータ転送速度が半分とされるH800チップを2048個使っただけで、「GPT-4o」や「o1」などのOpenAIのトップクラスのモデルとほぼ同じ性能のLLMを開発しました。
これに対して、早速米国ではエヌビディア製半導体の輸出規制を求める動きが出始めており、DeepSeekのウェブサイトはサイバー攻撃を受けて新規登録を停止しています。
さらに、DeepSeekを利用することに対して危険性を警鐘する声も出ています。
こういった動きは、中国と政治的に対立する日本や米国の利益を守ろうとする動きの側面があり、実際に何が問題であるかをは少し距離を置いて考える必要があります。
DeepSeekを使ってはいけない理由
DeepSeekを使ってはいけない理由については、次の記事がわかりやすくまとめられています。
黒坂 岳央「DeepSeekを使ってはいけない3つの理由」 アゴラ 2024/2/2閲覧
端的に言うと、下記3点です。
1.知的財産リスク
DeepSeekに渡した内容がDeepSeekや中国政府などの第三者に渡る可能性がある。
2.国家安全法リスク
DeepSeekに保存された内容が中国政府に閲覧されて、訪中時に責任を問われる可能性がある。
3.誤った情報のリスク
領土問題などで中国寄りの誤った情報を出すほか、中国寄りの思想にふれる時間と人が増えることで誤った認識が広まる可能性がある。出典:黒坂 岳央「DeepSeekを使ってはいけない3つの理由」 アゴラ 2024/2/2閲覧
※文章部分は当サイトの要約
それぞれのリスクについて、順番に考えていきます。
知的財産リスク
1.知的財産リスク
DeepSeekに渡した内容がDeepSeekや中国政府などの第三者に渡る可能性がある。
この内容を読んで思ったのは、同じ内容がOpenAIのChatGPTやGoogleのGeminiでも当てはまるということです。
たとえば、「当社が収集した個人情報は(中略)中国の安全なサーバーに保管します」という規約が批判されていますが、米国の生成AIでも米国で保管する点は同様です。
結局、米国は信用できるが中国は信用できないという主観を前提に話が組み立てられています。
DeepSeekでは入力内容に加えてIPアドレスやデバイス情報などを収集して中国のサーバーに送る点を強調している記事もありましたが、これはChatGPTでも全く同じです。
また、利用規約で入力内容を学習に利用するとありますが、これはChatGPTでも同様です。
ChatGPTではオプトアウト機能があるため、学習から除外することができますが、OpenAIに情報が渡るというリスクについては避けられません。
OpenAIはまだ歴史が浅いのであまり話を聞きませんが、Twitter(現X)で社員が個人のアカウントを閲覧して、保守系の思想をもつ著名人の投稿が他ユーザーに表示される回数を意図的に制限するといった行為が組織的に行われていたことが問題になったこともあります。
国家安全法リスク
2.国家安全法リスク
DeepSeekに保存された内容が中国政府に閲覧されて、訪中時に責任を問われる可能性がある。
この手の話の際によく言われる点として、中国の法律により中国企業は中国政府に協力することを義務付けられているという話です。
確かに、中国政府がDeepSeekのデータを閲覧することは、国内法においては可能でしょう。
しかし、それは日本や米国でも同じことです。
そもそも、国家の安全保障に関わる事項について、国民や国内企業が国益に反する行動をする権利を保証する国などどこにあるでしょうか。
過去にも、米国のスパイ行為を告発したエドワード・スノーデンは、犯罪者として国を追われてロシアに亡命しました。
2025/1/21には、就任したばかりのトランプ大統領が政府によるSNSの「検閲」を停止する大統領令に署名しました。
これは逆に言うと、前政権ではそのようなことが行われていたことを意味し、米国においても中国で想定されるのと同様の事態が起きる可能性があるということです。
近年の米国では政権交代が起きるたびに前政権の政策をひっくり返す動きが見られるため、政権が変わればSNSへの介入が行われてもおかしくありません。
誤った情報のリスク
3.誤った情報のリスク
領土問題などで中国寄りの誤った情報を出すほか、中国寄りの思想にふれる時間と人が増えることで誤った認識が広まる可能性がある。
記事では、尖閣諸島の領土帰属について、DeepSeekは中国固有の領土、ChatGPTは日本の領土と回答することを例に挙げて、誤った情報や思想が広まると主張しています。
※私の環境では、ChatGPTでは日本と中国で領土問題がある旨の回答だったのですが、一旦それは無視して話を進めます。
この点については、利害対立がある問題について、自分たちの主張を言わないと誤情報だと言ってしまうこと自体が問題です。
DeepSeekは中国製なので当然中国社会で受け入れられるようにカスタマイズされた回答が返ってくるわけで、これは米国のChatGPTも米国社会で許容されないような回答をしないようにカスタマイズされています。
実際、ChaGPTのリリース後には、不適切な回答が批判されることも多々ありました。
現実問題として、米国では特定の思想が絶対視され、反対する意見を持つだけで差別だと攻撃されるような事態もありました。
どの国で開発されていてもその国の社会に許容される内容しか回答できない点は同じです。
DeepSeekを使って良いのか
ここまで、DeepSeekのリスクが他の生成AIにも当てはまるという話をしてきました。
それでは、どうせリスクが変わらないならDeepSeekを使って問題ないのでしょうか。
個人が遊びで利用する分には問題ないでしょうが、ビジネス利用であればやめた方が良いです。
ビジネスにおいては信用問題があり、本当かどうかは置いておいて、危ないというイメージが付いてしまうと信用が傷ついてしまいます。
現状、日本では米国側の立場に立ってDeepSeekの危険性を強調する風潮があるため、そのような社会でDeepSeekを積極的に利用すると、ビジネスにおける信用が低下してしまいます。
大企業を中心に(実際に問題があるかは別として)問題が指摘されている企業のサービスを利用禁止にすることも多く、DeepSeekが広まるにつれて利用が禁止される場面の増加も想定されます。
さらに、日本は政治的に中国と対立しているだけではなく、ビジネス面では米国に大きく依存しています。
これは単に米国企業との取引が多いと言うだけではなく、米国が提供するインフラにビジネスが大きく依存しています。
たとえば、パソコンのOSはWindowsもMacも米国企業製、Word, Excel, PowerPointも米国Microsoft製、Google検索やChromeは米国Google社製、クラウドサービスも主要なものはすべて米国企業が提供するものです。
中国製のDeepSeekの躍進は米国の利益と対立するため、今後の米中対立の動向次第では、スマホメーカーのファーウェイ(華為)のように企業幹部が逮捕されたり、米国から取引制限をうけて実質的に日本でも使えなくなる事態になりかねません。
このようなリスクがあるため、ビジネス場面でDeepSeekを使ったり、ましてやAPIを使って開発を行う行為には大きな社会的・経済的リスクがあります。
一方で、DeepSeekに対して言われているようなリスクの多くは、米国製の既存の生成AIやSNSにも当てはまります。
このため、ChatGPTやGeminiを使う際にも、機密情報を入れないなどのリスク管理は必須になります。
現実にはリスクをゼロにはできないので、どこまで許容するかの線引きをする必要はあります。
それでも、自動車や包丁などと同様にリスクを認識した上で注意して使うという意識が大切です。
投稿内容が中国政府の手に渡って訪中時に責任を問われるリスクについても、米国製SNSや生成AIなどでも同様のリスクがある点を認識すべきです。
SNS上で米国政府を批判したり、反米的な活動をする人物とその支持者は米国に入国拒否されるリスクがありますし、影響力が大きい場合は米国や同盟国で拘束されたり、諜報工作のターゲットにされるなどのリスクもあります。
言論の自由を掲げてSNSや生成AIに何を投稿しても良いという主張はリスク管理の点から賢明ではなく、中国政府に見られて困るような内容はSNSやChatGPTにも書くべきではないのです。
参考文献
小林 雅一「中華製AI「DeepSeek」はNVIDIAを駆逐するか」 東洋経済オンライン 2024/2/2閲覧
NVIDIA、対中輸出規制に対応したAI向けGPU「H800」「A800」構築か(2023/3/23) マイナビニュース 2024/2/2閲覧
米下院中国特別委がエヌビディア製半導体の輸出規制要請、ディープシーク巡り(2025/1/31) Reuter 2024/2/2閲覧
中国製生成AI「DeepSeek」にサイバー攻撃 発信元は「すべてアメリカ」 新規登録を一時的に制限(2025/1/29)TBS NEWS DIG 2024/2/2閲覧
Zak Doffman「中国製AI「DeepSeek」の危険性、収集されたデータは「中国で安全」に保管」(2025/1/29) Forbes Japan 2024/2/2閲覧
黒坂 岳央「DeepSeekを使ってはいけない3つの理由」 アゴラ 2024/2/2閲覧
「DeepSeek」vs「ChatGPT」徹底比較!8つの違いと乗り換えの注意点を解説 ChatGPTの学校 2024/2/2閲覧
SNS「検閲」停止を宣言 投稿管理への政府介入禁止―米大統領令(2025/1/21) 時事通信 2024/2/2閲覧