ChatGPTが国家的影響工作に悪用、OpenAIが警鐘
米OpenAIは6月5日に公表した最新の脅威レポートで、対話型AI「ChatGPT」が中国の複数グループにより、秘密工作や影響操作のために悪用されている実態を明らかにした。
報告書によれば、これらの活動は小規模ながらも、その戦術の多様性と影響の範囲が急速に拡大している。
OpenAIはこれまでに、中国関連のプロパガンダ生成や偽アカウントを用いた操作を確認しており、いくつかのアカウントはすでに停止処分とされた。
AIが生成する偽情報の実例
OpenAIの報告書では、特に台湾に対する批判的な投稿を自動生成するアカウントが確認されており、ビデオゲームのレビューを装って中国政府に有利な世論を形成しようとする試みも見られた。
また、アメリカの退役軍人団体を模倣した偽アカウントが、両極端の政治意見を発信するなどして分断を煽る戦略的行動も報告された。
このような行為は、国家による世論誘導＝「影響活動（Influence operation）」の一環として世界中で問題視されている。
中国側は「根拠なし」と反論
OpenAIの指摘に対して、中国外務省の報道官は6月6日の会見で「根拠がない」と一蹴。
「中国はAIのガバナンスを非常に重視しており、AI技術の悪用や乱用に一貫して反対している」と述べ、関与を否定した。
しかし専門家の間では、AIによる情報操作の難易度が低下したことで、実行者の特定や責任追及が困難になっているとの懸念が強まっている。
補足：AIと情報戦の新時代
「生成AI（Generative AI）」とは、膨大なデータを学習してテキストや画像を自動生成するAI技術で、ChatGPTはその代表的存在である。
近年、この技術がSNSの投稿文やレビューの大量作成、さらにはサイバー攻撃用スクリプトの生成に使われるなど、悪意ある利用が深刻化している。
特に中国の一部グループは、OpenAIのプラットフォームを利用し、戦略的に言論空間を操作する手法をとっており、国際社会に警戒が広がっている。
OpenAIは、AIの悪用を防ぐための継続的な監視とアカウントの停止措置を行っているが、今後さらなる対応強化が求められそうだ。
