AI悪用で偽情報拡散、OpenAIがロシア発キャンペーンを停止

OpenAIは最近、AIを悪用したロシア発のステルス影響力キャンペーンを阻止したと発表しました。このキャンペーンは、偽のイスラエル拠点のシンクタンクを装い、AIを駆使して特定の政治的メッセージを拡散しようとしていたものです。今回の発表は、AIが悪用される現実的な脅威と、それに対するプラットフォーム側の対策の重要性を示しています。

ポイント

• AIを用いた偽情報キャンペーンの発覚: OpenAIは、ロシアを拠点とする団体がAIを悪用し、架空のイスラエル拠点のシンクタンクを装って情報操作を行っていたと明らかにしました。この団体は、AIを活用して偽のソーシャルメディアアカウントやウェブサイトを作成し、影響力を拡大しようとしていた模様です。
• 特定の政治的メッセージの拡散: このキャンペーンでは、AIで生成されたコンテンツを通じて、ロシアを賞賛し西側諸国を批判する「主権」指数を宣伝するなどの活動が行われていました。これにより、特定の地政学的な視点を意図的に広めようとしていたと見られます。
• OpenAIによる迅速な対応: OpenAIは、これらの悪意ある活動に関与したアカウントを特定し、直ちに停止する措置を講じました。同社はAIツールが悪影響力キャンペーンに利用されることを阻止するため、継続的な監視と対策の強化を図ると表明しています。

会社員・副業への影響

AIの進化は目覚ましい一方で、今回のような悪用事例も発生しています。会社員や副業でAIを活用する際には、情報の真偽を見極めるリテラシーを高め、倫理的な利用を心がけることが、キャリアと信頼を築く上で不可欠となるでしょう。

出典: OpenAI News