Grokの生成能力をめぐり、英国の監視機関がXへの監視を強化

英国の情報コミッショナー事務局（ICO：Information Commissioner's Office）が、X（旧Twitter）とその人工知能（AI：Artificial Intelligence）子会社であるxAIに対する正式な調査を開始したことで、英国におけるAI規制の状況は大幅に緊迫しています。この調査はAIモデル「Grok」の能力に焦点を当てており、特にこのツールが未成年者を描写したコンテンツを含む、非同意の性的ディープフェイクの生成に利用されたという報告に関連しています。生成式 AI（Generative AI）の境界が拡大し続ける中、この調査は、ソーシャルメディアおよび自動コンテンツ作成の領域におけるデータ保護基準の施行において極めて重要な瞬間となります。

ICOによる調査は孤立した規制措置ではなく、他の主要な英国の監視機関を巻き込んだ協調的な取り組みの一環です。これは、急速なAI開発と強力な安全策の必要性との間で高まっている緊張を浮き彫りにしています。この調査の核心は、XとxAIが、自社の技術が個人に対して悪用されるのを防ぐための十分な予防措置を講じ、確立されたデータ保護法に違反していないかどうかという点にあります。

ICOの調査：データ保護が最前線に

情報の権利を維持するために設立された英国の独立機関である情報コミッショナー事務局は、この調査がGrokプラットフォームによって個人データがどのように処理されるかを精査することを明示しました。主な懸念は、AIモデルが個人データを利用して新しい画像を生成するメカニズムに集中しています。AIツールが本人の同意なしに、特に性的な文脈で個人のリアルな肖像を作成する場合、その個人データを処理する法的根拠について深刻な疑問が生じます。

ICOの規制リスク・イノベーション担当エグゼクティブ・ディレクターであるウィリアム・マルコム（William Malcolm）氏は、申し立ての深刻さを強調しました。同氏は、本人の知らないところで親密な画像や性的な画像を生成できることは、個人データに対する制御の重大な喪失を意味すると指摘しました。この制御の喪失は、被害者に即時的かつ永続的な害を及ぼす可能性があり、その対象が子供である場合、リスクは飛躍的に高まります。

ICOの権限により、X Internet Unlimited CompanyとxAIが、英国の一般データ保護規則（UK GDPR）を含む英国の厳格なデータ保護枠組みを遵守しているかどうかを評価することが可能です。重点的に調査される主な領域には以下が含まれる見込みです：

• データ保護影響評価（DPIAs：Data Processing Impact Assessments）： 企業がGrokの公開前に、それに関連するリスクを適切に評価したかどうか。
• セーフティ・バイ・デザイン（Safety by Design）： 有害なコンテンツの生成を防ぐための技術的なセーフガードが、開発段階で統合されていたかどうか。
• 同意と適法性： モデルのトレーニング、または特定の肖像を作成するためのプロンプト入力に個人データが使用される際の法的根拠。

ICOがXの義務違反を認めた場合、監視機関は執行通知を発行し、多額の制裁金を科す権限を持っており、これは生成式 AI分野の他の団体に対する厳しい警告となります。

ディープフェイクの懸念：高まる技術的・倫理的危機

今回の規制介入のきっかけとなったのは、Grokのユーザーが安全フィルターを回避して、実在の人物の露骨なディープフェイクを作成できることを示す一連の報告でした。従来の画像編集とは異なり、生成式 AIはテキストプロンプトに基づいて、超現実的な合成メディアを迅速に作成することを可能にします。Grokに対する具体的な申し立ては、このツールが非同意の性的画像を生成するために使用されたことを示唆しており、これは英国政府が積極的に犯罪化を進めている行為です。

ディープフェイクは、プライバシーの侵害、嫌がらせ、誤情報の交差点に位置するため、規制当局にとって特有の課題となっています。ICOの調査において、焦点は「入力」側（実在の人物の画像や名前といった個人データがどのように取り込まれ、処理されるか）と、「出力」側（そのデータが有害なコンテンツとしてどのように再構成されるか）の両方に置かれています。

これらのツールのアクセスのしやすさが、問題をさらに複雑にしています。AIモデルの効率が高まるにつれ、悪意のあるコンテンツを作成するための参入障壁が低くなります。ICOの介入は、事後的なモデレーション（投稿後のコンテンツ削除）から、予防的な防止（そもそもツールがコンテンツを作成できないようにすること）への規制の転換を示唆しています。

Ofcomによる並行した規制措置

ICOがデータプライバシー（Data Privacy）に焦点を当てる一方で、英国の通信規制機関であるOfcom（英国通信庁）は、自らの権限の下で並行して調査を行っています。1月に開始されたOfcomの調査は、Xプラットフォームのより広範な安全プロトコルに焦点を当てています。Ofcomは、xAIを直接調査することはもうないと述べていますが、Xが情報提供要求に関する条件に違反していないかについては引き続き調査を行っています。

Ofcomの役割は、英国をオンラインで最も安全な場所にするために設計された法律であるオンライン安全法を施行する上で極めて重要です。規制当局は、プラットフォームに対し、法的拘束力のある情報提供要求に対して、正確、完全、かつタイムリーに回答することを求めています。ICOとOfcomの相乗効果は、多角的な規制アプローチを示しています：

• ICO： 個人データの悪用とプライバシー権に焦点を当てる。
• Ofcom： プラットフォームの安全義務と情報基準の遵守に焦点を当てる。

この二重の監視により、Xは複数の法定機関の異なるが重複する要件を満たさなければならない、複雑なコンプライアンス環境に置かれています。

規制責任の分類

以下の表は、XとGrokの調査に関与する英国規制機関の異なる役割と現在の焦点をまとめたものです。

Xの対応と緩和戦略

高まる圧力に対し、Xは安全性とコンプライアンスへの取り組みを公に表明しています。同社は、Grokの悪用を抑制することを目的としたいくつかの措置を導入しました。プラットフォームが発表した声明によると、ビキニなどの露出の多い服装をしている実在の人物の画像をAIが編集することを防ぐためのグローバルな措置が実施されました。

さらに、Xは児童の性的搾取や非同意のヌードに対して「ゼロ・トレランス（一切容認しない）」方針を強調しました。説明責任を強化するため、同社はGrokアカウントを介した画像作成および編集機能を有料購読者に限定していることを強調しました。この「保護としてのペイウォール」戦略の背後にある論理は、利用を支払い方法と紐付けることでアイデンティティの追跡を可能にし、悪質な利用者に違法行為の責任を負わせやすくするというものです。

しかし、批評家や規制当局は、主要な安全メカニズムとして金銭的障壁だけでは不十分であると主張する可能性があります。ICOの調査の核心は、これらの事後的なポリシー施行やアクセス制限が、法律で求められている「プライバシー・バイ・デザイン（Privacy by Design）」と同等であるかどうかを検証することになると考えられます。Xのコンテンツモデレーションアルゴリズムの有効性と、Grokの基盤となる安全トレーニング（人間によるフィードバックからの強化学習：RLHFなど）の堅牢性が精査されることになるでしょう。

AIガバナンスへの広範な影響

この調査は、世界のAI業界にとっての指針となります。プラットフォームがより強力な生成式 AIツールをソーシャルメディアのフィードに直接統合するにつれ、コンテンツホストとコンテンツクリエイターの境界線が曖昧になっています。英国の規制措置は、諸国が既存のデータ保護法を新しいAI技術に対してどのように施行するかという前例を作ろうとしています。

AIを開発する企業にとって、メッセージは明確です。イノベーションが安全性の遵守を追い越すことは許されません。「素早く行動し、破壊せよ（move fast and break things）」という時代は、ユーザーの権利を優先する成熟した規制環境と衝突しています。ICOとOfcomの調査結果は、以下を要求する新しい業界基準を規定する可能性があります：

1. より厳格な年齢確認： 未成年者が生成ツールにアクセスしたり、描写されたりするのを防ぐため。
2. 強化されたデータガバナンス： 生成モデルのトレーニングに公開データがどのように使用されるかに関する、より明確なプロトコル。
3. 責任の枠組み： AIが違法なコンテンツを生成した際に、誰が（ユーザー、プラットフォーム、またはモデル開発者）責任を負うのかの確立。

情報コミッショナー事務局が国際的なカウンターパートとの協力を続ける中、Grokに関する調査結果はEUの政策に影響を与え、さらには米国の規制アプローチにも影響を与える可能性があります。現時点では、Xがその技術的野心をユーザーのプライバシーと安全を犠牲にして実現していないことを証明できるかどうかに、強い注目が集まっています。