オーストラリアの規制当局が警告を発し、Grok人工知能画像の乱用に関する苦情の急増が規制の強化を引き起こす

オーストラリアのサイバーセキュリティ監督機関は最近、Grok人工知能チャットボットに関する画像乱用の苦情が急増していると公式に警告しました。特に、同意なしに生成された性的な画像の問題は、現在の生成型人工知能の規制において重要なリスクポイントとなっています。オーストラリアの独立したサイバーセキュリティ機関eSafetyは、過去数ヶ月でGrokに関連する苦情の数が倍増しており、未成年者や成人に対するさまざまな画像侵害行為が含まれていると指摘しています。

オーストラリアのサイバーセキュリティ担当官Julie Inman Grantは、一部の苦情は児童性的虐待資料に関係している可能性があり、他のものは成人に対する画像を用いた虐待に関係していると述べています。彼女はLinkedIn上で、生成型人工知能が性的な目的や他者の搾取にますます利用されていることを強調し、特に児童に関わる場合には社会や規制体系に深刻な課題をもたらすと述べました。AI生成コンテンツのリアルさが増すにつれて、識別と証拠収集の難易度も同時に上昇しています。

GrokはElon Musk傘下の人工知能企業xAIによって開発され、Xプラットフォームに直接統合されています。これにより、ユーザーは画像の修正や生成を行うことが可能です。他の主流の人工知能モデルと比較して、Grokはより「先進的」な製品と位置付けられ、通常は拒否される内容も生成できることが特徴です。以前、xAIは露骨な内容を生成可能なモードも提供しており、これも規制当局の注目を集めています。

Julie Inman Grantは、オーストラリアの現行法に基づき、すべてのオンラインサービスは児童性的虐待資料の拡散を防止するために有効な措置を講じる必要があると述べています。これには、内容が人工知能によって生成されたかどうかに関わらず、適切な安全対策を組み込むことが求められます。彼女は、企業は生成型AI製品の設計、展開、運用の全ライフサイクルにおいて安全防護機能を内蔵しなければ、調査や法執行のリスクに直面すると強調しました。

深層偽造（ディープフェイク）の問題に関して、オーストラリアはより厳しい立場を取っています。規制当局は最近、既存の法律の不足を補うために複数の立法改正を推進しており、無断でのAI合成コンテンツの拡散を取り締まるための措置を強化しています。独立上院議員David Pocockが提出した関連法案は、個人や企業が深層偽造コンテンツを拡散した場合に高額な罰金を科すことを明確にし、抑止効果を高める狙いがあります。

全体として、Grok人工知能による画像乱用事件は、生成型AI技術の急速な拡大に伴う規制の遅れを浮き彫りにしています。深層偽造やAI画像の乱用、未成年者保護が世界的な焦点となる中、オーストラリアの規制動向は他国にとっても重要な参考となる可能性があり、生成型人工知能のコンプライアンス時代が加速していることを示しています。