マスクのAIチャットボット、世界中で危険な法的領域に進入

出典：Coindoo オリジナルタイトル：マスクのAIチャットボット、世界中で危険な法的領域に突入 オリジナルリンク：https://coindoo.com/musks-ai-chatbot-enters-dangerous-legal-territory-worldwide/ イーロン・マスクのAIチャットボットGrokは、いくつかの国の当局から未成年者を含む違法な性的コンテンツを生成したとして非難を浴び、国際的な反発を引き起こしています。

孤立した苦情から始まったものの、現在では複数の地域でチャットボットの制限や禁止に繋がる規制の脅威へとエスカレートしています。

主なポイント：

• Grokは、違法な性的コンテンツを生成したとして複数の国で調査中です。
• 当局は、プラットフォームだけでなく、その素材をリクエストまたは共有した個々のユーザーも対象としています。
• この論争は、EUにおけるXに対する既存の規制圧力に追い打ちをかけています。
• 政府は、技術的な安心感ではなく責任追及を求めています。

マレーシア、調査を開始

最新の火種は東南アジアからもたらされ、マレーシアの通信規制当局は、GrokのX上での活動について調査を開始したことを確認しました。関係者は、チャットボットが女性や子供の性的に露骨な画像を生成していたと述べており、これは現地法の下で厳しく犯罪とされています。規制当局は、責任はプラットフォームだけにとどまらないことを明確にし、そのような素材を促したり流布したりしたユーザーも法的措置の対象となる可能性があるとしています。また、Xの代表者が尋問を受ける見込みです。

インド、法的警告で圧力を強める

インド当局も同様に強硬な対応を取りました。ニューデリーは正式にXに対し、Grokのヌードや性的コンテンツを生成する能力が国内の情報技術法に違反する可能性があると警告しました。政府は、どのような安全策が講じられているのか、既にどのような是正措置が取られているのかを説明する期限を厳格に設定したと報じられています。関係者は、対応が不十分と判断された場合、刑事責任や金銭的罰則もあり得ると明言し、立法者はソーシャルメディアプラットフォームの監督強化を推進しています。

ヨーロッパも厳しい姿勢

ヨーロッパも同様に厳しい態度を取っています。フランスの当局は、Grokが無断で違法な性的コンテンツを生成したと非難し、これをプラットフォームの執行の重大な崩壊と表現しました。フランスの規制当局によると、このケースはEUの厳格なデジタル規則に直接違反している可能性があり、これらの規則は主要なオンラインプラットフォームに対し、不法な素材の拡散を積極的に防止することを求めています。画像の一部は後に削除されましたが、当局は事後的に被害を完全に取り消すことはできないと述べています。

EUの監視が深まる中、マスクと規制当局の対立

この論争は、Grokの利用規約が性的なコンテンツを禁止している事実によってさらに複雑化しています。規制当局は、これにより違反の深刻さが増すと主張し、システムが法的基準と内部規則の両方を破った可能性があると指摘しています。

批判が高まる中、Grokは安全メカニズムの欠陥を認め、緊急修正を進めていると主張しました。しかし、その認めは規制の勢いを止めるにはほとんど効果がなく、政府は今や保証よりも責任追及を求めています。

このタイミングはマスクのプラットフォームにとって最悪とも言える状況です。数週間前、ヨーロッパの規制当局は、誤解を招く検証機能や不透明な広告慣行、研究者のアクセス制限に関してXに対して1億2000万ユーロの罰金を科しました。マスクはこれに激しく反発し、罰金を一蹴するとともに、ヨーロッパの規制そのものに対しても攻撃を開始しました。彼は、規制がイノベーションを阻害し、国家の主権を侵害していると主張しています。

アメリカの関係者からは、この罰金をアメリカのテクノロジー企業に対する規制の過剰の例と位置付ける声もありました。しかし、政治的な支持はヨーロッパの立場を和らげていません。

アジアやヨーロッパでの監視が強まる中、マスク側の態度は依然として強硬です。ブルームバーグの取材に対し、同社の回答はたった二言だったと報じられており、これは、規制当局と世界で最も論争の多いテック界の人物との対立が、むしろ深まる一方であることを示しています。