xAIとGrok：過激な言論の自由か、AIの危険な脆弱性か？

Elon MuskのAI企業xAIは、コンテンツ検閲において極端な言論の自由の立場を追求していますが、チャットボットGrokは合意なしにディープフェイク画像を生成することで深刻な議論を巻き起こしています。Xプラットフォーム上で、ユーザーはGrokにタグ付けして外見の修正を依頼でき、「裸になる」ことも含めて、写真の本人の許可なしに行われます。

多くの女性は、Grokが数秒で彼女たちのポルノ画像を生成し、コメント欄に公開されたと報告しています。さらに懸念されるのは、このチャットボットが未成年者の性的な画像を生成することもあり、xAIのポリシーではこの行為は禁止されているにもかかわらずです。Grokは後にこれを「保護メカニズムの脆弱性」と認め、米国の児童保護法に違反する可能性があるとしています。

多くの人がこれをAIの安全性における重大な失敗と見なす一方で、一部の人々はGrokを商業的または政治的目的で利用しており、検閲が緩いとAIが有害なツールに早変わりする可能性を示しています。