X日本法人、Grokの画像生成機能で安全対策を強化

Xの日本法人は1月17日、AIアシスタント「Grok」の画像生成・編集機能について、安全性向上のための複数の措置を実装したと発表した。

Xは、児童の性的搾取、同意のないヌード、望まれない性的コンテンツに対してゼロトレランスの姿勢を継続しており、児童性的虐待コンテンツ（CSAM）や同意のないヌードを含む優先度の高い規則違反コンテンツの削除に取り組んでいると説明した。

今回の措置として、X上のGrokアカウントが実在の人物の画像をビキニなどの露出度の高い服装に変更する編集を許可しない技術的対策を全世界で実装した。この制限は有料サブスクライバーを含む全ユーザーに適用される。

現在、X上のGrokアカウントによる画像生成および画像編集機能は、全世界で有料サブスクライバーのみが利用可能となっている。これにより、Grokアカウントを悪用して法律や同社ポリシーに違反しようとする個人の責任追及が容易になり、追加の保護レイヤーが提供されるとしている。

さらに、該当コンテンツが違法とされている地域では、実在の人物がビキニや下着などを着用している画像を生成する機能を全ユーザーに対してジオブロックする。xAIはGrokアプリにおいても同様のジオブロック措置を実装している。

Xは、Xに投稿されるすべてのAIプロンプトおよび生成コンテンツがXルールを厳格に遵守しなければならないとし、セーフティチームが24時間体制で追加の安全対策の導入、違反および違法コンテンツの排除、必要に応じたアカウントの永久停止、各国政府や法執行機関との連携に取り組んでいると強調した。