방米통위、AIグロックに性搾取物のディープフェイク遮断を要求

放送メディア通信委員会(放通委)は最近、XのAIサービス「グロック」(Grok)に対して青少年保護装置の設置を公式に要求しました。これは、性搾取物や非同意の性的画像の拡散に対する懸念に基づく措置であり、青少年の安全を最優先に考えた決定です。放通委はグロックサービスの利用時に違法行為を防ぐための安全装置の導入を促し、具体的な保護計画の提出をxAIに通知しました。では、以下で一つずつ確認していきましょう。

放通委 AI グロックに性搾取物ディープフェイク遮断要求
GETTY IMAGES

青少年アクセス制限および有害情報管理要求

放通委はグロックサービスに対して次の措置を即座に講じるよう求めました:

  • 青少年アクセス制限システムの構築

  • 有害情報自動フィルタリングおよび管理策

  • 性搾取物・ディープフェイク生成遮断技術の適用

xAIはすでに情報通信網法に基づいて青少年保護責任者を指定していますが、最近発売されたグロックサービスに対して追加資料の提出を求められました。

韓国法違反時の厳罰警告

放通委は韓国において当事者の同意のない性的虚偽映像物の制作・流通・所持・視聴がすべて刑事罰の対象であることを明確に伝えました。金鍾哲放送メディア通信委員長は「新技術の発展を支援しつつ、社会的副作用を防ぐための合理的な規制が必須である」と強調しました。

グロックサービスの現状と今後の展望

xAIは公式な立場を明らかにしていない中、放通委は類似の事例の再発防止のために定期モニタリングを強化する方針です。

コメントする

목차