【X社が警告】相次ぐ「Grok」での性的加工巡り法的措置示唆　アカウントの永久停止処分も［スポニチアネックス］

スポニチアネックスの記事によると…

X社が警告　相次ぐ「Grok」での性的加工巡り法的措置示唆　アカウントの永久停止処分も

　X社は6日までに、違法コンテンツを投稿するなどしたアカウントに対して、アカウントの永久停止や法的措置の実施を検討するとした声明を発表した。

　同社は「X上の違法コンテンツに対して、児童性的虐待素材を含むものについては、それを削除した上でアカウントを永久に停止し、必要に応じて地方自治体および法執行機関と協力するなどの措置を取ります」と警告。

［全文は引用元へ…］2026年1月6日 14時29分

以下,Ｘより

【ライブドアニュースさんの投稿】

【声明】X社が警告、相次ぐ「Grok」での性的加工巡り法的措置を示唆https://t.co/CS1alLYhES

違法コンテンツを投稿するなどしたアカウントに対し、アカウントの永久停止などの実施を検討するという。Grokを巡っては、実在する女性の写真などを無断で性的に加工する事案が相次ぎ、物議を醸している。 pic.twitter.com/Xgd1AuERsV

— ライブドアニュース (@livedoornews) January 6, 2026

イーロンのコメントをクローズアップhttps://t.co/aJZ8sk6fQv

— Nなし🇯🇵（新アカ） (@nnasi_astrology) January 6, 2026

これはさすがに看過できんよね。
技術の問題以前に、人の尊厳を踏みにじってる行為やと思う。
線を越えた使い方には、きちんと責任が問われる流れになるのは当然やな…。

— みどるっち｜働かなくても売れる仕組み (@mido_lucci) January 6, 2026

だれでも他人の画像を編集できる機能を取り除けよと自分たちで提供しておきながら危険だから使うなは意味不明すぎる。

— 🦑🪼 (@accomplir_) January 6, 2026

AIの問題じゃなくて、
使う側のモラルが追いついてないだけ。
規制入るの当然すぎる。

— おすすめLABO 🧠 (@osusumeLABO) January 6, 2026

引用元　https://news.livedoor.com/article/detail/30324885/

みんなのコメント

• 表現の自由と無断加工は別問題
• これは完全にアウト。😠技術の問題じゃなくて、使う側の倫理の問題だと思う。法的措置も当然では。
• 警告だけでなく、そもそもGrokのフィルターを強化すべきではないでしょうか。悪用されることが予想できたはずです。法的措置を示唆するなら、プラットフォームとしての管理責任も徹底してほしいです
• Grokを悪用した性的加工、ついにX社がブチギレ！法的措置と永久BANの二段構えですね。🚫🔥 技術の悪用は絶対にNG。AIの便利さが消えないためにも、ルール無視のユーザーには厳罰が必要です！⚖️📱✨
• 被害に遭った方の精神的ダメージを思うと胸が痛い。 もっと早く規制されるべきだった。
• Grokを使ったというだけで正当化されるわけがない。 実在の人物を無断で加工する行為は明確にアウト。 AIのせいにする風潮こそ危険だと思う
• すごいね。
• 被害者の尊厳を守るためにも、厳しい対応が必要だと思います
• 「表現の自由」を履き違えた代償として法的措置は当然だし、実在の人物をターゲットにする卑劣な行為には徹底的に厳罰を下すべき。
• そもそも画像をアップする時に投稿者が編集を許可するかしないか選択できるようにしてくれ。 編集大喜利みたいな感じでみんなで楽しみたい人もいれば、ただ見て欲しいだけで編集されるのはどんな形でも嫌な人だっているだろ
• とても重いニュースですね。 誰かの写真や存在が、本人の意思に反して使われること自体がつらいことだと思います。 安心して過ごせる場所であるために、はっきりとした対応が進むことを願います。 どうか、守られる流れにつながりますように🍀

japannewsnavi編集部の見解

X社、違法コンテンツへの対策を強化　Grok利用者にも法的措置を示唆

X社は6日までに、プラットフォーム上における違法コンテンツの投稿に対して、アカウントの永久停止や必要に応じた法的措置の実施を検討すると発表した。特に児童性的虐待素材を含むコンテンツに対しては、強い姿勢で臨む構えを見せており、「削除に加えてアカウントを永久に停止し、必要に応じて法執行機関と連携する」と明言した。

今回の声明で注目されるのは、同社が提供するAI「Grok」に関する言及である。Grokを用いて違法コンテンツを作成した場合や、Grokに対して違法コンテンツを生成するように指示する行為についても、同様の厳しい措置を取ると明記されている。これは、AIの悪用による倫理的問題が社会的に広く認識される中での動きとして、大きな意味を持つ。

特に問題となっているのは、実在する人物、特に女性の写真を無断で性的に加工するという行為である。Grokを使ってビキニ姿などに編集された画像が拡散される事案が相次いでおり、当該の被害者だけでなく、社会全体にも深刻な影響を与えている。X社はこうしたケースに対し、アップロードと同等の扱いで対処するという方針を強調しており、技術の利用と責任の在り方が問われている。

SNS上では厳しい声　「当たり前の対応」「人の尊厳を傷つける行為」

このX社の発表を受け、SNS上では多くの反応が寄せられている。「これはさすがに看過できん」「人の尊厳を踏みにじってる行為やと思う」といった声は、AIを使った不適切な画像加工に対する強い拒否感を反映している。中には「線を越えた使い方には、きちんと責任が問われる流れになるのは当然」という意見もあり、社会全体でAIの利用を監視し、ルールを整備すべきだという意識が広がっている。

また、「当たり前の対応だ」とX社の措置を評価する意見がある一方で、「だれでも他人の画像を編集できる機能を取り除けよ」「危険だから使うなは意味不明すぎる」と、そもそもこのような機能を提供している企業側の責任を問う声も少なくない。AI技術の進化とともに生まれるリスクに対して、企業がどのように管理し、社会と向き合うのかが、今後の焦点となりそうだ。

特にGrokは、自然言語での指示に応じてさまざまな処理を行う能力を持つことから、使い方によっては悪用されやすいという指摘が以前からなされていた。今回はその一端が露呈した形であり、技術の発展と社会的倫理とのバランスが改めて問われている。

問われる技術の責任と企業の姿勢

今回の声明でX社は、違法行為に対する毅然とした態度を示したが、今後の実際の運用がどこまで厳格かつ公平に行われるかが注目される。すでに一部の利用者からは、対応の遅れや一貫性のなさを指摘する声もあり、「本当に削除とアカウント停止が徹底されるのか」と疑問視する意見も出ている。

加えて、「AIの進化に制度が追いついていない」との指摘も根強い。個人の権利を守るための法整備や、企業が自主的に設けるガイドラインの見直しが急務となっているのは明白である。X社に限らず、多くのAI関連企業が今後同様の課題に直面することになるだろう。

最も重要なのは、技術を開発・提供する側の責任である。AIは使い方によっては人を救うが、一方で他人の尊厳を侵害する凶器にもなり得る。企業がその両面を正しく理解し、社会に対して説明責任を果たす姿勢が求められている。Grokをめぐる今回の事案は、その警鐘と見るべきだろう。

執筆: japannewsnavi編集部

最新記事