【X】Grokでのビキニ画像を技術的に禁止　画像生成は有料プランのみに［IT media］

IT media NEWSの記事によると…

X、Grokでのビキニ画像を技術的に禁止　画像生成は有料プランのみに

米Xは1月14日（現地時間）、X上のAI「Grok」が児童の性的画像や合意のないヌード画像を生成すると非難されていることを受け、Grokを更新し、「ビキニなどの露出度の高い服装をした実在の人物の画像の編集をGrokアカウントで禁止するための技術的対策を導入した」と発表した。

［全文は引用元へ…］1/15(木) 10:40

以下,Ｘより

【Yahooニュースさんの投稿】

【X Grokでのビキニ画像を禁止に】https://t.co/mleBVmNvl0

— Yahoo!ニュース (@YahooNewsTopics) January 15, 2026

Grokのビキニダメで
人間同士SEXしてる動画はありなの？
これで別サイトに誘導して金稼いでる人はいいんだな https://t.co/pwR03xehAi

— 快斗 (@1yv16) January 15, 2026

服をデンタルフロスにする裏技も規制されるんけ https://t.co/Eq14hVnr4f

— Ethica (@3thic4) January 15, 2026

「ほな全裸なら」
「ほな逆バニーなら」
「ほな童殺セーターなら」

いくらでも躱せるやろ、さっさとGrok止めてくれ https://t.co/3InTGRoNTl

— こだぬき@クロ諏訪ードの人 (@ponpoko_jump) January 15, 2026

引用元　https://news.yahoo.co.jp/pickup/6566230

みんなのコメント

• 他人が載せた画像を第三者が勝手に編集すること自体ダメだと思うんですけど… 画像編集機能は有料で残っているし、一時的な対策でしかなく根本的な解決ではないと感じます この機能が問題起こして荒れるだろうことを多くの人は感じていただろうし実際大荒れしたわけですけど、正直開発側も荒れることは予想してたと思います 機能は一部なくした上で有料プランに誘導するまで想定内だったのでは…と訝しんでしまいますね
• そもそもはこういったAI機能は、性善説前提で作られていったものだろうから、 その考え方自体を変えていかないと、悪用は増えていく一方のように思います。 多くのことについて、便利と悪用は紙一重。 それと、本人ではない人が本人のフリをして全身写真を載せて、それを加工するような事象が多く見られるような気がします。 実際にいる人物なのか、AIで作成された架空の人物なのかも分からなくなってきている。
• 生成ＡＩがこれから社会に浸透し出したら、似たような問題はあちこちで起こり得るだろうし、その「弊害」や「副作用」を飲み込んだ上での生成ＡＩの社会展開なのだろう。そして今後、動画や写真などネットにアップされたものについて、いちいち「疑う癖」が付くであろうことは容易に想像が出来る。
• Xユーザーはなぜか、Xに載っている画像なら二次転載や加工をしても良い、ような風潮がすごくみられる。殆どのユーザーが普通にアイドルやスポーツ選手の写真・画像やアニメの画像を載せてポストしている。動画もしかり。 元画像の方も宣伝意識が強いのか特に大きな注意喚起もないし、X側からも当然ように注意や削除依頼もない。 画像加工も是非するべき対処だが、こういった風潮を作り上げたのはX及びTwitterが何もしてこなかったのが大きな要因なのは間違いない。
• イーロンは逃げ腰のようだったが、あの大企業で対策できる技術があるのに画像生成対策をあらかじめ講じなかったというのはひとえにスポンサーがたくさん集まらないとXが儲からないからに他ならない。情報技術は悪用されると単に性的被害のような良俗侵害にとどまらず国と国との争いにまで発展する。開発企業は人としての矜持をもって臨むべきだ。イーロンはじめ先端開発企業にはそれが欠けている。
• 有料にしたことである程度数は減るのかもしれないけど、そもそも他人の画像を使えるようになってるのを何とかしないと。 一方で画像を使った大喜利みたいに他人に使われる事前提のやりとりもあるので、画像・動画のアップロード時に編集可・不可の属性を付けられるようにするべき。何なら保存の可・不可もできたらいいと思う（スクショで撮られたらそれまでだけど、少なくとも意思表示はしているので提訴になった際に有利）。
• 自宅なら全裸で寝ていても怒られないけれど、公園だと犯罪になるのとおなじで、手元のスマホで遊んでいる分には面白いオモチャだけれど、AI生成の不適切画像を公開拡散することについては、アカウントを停止するなど実践的な手立てがあるように思います
• 私はXにゲームのスクショ画像を投稿しています。 最近そのゲームの画像をAI加工して投稿する人がちらほら出てきて、自力で美しく見えるようにゲーム内で撮影している身としては、もやもやしています。 なんというか、自力でやった訳でもないのに自慢げに投稿していて、それってなんの意味があるのと思ってしまいます。 同じゲームのファンでも、相互フォローさんでも、そういう画像を投稿したのを見るととても残念に思います。 少なくとも私はAI加工は嫌いだし当面使う事はないので、ガチガチに規制してやって下さい。
• ビキニでなくとも他人が著作権を持つ画像を勝手に編集・アップしたら著作権および著作者人格権の侵害になるんだから、基本は他人が編集できないようにして、投稿者が許可した場合のみ編集できる機能にすればよいと思う。それでも無断転載されたら被害は出るが今よりはマシ。
• ヤフコメもそうだと思いますが、投稿すれば即座に反映できる仕組みにも 問題があると思います。 運営側がAI等で確認しても良いのではと思います。 レスポンスの良さが売りなのかもしれませんが、 安全の為にはタイムラグも必要かと思います。
• どこまでがOKでどこまでがNGなのかの線引き探しが始まる予感
• キャベツに水着は無理だろって言ったら、水着を着たキャベツの画像が送られてきました。コレもダメかな？
• OKとNGの境界がどこに引かれるのか、その線引きを見極める局面に入ったように感じられる。
• ビキニ以外のなんやっけ、ラップ巻き巻きとかデンタルフロス？みたいなのに置き換えるやつはどうなったんやろ。 アプリ版でも禁止になったかどうかも含めて完全な解決はして無さそうだが。

japannewsnavi編集部の見解

Grokの画像生成規制を巡る経緯
私が今回の一連の報道を読んでまず感じたのは、X上で提供されているAI「Grok」を巡る問題が、単なる機能調整の話ではなく、生成AI全体が抱える構造的な課題を浮き彫りにしているという点でした。Grokが児童の性的画像や、本人の同意がないヌード画像を生成しているのではないかという指摘を受け、Xはビキニなど露出度の高い服装をした実在人物の画像編集を禁止する技術的対策を導入しました。また、画像生成機能自体を有料プランに限定するという決定も同時に行われています。
一方で、xAIが提供するスタンドアロン版のGrokでは、無料ユーザーでも画像生成が可能である点が残されており、完全な統一対応とは言い切れない状況です。さらに、国や地域によっては法規制を理由にジオブロックが実施されるなど、対応が複雑化しています。こうした動きは、インドネシアやマレーシアでの遮断、英国や米カリフォルニア州での調査開始といった国際的な圧力の中で進められたものであり、場当たり的との評価が出るのも無理はないように思われます。

利用者の声に見える不信感
私が特に印象に残ったのは、一般ユーザーから寄せられているコメントの多くが、今回の対策を「一時しのぎ」と受け止めている点でした。他人が投稿した画像を第三者が勝手に編集する行為そのものに強い違和感を覚えるという意見や、有料化によって問題が根本的に解決するとは思えないという声が目立ちます。
また、X上では画像を投稿した時点で二次利用や加工が黙認されているかのような空気が長年形成されてきたという指摘もありました。アイドルやスポーツ選手、アニメの画像が日常的に転載され、運営側から明確な注意喚起が行われてこなかったことが、現在の混乱を招いた一因だと考える利用者も少なくありません。
さらに、生成AIによって実在人物と架空人物の区別が難しくなり、疑う癖を持たざるを得ない社会になるのではないかという懸念も語られています。便利さと悪用が表裏一体である以上、性善説に基づいた運用は限界に来ているのではないか、という冷静な見方が多く見受けられました。

今後の線引きと運営の責任
私が全体を通して感じたのは、今後は「どこまでが許容され、どこからが禁止されるのか」という線引きが避けて通れない段階に入ったということです。コメントの中には、画像や動画を投稿する際に、編集可否や保存可否の意思表示ができる仕組みを導入すべきだという提案もありました。完全な防止は難しくとも、投稿者の意思を明確にすることが、後のトラブル抑止につながるという考え方です。
加えて、不適切なAI生成画像を公開・拡散した場合には、アカウント停止など実効性のある対応を取るべきだという意見も見られました。即時反映を売りにしてきたプラットフォームであっても、安全性を確保するためには一定の確認時間を設ける必要があるのではないか、という声もあります。
今回のGrokの件は、生成AIが社会に浸透する過程で避けられない摩擦の一例に過ぎないのかもしれません。しかし、運営側がどのような姿勢で向き合うのかは、利用者の信頼を左右する重要な要素です。多くのコメントは、強い断定ではなく、今後を静かに見極めようとする慎重な視線で締めくくられていました。

執筆::japannewsnavi編集部

最新記事