【Grok】画像編集は有料会員に制限［朝日］

Spread the love

朝日新聞の記事によると…

「Grok」画像の編集機能、有料会員に制限も　悪用被害が相次ぐ中

X（旧ツイッター）に搭載された生成AI（人工知能）「Grok（グロック）」を悪用し、実在する人物の写真が性的な画像に加工される被害が相次ぐ中、Xは日本時間9日現在、Grokによる画像の編集機能を有料会員限定で使えるように一部制限している。Xでは日本時間9日午後3時現在、無料ユーザーがリプライ（返答）欄でGrokに画像の加工を求めると、「画像の生成と編集は現在、有料会員限定です」と返答がくるようになった。機能を使うためには、有料会員に登録するよう促している。

［全文は引用元へ…］1/9(金) 16:38

以下,Ｘより

【Yahooニュースさんの投稿】

【Grokの画像編集有料会員限定に】https://t.co/NAkOlLBLvF
— Yahoo!ニュース (@YahooNewsTopics) January 9, 2026

お疲れ様でした✨

Grokの画像生成、有料会員のみに
なっていたのですね💰

せっかくなので今日夜中珍しい
現象の起こる木星の画像を
作ってもらいました💫

今のGrokの問題はエ○系と思いますが
有料化で解決するといいですね☺️

来週もよろしくお願いします✨#企業公式がお疲れさまを言い合う https://t.co/TSUBccKOrQ pic.twitter.com/vERFpIyU0h
— アドコム・メディア【公式】展示会と出版 (@adcommedia) January 9, 2026

確かに…有料になっちゃったね。これからどうなるんだろう？
— Blotter✧ (@Blotter_art) January 9, 2026

『技術そのものを封じる＝正規利用者も一律に制限する』という構図はプラットフォーム設計として下策です。

・編集されてもいい人と、編集されたくない人

この二者が区別されておらず、後者が一方的に我慢させられている構造こそが問題 #GrokToggle #同意のない編集は嫌 https://t.co/VCxQ8PcOQc
— Girls in AI Art｜GiAA(ギア) (@GirlsinAIArt) January 9, 2026

引用元　https://news.yahoo.co.jp/articles/f7d32ddbdeddb1a8caceccc60f88e970f84355b7

みんなのコメント

有料会員限定にすることで拡散は抑えられるかもしれませんが、これは根本対策というより応急処置に見えます。加工した画像を別アカウントが投稿する可能性や、センシティブ判定をすり抜けるケースは残りそうです。問題は誰が使えるかより、同意のない人物画像をどう技術的に防ぐかという設計の部分。今回の対応で沈静化するかどうかは、まだ慎重に見た方がよさそうですね。
Grok、画像の編集機能有料にしましたか。有料会員限定にしたなら今よりも身元は特定しやすいですが、どうだろう。他のAIで作成可能なので、応急処置になるかなぁぐらいの様な。そもそもお金を払えば、画像編集自体は可能で、制限なしでまた同じようなものが作成できるのなら、効果は限定的ですか。それでもやらないよりは良いですが。被害を防ぐとなると、運営側でアカウント一発凍結などで取り締まりを強化するか、供給元を絶つか、運営側だけじゃなく法で罰金などの刑罰を科すかになるのでしょうが、これもいたちごっこでしょうね。性的なものだけではなく、著作権の発生するもの、本物かフェイクなのかの見分けという問題もあります。これもAIでジャッジすることになるでしょうが、AI全体の課題ですかね。
8日夜あたりから混雑していたので、何かしらの変更があるんだろうなと思っていたら、そういう事でしたか。まぁそうでしょうね、としか云いようがないですが・・・。私は画像生成には触れていませんでしたが、一体どのくらいの事が出来たのか、正直、気にはなりました。実際のところ、怖くて見られませんでしたが・・・。今回の事が、Grokを知るきっかけになった人も居ると思いますし、有料会員が増える可能性もあるのかな、と思います。
有料会員は個人情報を提供しているのである程度の抑止効果はあるでしょうね。大手量販店と関わる仕事を昔していたが、バイトが問題を起こすのは忙しくて人が多い都市部の店ではなくて暇で人の少ない地方が圧倒的に多かった。人は人の目があると思うと犯罪を犯しにくくなる。ただオーサーが書いている通り、投稿済みの画像は弄れるようなのであくまでもある程度の効果でしょうね。
法的には誰にも見せず個人的に楽しむなら自由なわけだけど、Xを検索すると誰にでも見える状態でしか作れないと勘違いしてる層もいて、堂々と一般人や有名人のフェイクヌード(ビキニ含む)を作ってる奴がいてビックリした。これ友達とか同僚のじゃないの？ってのをほぼ自分の顔出しアカウントでやってるヤツまでいて色んな意味で凄い事になってた。
そもそも他人がアップした画像を勝手に加工するのって著作権法の同一性保持権侵害に当たるのではないのだろうか？それを簡単に行えるようなツールを提供するのって法的・倫理的に問題があるような気がする。
有料ならクレカ経由で本人確認できますからね。悪用したら即本人特定しやすいから良いと思います。 Xは無料のワケわからないアカウントが多過ぎるからいっそのこと有料会員のみのコミュニティにするべき。
今日のタイムラインで見たが、AI学習禁止と著作権者のウォーターマークをGrokにほぼ削除させていた海外アカウントがいて絵師の方が激怒していた。当然重大な著作権違反だが、海外のアカウントだけに怒ることしかできないという… 大したセーブ機能もつけず、人の権利を簡単に侵害できる機能を作っていく姿勢には本当に理解ができない。
抑制にはなるかもしれませんが根本的な問題解決にはなりませんし、むしろ手軽に人権侵害できる機能を有料化して稼いでるように見えてしまいます。セーフティが機能してないのなら一時的にサービスを停止してでも安心して使えるようにするべきです。最近の生成AIを巡る問題はAI企業が儲けるために人権を蔑ろにしているようにしか思えません。
これはつまり、「お金さえ払えば、今後も自由に性的な画像加工ができますよ！」という X側からの明確なメッセージと受け取るべきでしょうね。多くの人が「企業は社会的責任を果たすべきで～」とか「自主的に機能制限を設けるよう申し入れを～」とかちょっと時代認識の甘い理想論をたれ流してる一方で、マスク氏はそんなの一切お構いなしに、しっかりカネ稼ぎのえげつない戦略を進めてますよ。さて、各国が建前を捨てきれず法規制をためらっている間に、いったい何万人何百万人の被害者が粗雑なアイコラの餌食にされることやら。
GeminiやChatGPTで無料で出来ることを課金専用にするGrokくんは流石ですね
正解すぎる有料会員が画像生成で違反を犯した時は違反金の罰則も
有料化しても悪用する奴は金払ってやるだけだろ。根本的にリアル人物の服脱がすような編集禁止にしろよ。これじゃ被害者守れてないし、ただの金儲けに見えるわ。

コメントをする

japannewsnavi編集部の見解

Grok画像編集機能制限の経緯
X（旧ツイッター）に搭載された対話型の生成AIであるGrokの画像編集機能を巡って、実在する人物の写真が本人の同意なく加工される事例が相次いでいることが報じられました。特に露出度の高い画像や、性的な印象を与える加工が行われたとして、被害を訴える声がSNS上で目立つようになりました。こうした状況を受け、Xは日本時間9日時点で、Grokによる画像の生成および編集機能を有料会員に限定する措置を取っています。無料ユーザーが画像編集を求めた場合には、有料会員登録を促す案内が表示される仕組みとなりました。
この変更は突然行われた印象を持つ利用者も多く、直前にはサービスの混雑を感じていたという声も見られます。画像生成に直接触れていなかったユーザーにとっても、今回の件がGrokという生成AIの存在を知るきっかけになったという意見があり、機能の影響力の大きさがうかがえます。一方で、制限の内容が利用者区分の変更にとどまっている点については、対応の十分性を疑問視する声も少なくありません。

有料会員限定化に対する受け止め
有料会員限定とした点については、一定の抑止効果を期待する意見が見受けられます。クレジットカードなどを通じて個人情報を登録している利用者であれば、問題行為があった場合に身元を特定しやすくなるため、安易な悪用を思いとどまる可能性があるという考え方です。人の目がある状況では不正行為が起きにくいという経験則を引き合いに出す声もありました。
しかしながら、課金さえすれば同様の画像編集が可能であるならば、問題の本質は変わらないのではないかという指摘も多くあります。他のAIサービスでも似たような加工が可能である現状を踏まえると、今回の対応はあくまで応急的なものに過ぎないと受け止められています。また、加工した画像を別のアカウントで再投稿することや、判定をすり抜けるケースが残る点も懸念材料として挙げられています。有料化によって利用者が増える可能性を指摘する声がある一方で、それが被害防止につながるかどうかは慎重に見極める必要があるとの見方が広がっています。

法的・倫理的課題と今後の論点
コメントの中では、他人が投稿した画像を無断で加工する行為が、著作権や人格権の侵害に当たるのではないかという法的な疑問も示されています。特に同一性保持権の観点から、こうした行為を容易にするツールを提供すること自体の是非を問う意見がありました。さらに、誰にも見せず個人的に作成する場合と、公開の場で共有する場合の違いを理解していない利用者が存在することへの驚きも語られています。
また、性的な表現に限らず、著作権のある作品や本物とフェイクの見分けがつきにくい画像が拡散される問題も指摘されています。これらを判別するためにAIを用いるとしても、生成AI全体が抱える課題であり、簡単に解決できるものではないという見方が一般的です。運営側による厳格なアカウント凍結、供給元での制限、さらには法的な罰則の導入など、さまざまな対策案が語られていますが、いたちごっこになる可能性を指摘する声もあります。今回の有料化措置が沈静化につながるのか、引き続き多くの利用者が動向を注視しています。

執筆::japannewsnavi編集部