生成AIの濫用を止めたい蛙 @gai_guideline Twitter profile

Pinned Tweet

生成AIの濫用を止めたい蛙

@gai_guideline

10 months

我々は生成AIの何を規制したいのか？(1/2)

5

155

270

Last Seen Profiles

@beafandraw

@M_Hudson5

@dzrtofficial

@KiwiiGecko

@bokeplokalmalam

@liisanmartinez1

@3ddy444

@sungchano

@gu_katie

@lucaquaglia66

@AlfioKrancic

@CamaraPNP

@xXMaDzXx14

@Yamashita_666

@sambutlerUS

@omurais_62

@beyzatasezen

@TokimekiFactory

@reveurfilm

@beafandraw

@ibmsnibranch

@premierleague

@BrachetEliott

@coletivo1908

@r_runitupp

@davec5045

@Obi42308992

@notebookbydd

@wilburholdthing

@jandakembangstw

@Instephwetrust1

@nogizaka_o0mii

@kyomtan__

@genshindotjpeg

@Janosikgarcia

@gomdolV_BTS

生成AIの濫用を止めたい蛙

@gai_guideline

7 months

本日をもってこのアカウントの運用を停止します。理由は、フォローやインプレッション数を無意識に『強烈な報酬』と捉えてしまい、X内のAI規制派に迎合するような投稿に注力してしまうからです。私の思いは『AI規制リソースの集中』であり、以上の現象からXはその活動に不向きと判断しました。

5

49

111

生成AIの濫用を止めたい蛙

@gai_guideline

10 months

(2/2) 最も許容できないものが決まったら、ぜひリプライ・引用などでご意見いただきたいです。・「決めきれない」も一つの意見として受け止めます。・「書いていないけどコレは？」も募集。ただし目的は問題の詳細な列挙・分析ではないです。

2

40

93

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

文化庁(行政)の生成AI規制は雲行きがあやしい。無断学習が規制されそうにない。でも私には行政を動かす力は無い。だったら立法はどうか？と考えました。文化芸術振興議員連盟、比較的党派色は薄いようです。ここに意見を請願するのを試したい。

0

30

89

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

『生成AIの無断学習を禁止する』とはどういう運用になるのか。既に禁止の立法は成功した、という仮定で運用面の課題を考えてみました。性悪説に基づき、抜け穴を塞ぐという考え方です。特に2枚目の赤枠部分については思案中…。いいアイデア募集します。

5

55

87

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

生成AIイラスト無断学習の規制を国会議員の方に請願する際に。「著作権法に違反している」と伝えると「じゃあ立法ではなく司法の役目だ」とされる可能性があります。「違反を訴えたいが、判決予測性が低くて困っている」というのが現状だと思います。 ※判決予測性…これの専門用語ありますかね？

2

39

74

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

1枚の学習画像の、生成AIイラストへの寄与率が高々1/58億というのは間違っていて、入力・出力間の『重み付け』があるため原理的には寄与率が50%やほぼ100%ということがあり得る。

3

33

72

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

そう言う意味では、既存のイラストレーターの方々にとって真に脅威なAIユーザーって『絵が上手くなりたかった人』…ではなくて。『コミュニケーションが上手く、鑑賞者が求める者を理解し、手を動かすのが早く、絵以外の分野でスキルを持っている人』…なのかもしれないな。

3

22

59

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

文化庁の『AI と著作権に関する考え方について（素案）』読みました。学習元がそのまま出力されるファインチューン（過学習）、少量学習データで学習データの影響を強く受けた生成物を出力（LoRAが念頭か）を享受目的、という見解。進展ですね。画風の模倣は享受目的とまでは踏み込んでいないか。

0

23

57

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

知人と生成AIについて意見交換しました。（極力フラットな立場の意見を知りたいため）あくまで個人の印象ですが、作成資料を見せたところ「ディープフェイク、CSAM、CO2排出は後付けの課題じゃない？」とのこと。想定しない指摘で驚き、自省。おそらく有権者は『本心かどうか』をよく見ています。

1

14

57

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

AI Actの暫定合意内容について、速報を読みました↓ ・学習データの十分詳しい概要の公開が義務付け。朗報。・『企業秘密を除く』のフレーズがついている。うーん、なんだろうこれは…？無断学習データを「企業秘密です」と言い張り非公開にできるとしたら、危険です。

0

25

48

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

生成AIの説明として秀逸で、この仕組みの何に憤るのかを示すべきです。例）無断学習を禁止したければ生成AI登場まで社会通念上許されていた、公開物の学習行為。これを大規模にされるのは『新しい』ことで、社会で長期間かけて受容されていない。なので『新しく』学習されない権利を求める、等。

りゃん 🐈/acc🌸

@Rrd_nN

8 months

@JtDNHrNDdi29704 説明します。学習データとして7と16があったとき、 7と16を覚えておいて、7+16で23を出す仕組みなら、複製データを使っていると言えますが、そういう仕組みではないのです。

4

237

463

2

24

47

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

NYタイムズの訴訟を見ても、生成AI出力物が学習元と市場競合性があるか否かは1つのポイントになりそうですね。つまり経済的な視点です。プロのイラストレーターは競合を示しやすいです。一方、市場を持たないアマチュアのイラストレーターの扱いが経済的な視点では難しい。

0

11

45

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

AIイラストの『驚き』傾向が変わってきたと感じる。当初はtxt2img、簡単なテキスト→（一見）美麗なイラストだった。最近はimg2img、元の画像をアニメ化したり、動画にしたりが増えた気がする。（マトリックスのアレとか）結局文字ではコントロールが難しく、依拠性が必要な技術なのではないか。

0

3

27

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

リポストありがとうございます。生成AIは問題点が多く、それを逆用して大量の論点で煙にまくAI推進派も居ます。論点が発散しやすい状況のため、改めて「何を一番規制したいのか」を皆で確認・共有したいという思いの投稿です。ぜひご意見をお聞かせください。

3

7

27

生成AIの濫用を止めたい蛙

@gai_guideline

7 months

「AI と著作権に関する考え方について（素案）」に対するパブコメ提出しました。生成AIによる類似性のない無断学習・出力について、論点から抜けていることについて指摘しました。

0

3

26

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

生成AIの問題一覧をまとめることは必要なんですが、ただ…問題点まとめ的な画像って「ズラッ！」と列挙されるとそれだけで読まれにくいというか。難しいですよね…。どうしたものかな。有権者向けの資料は、一番許せないことを強調したほうが、支持を集めやすいと思います。

0

4

20

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

文化庁の最終案次第ですが、今の流れだと「類似性なくても生成AIの無断学習禁止」は年単位の議論になりそう。文化庁はあくまで現行法の解釈で着地点を見つけようとしていて、フリーライドな学習の完全禁止ができない。

0

6

27

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

生成AIの氾濫は色々なレベルで起きていて、レベルに応じて有効な対抗手段が変わってきます。・イラスト投稿、依頼サイトでの氾濫 →SNSでの草の根的な抗議活動・ビッグテックのAI無断学習、企業のAI広告利用 →立法(国会議員)や行政への要望活動活動を使い分けるのが大切と考えます。

0

11

23

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

生成AI絵なんかが使われるのは何故？と悩んでみたのですが、クライアント「絵にそんな金を払うつもりはない。けど発注先が人しかないから払うしかない」って案件が、思った以上に多かったのかもしれない。市場の原理で代替されたら取り返すのは難しい…。やはりルールで縛るしかないですね。

0

6

23

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

これは、・学習データのタグリストに7000人の作者名を発見した・7000人の作者名をプロンプトに入れて出力してみたのどちらなんでしょうか。前者ならNAIがv3も学習データリークしたことになり、かなりマズイ。より過学習に寄ったNAIv3が転載・拡散されたことになります。

ペンギン

@penpengin2023

8 months

こちらファイル名が作家名になっているようだったので、スプレッドシートでファイル名一覧を作ってみました。

2

1K

2

15

23

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

議員の方を複数説得し、立法に動いてもらうにはSNS一本では無理だと思いますね…。そういう請願は山ほど来るのが国会議員。お願いレベルの話は反応して貰えない。少なくともNPO『法人』を立てて、署名も請願も形式が整ったものが必要そうだ。まずは協力者集めと、課題の優先順位付けだ。

0

5

22

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

私は生成AIを規制すべきと考えていますが、このポストは的を射ています。日本で無断学習行為を禁止しても、・他国(や公海上)で学習・他国で生成したイラストの廉売・他国で生成したイラストを素材に使った商品(ゲームなど)の廉売と、他国の規制が緩ければ経済的に圧迫を受けます。

玉井克哉（Katsuya TAMAI）

@tamai1961

9 months

日本はＡＩにデータを食わせることについて著作権法上の制約が非常に少なくて、それが関連産業の立地にとってプラスになってほしいと知財屋としては思っている。「ＡＩはいかん。規制せよ」という立場の人もいるのだが、日本だけ規制してみても、邪悪な目的で開発する国や人は止められない。

29

158

347

1

7

21

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

追加：無断学習禁止のハードル(規制の運用面)

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

『生成AIの無断学習を禁止する』とはどういう運用になるのか。既に禁止の立法は成功した、という仮定で運用面の課題を考えてみました。性悪説に基づき、抜け穴を塞ぐという考え方です。特に2枚目の赤枠部分については思案中…。いいアイデア募集します。

5

55

87

0

7

23

生成AIの濫用を止めたい蛙

@gai_guideline

10 months

傍観できる状況ではないので、声をあげることにしました。生成AIの濫用に反対し、ガイドラインを求めて活動します。よろしくお願いします。

0

3

19

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

文化庁の見解だと、「現行の著作権法で類似性(同一性)・依拠性があるものを出力するための、学習時の複製は著作権法第30条の４の非享受目的に該当しない」で、訴えられる出力物範囲は広まっていない…かな。広まったのは公開者(=出力者)だけでなく、学習時の複製(=モデル提供者)も違法ということ。

0

10

19

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

EUで無断学習を排除できても、日本で。日本で無断学習を排除できても、公海上で。ネットがボーダレスな以上、学習の演算は世界中で回せてしまう。業の深い技術だ…。ただ打つ手が無いわけではなくて、生成AI技術・データセットを輸出管理対象にする、など。実効性を追求した規制の議論が重要です。

0

9

18

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

まずは議論が打ち切られていないことは喜ばしいですね。それと読んで思ったのが「相当ニュース記事の生成AI要約を意識しているなあ」という印象。享受目的のところが特に。あと今更ですが、文化庁が規制対象にしているのは『AIモデル提供者』なんですね。生成者が入っていないのが気になる…か。

0

6

17

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

うーんそうか、これがあるのか。生成AI出力物を何世代も学習し続けたら、完全に破綻する。でも1~2世代なら破綻は少ない。それを学習元にしてしまう。いやー、これしんどいなー…。 Xの投稿学習もそうですけど、行きつく先は『クリーンなAI』か。アピールしてくるんだろうなー…。

ペンギン

@penpengin2023

9 months

LAIONがDall-E 3の生成画像でデータセットを作成し、CC0のライセンスを付与。 →基本的にAIトレーニングで自由に使える Dall-Eは著作権で保護されたデータでトレーニングされているので、事実上データロンダリングになっている。

0

100

173

1

7

17

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

面白い、そして前向きな視点だと思いました。生成AIイラストはあくまで画像処理で、『イラストを介した双方向コミュニケーション』は人間がやる。そこは機械で代替できません。 1点気になるのが、AIユーザーも人間であり、AIユーザーは鑑賞者が求めるものを提示する速度が圧倒的です。

河地りん | Kawachi Rin

@gingatrain814

8 months

生成AIイラストという大津波はもう正直個人レベルでは止められない流れだから、絵描きとしては完成品だけを載せるSNS運用だけじゃなくて、・メイキングを載せたり、・えがく世界観をより強固に構築したり、・その絵のコンセプトを文章として語ってみたり、

38

1K

4K

0

6

18

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

生成AIの仕組みをコラージュだと主張するのは、キャッチーでクリエ��ターの賛同者を増やしやすいですが、三権の場では無力だと考えます。「コラージュではない。こういう仕組みだから」と反論されれば以降の法解釈の議論で痛手になります。

0

5

16

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

クリエイターの方は依拠性を、一般の消費者は類似性（同一性）を重視する傾向があって、そのギャップは結構大きそうだな…というのを、スイカゲームの引用欄を見て感じますね。このギャップは埋める必要があると思います。なぜなら立法・行政の方はどちらかというと、消費者側の思考だからです。

0

5

12

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

皆さんの意見では、やはり無断学習禁止が最優先という方が大半ですね。本心をいうと、私は短期的に(2,3年程度で)生成AI全体を禁止できるとは思っていません。無断学習禁止だけでも、達成できるか悲観的です。だからこそ、限られたマンパワーを最優先課題に注力したいと思います。

0

6

15

生成AIの濫用を止めたい蛙

@gai_guideline

10 months

@otr_ut 生成AIの不確実さを突き、AI提供者の意図しない動作を狙って起こす行為はプロンプトインジェクション攻撃(Prompt Injection Attack)と呼ばれます。これは利用者のモラルの低さと、AI提供者のプロテクトの未熟さの両方によって起きる課題です。#生成AI

1

6

14

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

EUのAI Actや文化庁が議論しているAI規制の対象はモデル提供者、つまりAIに学習させている人。出力者や、その生成物を買って商品のパッケージにする人の規制って、世界中どこでも議論されていない気がする。そしてかなり難しい。尾田先生やスイカゲーム作者は、他人の著作物を複製していないから。

0

4

14

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

そこまでは主義主張が関係なく、起きることの推測です。その結論としての玉井さんの「だからAI活用を」というのには私は反対です。が、反対するからには、上記課題への対応が必要です。（まだ思い付きレベルですが）非AI製であることの証明技術・輸管が、重要になってくると思います。

1

4

12

生成AIの濫用を止めたい蛙

@gai_guideline

7 months

EUのAI ACTの例外規定について。禁止orハイリスクAIでないオープンソースの生成AIは、例外でEU AI ACTの規制を受けない。・SDのようなリークモデルもオープンソース扱いになるのか？・学習元開示義務も含めて、例外（＝学習元開示不要）なのか？といった疑問点がある。うーん…

1

11

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

技術面(Glazeなど)や規制面でのAIへの対抗に平行して。手描きのイラストレーターの方が鑑賞者から見つけられやすい、そんな運用面の議論も進めばいいと思います。 AI表記をさせるのは性善説寄りで、手描き表記・証明が性悪説に基づくと思いますね。

0

3

12

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

方法論ですが、他国の無断学習AI品廉売への対処法↓ EUが「CO2排出量が多いから関税」の理屈で域外のEVなどを排除するように。「非AI製を証明できないなら関税・税金」とすれば、性悪説で無断学習AI生成物を排除できます。AI表記ではなく、非AI製の証明技術が必要だと思います。

1

6

10

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

58億の画像はSDのモデル学習に十分な枚数でしたが、必要枚数ではありません。より上質な学習データに厳選した中規模言語モデル(造語)が出て、そこに自らの著作物がない場合、無断学習禁止の活動は親告罪という別のハードルに直面します。

2

1

11

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

国会議員の方に生成AI問題をアピールするには、「現行法で対処が困難な課題があります。助けてください」と言うのがいいかも。そうなると、分かりやすいのは類似性・依拠性と、それに引っかからない無断学習を例示ですかね。

0

4

10

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

短期戦で『無断学習禁止』を掲げるのは正しい。最初の法規制で、クリエイターの民意で達成できれば一番良い。ただ「類似性ない無断学習はOK」の論調に行政がなった場合、法解釈をひっくり返すのは長期戦。その間に小～中規模言語モデルで学習データを絞られたら、『無断学習禁止』では戦えなくなる。

0

2

9

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

EUのAI Actの続報が待ち遠しい…。特に��制対象になる生成AIの定義（計算量や機能）が、どこまで既存の生成AIを含められるかは重要な点ですね。

0

9

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

心配しているのは、この『活動リソースの枯渇』です。クリエイターはネバーギブアップの精神が強く、理想形を求めます。創作活動でそれは正しいと思います。でも規制運動で必要なのは活動リソース（人手、資金、精神的・肉体的スタミナ）管理です。本当にこれだけは許せない、をまず決めましょう。

0

2

8

生成AIの濫用を止めたい蛙

@gai_guideline

10 months

生成AIの規制議論で感じること。 1. 事実 (判例、法案、行政議事録etc) 2. 解釈 (1から容易に導けることetc) 3. 意見 (1や2に対する要望etc) を分類し、強い理屈を作る必要があります。これを混ぜてしまうとほころびを生むため。重要なのはSNSで言い負かすことではなく、三権への主張です。 #生成AI

0

1

8

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

EUのAI Act合意について、報道だけ読んでいたので元ソースも確認。・やはり学習内容の詳細な概要公開は義務。だけど… ・対象が汎用AI(GPAI)となっている。GPAIの定義は速報になし。恐らく機能＆計算量で定義。・MidjourneyやStable diffusionがGPAIかと言うと、やや微妙。

Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI | News | European...

MEPs reached a political deal with the Council on a bill to ensure AI in Europe is safe, respects fundamental rights and democracy, while businesses can thrive and expand.

www.europarl.europa.eu

1

4

8

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

イラスト関連企業が生成AI機能を導入したがるのは、技術ツリーが理由かも。生成AIお絵描きサポート機能の前提技術に、ポン出し生成AI機能の製品開発時の知見・顧客からのフィードバックがありそう。すると企業はポン出し生成AIを導入したがるし、顧客は「こういうの求めてない」と需給が乖離する。

0

1

9

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

一足飛びの方法としては、共感してくれる国会議員を見つけて話を聞いてもらうことかなー。ちょっと「マジか？」とビビるのが、無断学習禁止に共感してもらう前に、そもそも生成AI問題について発信している議員の方が少ないんですよね。共感してくれそうな方のリスト作って、問い合わせしてみるか。

0

1

8

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

逆に後者なら被害に遭っていない方も「無断学習の被害に遭った」と誤解することになるのでは…。

0

2

8

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

補足ですが、「何を一番規制したいのか」を決めた後に絶対にしてはいけないのは、他の争点を交渉材料に使うこと。（例：無断学習OKにしていいからAI表記してよ）これは絶対に避ける。あくまで優先順位付けです。

0

5

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

『AIは新しい創作を出来るか』の一部を『AIは外挿しているのか』と言い換えられるのでは、と思う。 AIは原理的に外挿できるし、新しい創作はしていると思う。（色のような上下限が学習データにあるのは別）ただそれは弱めの新しい創作で、印象派を生み出すような強めの新しい創作は原理的に出来ない。

りゃん 🐈/acc🌸

@Rrd_nN

8 months

@JtDNHrNDdi29704 説明します。学習データとして7と16があったとき、 7と16を覚えておいて、7+16で23を出す仕組みなら、複製データを使っていると言えますが、そういう仕組みではないのです。

4

237

463

0

2

5

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

これは本当にその通りで、1から10までSNSで完結する運動は脆い。行政・立法の意思決定に影響力を行使したければ、国会議員を旗頭にするか、NPO団体を立ち上げる必要がある。個人的には後者の可能性を模索したい。理由はクリエイターが票田として弱いから。議員に依存しない活動の方がいいだろう。

巳ん吐

@Bzc3s

9 months

𝕏でお願いするのは無理筋過ぎると思う組織的に動きたいなら組織を作ってその中で思想統一、計画した動きをし更に信用をも築き上げなきゃいけないそれこそ慎重になった方が良いんじゃないかな

0

2

9

0

4

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

文化庁の考え方は『学習者と著作権者』にフォーカスしており、生成者はフリーです。これは著作権侵害の摘発が難しい構造です。学習時の複製は電子データのため検知できず、生成物を見て問い合わせても、生成者が学習者��モデルを開示するとは限りません。摘発できるタイミングが無いのが課題です。

1

0

4

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

NightshadeやGlazeの効果が高いと、恐らくSDの開発者が止めるように言ってくる。さらに予想の動きとしては ①SDの規約を変え、学習妨害の使い方を禁止②Nightshade開発側が拡散モデルそのものに著作権は無いと主張 ③SD側が独自の拡散モデルを作り、知財を主張みたいな流れかなー。

1

4

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

悲観し過ぎも良くないので補足します。「GPAIとは？」が合意に含まれていると思いますのでそれ次第かな。そもそもGPAIの定義は、しっかりと決まっていたわけではありません。EUは世界に先駆けて、その定義をしたかもしれないです。

0

3

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

あれ、ということは著作権法第30条の４は『複製』を許容しているから、享受目的だという理由でAIモデル提供者を規制できても、AI利用者を規制できない…？（間違いですかね？）少し混乱したのでもうちょっと勉強します。

1

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

@sho0223ta 私個人は出力の形式(翻訳、ソースコード、画像、音楽)に寄らず、一律で規制すべきと思います。画像の無断学習を禁止するなら、音楽や翻訳も同様に禁止します。その上で立法や行政が、「翻訳の無断学習利用は公共の福祉に資する」と判断して規制緩和するのが法治の手順と考えます。

1

4

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

@Roshel_sraph 返信ありがとうございます。この資料では「『実用面』の無断学習摘発をどうするか」の議論をしたいという目的でした。特許侵害もそうですが、知的財産権の侵害は摘発して司法に訴えなければいけません。その摘発フローを具体化したい、という試みです。

1

3

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

うーーーんそうか…。例の海賊AI音楽聞きました。漫画界の生成AIに対するスタンス。短納期の漫画は1人で完成させるものではないから、抵抗感薄い…のかもしれない。

0

2

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

規制運動は2パターンあると思います。 (1)中庸な浮動票への啓蒙 (2)規制の具体的な立案と、政府への提案どちらかだけでは規制の達成は難しいです。(2)をより具体的にする活動が、必要だと感じています。

0

3

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

@canchanandme 顛末を読みましたが、個人的には集団の呼び方があったほうがいいと思います。現状、投票者の過半数にAI規制的な思想を啓蒙できたとは言えません。その啓蒙が完了したタイミングで、「規制派」という名称は自然消滅するでしょう。最初から「規制派」という名称を外すのは、手順前後です。

1

3

生成AIの濫用を止めたい蛙

@gai_guideline

10 months

腰を据え、今必要なことを考えました。【AI規制に必要なこと】 →『どこまで規制するか』の意見統一ではないですか？ →活動リソースは限られ、無駄な消耗はNG。 →我々は生成AIを①無くしたい②無断学習止めたい③非営利にしたい④AI表記させたい…etc どれなのか、規制運動の設計が必要です。

0

2

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

『生成AIを使っていますマーク』を義務にすれば、何の心配もせずにニュースが見れる。買い物ができる。日常生活が送れる。

0

2

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

やはり「非享受目的とは？」は文化庁の議事でも頻出。さらに「基盤モデル（Stable Diffusionなど）とファインチューニング(LoRAなど)の扱いの差は？」も議論がされている。そして基盤モデル開発、ファインチューン、生成が全員別人の場合、かなりややこしい話になる…。誰を罪に問うのか…。

1

2

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

「AIに描いて貰った」と言いながら明らかに同音異義語をプロンプトに入れているの、寒いよね…

平泉康児／編集者

@hiraizm

9 months

フェイク画像の大喜利、つまんねーうえにインターネットぶっ壊れる

0

80

447

0

2

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

「ゼロリスクを追って乗り遅れる」ことへの忌避感が、生成AIデータセットの問題点に注目しない理由なのかな。

0

2

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

それと政府への提案はどんなルートがあるんだろう、という戦略も練らないとダメですね。 A. 選挙で議席を取る B. 署名結果を提出する C. 行政内の委員会へ働きかける　…とかですかね。インボイスの件を見るに、B. 署名は門前払いされるかもしれない。感覚ですが、やっぱりNPO団体を作ってC. かな。

0

2

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

無断学習について。性悪説で色々考えを巡らせてます。しんどい点は、やはりイラスト生成者とAIモデル開発者が別人なこと。 AI Actや文化庁議事を読むと、行政はモデル開発者をどう規制するかの議論中。生成者は議論の対象になっていない。それを含めて無断学習禁止のハードルを整理してみます。

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

@info_kvaluation @matu1004 この言い回しから考えるに、「生成AI出力物も従来の創作と同じ基準で、著作権侵害を判定したい」というのが文化庁の見解なのでしょうか。それだと無断学習や絵柄の複製は止められない…。危機感を覚えます。

2

0

2

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

まず何よりも、AI規制活動の設計をしたいですね。それに必要なのは「AIの何を許せないのか」を出来る限り絞る。そこに注力すること。活動リソースの分散は、『生成AIの全廃止』を達成できるなら好手。でも、その前に活動リソースが枯渇したら、悪手になります。

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

10 months

本意が伝わってくれたら嬉しいが…少々心配。今すべきことは戦場を拡大すべきか、絞るべきか、という判断をするにあたり「絞るべき」という提言です。「絞る」というのは手を緩めることではなく、「注力する」という意味です。 #生成AI

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

10 months

@canchanandme その通りです。意見を変える見込みがない相手と言い争って、メリットはありません。AI規制・ガイドライン作成に向けて、同じ方向性を持つ方と話し合いをしましょう。#生成AI

1

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

10 months

遅きに失したとは思いたくないが、何から手を付けるべきか…。優先順位としては、 (1)同じ方向を見ている方との、規制議論の整理 (2)中庸の方への、生成AIの啓蒙 (3)対立軸への説得（→これは正直、ほぼ意味がない）やはり先に(1)、次に(2)だろうか。#生成AI

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

その通り、生成AI規制に関しては性悪説での対応が必須ですね。目的が基本的に「人件費削減」なので、善性よりも金に傾きがちな技術。性善説はこの場合無力です。

平泉康児／編集者

@hiraizm

9 months

生成AIは結局タレントのディープフェイクポルノやら詐欺やらの悪用事例ばかりで、人間の欲望やクソさ（性悪説）の見積もりが甘すぎだろってなる

1

117

419

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

AI規制活動のリソースは限られている。規制派はスーパーマンの集まりではないし、傷心の方もいる。だからこそ集中が必要ですね。 AI推進派(いわゆる #絵柄割れ厨 )はそれを理解しているのか、とにかく論点をブラして増やす。煙に巻いてくる。重要なのは何か、常に足元の確認は大切です。 #生成AI

高橋しょうご

@Shogo_tkhs

10 months

重要なのはテーマに対する文言の分散ではなく集中。生成AIを "AI" と曖昧に括り、意見を言ってきた人に「AI反対なんだな！新技術が怖いんだろう！！！」という論法のそれ。文言への思い思いの感想を語るのではなく「この件の発言元はこれだ」と、徹底して追跡する方がマシ。

1

10

27

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

8 months

@nonnon__nonai 引用欄を見る限り「似ていない」という作者の方々が散見されます。後者の場合、無断学習はされておらず、無用に不安にさせてしまっている恐れがあります。

1

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

@takakuratomoko 拡散モデルのイラスト生成AIはまさにおっしゃる通りの挙動です。逆拡散の過程で、例えば『目の周りに暗いピクセルがあればサングラスだろうから隣も暗く塗ろう』という風に学習元データの特徴を使います。この方式は依拠・類似性をロンダリング出来てしまうのが、現行法で対処が難しい点です。

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

これは単なる方法論ですが、いちいち創作者ワンイシュー党を立ち上げて議員を１人送り込むより（ってのが凄まじく大変なんですが）、現職の方を説得するのがたぶん楽だしね…。

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

@azur_noir @Bzc3s オプトインなら学習データの詳細な公開はセットですよね。性善説と生成AI問題は相性が悪すぎます。そしてLLMの性能は学習データの質に強く依存するので、その学習データ≒ノウハウを公開するのはAI開発企業として致命的です。生成AIの構造が既に、クリーンを謳うことが難しい。

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

違和感だらけの波の動き。でもパッと見で済ませる一般の方は、生成AIの粗さに気付かず騙されてしまう。波などのランダムな動きは、命を吹き込む「フリ」がしやすいのかも。危機的状況です。逆にAI特有の指の不自然さは、一般の方でも気付きやすい。そういう題材を避けて波を選ぶのも、姑息だ。

KAZE／高橋賢治 🐦

@KAZE

9 months

動く「だけ」で命が吹き込まれるとか片腹痛いです。むしろ作品を汚して劣化させただけだわ。

5

34

170

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

写実的画像の偽情報の話が流れて来たので、個人的見解です。非AI製を非AI製と証明する方が、全AI生成者にAI製表記を義務付けるよりも簡単だと思います。理由は権威主義国家がAI製表記をしないからです。 #生成AI

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

@Shogo_tkhs 特許要件として新規性と進歩性がありますが、進歩性を生成AIに担わせることの問題ですね。IT業界（他には恐らくメーカー、医療分野）では問題として、少なくとも私の職場では認知されています。これは特許庁の管轄ですが、今のところ文化庁以外から生成AIガイドラインが出てきそうにありませんね。

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

@sagashimonokamo 1つ1つの問題点が深堀されず、AI開発者にとって「解決すること（できること）リスト」になると、好ましくない状況だ思いますね。無断学習が許容できないのだから、無断学習を防ぐ・摘発する立案に注力する…とか。

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

新しい技術！でゴリ押してきたが、1年ほど経過して技術の幻滅期が到来。メッキがガリガリ剥がれた印象。やはり性急な規制緩和や緩いガイドラインの設定はすべきではないですね。政府には一度立ち止まって、生成AIについてよく考えてもらいたい。

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

@Shogo_tkhs 特許の場合は出願・維持費があるので劣悪な大量出願は起きにくいと考えます。一方、生成AIを使った明細書作成では、いわゆる『ハルシネ―ション』による実用例データのねつ造を、審査官は看破できない恐れがあります。これは申請者と審査官の専門(出願)分野に対する知見の非対称性による問題です。

1

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months

出演する推進派の人たちもアレだけど。勘ぐってしまうのは、それをキャスティングしている人は何故そんな人選するのか…。

0

1

生成AIの濫用を止めたい蛙

@gai_guideline

9 months