おん……

AIもトレパクがローコストと気づいてしまったか。学習元データとの類似チェックを埋め込まないとな。

情報量が多いと混ざっていい感じになるけど少ないと元の要素が強く生きてきてしまうということだろうか。ここまで一致するものがたまたま出力された時それを使うとまあアウトだろうなという

記事によるとt2iの方が酷似画像が出るんだね。
確か記憶や記録とかしてないんじゃなかったっけ？
(個人の感想です)

こういう不都合な事実に目を逸らさずに著作権および商用利用の仕組みを正しくしていって欲しい。
ここがクリアになるまでは著作権グレーのデータセットを使った商用利用AIは使いたくない

“テキストから画像を生成する拡散モデルが学習データとほぼ同じ画像を生成していたことを実証した研究報告”やばい。怖い。これがあるからなぁ。

あっ、やっぱりかあ。i2iだったらほぼ確実かな。いずれにしてもアウトでしょ。知財に詳しい人からすれば明確に黒。

(｡･ω･｡)ﾉ

学習画像と“ほぼ同じ”生成画像を複数特定 米Googleなどが調査

「上位1000枚の生成画像を視覚的に手動で調べたところ、さらに13枚（合計109枚）が学習データとほぼ同じであると分かった」

人工知能が手抜き作業を学習してた

そりゃそうじゃない？著名人の肖像っていう個人情報自体がグレーなんだから。

生成のために参考にした画像を列挙する機能をつけて、元画像に、還元する機能がないと非常にまずかろうなあと思うのである。こういうのを見ると。

今回の結果はプライバシーや著作権の問題も深く絡む

✍🏼👀.oO( あとで見る )
▶︎

同じ画像は生成されないという仮定がどこから来てるか読んでみたいところ。

SDより規模が大きいImagenのほうが生成率高いみたいなのちょっと驚き。学習データの重複が多いほど出やすいという話だけど、それなのかな。

”109/1億7500万”の確率をどう見るか、ということと、トレパクされた画像データを学習データから抜いてみるとどうなるのか、あるいは同じラベルの別の画像を入れてみるとどうなるか、とか。

画像生成AIが話題になった半年前くらいに、「バカだなぁ。学習データで使うだけでトレスとは違うのに著作権なんて侵害するわけないじゃん。」としたり顔で言ってた人達沢山居なかった？

AIでこれなら、人間が無意識に過去の記憶をオリジナルと錯誤して描いちゃうのは、やむを得んな。

このプロンプトでこれが出てくるのは駄目なんだけど、たかだか10Gそこらの学習データから１億６千万枚の画像を復元できるのは、逆に凄い技術なのでは？

膨大な出力の中には学習元と酷似する物も有る、ぐらいの。

基礎は模写で鍛えるのは人間もAIも同じだよな

よりPVを集められるからかも知れないけど、メディアは正しい言葉を使って欲しいね、例えタイトルであっても… 『

初期に話題になった紹介記事でも「billie eilish」と入力してビリー・アイリッシュが出てきてたんだから、「そりゃそうだろ」としか。 著作権/肖像権の権利処理が済んでる気はしない。

おっと、GANは理論上トレパクが起こらないはずだったけど、別のモデルでは学習データそのまんまで出力される場合があると

生成物の特徴がn=1の学習データに収束してしまう可能性、今のAIの仕組み上避けられないことはさすがにわかっててやってると思うけど。

薄々気付いてはいましたけど、ああやっぱりな…って感じなのです。

以前君の名はのイラストをAIに書かせてた人見かけましたけど、殆ど映画のポスターまんまだったのです。

AIだってパクったらだめやん

AIが作った画像の著作権って、どうなるんだろう。AIサービスで作った画像をデザインに使っていくようなことも今後起こり得るだろうし。

はは、ざまぁ……

よく見つけたなぁ……

これじゃないか

NETFLIXのロゴが、ほぼそのまま再生されているのが痛いな。これじゃ、AIが生成した架空のデータだといっても通用しない。

"…これは学習データの各画像を拡散モデルが記憶し、生成時にほぼ同一を出力していたことになる。個人を特定できる顔写真や商標登録されたロゴも含まれていたため、今回の結果はプライバシーや著作権の問題も深く絡むことになる…"

煽ったタイトルだなー😅炎上ねらいだろうか😵‍💫


単純に学習に失敗していると思うんだけど🤔
下記のPaperを見るとデータセットの中に同じ画像が多数含まれると過学習になり、元の画像が認識できるほど似た画像が出るみたいだし

していることが発覚した。」

・

煽りで「トレパク」を使うのは下衆過ぎだけど、重大な生成AIの欠陥。悪意を以て類似させるのではなく、意図せぬ類似はだめだ。

人と共用のトレパク判定AIを作ってオーソライズすればよい。イラストAIはそれでフィルタする。黒を商用利用したら問題にすればよい。

1億7500万枚中109枚が学習データとほぼ同一の画像が出力された。個人特定できる顔写真や商標登録ロゴも含まれる。Stable Diffusion,Imagenで調査。上図が元,下図が生成画像

A.I.絵肯定派の理屈が根底から覆っちゃったね。
バンバン訴訟になればいいと思う。

何度も書いていますが、どんな革新的な技術であっても完全なものなんてありません。
時世等に適した運用方法をセットにする必要があります。

うむ。以前試した別なやつで、どうも見覚えがある気がしたものが いくつかあったのは、気のせいではなかった??

トレジャーパクトリー

根底からひっくり返りそうな話😱

AIがトレパクだと…お前だけは信じていたのに…

仕組み的にありえない、とか言ってた人、息してるー？

トレパク、こちらが偽バイデンの画像
DSがやっている画像編集の１つです