日本のAI研究の権威・松尾教授「生成AIでクリエイターの作品が学習されて大量にパクられるリスクがある」 [523957489]
■ このスレッドは過去ログ倉庫に格納されています
人工知能学会 生成AI “活用へ環境整備を”“リスクや懸念も”
2023年6月7日 6時42分
人工知能に関する最新の研究成果などを発表する人工知能学会の大会が6日、熊本市で始まり、急速に活用が広がっている生成AIを日本の起爆剤にしていくための課題などをテーマに研究者らが議論を交わしました。
人工知能学会の全国大会は6日、熊本市で始まり、事務局によりますと4日間の日程で行われる研究発表や講演など、およそ900の催しのうち、「ChatGPT」などの生成AIに関するものがおよそ1割を占めているということです。
このうち「日本は生成AIを起爆剤にできるのか」をテーマに行われたトークセッションでは、人工知能学会の副会長で、慶應義塾大学の栗原聡教授が「生成AIはサポートツールとして圧倒的な効率化を図ることができる。誰もが最先端の生成モデルを活用できる環境を国策として作るべきだ」と述べ、生成AIの分野で日本が世界でリードしていくための環境整備の必要性を指摘しました。
また、オンラインで参加した東京大学の松尾豊教授は「生成AIは新たな産業革命であり、未来を拓く」とした上で、「リスクや懸念もある。特にクリエーターを中心に自分の作品が学習され、似たような作品が大量に生成されることが実際に起きている」として、活用と開発、リスクへの対応についてバランスを取りながら進める重要性を訴えました。
大会は9日まで熊本市の熊本城ホールで開かれ、生成AIをロボットの制御に応用する研究や企業の導入例を紹介した研究の発表などが予定されています。
https://www3.nhk.or.jp/news/html/20230607/k10014092021000.html 完全オリジナルなものを作ってるクリエイターなんていないと思うがなw 有名漫画家の絵柄真似たとしてどうなるんだ?
人間もそうだろ
AI差別するのか?? 元ネタ表記義務付けてくれればいいよ
調べもの系も出典つくやつあるだろ? SDとLoRAとi2iをごっちゃにするな
仮にもAI研究者を名乗っているならそれくらいはやれよ 自然な言語話せるの10年かかっても出来なかったと報道1930でツラツラ言い訳してた人か AIの弱点は
「ヘタクソだけどシコれるエロ漫画」
を描けない事だ パクられたら裁判したらいいだけじゃないの
人間だってドラゴンボールとかパクって勝手にTシャツとか売ったら逮捕されるんだし 有名クリエイターはAI以前からその洗礼を受けているわけでAI関係ないよね 流行りの新陳代謝が早くなりすぎると思うけどな ぶっちゃけ今でもこの世の創作物全部把握出来てる奴なんていないのに 著作権周りはグレーのラインあーだこーだやるより、
完全アウトなやつをさっさと処せるようにするのが先だと思う
>>11とか漫画村みたいな
それなしに白だの黒だの言っても意味なくね? どんな道具も人間側の使い方次第だよね
便利な物ほど必ず犯罪に使われるし アメリカの産業みんなそうやって成長してきたんじゃん
Youtubeなんかいまだに違法動画とデマ動画が主なコンテンツだぞ >>13
よりその手の悪事が推進されると考えると関係があるといえる 絵師「この絵良いやん、参考にして描いたろ」
AI絵師「この絵良いやん、参考にして描いたろ」
絵師「ギャオオオオオン!!」
AI絵師「えっ」 絵描き憎しで理性を失う醜いケンモメンのギャオンをお楽しみ下さい😁
一番の見どころは人間とプログラムの違いが分からない奴です😆 絵柄を似せるのは良いけど、似たような絵を書くのはアウトだろ。
それはAIに限った話ではない。
人間がやっても同様にアウト。
アウトなことを簡単に大量に量産できるのが危険だと言ってるだけだよ。 >>23
i2iはアウトでLoRAまではおkって線引きだよね
>>12みたいな人もいるから難しい >>25
いやその線引き怪しい
正直生成AIって学習データの数が探索空間の広さに比して異常にすくないから
極端なまでの過学習をしてるといっていい
その点汎化してないから二元でいうところの画像を見て影響を受けた異常のことをやってるに相当してしまう 学習素材の中に著作権に触れる作品があったかどうかどうやって証明するんだろ?
何テラもある素材公開すんの? ワンピースみたいな漫画いっぱい出てた時、あいつら違法だったんかw 人間性の学習を人間以上にしてしまうだろうから
敵対した所でもうどうにもならないな >>4
当たり前だろ
描く速度が違いすぎて人間が勝てないんだから
そしてAIが一から絵を生み出すわけじゃないので人が書かなくなったらAIも同じ絵を作るだけになって余計に終わる >>27
作品を公開するなら学習情報も公開しろってなればいいだけじゃね
公開しないなら好きにどうぞって話 controlnetとか超技術だけど容易にトレース作れるってことだもんな >>27
Adobeの生成AIの学習元の著作権はAdobeのものだよ
だからAdobeで生成 >>38
プロンプトとシード値も公開して一致しなかったら嘘だってバレるぞ クリエイターのLoRAを配布するのは営業妨害だろうよ >>43
これは一発出しじゃ無理だわ
塗りはAIっぽいがどうなんだろ >>44
人間も正確にパクったら叩かれる
しかも人が書く速度なんて比較にならない速度で作品が書けるんだから問題になる >>49
AIの塗りってなぜか分かるのはなんでだろう まあ別に商売にするんじゃなければどんだけパクっても自由ってのが建前だったはずだろ 将棋とかでも「ソフトが強いのは過去の棋譜のおかげだ!」とか言ってたけど
いつの間にか自己対局とかで最強になるソフトが出てきたからな
ソフトウェアで適切に学習させれば上手い絵が作れるという部分が一番のブレイクスルー >>53
投稿サイトを荒らしてるような状態になってるから法で規制されなくてもそういう場所からは排除されるんじゃね >>54
絵に関しては評価軸があいまいすぎるから無理だろ
人間並みのAIが再現出来るんだったらその頃には絵どころじゃなく人がいらなくなってる >>51
髪の毛と服が融合してるように見えるからね
そこだな
この絵の両目は手で描いてるなこれ 専門家らは、生成AIが文章、画像、音声、映像の全領域で盛り上がり、急速に発展する中、クリエーティブ産業はこの技術によって全面的につくり替えられる可能性があると指摘する。
ファン、アーティスト、それらを管理するシステムが大急ぎで新たな規範に適応しなければならなくなっている。
「今では誰かのスタイルやそれに似せたコンテンツを無限に生み出せるようになっており、近いうちにその労力もほとんどかからなくなる。私たちのすべてがその意味を理解し、折り合いをつけていかなくてはならない」。
長年にわたりAIを研究し作品に活用してきた、ミュージシャンのホリー・ハーンドンはそう述べた。
(東洋経済 2023年6月3日号)より 海外の議論見ろ
日本の低学歴の判断は古いし遅れている >>56
物体が何かを判定するみたいなソフトが既にあるからな
タグ付け自体はそれで出来るようになる
つまりワナビーレベルの二次創作ならソフトで十分ってことだね >>62
その評価軸で感動する絵になると言えないから全然だめと考えていいよ >>1
AIによって生き残るのは既得権益、政治に強い影響力のある連中だけ
それすら理解せずに、既得権益の肩を持ってる人たちが多いのが笑える
ネトウヨならまだしもな >>62
処理に処理を重ねるととんでもなく時間がかかりそうだから
量子コンピューターの普及待ちになりそうだが ただ絵を描く人の価値は大きく下がるのは諦めろ
その人の作品だから、キャラクターが好きとか付加価値をつけていけ アニメーターとかずっと低賃金でしょ
ずっと搾取されたまま放置されてたわけだから
これからも搾取するのが国の方針だよ >>63
というあいまいな軸を持ち出すしかなくなっているわけなので
絵における感動の定義などを具体化していく過程で数値化可能になるということだから
二次創作おじさんはどちらにしろいらんな >>66
全然量子コンピューターの話ではない
アクセラレータがあれば既存の学習よりは高速化するだろうし
そもそもLLMですらオープンソースで改良されて、
GPTより圧倒的に少ないメモリで動かす等学習の高速化・最適化がされてる。
つまり、ソフトウェアの進化すらまだ始まったばかり。
二次創作で他人の絵を模倣するしか能がない奴は不要となる未来しかない
原作を作れる人間は問題ない。 >>67
現状のAIは人に依存してるから価値が下がるとAIの勝ちも下がるっていう仕組みになってるからな 二次創作で他人の絵・キャラクターを模倣して承認欲求を満たしたいだけの奴は
「でもそれ、ソフトのほうが上手にできるよね」って話になってくる >>34-35
今使ってるグラボとニ枚刺しで純粋にスペックアップするもの?
交換になるのか追加になるのかよくわからん
今のグラボはたしか2年前くらいに買った1050の3gbとか このネタTwitterで追ってると精神おかしくなる
賛成も反対も先鋭化しまくってそのうち事件起きるわ >>69
人間の問題点として同じものには飽きるってのがある
AIが新しいものを創造できるようになるかどうかで全然変わる >>70
ゲームが停滞してるのは解像度が倍になると処理が4倍くらい必要になるからなんだわ
解像度を上げるだけでそうなるのにいくら高速化しても無理なものは無理なものがある >>75
「できない」なら、そこに活路を見出せば良いだけだし別にいいんじゃないのって思うが
「一度出来上がったスタイルを手作業で作り続ける」ということが創作の可能性を狭めている説もあるし >>76
それは単純にアルゴリズムの問題ではないからね。
同じアルゴリズムで計算量を増やしたらどうなるかという問題であり
LLMを筆頭とするソフトウェアのアルゴリズムの発展とは別の話としてとらえる必要がある >>76
それと、古典的なプロセッサはニューラルプロセッシング等を筆頭としたAIソフトウェアの処理に最適化されたアーキではないので
「アクセラレータ」を作れば仮想通貨のASIC等のように高速化しやすい分野ではある。 >>73
ならないよ
3090同士と4090同士とかハイエンドなら繋げられる >>69
そんなものつくれたらそれがAI以上の大発見だわなw これは技術的な問題ではなく、政治的な問題
どんだけ自民党に献金できるかっていうね
統一教会だってこのままだとなし崩しに解散すらされずに終わる
AI化もそういう話
企業役員なんて何してるかわからん連中がいまだに何億もの報酬をもらってるんだから
そんな状態でAI化が効率的に進化していくわけないだろw >>67
前から売れまくってる絵師はそうなんだけどね
画力が高いんじゃなくネームバリュー
その人の人格や作ってきた作品っていう背景が備わった上で絵が評価されるから
無名の人がAIで有名絵師ど同等の絵を出力したからといって突然評価されたり売れたりはしない
>>75
全然新しいの創造できるよ
いろんなポーズが必要なら、たとえばライブカメラとかのキャプチャをそのまま二次元絵に落とし込むっていうのを自動化して
SNS投稿まで自動化したら評価されるかは別としてネット上から見ると一見生身のAI絵師がやってるように見えてくると思う >>77
作業のデジタル化自体は進んでるから問題無くね ゲームの高解像度化はもはやDLSS前提になってる気がする 絵描き連中も団体で自民党に献金すりゃいいんだよ
何億か献金すれば
「イラストレーターの権利を守らねばならない」
とか言い始めると断言できるわ
それにメディアものっかる
自分が既得権益側になれば助かるだけの話
これに嫌儲民がのっかるとは思えんかったけど、なぜか嫌儲民は既得権益側についてのが笑える
思考回路がネトウヨと一緒じゃんw >>78-79
高速化は出来るだろうが、人間並みを再現しようとしたら必要なものは増え続けるからな
後、人間でも発想が早すぎる人がちょいちょい生まれるが
AIではそれが高速になっちゃう可能性がある
AIにしか分からない絵が生まれても人間としては困るぞ >>82
むしろ感動という軸が曖昧なので「ソフトで適当に作っただけの絵がコンテストで優勝」するのですよ
その意味では「既に感動する絵は学習で生み出せる」ことが実証されているので、
何を感動とするのかというパラメーターの問題に還元できるから発見でもなんでもない
画像公開して評価集めまくってビッグデータで属性ごとに
どの絵を「良い」と評価されるかを分析するとかでも良いわけだし >>84
人が取れるポーズなんか出尽くしてるから人間はさらに誇張して描いてるぞ
それだと新しくはない >>89
評価されてる絵を学習データにしてるだけだろう
一からそれができないとどっかで見た絵にしかならない >>88
まあ完全に人間知性を模倣するとなれば処理は凄いことになるが
GPTを筆頭としたLLMやAlphaGO等を筆頭としたソフトウェアは
人間の模倣をしなくても人間より優れたパフォーマンスを出せる分野があるという実証ではある
人間が人間であることに価値があるとするなら、ソフトウェアでより良いものが出来るなら、
その部分はソフトに任せればいいんじゃないのって話ではある >>93
大量のデータを高速処理するってのは元々コンピュータの得意分野だから 漫画でも3Dデータを使ってる人もいるけど、アシスタントも使わず一人で描く人もいる
進歩はあっても良いが、必要も無いのに淘汰が始まるのはマイナスでしかない >>91
評価されてる絵から「何故評価されるのか」というエッセンスを抽出するのは
「人間が絵の教本を見て描き方を模倣する」のと同じなので、
誰かの絵柄に似せて真似するタイプの二次創作絵はどちらにしろソフトでは不要になるね
また、ソフトウェアがジェネレートした画像を評価させるということ自体は人間にやらせれば良いというのは
人間の絵描きと同じ条件なので、評価されている写真等を学習の元にして、2D画像に落とし込んで学んでも良いわけなので
どうパラメーター化するかというテクニカルな問題でしかないので、トリビアルな話でしかないと思うな。
パラメーターに出来るかどうかという一点が問題だったのであり、パラメーターに出来ることは既に実証されてる 機械学習クッソ面倒臭いからスカイリムのMODみたいに誰かが作ってくれたそれを弄るだけでいいんですけどね 最近のAIスレはニュース性のないソースで立てていつも数人が多量レスで回してるイメージ パクリエイターの佐野ケンやら古塔つみおじやらを
全く処罰できない自浄作用皆無のイラスト界隈がなに言ったって助ける気なんてねーんだわ
AIのパクリより人間のパクリをなんとかしろよ ジャンプの人気漫画そっくりのパクリ漫画が他の雑誌でスタートするのは昔からあったな。 ケンモメンは何も生み出さない能無しなんだから騒ぐ必要ないでしょ 微妙に違う
ということも学習するから、法律スレスレを綱渡りするのはAIは得意そう 完全オリジナルを生み出すのが不可能だから
まず人が創作する時ベースになるものは何かしらある それこそパクリ判定AIで一致率80%とか調べて基準を上回る一致率のイラストは著作権を侵害しているとかそういう事しろよ
それこそAIで余裕でできるだろ AI絵は どこかで見たことあるけど実際探してもどこにもない絵 を出力するのが得意技
chatGPTが自信満々に大嘘つくのと同じく 学習した証拠はリバースエンジニアリングでわりと簡単に証明可能だからな
大手生成サービスは訴えられまくっておわるな
まあ地下に潜るかローカルでやるだけになるだろうが 人が人の絵を真似るのはタレントに似せて整形したりミュージシャンのファッションを真似るようなものだけど
AIがやるのはDNAを解析してクローンを作るようなものだからね。
こいつは育ち方も話し方も違うから別人だよって言われても自分のクローンを勝手に作られたら気持ち悪いよね >>107
LoRAの学習に使った中身とか調べられたりするの?
それならリアル系の画像作ってるやつやばくね? 世の中なんでもそんなもんだろw
車だって全部似たような形だしバイクもバスも形似てるだろ
建物も家もなんもかんもそんなもんよ Aiは学習データに沿った物を生成することに注力している
人間のクリエイターは学習データを越える物を描くことに注力している 色々な意味で問題あるのはわかるけど少なくとも日本じゃ絶対に法的な規制は入らないと断言できる
Twitterで勘違いしてそうな奴よく見かけるがそもそも絵描きって社会全体から見ると圧倒的にマイノリティなんだわ
この国でマイノリティが保護されることは基本無いってのはよくわかるだろ
自己責任や全体の利益の名のもとに無視されるだけ
どうにかしたいなら団体作って世論に訴えるなり議員に圧掛けるなりする必要あるけどイラスト業界ってそういう団体無いからな >>113
ジャップが諸外国の規制の流れに逆らえる訳ないから規制になるよ クリエイターの大半は版権元に許可とってない同人絵師だろ
根本的にAIと何が違うんだよ >>113
4年前の著作権法改正でわざわざ規定を設けて学習を合法にしたからな
あとは国際的な規制に合わせて変わってく部分はあるんだろうけど 松尾研有名だけど革新的な成果ってあんのか?
最年少特任准教授しか覚えてない パクられると同時にパクることも可能になるわけで
土俵がAIを利用した高クオリティ前提へと押し上げられるだけだろ そんなのは折り込み済みで数百万から億単位の学習元であれば1つあたりの著作に対する侵害は極めて微少で公共の利益の方が圧倒的に上回るから使いましょうって言うのがフェアユースの考え方じゃね?
特定の著作を学習元とするLORAはアウトだと思うが。 >>42
Adobeがデータ公開しないと確認できない >>119
現時点では、他人の作った絵柄lora拾ってきてオリキャラ公開するのは問題ないからやべーよね
利益バッティングする学習がダメなだけだから 本来自己の財産をどう処分するかは所有者の自由だが著作権とやらはなぜか複製などの利用方法に制限をかけてくる
人の権利、それも最も基本的な所有権なども平気で踏み躙るのが著作権だ
全体の創作物の供給を増やすという名目上必要悪として認められてきたがaiで供給が可能ならば最早それも必要ない
踏み躙られた人権を回復する時が今ここにきている
一刻も早く著作権、知的財産権の全廃を! 学習をパクリとか言われたら俺らが仕事覚えるのも師匠のパクリじゃないか
これ禁止したら職業訓練も成り立たなくなるわ 無断学習の塊である翻訳や検索は何も言われないし結局は役に立つか害を与えないかの問題
>>113
自民党議員に向かって人権だ尊厳だ叫んでるのを見ると哀しくなるよ
そいつらに一番響かない言葉を叫んでどうする もともと創作物自体なにかのパクリで完全オリジナルのものなんかないだろ こんなんコンピュータが出てきて事務職が減らされたことと比べたらカス見たいな問題やろ
そもそも二次元なんてほとんどキャラ被りしてるのに著作権なんて無理な話やん
逆にやり過ぎると今のAI塗りとかやたらねちこい顔はAIの物だから絵師は使うなよとかになりかねんしAIの方が成長速いからいずれ絵描けなくなるぞ >>42
>>120
ちょっと話は逸れるかもしれんけど
とりあえず両人のレスそれぞれに訂正入れときたい
Adobe Stockは公開されてて誰でも確認できるし
Adobeはデータベースの管理権限があるだけでデータそのものの著作権は持ってないよ
そんでもってAdobeが勝手トレーニング出来るのも利用者が規約に同意したからってだけだよ
そしてFireflyに使われてるモデルはもちろん公開されてない
個人的にはTwitterのAI反対派があれをクリーンとか言ってるのがよく分からんのよな
あれでクリーンで良いならSDもクリーンだよ めんどくさいからAIも二次創作も全て禁止にしろ
俺は表現規制大賛成 >>131
ありがとう
いうて本当に学習データかどうかは全てオープンにしないと確認しようがないな >>131
興味があってしばらくAIイラスト関連の動きみてたけど
最初はAI反対派はAdobeStockも著作権違反があるとかSDで作られたイラストが入っているとか攻撃してた
ただ日本企業と違って外野のお気持ちに反応しないのもあって
AI塗りつぶしツールみたいな名前で実装されてから
いつのまにかクリーンなAI扱いになった感じ >>22
たまに出てくる、この絵描き憎しって主張なんだろうな
反AIはともかく絵描きは特に憎まれる要素ないだろ
リスペクトがない、だと単に軽視されているだけだが、
憎しみをもたれてる、だと一定の価値があるように感じるからか?
それか、この主張をする奴が絵描きを憎んでいるか、いたことがあるのか トレースがー、言うて漫画家や絵師を批判してたが、
このケースはどうなの ■ このスレッドは過去ログ倉庫に格納されています