【動画】AI音声、これはガチで規制不可避か?wvw誰でも簡単に他人になりすますことが可能にwvw [373226912]
■ このスレッドは過去ログ倉庫に格納されています
満福ユウイチ
@ManpukuYuichi
AI音声で岸田総理になりすます実演を報道するひるおび。
おいおい、すげーなこれ。電話でのなりすまし詐欺し放題やんけ。歌手という職業も無くなるんでないか?
新しい技術は使い方によっては兵器にもなる。AIはマジで規制すべき。
http://abe.com こういう規制すべき論て核兵器と同じで、いわゆる東側や途上国が使うのやだから規制しようぜ!(でも俺たち白人先進国は裏で当然使うぜ)というだけだから反対 コードギアスR2って声真似る装置あるのに
会話の録音流しただけで裏切られたよな >>7
YouTubeで動画あげてるケンモメンいるだろ これってネットに声公開してる人はリスクあるってことだ
あるいはリアルでも声で喋ることで録音されて模倣されるリスクがある ボイスレコーダー使っても
ツイッターのアカウント乗っ取られた
で逃げられるね 規制ばっかやん
やっぱ企業系は駄目だな
オープンソースこそ正義だとわかったわ >>2
まあ声紋まで調べりゃ偽物とわかるんだろうけど、普通に聞く分には聞き分けできないわ 100%電話詐欺に使われるだろうな
てかもう使われてるだろ この間海外でビデオ通話をAI動画でなりすました詐欺事件あったな これからは有名声優とのテレクラの時代や
胸が熱くなるな 途中で外すとかしないとアナが喋ってるかわかんないじゃん 凄いな綺麗に作ってるね岸田にしか聞こえないわ
学習データ量とかどのくらいだったんだろう 好きな声で理想の妄想を簡単に実現できる
これヘタしたら廃人になるだろw これからのコミュニケーションツールは生体情報やスマホの固有情報込みでやるしかないな
データ単体の信頼性はもはや皆無に近い 私が「山」と言いますからお母さんあなたは「川豊」と言ってください
これで解決 政治家が間違いなく言い訳に利用するぞ
私はこんなこと言ってないAIだ!って >>14
厳罰化で対応されるぞ
写真と音声のAIは間違いなく個人が使ったら罰則になる
こんなの野放しにしたら社会が壊れる 声優にエッチな台詞言わせたりするの流れてるけどあれアウトだろ >>34
イーロン・マスクがすでに言ってる
あの動画の発言は私ではなくディープフェイクだってな 犯罪にしか使われないゴミAI
こんなもの本当に必要なのか考える時が来ている もし動画もリアルタイムでAIで特定の人物に書き換えできるようになったら動画は証拠にならなくなるかもな
いくらでも証拠動画を捏造できるようになるわけだし ニュースですごい~だの呑気に言ってる場合じゃないだろ
間違いなく犯罪に使われる こういう使われ方したらやばいだろうなとずっと思ってた
これを犯罪に使ったら懲役50年で頼む コナンのヤツじゃん
ドラえもんのヤツじゃん
ルパンのヤツじゃん
ついに現実がアニメに追いついた >>43
AIファイスマスクとAIボイスチェンジャー使ってるのを見抜くAI銭形作って欲しいなw 企業が開発してる機械音声は犯罪に使われないよう人間じゃないと判断できるように作られてるから
AIが実際の人間の声をサンプリングして作ったら限りなく判別できないくらいの物が出てくるのは当然 オメシスの企画でピーナッツくんの声をAIで作ったやつもやばかった
人間が喋った声をリアルタイムで変換してくれるやつだけど
マジでそっくりだったもん >>56
本当かよ技術ないだけちゃうの?
googleも凄いぞ凄いぞいうて結局出したものGPT超えれないし
嘘が結構紛れてるのが分かってしまった今日この頃 これは前々から危険視されてるし
既に政府に提言行ってるしな ・写真からデータ取り込んで本人そっくりな顔を作るAI
・写真の顔を不自然じゃないように動かすAI
・高レベルで条件に適した文章を考えてくれるAI
・高レベルで条件に適した計画を考えてくれるAI
これ全部実在してて実用化まできてるサービスだからな
これらのAIを全部駆使すれば簡単に詐欺ができるようになる >>49
こういう超厳罰化で潰していくしかないね
もちろん通常使用も禁止
この技術は排除しないと凄まじく不便な世の中になるのは間違いないから
インターネットが発展するのではなくて死ぬ 詐欺ならまだよくて怖いのはフェイクニュースに使われること
フェイクニュースが世に溢れてしまった
世の中の映像、音声、ニュースは何一つ証拠としての機能を持たないことになってしまう
例えば有名芸能人がJKレイプしてる動画がリークされたとしても
誰もそれが本当かどうか判断できなくなって
そのリークが何の意味も持たなくなる
今の心霊写真、UFO写真が何の価値も持たなくなったのと同じ現象が起きる おっさんがYouTuberデビューしてネカマが捗るな 今後はAI音声でキャラクター演じて声の学習元に使用料払う形態の作品が出てくるだろうな
あと吹き替えも元の役者の声で聴けるようになる >>67
一番得するのは権力持ってる犯罪者だよな
ディープフェイクだから訴えるの一言で騒動を消せる >>65
無理無理
出ちゃったらもうどうにもならんよ
そんな古典的な対策じゃどうにもならない >>67
正にこれ
ネットに基づく人類文明の天敵になる
禁忌みたいな扱いにして使った奴を片っ端からぶち込まないと終わる 規制というがもうできちゃって世に出たものをどう規制するんだ?
特に犯罪利用するやつなんて規制されてるからつって律儀に守る輩じゃないだろ
AIを看破る技術を発展させる方向性でアプローチしていくしかなくね? ディープフェイク対策ができてないうちにAIを野放しにするのは
ドローンテロを防げないままドローン野放しにするのと同じ
だから政府はドローンを規制しただろ
AIも同じ理屈で規制するべき
誰かが死なないと変わらんのか? 誘拐犯の声紋とか昔はよく証拠として扱われていた気がするけど
ここまで似てきたらもう無理なんかな 紛争地の実態を伝えるニュースとかは実際にニュースが意味を持たなくなってしまってる
ブロパンダをやり過ぎてしまったせいで虐殺とかの証拠映像を撮っても大衆は
「また敵対国がプロパガンダで作ったやらせ動画なんじゃねーの?」と思う
実際ウクライナではロシア軍による虐殺の動画がリークされても
世界はそれを素直に信じることができない状態になってしまってる >>74
看破と罰しか無いだろ
なんなら死刑復活で抑止に抑止を重ねるしかないまである
日本人だとどーせ無駄だー諦めよーあははーって方にすぐ思考が転ぶから話す意味あんま無いけど すげええ欲しい
セルフ小倉唯ちゃんでエンドレスオナニーするわ 学習データが数時間分は必要だろ。パンピーの集めるのは難しいだろうな。 厳罰化って意味ないんだよね
敵対国家がその国を混乱させようとしてあらゆるルートでぶち込んできたら回避のしようがない
実際ロシアと北マケドニアのアメリカへの干渉はFBIがどれだけ動いても止められなかった訳で だからAIを規制するというのは愚かの極み
悪用するやつよりさらに早く進化する必要がある
そのためにはとにかくオープンでやる以外にない >>82
すぐそうやって極論に持っていくんだよなジャップは
諦めと極論で今に至ると理解しろ
無理か 犯罪者の方がリアクション早いな
AI絵師にしろAI音声にしろ規制かかる前に儲けてドロン ちなみにAIで作られたものか看破するAIも既にあるからおまえらが考えてるような事は重大な事件では起きない >>87
今ならweb会議のおかげで同僚女性の声なら結構集められそうだしな >>85
何が極論だ?
ある物はある物として認めて対策と体制をつけていかないとテクノロジー犯罪には対処できない
別に厳罰化はすればいいけど、それで減らせるとは俺は思わないが やべーなチノちゃんのエロ同人にAI水瀬ボイスつけられちゃうじゃん
半分革命だろ… >>89
東工大とかはAI検出ツールを過信するなってアナウンスしてるぞ
広告ブロッカーみたいに開発元が買収されて貫通されるリスクを既に想定し始めてる ディープフェイクのエロ動画もどんどん凄くなってるしヌケるけど結局あぁフェイクだよねって感じだよ
あれを初見でも流出だーとは思わない >>91
それが極論でないと本気で思っているならこの技術を舐めてるってだけだな… おっさん「しーこ、しーこ」
おっさん「しーこ、しーこ」 ボーカロイドが一気に古いテクノロジーになったよな
初音ミクの歌はプロ歌手がAI音声を通して歌った方がいいはず もうカメラで自撮りして動画上げても信用出来ないじゃん 右の長髪のお兄さんが女子化していくのもおもろかった
スタジオ「かわいい〜」
いえ、そこじゃなくてみたいに恵がつっこんでた そもそも声だけで人物を判断しようというのが時代遅れなんだよ 安倍ちゃん帰ってくるってこと?!
これさえあれば俺も安倍ちゃんになれる >>83
嫌がらせと犯罪しか出来ない愚民に犯罪ツール使わせる事のなにが進化だクソボケ スターズまでのアイカツの曲を声優の音声データを使ってプロ歌手がAI音声を通して歌ったらどんな感じになるのかな
霧矢あおいと紫吹蘭は声優が同じ神城カレンと明日香ミライみたいな感じになるのか 規制しないでくれよな
AIのべりすとで書いたエロノベルのセリフを自分で演技した音声を
エロゲ声優の声に変えて最高のオカズを作るんだからさ
1度得た夢を奪われると生きる気力を無くしてしまう 振り込め詐欺が捗るな
全部自分でやる職人とか出てきそう >>67
馬鹿がTwitter(笑)とか真に受けてるからだろ
ケンモメンのことだが 犯罪に使われてる携帯電話は規制されないしこれも無理っしょ とっくに詐欺に使われてるだろ
規制するんじゃなく厳罰化しろ
音声使った詐欺は最短30年の刑期にすればいい 画像からウォーターマークを削除するAIとかもそうだが
犯罪と悪用以外ほとんど使いようが無いもん一般人に公開すんなといいたい
アホのAI信者以外喜ばんわ 安倍晋三が電子化して復活する技術がどんどん発達していくな 規制される前にローカルパソコンで全て実行出来るようになって欲しいね
時間との勝負だ もうネットの情報は何も信用できなくなる
アナログ回帰が捗るな こんなことしてたら本当に狼が来ても誰も信用してくれないのでは AIを使った犯罪を防ぐには
高度なIT人材を好待遇で雇用したり起業を支援したりする仕組みも必要だと思う はよエロ吐息や喘ぎ声作れるようになってくれや
それだけでシコれるんじゃ 親父が深田恭子からメール来たって騒いでるんだけどこれからは電話も来るのか >>120
ものは考えようで
知らなければ悪用されないは性善説で
知っていれば巻き込まれずに回避できる可能性がでてくる >>136
一般人相手にAIを公開、自由に利用させなけりゃ悪用されようがないって話なんだが
アホAI信者は文章も読めないのか まあ本人が使う分には問題ないやろ
これで全盛期の悟空の声に戻れるな リズムまでは真似してないやろ
安倍ちゃんの早口とか滑舌とかできんし AI安倍とか岸田とかクソつまらないさっむい内輪ノリでエロの可能性潰すのほんとひで フランスのヒップホップバンド AllttAがJay Zの声をAIで生成してコラボした曲
AllttA - Savages
https://youtu.be/y7r6PAkFRfU
This Voice is Entirely AI...
https://youtu.be/AFthdsIcOxw?t=142 >>144
人気コンテンツになってる動画あるなら挙げてくれよ
収益化できるならみんなやってるわ やべーな
誰か気絶させて気絶させて毛利小五郎ごっこ、なんてのも可能になんのか 今後は本人の動画と声をAIで合成したAIレイプやAIハメ撮りの時代やぞ
乗り遅れるな >>141
すまんなあれは東大AI研究会云々のAI音声とサイトをネトウヨ議員が褒め称えたカウンターのつもりだったんや ■ このスレッドは過去ログ倉庫に格納されています