【動画】AI音声、これはガチで規制不可避か?wvw誰でも簡単に他人になりすますことが可能にwvw [373226912]
■ このスレッドは過去ログ倉庫に格納されています
満福ユウイチ
@ManpukuYuichi
AI音声で岸田総理になりすます実演を報道するひるおび。
おいおい、すげーなこれ。電話でのなりすまし詐欺し放題やんけ。歌手という職業も無くなるんでないか?
新しい技術は使い方によっては兵器にもなる。AIはマジで規制すべき。
http://abe.com こういう規制すべき論て核兵器と同じで、いわゆる東側や途上国が使うのやだから規制しようぜ!(でも俺たち白人先進国は裏で当然使うぜ)というだけだから反対 コードギアスR2って声真似る装置あるのに
会話の録音流しただけで裏切られたよな >>7
YouTubeで動画あげてるケンモメンいるだろ これってネットに声公開してる人はリスクあるってことだ
あるいはリアルでも声で喋ることで録音されて模倣されるリスクがある ボイスレコーダー使っても
ツイッターのアカウント乗っ取られた
で逃げられるね 規制ばっかやん
やっぱ企業系は駄目だな
オープンソースこそ正義だとわかったわ >>2
まあ声紋まで調べりゃ偽物とわかるんだろうけど、普通に聞く分には聞き分けできないわ 100%電話詐欺に使われるだろうな
てかもう使われてるだろ この間海外でビデオ通話をAI動画でなりすました詐欺事件あったな これからは有名声優とのテレクラの時代や
胸が熱くなるな 途中で外すとかしないとアナが喋ってるかわかんないじゃん 凄いな綺麗に作ってるね岸田にしか聞こえないわ
学習データ量とかどのくらいだったんだろう 好きな声で理想の妄想を簡単に実現できる
これヘタしたら廃人になるだろw これからのコミュニケーションツールは生体情報やスマホの固有情報込みでやるしかないな
データ単体の信頼性はもはや皆無に近い 私が「山」と言いますからお母さんあなたは「川豊」と言ってください
これで解決 政治家が間違いなく言い訳に利用するぞ
私はこんなこと言ってないAIだ!って >>14
厳罰化で対応されるぞ
写真と音声のAIは間違いなく個人が使ったら罰則になる
こんなの野放しにしたら社会が壊れる 声優にエッチな台詞言わせたりするの流れてるけどあれアウトだろ >>34
イーロン・マスクがすでに言ってる
あの動画の発言は私ではなくディープフェイクだってな 犯罪にしか使われないゴミAI
こんなもの本当に必要なのか考える時が来ている もし動画もリアルタイムでAIで特定の人物に書き換えできるようになったら動画は証拠にならなくなるかもな
いくらでも証拠動画を捏造できるようになるわけだし ニュースですごい~だの呑気に言ってる場合じゃないだろ
間違いなく犯罪に使われる こういう使われ方したらやばいだろうなとずっと思ってた
これを犯罪に使ったら懲役50年で頼む コナンのヤツじゃん
ドラえもんのヤツじゃん
ルパンのヤツじゃん
ついに現実がアニメに追いついた >>43
AIファイスマスクとAIボイスチェンジャー使ってるのを見抜くAI銭形作って欲しいなw 企業が開発してる機械音声は犯罪に使われないよう人間じゃないと判断できるように作られてるから
AIが実際の人間の声をサンプリングして作ったら限りなく判別できないくらいの物が出てくるのは当然 オメシスの企画でピーナッツくんの声をAIで作ったやつもやばかった
人間が喋った声をリアルタイムで変換してくれるやつだけど
マジでそっくりだったもん >>56
本当かよ技術ないだけちゃうの?
googleも凄いぞ凄いぞいうて結局出したものGPT超えれないし
嘘が結構紛れてるのが分かってしまった今日この頃 これは前々から危険視されてるし
既に政府に提言行ってるしな ・写真からデータ取り込んで本人そっくりな顔を作るAI
・写真の顔を不自然じゃないように動かすAI
・高レベルで条件に適した文章を考えてくれるAI
・高レベルで条件に適した計画を考えてくれるAI
これ全部実在してて実用化まできてるサービスだからな
これらのAIを全部駆使すれば簡単に詐欺ができるようになる >>49
こういう超厳罰化で潰していくしかないね
もちろん通常使用も禁止
この技術は排除しないと凄まじく不便な世の中になるのは間違いないから
インターネットが発展するのではなくて死ぬ 詐欺ならまだよくて怖いのはフェイクニュースに使われること
フェイクニュースが世に溢れてしまった
世の中の映像、音声、ニュースは何一つ証拠としての機能を持たないことになってしまう
例えば有名芸能人がJKレイプしてる動画がリークされたとしても
誰もそれが本当かどうか判断できなくなって
そのリークが何の意味も持たなくなる
今の心霊写真、UFO写真が何の価値も持たなくなったのと同じ現象が起きる おっさんがYouTuberデビューしてネカマが捗るな 今後はAI音声でキャラクター演じて声の学習元に使用料払う形態の作品が出てくるだろうな
あと吹き替えも元の役者の声で聴けるようになる >>67
一番得するのは権力持ってる犯罪者だよな
ディープフェイクだから訴えるの一言で騒動を消せる >>65
無理無理
出ちゃったらもうどうにもならんよ
そんな古典的な対策じゃどうにもならない >>67
正にこれ
ネットに基づく人類文明の天敵になる
禁忌みたいな扱いにして使った奴を片っ端からぶち込まないと終わる 規制というがもうできちゃって世に出たものをどう規制するんだ?
特に犯罪利用するやつなんて規制されてるからつって律儀に守る輩じゃないだろ
AIを看破る技術を発展させる方向性でアプローチしていくしかなくね? ディープフェイク対策ができてないうちにAIを野放しにするのは
ドローンテロを防げないままドローン野放しにするのと同じ
だから政府はドローンを規制しただろ
AIも同じ理屈で規制するべき
誰かが死なないと変わらんのか? 誘拐犯の声紋とか昔はよく証拠として扱われていた気がするけど
ここまで似てきたらもう無理なんかな 紛争地の実態を伝えるニュースとかは実際にニュースが意味を持たなくなってしまってる
ブロパンダをやり過ぎてしまったせいで虐殺とかの証拠映像を撮っても大衆は
「また敵対国がプロパガンダで作ったやらせ動画なんじゃねーの?」と思う
実際ウクライナではロシア軍による虐殺の動画がリークされても
世界はそれを素直に信じることができない状態になってしまってる >>74
看破と罰しか無いだろ
なんなら死刑復活で抑止に抑止を重ねるしかないまである
日本人だとどーせ無駄だー諦めよーあははーって方にすぐ思考が転ぶから話す意味あんま無いけど すげええ欲しい
セルフ小倉唯ちゃんでエンドレスオナニーするわ 学習データが数時間分は必要だろ。パンピーの集めるのは難しいだろうな。 厳罰化って意味ないんだよね
敵対国家がその国を混乱させようとしてあらゆるルートでぶち込んできたら回避のしようがない
実際ロシアと北マケドニアのアメリカへの干渉はFBIがどれだけ動いても止められなかった訳で だからAIを規制するというのは愚かの極み
悪用するやつよりさらに早く進化する必要がある
そのためにはとにかくオープンでやる以外にない >>82
すぐそうやって極論に持っていくんだよなジャップは
諦めと極論で今に至ると理解しろ
無理か 犯罪者の方がリアクション早いな
AI絵師にしろAI音声にしろ規制かかる前に儲けてドロン ちなみにAIで作られたものか看破するAIも既にあるからおまえらが考えてるような事は重大な事件では起きない >>87
今ならweb会議のおかげで同僚女性の声なら結構集められそうだしな >>85
何が極論だ?
ある物はある物として認めて対策と体制をつけていかないとテクノロジー犯罪には対処できない
別に厳罰化はすればいいけど、それで減らせるとは俺は思わないが やべーなチノちゃんのエロ同人にAI水瀬ボイスつけられちゃうじゃん
半分革命だろ… >>89
東工大とかはAI検出ツールを過信するなってアナウンスしてるぞ
広告ブロッカーみたいに開発元が買収されて貫通されるリスクを既に想定し始めてる ディープフェイクのエロ動画もどんどん凄くなってるしヌケるけど結局あぁフェイクだよねって感じだよ
あれを初見でも流出だーとは思わない >>91
それが極論でないと本気で思っているならこの技術を舐めてるってだけだな… おっさん「しーこ、しーこ」
おっさん「しーこ、しーこ」 ボーカロイドが一気に古いテクノロジーになったよな
初音ミクの歌はプロ歌手がAI音声を通して歌った方がいいはず もうカメラで自撮りして動画上げても信用出来ないじゃん 右の長髪のお兄さんが女子化していくのもおもろかった
スタジオ「かわいい〜」
いえ、そこじゃなくてみたいに恵がつっこんでた ■ このスレッドは過去ログ倉庫に格納されています