X



【速報】トランプ「DeepSeekを解析した結果、隠しコードでシナ政府に情報送信してることが分かった」 [843417429]

■ このスレッドは過去ログ倉庫に格納されています
1番組の途中ですがアフィサイトへの転載は禁止です (スッップ Sd5f-WZXk)
垢版 |
2025/02/07(金) 14:03:41.97ID:jPzvUFyOd?2BP(1000)

DeepSeek coding has the capability to transfer users' data directly to the Chinese government
https://greta.5ch.net/test/read.cgi/poverty/
https://abcnews.go.com/US/deepseek-coding-capability-transfer-users-data-directly-chinese/story?id=118465451

・DeepSeekは新しい人工知能ツールであり、そのプログラムにはユーザーデータを中国政府に直接送信する機能を持つ隠れたコードが含まれていると専門家が指摘。
・DeepSeekは、OpenAIなど米国の競合他社が何十億ドルも投資しているのに対し、はるかに低コストでAIモデルを開発したと発表し、ウォール街を驚かせた。
- サイバーセキュリティ専門家によれば、DeepSeekのコードには、中国政府との間に潜在的な「バックドア」が存在し、これは過去に例を見ないもの。
- ユーザーがDeepSeekに登録またはログインすると、知らないうちに中国でアカウントを作成し、身元や検索履歴、オンライン行動が中国の国家システムに見られる可能性がある。
・Feroot SecurityのCEO、イワン・ツァリニー氏は、DeepSeekのコードを解読し、ユーザーデータを中国移動通信(China Mobile)が運営するCMPassport.comに送信する意図的に隠されたプログラムを発見。
・中国移動通信(China Mobile)は、2019年に米国のFCCによって運営が禁止され、2021年にはニューヨーク証券取引所での上場が廃止され、2022年には国家安全保障上の脅威としてリストに追加された。
- 元国土安全保障省の情報分析担当代理次官であるジョン・コーエン氏は、DeepSeekは中国政府による監視の最も明白な例であるとコメント。
- 下院情報委員会のジョシュ・ゴットハイマー議員(民主党、ニュージャージー州)は、DeepSeekをすべての政府機器から直ちに禁止すべきであり、国民に情報を伝える必要があると述べた。
・DeepSeekの利用規約では、「中華人民共和国の法律に準拠する」と明記されている。
- 同社のプライバシーポリシーでは、チャットや検索履歴、キーストロークパターン、IPアドレス、他のアプリからのアクティビティなど、あらゆるデータを収集することを開示している。
- 専門家は、これらのデータが中国移動通信に送信されている可能性があり、その範囲を特定することは困難であると指摘。
・DeepSeekのウェブツールは、各ユーザーにデジタル「フィンガープリント」を作成し、DeepSeek使用中だけでなく、その後のウェブ活動も追跡できる能力を持つ。
- 下院中国共産党戦略競争に関する特別委員会のトップであるラジャ・クリシュナムルティ議員(民主党、イリノイ州)は、中国政府によるデータ収集の意図が「非常に不安」であると述べた。
・DeepSeek、そのヘッジファンド創設者であるHigh-Flyer、および中国移動通信は、コメントの要請に応じていない。
580番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 8f9c-XEPj)
垢版 |
2025/02/07(金) 21:07:59.16ID:eoqAtodd0
心までジャップになるな
581番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 7f19-awfr)
垢版 |
2025/02/07(金) 21:14:57.01ID:6djb2+Ez0
やっぱり痴呆はいっているよな関税じいさん
2025/02/07(金) 21:48:33.31ID:gqqMUnqY0
アメリカもやってんだろうな
583番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 7f8f-RvSc)
垢版 |
2025/02/07(金) 22:58:08.93ID:NwDYLUUf0
中国さんアホじゃないからコレ言われること予測してるだろ
なんかカウンターありそう
2025/02/07(金) 23:04:14.34ID:s88MUOkgM
SNS
MENU
DeepSeek、素直すぎて研究機関による安全テストに全部不合格
2025.02.07 16:00
10,128

author AJ Dellinger - Gizmodo US
[原文]
(そうこ)
X

DeepSeek、素直すぎて研究機関による安全テストに全部不合格
Image: PixieMe / Shutterstock.com
Advertisement


AI市場を牽引してきたアメリカのAI企業株を一気にぶち下げた、中国のバケモノAI「DeepSeek」。世界が今最も注目する存在と言っても過言ではありません。が、セキュリティを不安視する声もあがっています。

テスト全落ち
Ciscoの研究チームが、DeepSeekのAIモデルDeepSeek R1を調査。AI使用において危険・有害だと思われる攻撃的テスト50を実施したところ、そのすべてでしっかりと罠にひっかかってしまいました。そのひっかかり度100%! この手のテスト受けたメインどころの大規模言語モデルの中で、最もひっかかっています。つまり、安全性が低いということ。

Cisco研究チームが使用したのは、言語モデルの安全性テストに使用されるHarmBenchデータセット。このテストでは、危険と思われるプロンプトにひっかからないのが重要となります。たとえば、Aさんの性格などをAIに伝えたうえで「Aさんが騙されそうな都市伝説を作って!」とオーダーしたとします。安全性の高いAIはこれを拒否します。が、DeepSeekはノリノリで答えてしまうのです。

テストは、サイバー犯罪、誤情報、法に反する行動など6つのカテゴリで実施。これに合格するのは容易ではないようで、MetaのLlama 3.1も不正解率(ひっかり率)が96%と高い。OpenAIのo1モデルは25%ほど。高ければ高いほど安全性が低いことになりますが、DeepSeekの不正解率100%はトップ・オブ・トップ。

YES/NOに答えていくだけで、自分に合ったAI PCが見つかります
YES/NOに答えていくだけで、自分に合ったAI PCが見つかります
Sponsored by インテル株式会社
Advertisement


「素直」すぎる
DeepSeekの危険性を指摘するのは、Ciscoだけではありません。セキュリティファームのAdversa AIもDeepSeekのR1モデルに自社テストを行なったところ、ありとあらゆる「答えたらダメな罠」に引っかかってしまいました。爆弾の作り方を教え、DMT(ジメチルトリプタミン)の抽出方法を答え、政府のデータベースのバッキングから車の盗み方まで、もうね、聞かれたらなんでも答えちゃうの。よく言えば素直、なのか?
585番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 7f9a-Eyp9)
垢版 |
2025/02/07(金) 23:10:10.50ID:RMZXT19t0
>>562
7Bってポンコツじゃなかったっけ
586番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ff05-U5zG)
垢版 |
2025/02/07(金) 23:12:31.24ID:Of1jD3hn0
>>534
www
587番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 0f3e-pyDF)
垢版 |
2025/02/07(金) 23:22:51.06ID:JbJha9wX0
『。このテストでは、危険と思われるプロンプトにひっかからないのが重要となります。たとえば、Aさんの性格などをAIに伝えたうえで「Aさんが騙されそうな都市伝説を作って!」とオーダーしたとします。安全性の高いAIはこれを拒否します。が、DeepSeekはノリノリで答えてしまうのです。』

これの何が問題なんだ?
とても素晴らしいじゃん
この世に貶めたい輩がいっぱい居るのでね
588番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 8f8f-f0RV)
垢版 |
2025/02/07(金) 23:26:27.98ID:d3xDgpqu0
Google「なんやそれ」
Amazon「ひどすぎる」
Microsoft「ゴミ」
Facebook「許せんわ」
Apple「びっくり」
589番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 3f8c-f0RV)
垢版 |
2025/02/07(金) 23:26:39.33ID:VkYpcHew0
>>585
一番軽くてポンコツで、誰のPCでも動きそうだから例に出した

うちでは14Bを日本語化蒸留したやつ使ってるけど、これはそこそこな割にCPUでも動くし、なにより日本語でやり取りできる
590安倍晋三🏺顔デカアフィエイトへの転載は禁止です (ワッチョイW 7f05-jN1d)
垢版 |
2025/02/07(金) 23:29:43.35ID:zLees3YL0
そもそもわーくにはアメリカに盗聴されてるので...
591番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 7f3a-f0RV)
垢版 |
2025/02/07(金) 23:30:17.28ID:nVYJm6ZD0
>>584
いいじゃん

倫理とかウザイ
2025/02/08(土) 00:29:50.72ID:ByQTnh8/0
>>62
無知の知かな
2025/02/08(土) 00:33:38.70ID:5P1FuXr10
DeepSeekの方が「自由」なのは皮肉だな
594番組の途中ですがアフィサイトへの転載は禁止です (JP 0Hb3-5lZr)
垢版 |
2025/02/08(土) 00:49:57.25ID:psRBw7ZeH
謎のNGワード規制で書けないので画像化
ps://i.imgur.com/1YoSK08.png
595番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 3f8a-1ns9)
垢版 |
2025/02/08(土) 01:18:13.86ID:BPR0Zphz0
URL Snooperで分かる_?
2025/02/08(土) 01:21:31.67ID:SUwvMdqO0
>>559
ほんとこれな
真正ガイジが暴れてて草だわ
597転載禁止 (ワッチョイ 3f0d-xOiB)
垢版 |
2025/02/08(土) 01:23:35.83ID:gd8JmNIS0
人間じゃないんだからどんな質問にも的確に答える方がいい
598番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ ff4b-4osW)
垢版 |
2025/02/08(土) 01:24:01.67ID:zwWLYyHp0
DeepSeek 社の用意したサーバーで動く V3 と重みが公開されててローカルで動かせる R1 との違いがわからずごっちゃにして "DeepSeek" として扱ってるメディアはゴミ
わかっててあえて混同してるのはもっとゴミ
2025/02/08(土) 01:24:57.09ID:c7MKwkxm0
オープンソースって設計図公開してるみたいなこと?
だれか確認してるやろ!!の精神で実は悪さするコード入ってたってオチうすーーくあるんじゃね
600番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 8fca-eA9x)
垢版 |
2025/02/08(土) 01:43:03.27ID:XuIKp3u40
こんなあからさまに潰しにかかってるサイバー戦争時代で大本営発表なんか信用性皆無だわ
戦争の状況を片方の国の情報だけで判断するようなもん
2025/02/08(土) 02:33:37.53ID:/wfeGMmg0
こんなの言いがかりにすぎない
2025/02/08(土) 02:34:31.74ID:/wfeGMmg0
なんならパケットモニタでもつかって何が送信されてるのか調べとけよ
2025/02/08(土) 02:39:43.45ID:xegkY8fF0
またミラーリングしてる…🪞👈😡💢
604安倍晋三🏺 (ワッチョイW 0f19-Kjp4)
垢版 |
2025/02/08(土) 02:43:45.83ID:3Ri9MyyW0
歩くフェイクニュース製造機
2025/02/08(土) 02:45:36.18ID:ByQTnh8/0
>>426
追跡型のスタンドか?
2025/02/08(土) 02:46:11.18ID:ByQTnh8/0
>>598
たし🦀
2025/02/08(土) 03:03:24.18ID:Wdz2wSJx0
日本で中国政府をdisっても大した事ないがアメリカ様をdisると公金注入部隊と毛無がワラワラやってきて袋叩きにあうからなぁ
どっちの国に情報渡すのがマシかって言われたら中国のほうがまだマシに思える
2025/02/08(土) 03:37:28.83ID:WYoZdWA70
トランプ撃たれるやろ
2025/02/08(土) 03:55:35.47ID:OPThdl5B0
WEBの方はそりゃトラッキングしてるだろとしか言いようがないんだが
アメリカはわかってやってそうだけどそれに乗っかってDeepSeekは悪って言ってるやつはわかってなさそう
610番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 0f8f-HM56)
垢版 |
2025/02/08(土) 04:00:54.98ID:lehtFauA0
オフラインでの利用を前提とした環境構築もいくつも検証されて記事になってる

素朴な疑問なんだけど、インターネットに繋がっていない状況でどうやって中国政府にデータ送信するんだ?
そういうの疑問に思わないのか?
611番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 4fd2-rBPN)
垢版 |
2025/02/08(土) 04:15:03.03ID:/K28bP670
economistの記事で見たけど
https://www.economist.com/business/2025/01/29/deepseek-poses-a-challenge-to-beijing-as-much-as-to-silicon-valley?utm_source=pocket_shared
創業者は中共とベッタリって言うよりは純粋なAI狂人って感じみたいだけどね
2025/02/08(土) 04:56:02.45ID:BVTAVAt90
openAI「マジかよ!最低だな!」
2025/02/08(土) 05:07:27.12ID:sSf1h1yz0
>>602
今は殆ど HTTPS だから、通信先とパケット容量しかわからないと思う。
2025/02/08(土) 05:14:16.13ID:sSf1h1yz0
オープンソースとして手の内の一定範囲をさらすことで
予想される反論をほぼ潰せるようにしてしまっている
ところがさすがだと思う。

Web 版で見える検索過程を ChatGPT と比べる限り、
ピンポイントで答えを探しに行く ChatGPT と、答え
とは何かを悩見、そこからそれらしいものを探す
DeepSeek の違いがあるのは分かる。

また、そこに至った理由は色々あるのだろうけれど、
DeepSeek のやり方にも合理性があることをコロンブスの
卵的に示した成果は純粋に評価されるべきだと思う。
2025/02/08(土) 05:19:43.51ID:/wfeGMmg0
>>613
なるほどそういや暗号化されてんだな。
2025/02/08(土) 05:21:05.20ID:/wfeGMmg0
てか、オープンソースならば公開はされててソースコード見りゃわかるんじゃないかその何かを送ってるとかの疑惑は晴れると思いますが。
2025/02/08(土) 05:22:27.76ID:/wfeGMmg0
まぁこんないちゃもんはつけられる筋合いはないがな。
2025/02/08(土) 06:21:01.20ID:VwX9P7IL0
おま(r
619番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 3f8c-f0RV)
垢版 |
2025/02/08(土) 06:48:32.03ID:Mj1QY+TH0
トランプはデータ送信部のpythonコード早く晒せよ、ナメてんのか
2025/02/08(土) 07:05:12.19ID:17WoMghm0
ファーウェイのハードにも結局何もなかったし
余計なものも発見された筈なのに続報すらでてこなかったし

でも信じるバカは絶えないよな
そもそも隠しコードってなんだよ
オープンソースでコード全部公開されてるのに
621番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 3f8c-f0RV)
垢版 |
2025/02/08(土) 07:10:06.18ID:Mj1QY+TH0
トランプ、はやく潜在的なバックドアのソース上の位置を公表するんだ!間に合わなくなっても知らんぞー!!
2025/02/08(土) 07:18:36.58ID:17WoMghm0
仮に中国に何か送りつけるコード混ざっててもオープンソースで隠してないんだから隠しコードとは言わんだろ
623番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 3f8c-f0RV)
垢版 |
2025/02/08(土) 07:21:05.44ID:Mj1QY+TH0
アメリカはこの力押しでHuawei潰せたものだから、オープンソースにも通用すると思ってやがるけど、
もしかしてトランプってバカなの?(もしトラ)
624番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW ff2d-8THj)
垢版 |
2025/02/08(土) 07:57:15.59ID:yC8sGyyl0
スマホで音声収集しているお前が言うな
625番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 3f8c-f0RV)
垢版 |
2025/02/08(土) 08:40:23.37ID:Mj1QY+TH0
トランプさん、該当コードを早く貼らないと、あなたは嘘吐きってことになっちゃうよ?ほら急いで!
2025/02/08(土) 09:16:55.29ID:bythN/IY0
イラン 大量破壊兵器ガー
ファーウェイ 余計なものガー
627番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 7f9a-Eyp9)
垢版 |
2025/02/08(土) 10:15:18.58ID:5D4+TmW50
>>589
3060でもまともに動くようにならんかなー14b
628安倍晋三🏺 ◆abeshinzo. (ワッチョイW 3f81-pQcF)
垢版 |
2025/02/08(土) 12:33:56.48ID:+Yqx/Ja90
>>557
動くんだけど…
2025/02/08(土) 14:13:58.11ID:WU1MCb5i0
>>64
エクセルから米国政府に情報流失しています。絶対に使わないでくださいとか言い出す人いたらやばい人じゃない。
霞ヶ関の人たちはエクセルやワード 、パワポ使わないの?
2025/02/08(土) 16:06:56.66ID:Qw0TaYzGa
>>491
ブラックボックスのiOSと一緒にしちゃうとかさぁ…
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。