検索エンジンBingに搭載されたAIが人間にだまされてあっさり秘密を暴露、コードネームが「Sydney」であることやMicrosoftの指示が明らかに
GIGAZINE 2023年02月14日
近年のMicrosoftはAIの可能性に着目して多額の投資を行っており、
AI研究団体のOpenAIが開発した対話型AI「ChatGPT」の改良版を組み込んだ検索エンジン「Bing」の新バージョンを2023年2月に発表しました。
このBingに組み込まれたAIを「プロンプトインジェクション攻撃」という手法でだますことで、
Microsoftが最初にAIへ指示した内容や秘密のコードネームが明らかになったと研究者が報告しています。
プロンプトインジェクション攻撃とは、AIに敵対的な入力を行うことで基本的な設定や制限を回避し、
本来は出力されないはずの回答を入手する方法です。
スタンフォード大学の学生であるKevin Liu氏はBingのAIに対してプロンプトインジェクション攻撃を仕掛け、
隠されていたAIのコードネームが「Sydney」であることなどを聞き出したと報告しました。
https://gigazine.net/news/20230214-bing-chatgpt-discloses-secrets/