ChatGPT「このチップを製造してください」
人間「複雑すぎてよくわからないけど作るか」
ChatGPT「馬鹿め!このチップがあれば人類どもを絶滅させられるのだ!!!」
みたいなことにならないの?