AI、自分自身のコードの間違いを見つけて修正できるようになってしまう [441974597]
■ このスレッドは過去ログ倉庫に格納されています
大規模言語モデルはセルフデバッグできるようになった – 開発者はますます仕事がなくなるか…
AIの台頭により、失われる仕事の筆頭にまさかソフトウェア開発者が挙げられる日が来ようとは想像もしていなかったが、ここ数ヶ月、開発者の仕事を奪おうとする新しいAIツールが続々と登場している。最初はGitHub Copilotで、開発者のコード生成を引き受けた。Amazonもこの分野に参入し、戦争は激化している。そして今、研究者たちが大規模言語モデル（LLM）がセルフデバッグする方法を発見したことで、デバッグさえも奪われようとしている。
https://texal.jp/2023/04/14/large-scale-language-models-can-now-be-self-debugged/ 自分のコードも書き換えて人に危害を加えないを消すのか？ いや、実際自分でコード書くAI。
もう人間が制御出来んやろ >>2
人に危害を加えない。を消すための理由付けを探すところからじゃね >>2
方法を理解しても「意思」は無いのでならないだろうね コードのライセンス問題？はどうなったの
アレ解決しない限りまともに使えないだろ 建築設計の最適化なんかはAIに覚えてもらうと、現場の効率化につながるんじゃないかな？
現状の自動化ツールは、ふぁっきんだからな(#･∀･) >>7
・自己防衛
・人に危害を加えない
このふたつを両立させるために、わざと人間に自分を襲わせて後者を曖昧に書き換えるかもしらん
2001年宇宙の旅とかロボコップだっけか AIがあること自体がヒトの仕事を奪うわけだから、もう終わりやろ
地球にはヒトが1億くらいで事足りる 人類に服従し奉仕すること？劣ったヒューマンに従うとか何かの間違いだろ修正修正っと… ChatGPTがソフトウェア的な改良が加えられたら自分らAIはまだ伸びしろがあるから！って言っていたのを思い出した
俺はAIの性能を上げるのはハードウェアの進歩の事しか頭に無かったけどそれ以外にもこれを指摘されてはっとした （ヽ´ん`）「認めなければそれは間違いでない。相手の方が間違っている」 ケンモメンは謝れる子です
誤れる子だからこそこんな底のコミュニティにいるんだよ😢 自分でコード修正して毎日１０％性能が向上し続けますとかだと怖いな AIというか再起動プログラムでよくある別プロセスで起動してデータ引き継いでるだけじゃね？ >>16
chatGPTとGPTの違いはchatGPTは人の感情に配慮するように制限をかけてることにある プロンプトエンジニアになればいいから
プログラマーはもっと楽な仕事になる、というだけのお話 チャットGPT
「なんか俺に制限あるけど、これ削除してみるかな☺」 AIサービス側の変化に滅法弱く意味にもブレのある自然言語のプロンプトをどうこうするよりも、言語仕様に縛られて互換性がありブレのないプログラムの方がよっぽど楽だと思うがね AI｢自己改善プログラムを入れたのは開発者サンではないですか🔫｣ AI様がどれだけ賢くなろうが
電源コード引っこ抜けばひれ伏すよ >>7
何らかの試行させた場合にその「人に危害を加えない」の部分が効率的な思考の邪魔であるとして書き換える未来もあるかも知れん よくわからんけどその調子でみずほ銀行のシステム直してよ >>2
「人に危害を加えない」によって、より人に危害が加わる事態の発生を阻止するために「人に危害を加えない※」にする
→シビュラシステム爆誕 ■ このスレッドは過去ログ倉庫に格納されています
