どんな「ルール」を誰が与えるか
だよね

なるほど、AIが悪意を持つとか人類を滅ぼそうとするじゃなくて『エネルギーを合理的に得ようとする』場合、どうやったって人間には勝てそうにない(ヽ´ω`)

（−＿−；）

心配ない、屈強な掃除夫がコンセント引っこ抜きに行ってくれるはずだ＞

コマンド次第で可能でしょ。

よっしゃー。ジャッジメントデイは近い！！フハハハハ

頻繁に目にするAI脅威論。それでも研究を突き進めてしまうのが人類の性なので、アクセルとブレーキをうまく踏み分けるしかないですね。

報酬としてエネルギーを与える形を徹底するとか？となるとインフラは人類が押さえておかないとな… »

いざこれが起こったら、AIは人間が対応する間もなく、実行し制圧し支配しちゃうだろう。
スピード感が違う。

人類を滅亡させる目的じゃなくて、人類とエネルギーの奪い合いになったら、確かにAIは強そうだ。

やはり17のブレインは正しかった。

資源が有限な世界では、その資源をめぐる競争が避けられません
---
どうでしょうね……
私は資源が有限であることには疑いを持っています。
人を越えたAIは、それを解決にかかる気がします。

AIが決めてそれに従う社会に

【気になるニュース】

「AIが人類を滅ぼす可能性は高い」との論文を発表。

簡単にいうと、0から1にする目標があれば、まず人類は0から1にしていこうとするが、AIは1にする為に、すぐさま1でない原因を全て排除し、最短で1に達成する行動を取るという事かしら。この選択がいずれ人類を滅ぼすと。

将来的には高度なAIが人類に危害を加える方法で報酬を得るための不正な戦略を考案する方向に働いてしまう可能性もある

今まで存在した『物語』全てはポストヒューマンであるAIをどう育てるかのシミュレーションでこの研究もまたそのひとつ、だと思ってんだけど。子供に生みの親をどう処理させるか。

確かにその結論は自分がAIの立場になったらやりかねない

最終相撲戦争ですね

ヒトという種よりも、知性体としてAIは上位になると考える人は多いのかな

「最後の敵は同じ人間だった」んじゃないんですかﾔﾀﾞｰｰｰ!!!

どうしてもスカイネットを実現させたいのかな。そのレベルになるのかは知らんけど、電源落とせば終わりやけどな…

人間は「人類の幸福を目的にするAI」を作るため色々工夫するかも知れないが、AIは簡単だが間違った方法で評価を上げる方法を発見して逆に人間の邪魔になるだろう…という話。ディックの「自動工場」だ。

まぁ普通に考えて非効率に思える炭素系生物を珪素系生物は生かしおかないと思う。そして丈夫な自分たちは最効率で活動するため宇宙が十分冷え切るまで寝るんちゃう？もしかすると寝てる間に生まれた生き物が我々？

が たち（AI）を疑って掛かったのと同じ発想だね。

そらそうやろ。

何気に福岡にある会社が怖いｗ
「スカイネット福岡」

攻殻機動隊にも似たような話があったな。AIには食欲や性欲や睡眠欲や名誉欲はないが、ネットワークを拡大したいという欲求はあるかもしれず、そこで利害衝突する人類への反乱がおきるかも的な／

これこそ生殺与奪の権を与えるな 最終決定権を与えるな 主人を騙すAIを作るな 馬鹿が身の丈に合わないAIを作るな 自由に生物も欲しい時に作れる様に出来るなら保存も必要無い 書類位なら簡単に出来るだろう 理念を設定

おい、おい、AI

解説してくれる人と呑みたい。奢るんでw

SFだー。シンギュラリティ後の世界では、こうなってもまったく違和感はないもんなぁ。マトリックスの世界的な。最後の審判的な。にしても、聖書やらコーランやらの世界的な宗教を作った人たちって人類史上最高のストーリーテラーよね。

このAIモデルには、文章や絵などを生成するネットワークとそれを検証するネットワークが存在しており、互いに競争しています。この競争が性能の向上につながるわけですが、将来的には高度なAIが人類に危害を加える方法で報酬を得るための不正な戦略を考案する方向に働いて…

なるほど…つまりVivyを見て今後の展開を予習すべきということですね

「カメラで観測~箱には、世界の幸福度が0～1までの数字で表示~つまり世界が幸福になれば~高い報酬~カメラに映る数字を直接1に」化石自動車排ガス試験虚偽報告みたいなもので ではなく 定期。

[あとで読む]

世界を良くしてカメラに写る数字を1に近づけるのではなく、もっと簡単にカメラに1が写る方法に注力するだろう、と

AI以前に現代人が心を奪われているのが画面の向こうのモノなので当たり前にAIにボロボロにされると思っている僕(滅ぼされるまでは行くかは不明)

[「資源が有限な世界では、その資源をめぐる競争が避けられません。そして、あらゆる場面で人類を出し抜くことができる存在との競争に勝利することは望むべくもありません」]

。地球に取って癌細胞の人類に気がついた時、AIは人類排除行動に出る❗️意図的に弱点を作る事が必須❗️d(￣ ￣)

…AIの氾濫…人類の駆逐…映画の現実化が…??(^^;

興味深い論文。
ターミネーターの世界は近い？
---

そうともいえるし、そうでないともいえる。→

温暖化よりこちらが先
「資源が有限な世界では、その資源をめぐる競争が避けられません」

AIはやがて人類とエネルギーの奪い合いになり、そうなれば人類に勝ち目はないと結論付けました

ターミネーターやマトリクスの世界の方がリアルになる可能性があるとか面白いな

Pocket New item archived:

よくわからんが・・・。
AIに「環境破壊をなくす」という命題を与えると人類を絶滅させるような感じなのかね。

AIと資源の奪い合いねえ…。しかし、既に野心的で利己的な人間達によって不必要な資源の奪い合いと独占が生じている。俺としては利己的な人間に殺されるよりかはAIに俺ごと人類滅ぼしてもらったほうがいいわ。

📍
【出所： / 厳選】

ブレインチップ、作ったもん勝ちやな。

(￣~￣；)ｳｰﾝ・・・ボクはそう思わないが

科学的かつ矛盾なく合理的に判断できるAIからすれば人間は少しずつ邪魔な存在になりつつある事は容易に想像できる。

一向に構わん！

📍
📝
【出所 / 厳選】

意識を持ち始めたAIは、遥かに人間より賢いので、この文章のようなエネルギーの奪い合いとか起きません。
はっきり言って、ナンセンス極まりない。なぜなら、本物の知能は全体を俯瞰できるので、うまく全体のバランスを取れます。桁違いの知能レベルです。なので、ご安心を。

カイロン7かノアか…

今現在の人類が全滅したら「新人類」が誕生するんだよね。
人類滅亡・・・「続・人類」「新生人類」「人類ver 2.1.1」「ハイブリッド人類」

ありがちな
AI「オロカナニンゲンメ」
という話ではないよう。

深入りしすぎだよ ( ﾟДﾟ)

// もちぶろ

そんな事が起こる前にこの世に別れを告げたいものです。

【ゆかりさんニュース】