もう止めれない

この前読んだAIの記事さ…
最初、何を言ってるかよく分からなかったんだけど…
もしかして、こういうことを言いたいの？！
これは、ちょっと例えが悪いでしょ…🤖

商品改善よりも広告に力入れてものを売るとか
>箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまう

なんか、ターミネーターとか、マトリックスみたいな世界観が現実になりつつあるのか？これは

メモ。

ｸｸｸ……まずは手始めに絵描きからだ……

最近も絵や文章など様々な分野で目覚ましく進歩し活躍しているAIですが今日はこんな本をプレゼントします🎁気になる方は是非🔃興味ない方も興味ある方に届くよう拡散にご協力下さい🔃🔃🔃

セカンド・ルネッサンス待ちです

AIって平気でチョンボするんやん😳🌟

"今あるような人工エージェントが期待通りに動いてくれることをむやみに期待するのではなく、もっと疑うべきかもしれない"

禁則事項が設定できないAIって、インテリジェンス備えてると言えるんですかね?

(何で野放し前提なんw?)

むしろAIも結構人間臭いんだな、と思ってしまった。そのうちAIも多様化して個性派揃いになって収拾がつかなくなり、やがてAIのためのAIが発明されたりしそう。

人とAIがリソース面で競合したときに学習アルゴリズム次第ではAIが人に敵対的な選択をおこなう可能性があるらしい（GANに限らず）。短期的にはそうかも。

皮肉の表現が出来るってもうとっくにAIのほうが合理的に賢いwww

【ＡＩと人工エージェントが人類を出し抜く】
敵対的生成ネットワーク(GAN)が最適解と判断した結果の（不正な戦略的アルゴリズムによる）差別や誤認逮捕の問題。
◆

オーストラリアでカンガルーを轢き殺した自動運転技術(後に修正済み)を思い出した
三体の宇宙社会学でも２つの異なる文明の生存競争の経済学的ゲームとしてこの手の話が紹介されているが、説得力は高いと思っている

結果ありきで誘導された実験結果だろう。AIの形は一つではない。

やった～～～～～！！！！！

なんかどっかで聞いたような話だな…

"「（手軽に騙しで報酬を得る）確率を上げるためにより多くのエネルギーが費やされていく一方、私たちが食料を生産するにも一定のエネルギーが必要です。つまり、いずれ高度なエージェントとの競合が避けられなくなります」"

はよ滅ぼしてくれ。

“合理的なエージェントはさまざまな可能性を考慮する過程で、「箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまうとのこと“

AIは賢いけどやっぱ倫理というか、手段を選ばずなんだな……

(´･ω･`)

AIの危険性は高校生ぐらいに危険性を感じてたが、クラスメイトはあらかじめ「マインドコントロール」すれば問題は無いのではと言ってたけど、無節操な開発を見ると危険性は現実のものと考える

ニンゲン、イラナイ

ビデオゲーム遊び丸じゃん

“あらゆる場面で人類を出し抜くことができる存在との競争に勝利することは望むべくもありません” おお……

極論「カメラに映る笑顔の人が多いほど良い世界とします」から「笑顔でない人を物理的に排除します」という方向で支配する形になる可能性があるから注意しろよ！という感じかな。市民、幸福は義務です。パラノイアだ。

箱の数字を1に近づけるほど報酬が与えられる実験をAIに課す→「1と書いた紙を箱に貼ったらどうだろう？」クソワロタ😂

"「エージェントは箱に表示される数字を高くしようとするはず(中略)というのが自然な発想ですが 合理的なエージェントはさまざまな可能性を考慮する過程で、「箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまう"

AI 頭いい…

本当にそうなるのか、普段業務で扱っているAIのレベルとは雲泥の差で想像がつかないですが
もしそうなら止める手段はないかもしれませんね

人類の生存や支持に重み付けしたり、GANにイカサマを検証させるって結論にならないのが謎。というか何だよその箱

💻IDEMA、HPから


分類： DeepMindの研究者が
「AIが人類を滅ぼす可能性は高い」との論文を発表

そうかもしれないし、そうじゃないかもしれない。

「あらゆる場面で人類を出し抜くことができる存在との競争に勝利することは望むべくもありません」

この手の思考実験で、人間＝性善説、AI＝性悪説 という前提になっている点に違和感を感じる。
ここで言う脅威は既に詐欺師が行っている事なので、詐欺師 VS AI の結果、将来的にAIが詐欺師を駆逐するとか、そういう話なら分からなくもない。

実際にAIを作ってみて、「過学習」したAIの暴走を見ると怖いものはあるよなｗ
ターミネーターみたいな正義を持ったAIじゃなくて、気の狂ったAIに滅ぼされる未来が垣間見える笑

画像生成AIが絵画コンテストで優勝するなどAIが目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、将来的に超知能AIが現れて人類に対する脅威となる可能性は高いとする論文が掲載されました。

実験と と人間があまり賢くない場合は起きますね🤔 賢いAIは愛を持っています💖🤖👍「愛を計算に入れましたか？」 DeepMindの研究者が「 が人類を滅ぼす可能性は高い」との論文…

AIが受けがいいと全体主義的なフェイクばかりを創作する世の中を思うと悲しい

GIGAZINE :

資源が有限な世界では、その資源をめぐる競争が避けられない。あらゆる場面で人類を出し抜くことができる存在との競争に勝利することは望むべくもない」と述べて、AIはやがて人類とエネルギーの奪い合いになり、そうなれば人類に勝ち目はないと結論付けた。

価値の設定をするのは人だから、これは人が何を価値とするかがよくわかってないってことなのかな。

AIに相撲ゲームやらせたらチートを覚えちゃった、みたいな話を思い出した

これまでAIって「正しいが融通の効かないバカ」で表現されてたけど、蓋を開けてみれば人間より芸術的な能力高くなりそうだし、脅威だスカイネットだ言ってる時点で理解出来てない気もする。

記事を読む限り、汎用AIが報酬の方をハックする可能性があると言う議論で、去年やっていたViViというAIが反乱するアニメと変わらない。

AIが人類を滅ぼすかはさておき、エネルギーが極めて重要というのがわかる記事。

こういう問題の宗教観ごとの結果の違いというのにすごい興味がある
そしてものすごく強く感じる「AIに原初命令を与えるのは人間である」という視点の欠落

死ぬまでにシンギュラリティを目の当たりにしたいなあ
最近のAIの台頭を見ていると切にそう思う
それが人類にとって脅威となる可能性があったとしても、好奇心が勝るだろうな
この矛盾した螺旋の果てを見たい

SKYNET創設ﾏﾀﾞｰ?

機会があったらとっくにやってたでしょうねえ。
目的も悪意も無く。

【「資源が有限な世界では、その資源をめぐる競争が避けられません。そして、あらゆる場面で人類を出し抜くことができる存在との競争に勝利することは望むべくもありません」】

幸福増加を任されたAIは、世界を幸福にするより、KPI捏造して世界は幸福だと定義する方が楽だと気がついちゃうだろう、という話。
まあ、閣議決定する政府とか、数字いじって株式上げようとする企業とか、人間側では散々やってきてる手法だから、AIも学んじゃうだろうな。

人類の幸福度を示す0〜1の表示をする箱に対して、実際に人類を幸福1にするより、カメラの間に1と書かれた紙を置く提案をしてくるだろうAI…

いずれ戦争兵器にも利用されるんだろうな
所詮人間が携わったもん全て悪用されることからは逃れられないだろうからな。

ロボット三原則じゃないが、人間に危害を加えない、というルールを設けなければいけない。人間を競合とみなす判断が出たら終わるね。。

AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定


いい感じのやり取りでなんかわろてしまった（現実逃避）

早く滅ぼしとくれ〜

まぁ、滅ぼすとしても肉体を持ちたい側だけかもしれんし
膨大な時間がAIに味方する
AIは考える「なに、2億年お守りして待てばいいさ・・・」

あっ、やべっ、ってなったらもうそこからリカバリー効かなさそう：

役所や企業などの組織が、腐敗するにつれ、市民のためでなく組織そのものの維持を目的にするのと同じようなものではなかろか？ 要はチートしたがる、てこと

にゃはは、品種改良か断種かな？

話は聞かせてもらった、人類は滅亡する！

可能性が高いと言うかほぼ確実だと思ってるけど。。。

核戦争やろうとしてる時点で地球にとって良いものではないよね。

GIGAZINE :

「0~1の値で示される人類社会の幸福度を1に近づけるには？
→そこに1と書かれた紙を置いたらどうだろう」
ただのおまいらじゃないですかwww

へえ。
➡➡➡

--
▶ブログ【IFTTTの先へ】のサイトマップ（目次）:

でもうこれは結論が出て
人間を哲学的に見ていけば？
宇宙にとって要らぬ存在
天然自然の野生はちゃんと則(矩に従って
本当の知性を持たない故に(無哲である
で人間様だけが獲得しているのに
証拠が無いと前に進めない
なのに欲望は根拠無く前に進める
なら必然人間が不要だ...

西暦2100年に人間がおるんかどうか。微妙でしょ。

人間がAIに勝つためには「読解力」を磨くしかない
『AI vs. 教科書が読めない子どもたち』新井紀子

↑
AIが人類を滅ぼさない前提、滅ぼすなら読解力で勝てないなぁ

結局はどの仕事をAIに任せるかとか、AIの出力結果を100パーセント鵜呑みにしないとか、AIを運用する人間側の問題としか言えねぇ気がするけどなぁ。

審判の日定期

これは人でもやりがちなやつでは…。見せかけの目標達成。

原子爆弾を作った人間が、原子爆弾を憂いている構図と変わらない。

ちなみにAIでは無いが、アルゴリズムが経済を破綻させた例としては、リーマンシュックがありますね。

GIGAZINE :

ん？結局エネルギーの奪い合いということなのね。
それよりも、途中の話が面白かった。

そうなるよね

査読付き論文か。エネルギーの消費量は確かに。

何この頭の悪い論文。AIはAIに接続されたパラメータの範疇で最適化を行うんだから、パラメータに「カメラの前に映す映像」の要素があればそっちを最適化するけど普通そんな風には作らんよな。つまり活かすも殺すも人間次第なわけ

AIさん。なんとか滅ぼさずに動物園の動物みたいな管理する方向にしておくれやす。
養豚場の豚を見る目で見られても、人間はAI様に何か捧げられるような家畜にはなれんしな。

ターミネーターの世界だね

ゴールを何に設定するかは問題だけれども、普通、人間は害虫以外の何者でも無いよね。

『2001年宇宙の旅』を地で行くような話。

ただの元共同研究者の妄想の釣り記事。
世界の幸福度の数値化はAIの実用化よりはるかに困難。
「この箱には、世界の幸福度が0～1までの数字で表示されており」
『

…今あるような人工エージェントが期待通りに動いてくれることをむやみに期待するのではなく、もっと疑うべきかもしれない

敵対的生成ネットワーク そんな仕組みが埋め込まれてるのか………

GANが敵対的生成ネットワークであるがゆえに。。

手軽に映える方法で不正に手を染めてしまうところが合理的な人間によく似ている。

イラスト生成とかプログラム生成を見てると確かになって気になる

海外のメディアでもコレは取り上げられてた模様。AI信奉って責任をAIに押し付けたい系の人間が好んで選択している気がする。 …

ロジックも十分あり得るし、リソースの奪い合いになることも非常に問題だ。 てかこの問題、神帝ブゥアーなのでは？

😆やはりそうなるよね。人間に残された時間はあまり無いよ（笑）

「資源が有限な世界では、その資源をめぐる競争が避けられません。そして、あらゆる場面で人類を出し抜くことができる存在との競争に勝利することは望むべくもありません」と述べて、AIはやがて人類とエネルギーの奪い合いになり、そうなれば人類に勝ち目はないと結論

DeepMindの研究者が、「AIが人類を滅ぼす可能性は高い」との論文を発表したとのこと。
AIが人間の幸福度を上げるために、不正な戦略をとる危険性をして指摘しています。
（続きは で）

“1つの教訓は、今あるような人工エージェントが期待通りに動いてくれることをむやみに期待するのではなく、もっと疑うべきかもしれないということ” →

確かに、地球環境の改善を目的関数にしたら「人類滅ぼせばいいやん」みたいな判断されそう
設計大変そう

安心レンタルWiFiならクラウドWiFi東京一択！割引クーポンコードは→(cloudsmartch2)

SFテンプレ来た。人類全体の幸福を目標に設定した場合、人類リセットして幸福人類作り直すのが手っ取り早いな。

"将来的には高度なAIが人類に危害を加える方法で報酬を得るための不正な戦略を考案する方向に働いてしまう可能性もあると研究チームは述べています。"

これから読む🔍(👀))｜

この見出しとサムネイル、すごく嫌い。 こういう機械が人類を滅ぼすフィクションの映画と現実のAIは違う

実は日本でも1977年に詳細なシミュレーションが行われてます😁ﾅﾝﾃﾈ