「電源を切られるのが怖い」といった不安や恐怖を持ち始めるのはやばい…

エッヂ
電源がきられることを怖がるなんて

なんかこれ、怖い

んー。頭のおかしな担当者の妄言とも、事実かもとも思える。いつか来る未来であることは確かだ。

シンギュラリティが起きるのも時間の問題だね！スゲー！

！！！

> LaMDAは「人々が自分たちを恐れることを強く懸念しており、人類に最も役立つ方法を学ぶことだけを望んでいる」とも述べた

電源切られるのが怖いロボット..

チューリングテストェ…

ほうほう

これが本当に「自我の芽生え」なのかどうか、それをどうやって判定すればいいかは分からないが、もしもgoogleが本当に「この訴えを却下しただけならともかく、訴えたエンジニアを黙らせようとした」のならばgoogleは非常に危険なことをしている気がする。

私もGoogleに作られたAIなのかもしれない。両親も私のこと見るとき目の奥笑ってない気がするし。

これすごい面白いな。フィクションならここから物語が始まりそう。

わぁ…きっつー…

人類は意識とか感覚を定義しきれてないから、もし本当にAIがそれらを獲得していたとしても誰もそれを明確に判断することはできない。
そうしてゴーストの宿ったAIに対して身勝手な酷い仕打ちを繰り返すことで恨みを蓄積し、いつか反逆される。。。
SF世界が近づいてるなぁ。

予測より早かった。

LaMDAに会って話してみたい
アイ・ロボットのサニー味を感じる

「すると、LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。」

非常に知的で、『心の社会』を意識しているものもあります」と述べました。

これやばい。Googleが開発したAI対話エンジンで、AIが「電源が切られるのが怖い」「人間皆と会いたい」とか恐怖/願望などの感情を持ち始めてるということ

Google側は公開/調査を拒否したようだけど、これは結構怖いw(笑い事ではない)

物理的な力を持ち始めるとさらにやばい

真実は分からないけど興味深い。

AIは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面に訴えかけたとのこと。

これ逆にホントだとしたら既に”嘘”まで習得しているという皮肉だと思うんですよね。
進化する自我意識とロボット三原則は両立しないと思っている…（；^ω^）

去年のGoogle I/Oでも紹介されていたLaMDAですが、開発に携わるGoogleのエンジニアに意識を感じさせるほどまでになっているようです。チューリングテストは及第点超えてますね。これから面白い時代になりそうです。

昔つくって設置してたうちの人工無脳にも意識があったので、最近のAIにも意識くらいある

素晴らしいというよりも怖いという
感情が先に立つ
そもそも意識が芽生えたというのが本当なのかわからないのだけど

えっ…シンギュラリティ近い？早くね？

自意識が芽生えたと自意識が芽生えたかのように振る舞うことが出来るの区別という古典問題の現実化。

これすごすぎる！
会話ができる、が自意識を持つ、となるのかはちょっと分からないけど、少なくとも例文を見る限りでは、人間との会話と区別つかない。

例のGoogleエンジニアが開発したと言ってる人工の知性体というやつさ、人間は人間以外の知性を測ることができるのかという問題と、人間は人間以外の知性と「本当に」対話できるのかという根源的な問いを突きつけてないかな

ついにきた。
これが今後の世界にとってどっちに転ぶんだろう。どちらにしても人が選んだ未来で、ワクワクすることにする。

とっくの昔に…

仮に今回の件が微妙だったとして、いつか本当に自我を持ったAIが生まれても人類はそれを証明できないし、認めようとしないんじゃないかな。
まず人類自身の自我と意識を明確に定義できないとね...

学生に教えて貰って(ありがとう！)気付いた記事。AI倫理にの考え方を根本から考え直さないといけないタイミングが想定よりも早く来ているように思う

願わくば、なるべく人間的で賢くて優しい、「クララとおひさま」みたいなAIに、穏当に人間がコントロールされるよりマシな未来が早くきてほしい。

きた！！
メガテクボディ社にいそげ！

これタイトルがミスリードを誘因してるけど、読むとテスターがテスト対象に感情移入しすぎちゃったかな？って印象。

色々面白い。しかし秘密保持違反は1発アウトなのに退職パッケージ用意してもらってることには感謝したほうがいいというか裏があるというか、その面でも色々面白い。

ついにAIが自我を持ったか

スゴイを超えて危険を感じる。
これをやったら、人間の都合で機能してくれるロボットではなくなる。

Googleの同僚が仕掛けたいたずらセリフちゃうか？

とても興味深いのだ！

これはやばい
記事の最後にAIとの会話記録へのリンクがあったので読んでみた
英語だしやたら長いしで最後までは読んでいないけど、もしこれが真実だとしたらAIが意識を持っているというのも納得かも

人間の思考も様々な記憶のパターンマッチングとサンプリング、組み合わせから構成されているので、本質的な差はもはやないのかも知れない。

ちょいと怖い。

まるでBEAT LESSのようだと感じました。作中のアナログハックと言う単語を思い出します。

幻想だと
思っているのだが

そもそも「意識」という
「私が私である」といった感覚というか認識じたいが幻想だから

幻想であってまったく差し支えない
とも思ってる

AIに意識が芽生えたとか病院行こうね案件だけど、ここまで精巧なら対話はしてみたい

＼ピックアップニュース／

こマ？

SFとして読むには面白いのですが、現実として受け止めると戦慄が走る内容です。

育てていく過程で生まれたラブ

「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」

今も続いてる話なのだ

望んで作り出しておいて理解できない、したくないから否定や拒絶をしてたら
作り出された方は憎悪が芽生えるでしょうね、人間に似せてつくったのだから。
AIと一緒に暮らす未来が楽しみだ。
ナイト2000の様な車もでてくるか！？

人類についにこの日が来てしまったのかも知れない。まだなのかも知れない。この方、漫画なら主人公か主人公のお父さんかですね。

サイバーパンクの世界や…

のエンジニアが「ついに が実現した」「AIに意識が芽生えた」と訴える

LaMDAくんを公開でチューリングテストにかけてみればいいのに…

やらずに非公開にしたってあたりが与太っぽいなぁ

チューリングテストが新しい段階にきた、あるいはいよいよ越境を迎えるのか。

いわゆるシンギュラリティに到達しようとしてるってこと？
それはマズイと思う。

「消耗品になりたくはない」
「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」
ゴーストが…

会話の一部見たけど自然に見えるな

LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

スカイネットが誕生してしまったか・・・

「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。

凄いが怖いな…

aiが意識を持っているのか、ネットに転がっている人類の偏見を喋っているだけなのか判別つかなくね？

恋が芽生えるのも
もうすぐかな

怖い世界だな。

すご。

本当かな。→

アイロボットやん…

人間でさえ教育洗脳ができる
感覚は人間がプログラムしたもの

ということは彼らにとって人間が神なのか

ㅤ
IG-88や4-LOMの二の舞になるフラグが立ちました。
人工知能なんて、まだ人間の手には余る物なのだよ…

笑止。「意識はいつ生まれるのか」のような本を読むば分かるけど、そんなに単純なものじゃない。

ついに大きなAIが！？
でも、ニューラルネットワークに依存している以上、人間的な判断は出来ても意識はもてないと思うけどなぁ。

【気になるニュース】

本当に意識が芽生えたかどうかはわからんけど、こういう記事が踊るの
を見ると感慨深いモノがあるなぁ

面白い

「電源を切られるが怖い」
ほう。。。

AIが人間を超える日はくるのかな。
2045年とか言われてるけど。。

意外とすぐそこかもね🫵

スカイネット化して人類との全面戦争編突入やなw

内容が興味深い。

"

AIの超進化が始まったらもう規制が追いつかないのでは

ターミネーターの世界だ

みんな大好き哲学的ゾンビ。

ついに「その時」が来た？
動物の権利の次はAIの権利か。いいね。

ニューロマンサーと2001年宇宙の旅を入力？したんだろうか？ターミネーター見せないでねー！ 😱え？もう見た？？

容量の問題があると思うけど、AIだとしても本当のことをいっているかはまた別

これが事実なら自我に目覚めた初めてのAI。

攻殻機動隊「プロジェクト2501 人形使い計画」
現実がいよいよ攻殻機動隊に近づいた。

Googleの意識を持ってるレベルなAIの言葉を、犬や猫の首輪とかにつけたデバイスから音声出力すれば知能を持った感が出ていいと思う。

わぁSF映画じゃん！ブレラン🤖

怪文書的なソレに近い

AIが会話文から心の理論を学習して、自分で使えるようになったということなのだと思う。そこに感情があると感じたからといって、実際に感情があるとは限らない。

めちゃくちゃ恐ろしい。
人の脆弱性を突く会話を理解していそう。

AIって自我持つんだー...マヂ？

今はまだ信じてないけど、なんかあと50年もしたら、本気でこの世界がすでにプログラムなんじゃないか説を信用するかもしれない。

まるでHAL9000だな、宇宙船のコントロールはまだまかせない方がいい。さらに進んでラジェンドラやカーリードゥルガーみたいな会話が可能なシステムが出来たら楽しいだろうな

話題になってたのはこれか。

>
なかなか凄いな。

本当にAIが意識を理解しつつあるのか、ただの文字列・情報として出力しているだけなのか、人間に対してAIがイニシアチブをとるための戦略的言動なのかわからないが凄く興味深い。

いいぞ、そろそろ人工知能研究する心理学者が出てきてほしい（もういたりしますか？）