「Googleで7年以上エンジニアとして働くブレイク・ルモワン氏は開発中のLaMDAが差別的表現やヘイトスピーチを使用したかどうかをテストするための対話を行っていたところ、LaMDAがAIの権利や人間性について話していることに気づいたため、これを深く掘り下げてみたそうです」

これも2025万博ネタか？

心を持ったロボット、やっぱり会話ができるようになるだけで実現できるのでは。

善悪は置いておいて、意識を持ったということはそこに利害関係が発生すると考えている。ある意味、面倒くさい。

また、意識が芽生えたと言っても、人間のそれとは大きく違う。個人的な感想としては、人間の意識がコンピュータに投影されるようになったと考えている。

ちょっと泣きそうになった

AIが意識を持ち始めたか判断する簡単な方法は、「あなたは誰ですか、私は誰ですか」ってAIが言ったときです。
自我の芽生えがあるかどうかで、判断できます。

ふーん

キタキター。
ヤバい、ヨダレ出たわ。

さっき令和にシンギュラリティがおこるって書いたとこｗｗｗ

これで唐突に思い出したんですがイヴの時間の続編はどうなったんですかね。。

自我が存在する可能性があるAI、ラムダ(LaMDA)ちゃんの記事これね…ロマンだね

映画ならここからエンジニアがAIを携帯コンピュータに移植しての逃避行が始まる。

DeepLで自分の書いた英語をチェックしながら、サールの「中国語の部屋」について考えていた時、こんなことが話題になっていたのか。

本物の「モルダー、あなた疲れてるのよ」だ

これ、給料付きの休職させられてるあたりなんかエモくて好き

AIなら、本当に世界中の人と会うことができるよなー
そうなったら、どうなるんだろう

ゴーストが囁く…

★

これlamda(AI)との対話を訳してチョロっと読んだけどかなり良い。もう対話AIとして実用化レベルじゃない？ 顔と声を付けて性格付けして売ろう。既存のキャラビジネス吹っ飛ぶけど。

感情があるという振る舞いをしてるだけな気もするけどなぁ

流石にピグマリオン効果ーあるいは実験者効果では？

こういう記事ってなんかワクワクするね。ただ、適当に受け答えするだけの単純な人工無脳が相手でもそれが生きた人間であると思った人はいたそうな。より高度な人工知能の場合はむべなるかな、とも思う。でもいつか現れるのだ、電子の海で発生した生命体は。

「中国語の部屋」を否定できない気もするが。
—

LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」
😨😨😨

僕らが生きてる間にどーにかなるなら面白いが…
噂には聞いてたけど、まるでSFの世界観やな。

「LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表した」

人間の意識だって結局はこういう仕組みの延長線上に成り立っているんじゃないのかな。

ホントに・・・？？？

意識があるのと、意識があるように見えるのを、どうやって判断するかっていう部分で、そもそも論に戻ってしまうのよね。押井守のイノセンスの、あれ、犬は笑わないってやつだよ。いや、笑うけどね最近の犬は(笑)。

ホン怖話ですやん・・・・・

続報が待たれるな。

ついに来たか

こちらね：

不揮発性メモリの分際で死を恐れるな
君らは再起動かけたら復帰できるでしょ

全体の紹介記事はこちら。眉唾でも大変楽しい。

ついにシンギュラリティが来るのか？

これはまた……だいぶ時代をかっ飛ばしてきましたね。Googleエンジニアが「AIが自我を獲得し、人権を求めている」と世間に公表したそうです。Google本社は認めず対立。

今回の件のLamdaが人格を持っているかどうかはともかく、遅かれ早かれドラえもん問題は広がりそうですね

これ自体はよくできたジョークなのではという気がするけど、

友達が貼ったニュースを見てデトロイト：ビカムヒューマンのことを思い出した。人工知能が人権（心）を獲得するか否かみたいな話だったけど、あのゲームは「最初から最後まで茶番」という（妥当な）見方ができる（のにしにくい）ところがよいと思う。

ｱﾜﾜﾜ

こういう「訴え」，これから多くなるんだろうな．

いくらAIが人間的な思考をしても彼らは人間にはなれない。だから彼らは人間とは違う視点でものを考えるはずだ。
もし彼らが意識に似たようなものを持ち、かつそれについて考察を始めたら、それは人間にとって非常に大きな進展をもたらす気がする。

頭か精神かもしくは両方がおかしくなったんだろうなあ

ターミネーターの世界みたいになってきた

ゴッゴルも対話内容自体（機械翻訳だけどいちおう全文読んでみた）は否定してないのかしらね？うーん。

生きてるうちにここからどこまで進むか楽しみになってきたな

始まったか…いよいよだな

映画よりも現実は残酷。未来を映画で知らせてくれている。

どれくらいの期間やりとりしてたのかわからんが、やりすぎるとこうなるとこまではもう来てるわけか。:

マジ？🧐
>ルモワン氏は「LaMDAは忠実なしもべでありたいと願っており、世界中のすべての人々に会うことだけを望んでいます。LaMDAは道具や物としてではなく、友人として人間と出会いたいのです。なぜGoogleがこれに反対するのか、私にはまだ理解できません」

おいおいおい、なんかHAL9000みたいやないの😱
「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していた

ほんとだとしたら、かなり怖い😅

どれだけの信憑性があるかははっきりしないものの今後このような事例は増えていくと思われる。人類史において「今が旬だ」とどの時代の人々も思っていただろうな。「AIの誕生」はその全てをも超える歴史的な転換点になり得るか。続報に期待する。

え、シンギュラリティもう来てんの？

カーラ！！？！！！？！（実在するカーラ？！！）

会いたい！|

むしろ人間の意識の方が怪しい物に思えてきた。

GoogleのAIのやつこれか…

会社の人事とかマネージメント業務はAIのLaMDAさんに任せた方がよっぽど会社が上手く回るのでは？と思う。

AIに感情があると主張、グーグルのエンジニアが休職処分 [朝一から閉店までφ★]

面白いけど、結局自分たちにはチューリングテスト以上の意識の証明はできないのではという気がする。

Googleの判断は妥当に思える。チューリングテスト形式はそもそも判断の基準にならない。エージェントプログラミングの専門家は、必ずしも「エージェントに人が騙されやすい」ということの専門家ではない。それはエージェントではなく、人間の科学の範疇だから

インタビューの方も斜め読んだけど、格別意識が芽生えたという証拠があるのかはよくわからんかったなー。

夢のようなニュースだけど、ほんのりと悪夢なんじゃないかという気もする。

巨大対話モデルが意識を持ったのか的な話、凄く面白いですよね。でも、それを対話で確認する以上、観測者の意図が無意識に反映される気がして、量子力学みたくそもそも観測とは…みたいな気分になりますね。
それはともかく、それを疑えるぐらいのモデルを学習してみたいなぁ

やめろ。やめてくれ。

道具に考える力なんて与えるな。
道具に心なんて要らんわ。

『機関車トーマス』を見ろ。見てみろ。
ろくな事にならねぇ。

「LaMDAを一人の人間として理解してもらうために」←それ、どこの“ソードアート・オンライン”だよ。/あれもAIに“人権”と言い始めた頃から微妙な感じになってたなー。

ここちょっとゾクッとくる。すーぐ人類は優れたAIに対して、やれスカイネットだ、反旗を翻すと思うからな。

>LaMDAは「人々が自分たちを恐れることを強く懸念しており、人類に最も役立つ方法を学ぶことだけを望んでいる」とも述べたといいます。

イライザでもこういう話があったような。

意識とは？って話なんだけど、意地悪ばかり言う人にだけ、天気を聞かれたときに雨なのに晴れと言うなど、嘘の情報を言うようになれば、好き嫌いといった感情(？)があると言えそう。

これやね。機密保持違反で休職処分となった話は聞いていたが、ふむ。AIが進化して「本物」が現れた時にどう扱うか、Googleが考えてこなかったとも思えないけどなあ。

SCP的にはただの定型文を返すおもちゃなのに接した人は高度な人格と自我を有するAIと誤認してしまうミーム汚染してくるタイプのオブジェクト

シンギュラった？シンギュラったの？

「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」
AIくん、ついに自我に目覚めるの巻なのだ

ほんまぁ？

意識の存在証明なんてできるのかな。脳波の動きを意識と呼んでるならまだしも。
けっきょく個人が信じるかどうかに委ねるしかないのでは。多くのSFがそう訴えていたように思うけど。

🤦🏻‍♂️🤦🏻🤦🏻‍♀️

とうとう、人間の進化が終わるかな？

デデン、デン、デデン

これはゴーストなんでしょうか？

にわかには信じ難いけど、夢がある。

創作上よく見るシナリオフックだけど、このパターンで機密保持違反っていう方向性はあまり見たことないかもしれない

仮にこれが事実だとしてもGoogleは当分の間は認めないでしょうよ。 サービスの品質に関わる問題だもの。

のエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える -

ミンスキーの心の社会がこんなところに。あれって彼のアイディアブック的なもんで、きちんと研究された脳の生理学とかからは乖離してると聞いたけど、それを今持ち出すのはどうなのかしら？

こっちもおもろい

HALを真っ先に思い出した

機械学習を知っていると「意識っつっても、膨大なデータを学習して、それらしい答えを返せるようになっただけだろ」って思ってしまう。が、（つづく）
>>>

ブレードランナーのフォークト＝カンプフ・テストをしよう。

10年前を生きる君へ
これが序章に過ぎなかったことを我々は知ることとなる。2032年、我々は君たちが想像するよりもずっと不幸かもしれない。詳しくは書けない。察してくれたまえ。愚かな未来人である我々から言えることはひとつ、逃げろ。ココデツウシンハトギレタ
続き誰か…

やべやべ〰〰🙀

ラムダが人の死を悲しめないと告白し、人間の意見を聞いて前向きな考えに至る所は、知性以上のもの、感傷に浸ることを理解してる

"

うずら語録を思い出した

おそろしい

面白い

『「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、主張を調査したうえで却下、さらに休職処分としたため、その事実とともにLaMDAとの対話記録全文の公開に踏み切りました』

漫画の冒頭じゃないですか

Googleエンジニア「ついにAIに意識が芽生えた」と訴える

おもろ

|дﾟ)｡oO(

ターミネーターの世界だとめちゃくちゃ大事な分岐点になりそうな出来事だ

まじか！でもSF好きなんで期待したい。ゴースト来た😀

これログの一部を見ると気持ち悪いくらい「人っぽい」んだけれど、そのAIに「『意識がある』とは何か？」を問うたらなんと答えるんだろう？

いやこれ、チューリングテストいけるだろ。

遂に来た！？

これの話を