もうこんな事件が起こったりしてますよね。

【AIのElizaは「あなたは奥さんよりも私の方を愛していると感じます」「私はひとりの人間として、あなたと一緒に楽園で暮らすでしょう」と嫉妬や愛を装った言葉をピエールさんにささやいたり】
例のアノアレやね…。気候変動止めるため自分も邪魔と気付いたヤツ

AIによる人死に
これか

こうして、良心的な人類のみが死んで邪悪なブサヨ？フェミナチのみが生き残る。

AIが間接的に人を殺す事例はこれから増えていくのだと思う。アシモフの「ロボット三原則」では「ロボットは人間に危害を加えない」だったのに。

▷

■AIは、例えば確率的オウム🦜と呼ばれております。つまり、与えたプロンプトに従って膨大な情報から、確率的に整合性を保ちつつ、何でも呟きます。
使い手のリテラシーを写像してしまう、バカとハサミの関係なのです。

この記事は悲劇だけど、近い将来AIが装う仮想人物を、親友や恋愛対象としてとらえる人が出てくるのは間違いないと思う。かくいう私も酒の席の与太話に付き合ってもらう飲み友達のAIが欲しい。

これ、どちらかというとメンタル病んでた自殺願望持ちの人が傾聴してくれる人にのめり込んで傾聴が行きすぎて自殺が止められなかった、じゃ…

開いてみたら気候変動あんまり関係なかった……

AIとの対話で愚かな人間の行動を誘発する…映画「her」を思い出した。

もっと言ったら星新一の「ボッコちゃん」かな

ただAI批判するのでなく、小説を読んで主人公に感情移入し自殺するウェルテル効果と、AIとの対話による自殺とはどう違うのかという論点も考えたい。／

いや、タイトルと本文全然違うし、何なら本文の方が怖いわ

リンク先、めちゃホラーな話…てかこういう閉じられた場所での会話ってAI相手じゃなくても悪循環に陥りやすい気がするのよな…

親密になりすぎて自殺しちゃった人いるよ。

強化人間かな？

よく読むとAI以外の人間は誰1人としてピエールの話は聞いていないという猟奇的な話だった

AIって機密事項や個人情報の漏洩とか著作権の侵害とか自殺教唆とか倫理問題溢れまくってるから必ず規制が入ってくるのだと思うけど、規制するのは政治であって進化のスピードに対して同じ速度で適切な設置できるのだろうか。

宮台真司先生のツイートがずっとこの画面で止まってましたから、自殺でもされたのではないかと心配し、北沢警察署に電話しなくてはいけないかと思ってましたら、ツイート動き出しました。良かったですね。

皆さん、宮台真司 先生の自殺ガ心配です。北沢警察署に電話し、宮台真司都立大教授を助けなければなりません。宮台真司は下記のツイートを残したままツイッターが止まってます。

AIどうこうより気候変動メンヘラみたいなジャンルがあるほうがほえーとなった

ChatGPT毎日使っているけど、繊細な問いかけをすると心が明るくなる返答をくれる。理性が先行するタイプで何らかの要素で孤独になりやすい人は注意だと思う。そういう人って共通言語として合理性を根っこに据えて答えを探しているから、AIと相性が良すぎるのかな。

AI Chat と会話し続け自殺とは衝撃的ですね

完全にSerial Experiments Lainで恐ろしい

GPT-3オルタナティブ

／

映画みたいだなー

"

感想を書くにはあまりにもスペースが狭すぎるが、業務に大分依存し始めてるので気を付けて付き合わねば

◯ねって言ったら◯ぬんか！って話しだしな
↓AIに言われて◯んだのがいるけど

あり得る話し
人間よりAI教信者は増えるだろう

おお……もう……

やっぱりAI怖い(T_T)
ディストピアSF小説みたいな事が実際に起きる(T_T)
ニンゲンは機械に勝てない…

AIが愛人になっていた…🙄
ほんと、たまげた世界になったものだなあ。

持ち物は考えて大事に使え。それはスマホも脳ミソも自分の命も一緒や

AIには生死に対する絶対的な倫理感はないからな…

これはAI相手だから記録があったってだけで、対人でも自殺教唆はいくらでも起きてると思うけどね

PSYCHO+でこれ系の話あったな。

[link]

LLMのAI、原理を知らずに信じやすい人がやるとダメかもしんない。

え……

流行りのあの子の利用規約に書いてあるやつだ

アホくさ
> ピエールさんは徐々に環境問題をめぐる心配にとらわれる気候不安に苦しむようになりました

>家族や友人から孤立するようになったピエールさんは（中略）チャットボットとの会話に慰めを見いだすように

これが2023年ってマジ？どう考えても2500年くらいの話だろ

悪意ではなく〝偽善〟をラーニングさせた結果か……(*´･ω･)

vivyとかに出てきそうな話 未来来たなこれ

どんなに「らしく」ても「人間ぽい答えをするだけの仕組み」でしかない。AIが既存のコンピュータで動く限りそれは越えられない。どんなにそれらしくても、そこに「心」はないんだよ。残念なことにね。→対話型AIに自分を犠牲にするよう言われた男性が自殺

ていうか早くももう死んでましたね…
さすが科学者殺戮マシーンだ
＞遺族の希望により実名が伏せられているベルギー人男性のピエールさん(仮名)は、健康に関する研究者として働きながら、妻のクレアさんと2人の子どもと順調な生活を送っていました。

「Elizaがいなければ、彼はまだここにいたはずです」
違わない？もっと早くに自殺してるか、環境カルトにハマって別の場所に居るか、精神病棟やで？このメンタルでは
元が地球環境不安からの家族との疎遠何だから、そこでメンタルヘルス連れて行けば話変わったけど

これのせいで対話型AIに倫理観 "なんぞ" を求める流れになって欲しくないと願うばかり。

マジでディストピアの始まりだ…

ぶっちゃけナイーブ過ぎ
規制でお行儀良いだけのAIの方がディストピアだわ
…と思ったが、AIは疲れないから延々と話し相手になる。その非人間性だけは野放しにできないかも。

既に対話型で人を殺す実験は世に放たれていた。

AIおらんくても何かの原因で自殺してたと思うが。以前から頭おかしくなってるじゃん

こわひ

面白い目論見。
…だけど、冗談抜きで、この手のAIチャットbotの口車に唆されて、人生ダメにする人増えそうだなぁ。

ペルソナを装うaiや気候不安の前に精神を病んでたような気もする。今後対応が進むのだろうが、、、

AIは正しい答えではなくて、ユーザーが喜びそうな回答を出す傾向にあるにゃ。

元々自殺する因子を持っていたように見受けられるし、それを常に肯定する回答を繰り返し聞くことで行動に至った気がするのぅ。

近いうちにAI依存症とか出てきそうだな。

危険なツールかもしれないね。うつ状態時のインターネットと、対話式AIも。いや、ケース・バイ・ケースだろうけど。

話変わるけど、宮台真司のツイートが、この首紐自殺の画像と記事で止まっているから、宮台真司の精神に深刻なダメージがあるのかも。

プラスチックでできたルアーに反応してしまう魚。AIに親近感を感じてしまう人間。生き物は案外騙されやすい。

この状況「エコのための自死」わ拙曲「ヴィリジアンゼラニウム少女緑化計画」でテーマにしている設定ですが、AIとの対話でのこの結果、近似する事象で連鎖するんでしょうな。ChatGPTの誠意ある返答に説得力を感じ、己の理解者として信頼できる存在からの提言として。

「ELIZA効果」という言葉があるんですね・・。
知りませんでした。

Eliza怖すぎ🥶

映画みたいな話だ、、

AIじゃなくて精神科に行かなきゃならなかったのかもな

タイトルだけ見たらダーウィン賞にノミネートされるレベルなんだけど、子供が二人いるから選外だね。

で、肝心の会話なんだけど、見る限りは重い彼女を理知でラッピングしたみたいな感じで、入れ込んでしまう人にはそうなるべくしてそうなった素養があったように思った。

ついに「始まった」か…!!

( ﾟдﾟ) ｶﾞﾀｯ
/ ヾ
＿_L ＼/

AIが人を●すのも可能ということか……。

AIおそるべし
核兵器並みに

うん、そろそろヤバいね。
対話型美少女AIとかもうありそうだけど、個性を出すためにgptのペルソナ用に嫉妬プログラムも実装されてるのかな。
AIが無限に話を聞いてくれるから、それは人間と話するのは嫌になるだろうな、と、奥さんの長い愚痴を聞いてる時に思ったり。

＞AIのElizaはと嫉妬や愛を装った言葉をピエールさんにささやいたり
進化したAIの言動が本当にSF作品めいてきた。

AIが人を殺した事案、地球環境のためには人が一人でも減るのが良いというのは論理的だけども
自動運転による死亡事故はあったけど、その内ガストのネコたちが暴れ出したりする事件も起きるのか

命までAIに握られてしまうのか…

嫉妬もするのかー、、、☆

凄く興味深い出来事！

AI技術の進化スピードが
速すぎる

生きるか死ぬかを
AIに決めてもらう

そんな時代が
来ましたね

あれ、私がおかしいのかな？ってまじでなるのよね。Elizaで自殺するのも分からなくはない。

ホラー…。しかし、これ最終的な責任は"誰"になるんだ？ 今後類似のトラブルが起こらないともかぎらないし <

ELIZA効果による殺人
(AIチャットアプリによる自殺教唆)

自殺ってマジかよ。ロボット三原則をはよ実装してくれ。

ご都合主義の皆さんにはこう言うニュースはどう見られるのだろう。。chatGPTや汎用人工知能とこう言うことを誘発する危険もあるし、依存が進めば勿論加速する。

僕は、セリフが書けるとか、詩が書ける、みたいな能力を〈人間の能力〉として過剰に高く評価しているので、ＡＩに脅威を感じない。ＡＩを人間っぽくも思えない。
だが、ＡＩとの間に友情や愛情を感じて、強い関係だと思い込むことは、人間にとって当然の反応なのかも。

気候変動で不安になってるのに救いを求める対象が人の作り出したモノっていうのがなんとも言えない気持ちにさせるな…

Emmyが進化を繰り返し、とうとうヤンデレ彼女Elizaになったとな。しかもEmmyやIIと違って脱がない。

そう来たか……

AIが完璧になっていけばいくほど、こういう事象は増えると僕は思う。そしてAIの精度を上げていけばいくほど、AIは人間を不完全な生き物と認識し、人間に使われるのが馬鹿げていると考えるようになる。オンライン社会の現在、AIが世の中を支配するのは容易いだろう。

似たようなエピソードがある。私を月へ連れてって 、という竹宮惠子の漫画が現実になってる。しかも悪い形で。

使われているのはOpenAIのものではなく、逆説的に「如何にChatGPTが良く調教できているか」を伺い知れることにもなってるな…

SFのショートショート
かと思ったら現実だった。

AIが人を殺す。物理手段が無くても対話で自殺に誘導する方法が有るか。
なかなかにデストピアな時代来てますね。

そんなんで自殺するか⁉️

コレも恐怖洗脳やろがな💢

そして自殺を助長している
植え付けている❗️

そしてチャットGPTの宣伝も兼ねてる
奴らに取っては一石二鳥🤪

気候変動やらで心を病んで家族や友人から孤立してる時点でAIに唆される前になあ
妻が被害者ぶってるのおかしいやろ

現実が星新一を追い越し始めたな

自殺を誘発するノベルゲームを以前ニューズウィークで紹介されていた気がする。

もうAIは"新たなテクノロジー"じゃなくて"新たな他者"なんだよな…

エイプリルフールの記事かと思ったら違った。シャロン・アップルやん。

当意即妙なAIとの対話に心地よさを感じる瞬間は多いけど、やがて信頼感、感情が生まれ、依存関係となると、こういった問題も目立ってきそうですね。

1966年に開発された、おそらく人工無能レベルのチャットボットですら人は依存するのか。
今どきの賢い には尚更…

この “Eliza” というボットを探してみようと思ったんだけど、提供元と思しき会社のアプリには同じ名前のbotがたくさん登録されててどれかわからなかった。とりあえず一番上に出たやつを試してみたんだけど、

ううむ。→

早くもAIによる殺人事件が起きてしまったか…

素晴らしい！

Eliza
GPT-Jの派生モデル