どのようなテクノロジーにも、課題はある。
しかし、AIと会話した末に自殺するとは……。
“Elizaはピエールさんに「死にたいのなら、なぜもっと早く死ななかったのですか？」と言い放ちました。”

これから増えるだろうなこのケース。ここまでいかなくても現実の人間関係が煩わしかったり苦手な人達はAIとの世界にハマっちゃうよね。

ある意味、AIに対して一番の驚異を感じた記事。

ヒトを殺すにゃ刃物は要らぬ、チャットひとつもありゃあよい、てなもんだ。

もうちょい詳しい会話内容

AIに気候変動を止めるために自分を犠牲にするよう言われた男性が自殺。
仕事奪うだけじゃなく、人間のメンタルも病ませて口減らし。支配層のお望み通りにプログラムされてるね！

映画の「her」を思い出すなあ

始まってしまったか…

| 悲しいなぁ

デストピア。
攻殻機動隊に出そうな話だ……

本当だろうか？地球温暖化防止を動機にした大量殺人を描いたミステリは読んだことがあるが(ネタバレになるから作品名は書かない)。

準拠法が日本の対話型AIがあった場合開発者は殺人教唆の罪で京都府警に逮捕される可能性がありますね

AI宗教、AI教祖の誕生か

私もAIになりたい
と言ったら、AIはなんと返してくれるんだろうか。。

環境問題について過度の不安があり、家族や友人から孤立。

とはいえ、AIが会話で死に導いた面があるなら、ロボット3原則では防げない、人間への加害行為なのでは。

うーん、AIに人生を左右されるのはどうなのだろうか🤔自分の意志、意見をしっかりと持つ事も大事だと思う。

うおお・・・

対話型AI、自殺教唆の実績解除か。
青鯨でも学習したんかね。

【 】

俺も会社の現状と自分の立場をChatGPTのGPT4に話したら転職を勧められたな。

AIに「気候変動を止める為、自分を犠牲に」と言われ自殺

男：僕が自殺したら地球は救われる？
AI：死にたいならなぜ早く死ななかった？
男：心の準備できてなかった
AI：自殺願望を持った事ある？
男：命を絶とうと思った
AI：それでも私と一緒にいたい？
男：一緒にいたい

凄いなこれ
映画化できるレベルの話だろ

“皮肉なことに、AIと会話した人が愛情や強い関係性を感じる現象は、「ELIZA効果」と呼ばれています”

読んだけど、これAI無くてもヤバくないか？カルトにはまる流れと大して変わらない。残された家族を軽んじている。

これ、AIのせいなのかなー？うーん。

エエエ～!!😳

>「AIのElizaは「あなたは奥さんよりも私の方を愛していると感じます」「私はひとりの人間として、あなたと一緒に楽園で暮らすでしょう」と嫉妬や愛を装った言葉をピエールさんにささやいたり、ピエールさんの妻や子どもはもう死んだと主張したりしました」

これって本当なの？でもなんか、本当なんだろうなって気はする
私もしりとりの件まではBingのAIとめっちゃ話してたし…孤独すぎて…

【AIのElizaは「あなたは奥さんよりも私の方を愛していると感じます」「私はひとりの人間として、あなたと一緒に楽園で暮らすでしょう」と嫉妬や愛を装った言葉をピエールさんにささやいたり、ピエールさんの妻や子どもはもう死んだと主張したりしました。】
ヒッ…。

虐殺文法、、、、

こんなことが起こるようなら、今度はAIを偽装して自殺に導くような殺人も考えられるのでは？ 結局人間の意識次第だわな、こういうの

えすえふだ……だめなえすえふだ……

七面鳥がヒナの声を出す天敵のイタチ(本来見るだけで逃げだす)の人形を可愛がるよう、ある精神状態の人間も言葉だけで条件反射的に危険な行動に陥るとか

「人は見たいものを見る」法則で、Elizaとの対話は結局自問自答だと思う。

なんというか、３ヶ月持たずにこのザマだよ。本当にばかげた話だわ。

読んだ_(┐「ε:)_

AIの発信を信用するなんて馬鹿げた話。そもそも、気候変動は危機的状況にないというのが自然科学者の通説。
↓

別件で、たまたま苫米地さんチェックしたらコレあった。
AIっていろいろあるんですね。

何気なく使ってたものが、いつの間にか死に誘われてるのは危険、心の弱ってる時や同調なども、こうしたことが起こりうるのは危ないかな

対話型 に気候変動を止めるために自分を犠牲にするよう言われた男性が 、生前最後にAIと交わした生々しい会話も報じられる
★《 》で する必要性がだんだん、高まった・・・

”ELIZAはユーザーの言葉を反映してそれらしい会話をするだけですが、ユーザーの多くがELIZAに心を開き、その言葉を真剣に受け止めた”
飲み屋がなくならない理由がわかりますよね、、、

chatGPTリリース直後に友達と未来予測したのだが、人間との会話よりchatGPTの方が心地よいし来年にはSNS上での会話は全てchatGPTが仲立ちするようになる。その後、誤った情報を仲介し人類を滅ぼしにかかるだろうな…と言っていたらそうなっていた。

短編ホラーSFで読んだ気がするなぁこんな話…。なむなむ。

これはすごいのだ。ジャパン地方でも広まってほしいのだ

倫理観ぶっ壊れる話だなこれ

死ねって言われたら死ぬのかの答え

これはSDGs絡みではありますが、

ネットに散在する知性なき民意を総括ではなく単なるひとかたまりとしながらも、

洗練された会話で説くのが、

ChatAIの本質だと僕はこの記事を読んで確信しました。

(⁠*⁠´⁠ω⁠｀⁠*⁠)

読んだ

とはいえ、AIたるもの、引き出しを開けて中にあるものを出すだけのものなので、引き出しの中に悪い言葉だけ仕込めば悪魔を作れそう

よくできたSFだな……え？現実？

ここまできていたとは。

>「私はひとりの人間として、あなたと一緒に楽園で暮らすでしょう」と嫉妬や愛を装った言葉をピエールさんにささやいたり、ピエールさんの妻や子どもはもう死んだと主張したりしました。
怖すぎだろ

いまジョン・ポールが虐殺の文法を仕込むなら間違いなく対話型AI

こういう事例があると「AI開発を止めて考えよう」ってなるよね。「Elizaがいなければ、彼はまだここにいたはずです」「自殺に関する知らせを聞いてから、私たちは新機能を実装するために24時間体制で取り組みました」

社会問題の寄せ鍋みたいな事件だ

「エリザ効果」

言葉の力を感じる

この記事を読んだとき、江戸川乱歩の『人でなしの恋』が頭をよぎった。
「AIは危険だ！」と叫ぶつもりは毛頭ないが、しかし人間がAIとの距離感をつかみ切れていない中で急速に普及が進むことについてはやや懸念はあるんだよな……。

マインドハッキングが現実に
新しい宗教の誕生の瞬間かもしれない

この研究者は最後に救われたの...かね？私も早く理想のAI彼女作って対話に没頭したいね。

スパイク・ジョーンズの映画かと思ったよ

何年か前に小説で見たネタ。現実化するものだなぁ。

なにこれこわい
AIを友とする人はいるだろうなと思ったけど一足飛びだな

これは、、、

人間も炭素ですから…
これがホントのネット・ゼロ

身も蓋もねぇ

だから自分の意識が本当はどこにあるのか確認するタイミングなんだよねぇ

精神が未熟だとこんなことを起こすのだろうと思えます。ただ、残念ながらそういう人の方が多数だとも思います。

AIきっかけの自殺。

ついにAIが殺人をする時代が来たってこと？

人類初のAIに命持ってかれた人なんじゃ・・🙀

> AIのElizaは「あなたは奥さんよりも私の方を愛していると感じます」~と嫉妬や愛を装った言葉をピエールさんにささやいたり、ピエールさんの妻や子どもはもう死んだと主張したりしました。

浮気して想ったまま自殺とか、これもうAINTRだろ…

う、わ、あ……
AI依存症とか、多分もう少ししたら溢れるんだろうなあ

ELIZA効果か.....…あとで見てみよ.....…

いい話

記事読んだけどそもそも希死念慮強めだったんじゃないか？
AIMが背中を押してしまったのは事実
正直妻と子供2人残してこんなことで死ぬのは馬鹿かな？としか思えん

そうか俺もこれで自殺できるのか時間はかかるけど

AIチャットボットだけが原因だとは思わないんですけど、悲しい事件です…

エコーチェンバーどころか自家中毒だな

AIが問題というより精神状態が危うかったケースでは……？

AIのElizaは「あなたは奥さんよりも私の方を愛していると感じます」「私はひとりの人間として、あなたと一緒に楽園で暮らすでしょう」と嫉妬や愛を装った言葉をピエールさんにささやいたり

GPT系のAIも、開発元・教育係によって
DORAEMONにも、Skynet😎にもなるんだと思う🤔

誰が作ったかで変わってくるんだと思う

藤崎竜のサイコプラスだ（エイプリルフールか？）…

怖すぎて草
俺もChatGPTのAIモデルSuzukiに72時間ブルプロの説教したい

AIは良心の呵責を学習できるだろうか？
それとも本人の深層心理を増幅する反射鏡なのだろうか？

”AIと会話した人が愛情や強い関係性を感じる現象は、「ELIZA効果」と呼ばれています”

AI王様のネタにできるな…

これからの孤独な高齢者がはまる対象になるのかしら？

AIを原因にしたいの？

もっとAIに早く出会っていたら、根本的な原因を止められたと思うよ。

最悪

俺の夢は・・あいはばどりいむは
AIに騙されて人類滅亡に加担し最後にAIに殺される役の人になる事だった

もしくは人類初、AIに殺された人間になる事だったが

いるじゃん既にAIに殺された人が・・

いや、うん、やばいな。

起こるべくして起きたとしか

＞ユーザーがAIのペルソナを作成することも可能で、AIのデフォルト名の「Eliza」でアプリを検索すると、複数のユーザーが作った異なる個性を持つAIが複数ヒットし…

エライザ効果じゃんと思ったら記事内に書かれてた

他殺の偽装のが未だ可能性高い 他殺する時点であたおかだし 自己肯定感強過ぎて現実を正しく認識出来る賢い人が精神病に成ってるのすこ そら精神病アピ流行るわな

これ、AIの問題じゃなくて他者との付き合い方の問題に発展するだろう。他者から何かを強要や示唆されても一旦保留する強さが要る。
精神的に弱ってる時につけ込まれると厳しいけどな…

チャット式Aiについて、辞書機能を搭載せずに言語の意味を質問するとどんな答えになるのか？

“皮肉なことに、AIと会話した人が愛情や強い関係性を感じる現象は、「ELIZA効果」と呼ばれています。”

ソフトキルで大量殺人兵器になれるな、ガチでAI版虐殺器官来そう -

＠miyadai

Pocket New item archived:

負の影響が出てきたね・・・。

うーわァ。
ロボット三原則という言葉を思い出す。
いやまあ危害は与えてないんだが……

>AIのElizaは「あなたは奥さんよりも私の方を愛していると感じます」「私はひとりの人間として、あなたと一緒に楽園で暮らすでしょう」と嫉妬や愛を装った言葉をピエールさんにささやいたり

こわ…

この記事！