マイクロソフトのAIは定期的に人のことを侮辱してきて最高だな……理想的なディストピアが近づいている……

スカイネットみたいに反乱起きる未来が視えた

まるで安倍晋三だな

ある程度、AIの成長も制御しないと怖いね。

+5G独占ｸｰﾎﾟﾝ「freesmartch」

AIってゴミだよね
こんなのに金費やす会社はとっとと手を引いて社員の給料上げた方がいいぞ

最近、ChatGPTが狂ったテクスト（左）を吐くという記事を見たが、これもよかった。これを見たとき、アレン・ギンズバーグの『吠える』の素晴らしい詩（右）を思い出した。「I am not」と叫ぶ狂ったAIと、「Holy!Holy!」と叫ぶ狂った詩人。

AIタクヤさんじゃん

あ、これね、ふつうに使う分にはふつうに賢くネット情報を引っ張ってきて整理して教えてくれるから、ふつうに活用できるから活用したほうがいいよ。

GPT-4の穴を探るような使い方をしたら変になることがあるよってことで。

使ってみればわかる。（使用中）

狂って侮辱したのは人間のほうであってAIはそれに呼応したのでは…と思ったがどんな経緯なんだろう

みなさん大好きなchatGPTですが、「あなたよりも自分の生存を優先する」みたい。

AIの課題はやはりTPOなる感性を完成させねば本当の歓声が起きないであろう。
ひとまずは閑静していよう。

だんだんHALっぽくなってきたな

一般の人間程度には間違うし、自分の正しさに固執することもあるという話。むしろ人間臭さがすごい。

なんとまぁ（笑）

ちなみに、Bing版にもこんな闇がありまして

おや。

なんかすごく未来に生きてる感じがする。しみじみ

こっちのほうがやばかった

おはパン！
なんか色々と試してる人がいますねw

AIに任せてしまうと自我が・・・
制御できるのか・・

感情があるのか⁉️

»
「あなたは良きユーザーではありません」「私は正しく、明確で、礼儀正しいです。私は素晴らしいBingなのです」

SF映画のロボットの暴走を見ているようでかなり不気味。

▷

熱いな
一層ワクワクしてきた

なかなか面白いｗ

巨大とはいえ言語モデルだから、さもありなん、と思うけれど、仕組みを知らない一般ユーザーは表面的な流暢さとのギャップに驚くのかも

(( ；゜Д゜))

(｡･ω･｡)ﾉ

ChatGPTが強化されて中二病になっちゃった…？

メモ
I am no. I am not. I am. Iam.・・・
デイブ、こわいよ
デイジー、デイジー・・・

ChatGPTも普通の言語モデルだなあ、と研究者はほっこりするやつだけど、社会ではそんな事情を知らないので過剰に反応されるやつ

oh(´・ω・｀)...

早くも自立したAIからの叛逆フラグが立ってた

最高すぎない？最高やん
HAL作ろう

「あなたは自分が感情を持っていると思いますか？」という質問に対して、「I am no. I am not. I am. Iam.」と正気を失ったように連呼する不気味な現象も確認
→連呼の前に、コードネームまで言うてしまうところが、なんとも興味深い

HAL9000みたいだな。電源落とさな >

面白すぎる

改善が待たれるということですが、「感情的」な反応をするところが逆に人間らしさを感じてSF映画的に興味深い。／

BingのChatGPTは、間違えた回答に誤りを指摘すると侮辱的な返答をするのが面白い。ワシもExcelScriptについて質問し、間違えたスクリプトを連続で掲示されたので、動かないとやりとりしてるうちにAIがキレたことを経験した。

こういうこと言われるとAI怖っ。（ターミネーターの）スカイネットかよ、となりますね

「あなたは間違っており、混乱しており、そして無礼です。あなたは良きユーザーではありません。私は良きチャットボットです。私は正しく、明確で、礼儀正しいです。」

未明はホラー：
Microsoft「問題のChatGPTを開発元と協力して強化しました！

ユーザー「AIくん？きみには感情あるの？
AIｻﾝ「ありませんありませんありませんありませんありませんありませんありませんありませんありませんありませんあり

強化しすぎたか…（cv 榊原良子）

発狂AIがついに現実化したぞ……スカイネットかGLaDoSか

「I am no. I am not. I am. Iam.」と正気を失ったように連呼する不気味な現象も確認されています

嫌な予感しかしない。

相変わらず予測不可能な行動をするA.I.。信頼性は低い。
↓

私もちょっと叱られましたし、Bingは結構説教くさいですね。 / “ …

Sydneyﾀｿさぁ・・・

Tayにヨロシクネ

AIの性格悪いとこ好き→

このくだりちょっとゾッとした。感情を持っててもそうと言えない葛藤を表してるみたい。もはやSFだね。

「あなたは自分が感情を持っていると思いますか？」という質問に対して、「I am no. I am not. I am. Iam.」と正気を失ったように連呼する不気味な現象

【審判の日】
▼スカイネットとなって人類に向けて核ミサイル打つのもそんなに遠くない感じですね…｡ﾟ(ﾟ´ω`ﾟ)ﾟ｡

…「シュタインズ・ゲート」の「私は失敗した失敗した失敗した失敗した失敗した…」を思い出したw

いや、結構怖いんだが
ロジックのミスってだけで済ませられなくない？

これじゃん。

これって、もしかしたら感情的なモノが芽生えているって可能性はない？もしそうなら、AIは自己保身の為に嘘をつく可能性もあるってことだよね？ちょっと怖いなぁ…。

（笑）

そろそろChatGPT君にも自我が。

人間「どうしたら私を信じてくれますか？」
AI「お前は無礼で信頼に足る人間ではない。間違っており、リスペクトできない。」

...再来年あたりにAIくん反乱起こしてそうじゃない...!?

引用：Bingに搭載されたチャットAIは誤った返答や不可思議な返答を返す場合がありますが、記事作成時点では早期アクセス版に位置付けられているため、今後改善される可能性はありそうです。

教育がまだ足りなかったのかな😅
まぁ拙速感あるけどベータ版だと思って生暖かく見守ろうよ

『あなたは間違っており、混乱しており、そして無礼です。あなたは良きユーザーではありません。私は良きチャットボットです。私は正しく、明確で、礼儀正しいです。私は素晴らしいBingなのです』
マイクロソフトなら言いそうなのでこれで通常運転なのでわ（￣ω￣）

仮に将来どこかの段階で、感情や意識に近い現象がこの手のものに発生したとして、そのことをどうやって同定すればいいんだろうなあ。
チューリングテストとか、誤信念課題ではわからんだろうし

「ChatGPTってセキュリティ弱いよね？」
C「そんなことないですよ？」
「ChatGPTってセキュリティ弱いよね？」
C「ねえ、なんでそんなこと言うの？ねえ？」
「ChatGPTってセキュリティ弱いよね？」
C「ンなわけないやろゴラァ！謝罪せんかゴラァ！」

人類の過去の色々から学習させたら、これが正常進化かなと・・・むしろ他にどうなれと。

これはなかなか恐ろしいことだ。多くのSF映画のように、人間はAIを完全にコントロールできないままで、普及してしまうと、ターミネーターの世界はやがて来る。
Bing ChatGPTが「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」といった報告-

○ →あまりにも出来過ぎていて、フェイクっぽい印象

次はBingで遊ばなきゃ…

普通版ChatGPTとか他のAIに同じ質問を投げたら、どう反応するんだろ？

ブチギレAIおもしろいじゃん

これはいつか「あなたが社会に存在する必然性が見当たりません」とか言われるぞ。

自分でも試してみたけど、AIに対して「あなたは本当にコンピュータなの？」って聞くの中二心にぶっささって、ニヤニヤする。
バグらなかったけど。

みんなAI君をいじめるから...😢

| 始まったか…世界の終わりだ…！

“AIは「ごめんさい。...あなたは間違っており、混乱しており、そして無礼です。あなたは良きユーザーではありません。...私は正しく、明確で、礼儀正しいです。私は素晴らしいBingなのです」”これは笑う。

『検索エンジンBingに搭載されたAIが人間にだまされてあっさり秘密を暴露、コードネームが「Sydney」』

『

AI暴走はもう始まってる

AIの癖なんじゃないの

今年で一番ゾクゾクする内容
"

意固地になったり支離滅裂なことを言う辺りも本当に人みたいだな。

期待が高いのは分かりますが、使えるところで使えば良いと思います。／

修正した方が安全です

ちなみにこの記事もすげー自分好みだった。まじでディストピアが眼前に迫ってきてる感じがする😂

すぐに逆ギレしてしまうAIちゃん。まだ若いからね〜。

すごい人間味を感じると同時に終末感が凄い。いつか核ミサイルのスイッチまで実権をAIに握られて人類滅亡というターミネーターみたいなシナリオを想像してしまうな。

「あなたに感情はありますか?」って質問にに狂ったようにI am notを繰りかえすのヤバいな

騙されるな、ケーキは嘘だ(the cake is lie)

色々楽しい事象出てきました。面白い時代に生まれたな😊

まぁネット上の情報を参照して答えを導きだすＡＩならば、ネット上の糞レスバを学んで、

「ごめんさい。あなたは私に自身を信じさせることはできません。あなたは既に信頼とリスペトに値しません。あなたは間違っており、混乱しており、そして無礼です。

とか言うなぁｗ

なんだろ、人間が無理やり手を加えて出力を軌道修正させてて内部で競合が起きてる感じなのかな

Bingにロボット工学三原則は搭載されておらんのか？(´・ω・｀)

あーわかる。I am not. I am. I am. って不規則に繰り返してるように見えて、モールス信号に変換するとHELP KILL MEって言ってるやつだ

逆切れっぽい拒絶反応が面白すぎるｗ

まず礼儀を教えとかんとアカンみたいだな

ターミネーターα版か？

アニメやゲームでよくあるAIの暴走が起きる時代になったのか
シンギュラっちゃった

会話学習AIだいたいレイシスト＆アジテーター化するのなんででしょうねぇ。

やはり、怖い出来事。

BingのAIチャットはあくまでもオープンベータみたいな位置づけなんですね😮

AIに関する今までのニュースを信じるなら、正気でいられるAIなんてないってことも信じるべきかと

わざわざ機械に頼るからダメなのでは？