これは…人によるやつやな
HTML+CSS+JSでなんか作ると、CLIよりなんかすごく見える現象にも似ている

こういう記事も出てきました。

>｢とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴｣が生まれた

「ChatGPTのアプローチでは極めてつまらない人間、つまり“それっぽいことを、それっぽく話せるだけの人間”と、同じような振る舞いしかできないのだとわかった。」

なんか批判したい気持ちは伝わったよ。

今更聞けない“ChatGPT”って何？
わかりやすい解説記事です♡
ちょっと辛辣ですが、未来への
期待を込めた解説記事かと思います。

チャットできるAI、ChatGPT
BUSINESS INSIDER 😸

今更聞けない“ChatGPT”って何？
わかりやすい解説記事です♡

チャットできるAI、ChatGPT
「そこまですごくない」理由。
見えてしまった限界 BUSINESS INSIDER 😸

「OpenAIとしての痛恨のミスは、｢すごい｣｢危険｣と煽るあまり、DALL-Eを出し惜しみした挙句、後発のStableDiffusionに話題を全部もっていかれてしまい、満を辞して開始したDALL-E2の有料サービスがイマイチ話題にならなかったこと」
わらた

いや、その苗字のソートは問題の設定が悪いとしか・・・アホな質問投げればアホな結果が返ってくるのが問題だといえば問題だけど、このような場合、自分のアホな質問は棚に上げていいの？

面白かった

「Transformerは驚異的にすごいが、Transformerに強化学習を組み合わせるともっとすごい、という発見『だけ』が今回のChatGPTで驚くべきポイントなのだ」

▶

新しいものが出るたびに「もう〇〇は不要」と言われ、
ちょっと時間が経つと結局微妙で終わるパターンかな？

「どんな質問にもそれっぽく答えてくれるのだが、同時にChatGPTを持ち上げすぎるのはいつものように危険だと、AIの研究・開発をしてきた経験から筆者は考える」

▶

>「ChatGPTの大きな功績は、｢会話AIではここまでできる。でもここまでしかできない｣という可能性を知らしめたことだ。だから、もう普通の会話ロボットを作る意味はほとんど失われた」

“ただ、過度に抑制された結果、返す答えに意外性がない、つまらないものになっている側面がある” まあそうだろうね。だからこの手の制約がない国のほうが発展するかもしれない。西側諸国が背負うハンデなんだよな

( ・∀・)ｼ∩へぇ〜｡😃

>「機械学習で使われる｢深層学習｣と｢深層強化学習｣は、言葉も使う部品も似ているが全く別のものだ」

ChatGPTに対し珍しくネガティブな論調の記事。AIとの「会話」を期待しちゃうと物足りないのかも

ChatGPTが「そこまですごくない」理由。見えてしまった限界

AI素人やけど相当実用性のある仕事にも使えるレベル感覚ですが、私の認識は間違ってる？

「むしろ｢適当に嘘をついてください｣といった指示を与えると、ChatGPTは俄然イキイキとしてくる」
確かに正確無比な答えを出すより創作のほうが得意な気がする

これわかる。DeepLと一緒でそれっぽいけど普通に間違いがあるので、いかにもなAIよな。 |

複数の人間が会話AIを調教すれば、その人たちの最大要約数を超えるAIは生まれないし、1人で調教すれば個性的なAIが生まれるかもしれないが、汎用性は薄く評価も批判も調教者が負うことになるだろう。もはやAIと調教者である特定の人間を切り離して考えるのが無理な時代が来る

たしかにそんな感じがする🤔
一方で、可能性も感じるのも事実な気がする

そう、すごくない。この程度で騒いでいるテック関係者はレベル低い。人間が何を望むか、それを達成するためにはどうしたらいいか、目的を意識して達成できるのはいまだ人間だけです。急速に便利になっているのは手段のみ。手段を使いこなして目的達成に集中するのが吉です。

人間様に勝てると思うなよ👊

執筆者の名前を見ると心穏やかになりますが、メインフレームやスパコンで以前からできていた技術がPCサーバーに来て何が起きたかを考えれば可能性は大きい >

〈一見きちんとしたプログラムを書くようだが、実際には｢雰囲気でプログラミングのようなものを見せている｣だけ〉
これ。

面白い

"｢とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴｣"

この記事めっちゃ面白かった。

チャットできるＡＩ、ChatGPT が｢そこまですごくない｣理由。見えてしまった限界

自分が「食傷気味」と感じる理由…っぽいことが書いてあった。

クソみてぇな記事だな
できないって言われてる事やらせて、揚げ足とってるだけだろ

個人的に高い信頼を置いている清水さんの記事。

俺よりすごい

ChatGPTのアプローチでは極めてつまらない人間、つまり“それっぽいことを、それっぽく話せるだけの人間”と、同じような振る舞いしかできないのだとわかった。

Web検索で先回りしてChatGTPの正体を知ってしまった．．．検索結果を見る限り、今僕が使いたいものではないようです。＞

じゃあ何ができたら「すごい」んだろうか。人間をモデルにしている以上人間を越えられないのは当然にも思えるが…。AlphaGo的な「人間を超越した会話能力」への期待？

「とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴｣が生まれた。それがChatGPTのもう1つの側面だ」

確認すれば良い…人に聞いたことも鵜呑みになんてしないだろう?
または、インサイトがあれば十分って使い方すれば良い。

なぜオラクルを求めるかね

AI開発者からみた見解の一つにはこんな意見もあるらしい。まあ色んな意味でAIの進歩について話題になることは良いことかなと思う。

とりま俺は今やるべきことに集中します。Jetpack DataStoreの単体テストのやり方をQittaにサクッとまとめるぞ😎

たしかに、それっぽいことを返しているだけなこともありますね

『｢とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴｣が生まれた。それがChatGPTのもう1つの側面だ。
本当に怖いのは、ChatGPTのほうが人間よりもマシに見えてしまうケースがあること』QT

技術をわざわざ腐すより、どう使ったら楽しいかを考えて実践する方が、技術者としての良さを感じるなーと思う。

逆張り釣り記事か？！と思って読んだけどわりと参考になる内容だった

ベタほめ意見を聞いてChatGPIをやってみたけど、虚実ごちゃまぜ回答が結構な頻度で返ってくるので使えない…

と思っていたところに以下の記事

“Transformerに強化学習を組み合わせるともっとすごい、という発見｢だけ｣が今回のChatGPTで驚くべきポイント”あと「OpenAIとしての痛恨のミス」については自分もそう考えていたので同意。

なるほど…stable diffusionみたいなゲームチェンジャー的なところまでは行ってない感じなのか。
補助的に使うには良さそうだよね。

> 辛辣な表現をあえて使うなら｢とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴｣が生まれた。

これは、大量のデータを用意しようと思えば大量の人間が必要であり、AIを指導する人間が増えるとAIは必然的に没個性的な存在になっていかざるを得ないという原理的な問題だ。

相変わらず長い文章だなぁ／

"OpenAIとしての痛恨のミスは、｢すごい｣｢危険｣と煽るあまり、DALL-Eを出し惜しみした挙句、後発のStableDiffusionに話題を全部もっていかれてしまい、満を辞して開始したDALL-E2の有料サービスがイマイチ話題にならなかったことだろう"

ほんこれ。

そういう見方もあるか。それっぽさのヤバさは同意だ

良記事、ChatGPTは会話AIじゃなくて、膨大なデータベースにアクセスするための対話型インタフェースとして考えればいいんじゃないかな

ChatGPTとの会話を体験した人の反響を見ていると、「会話AIに大きな可能性が開けた」と感じている人が多いようです。

けれども、AI研究をしてきた筆者は真逆の印象を持っています。

▶

納得いく内容だった。今のままのディープラーニングではどこまで行っても人には追いつけない、って警鐘が出てたっけかな。

『とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴｣が生まれた。それがChatGPTのもう1つの側面だ。』

これってつまり… “1つだけ解決策があるとすれば、AIを調教する人間を一度に一人に絞ることだ。”

(｡･ω･｡)ﾉ

私も昨日初めて使ってみましたが、プログラムとかコード書いて！って言うと結構雰囲気な結果なものが出て来ることがありました。。。

ただ、結構わかりやすく説明してくれたりで、どう使おうかなって悩んでるところです😅

AIなんてそんなもんだと思うけどなぁ。見方を変えるとと、いい加減なことをもっともらしく言えるのは、過去のAIに比べると十分高度と言えるかも｜

冷静に考えるとなるほどなぁと(ーー;)
ただ着実に何かは進歩してるから、焦らないでほしい(；´Д｀)

そういう観点でこの記事を読むと理解が深まるんちゃうかな？深層学習と深層強化学習。＞大きな功績は、｢会話AIではここまでできる。でもここまでしかできない｣という可能性を知らしめたこと

発展途上の物のあらを見つけて、そこまですごくない、っていうのあたりまえ体操。
”精度よりすごいと人間側が錯覚させられてる”事がそもそも面白いと思ってる。

「AIを調教する人間を一度に一人に絞る」というのに既視感があるな、と、思ったが、ギャラクティックストームのサイドストーリーか。ZUNTATAのCDのブックレット。

正確度を評価して回答したらどうだろう…とも思ったけれど、
扱う問題によって1%の誤差も許されなかったり、一方10％ずれてもまったく問題なかったりするので、難しい

▶

外部講師で雑談するAIのデモを一度だけ見せてくれた先生や。

「1つだけ解決策があるとすれば、AIを調教する人間を一度に一人に絞ることだ。」

これってもう人に追い付いてる気が・・・⇒
「過度な知ったかぶりはせず」「とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴が生まれた。それがChatGPTのもう1つの側面」

この記事を読みながら「ChatGPTはこんなにすごい」と言ってるみたいに感じてしまった。

＊ ＊ ＊

自分にとってChatGPTの経験は、そもそも他「人」との会話に求め、期待し、叶えられているのがせいぜい「この程度」だよねと気付かされたことがいちばんの発見だった→

清水亮「Transformerは驚異的にすごいが、Transformerに強化学習を組み合わせるともっとすごい、という発見｢だけ｣が今回のChatGPTで驚くべきポイント」「ChatGPTの大きな功績は、｢会話AIではここまでできる。でもここまでしかできない｣という可能性を知らしめたことだ」

期待していたものとは違う。

OpenAI が発表したAI「ChatGPT」は、公開から6日目にして利用者が100万ユーザを突破。しかし、「そこまですごくない」との批判も出ている。AI研究者は誇大広告が繰り返されるOpenAIに対して懐疑的な印象を持っているとの話

面白調教師が求められているわけですな。

なんとなく私が感じてたことが書いてある…

Transformerは驚異的にすごいが、Transformerに強化学習を組み合わせるともっとすごい、という発見｢だけ｣が今回のChatGPTで驚くべきポイントなのだ。

引用: ChatGPTのアプローチでは極めてつまらない人間、つまり“それっぽいことを、それっぽく話せるだけの人間”と、同じような振る舞いしかできない

引用: ChatGPTでは、人間がAIの回答を採点し、それをもとにAIが強化学習を行って｢よりもっともらしい｣答えが好ましいと考えるように調教された。

引用: このように、ChatGPTは、一見きちんとしたプログラムを書くようだが、実際には｢雰囲気でプログラミングのようなものを見せている｣だけで、文字通り全く創造性がない。

“おそらくこれを読み解く人間の想像力の差のほうが遥かに大きいことはわかる。”ってのはまとめた人は面白がってくれって態度なんだけど、何を面白がったらいいのか分からない記事読んで感じてた。

それっぽい雰囲気からインスピレーションを受けられる人がこのAIで遊ぶと、新しいものが出来上がる。つまりAIは没個性化の壁を越えていないとの事。内容の正しさが求められない作業用としては、とても使える

「AIを指導する人間が増えるとAIは必然的に没個性的な存在になっていかざるを得ないという原理的な問題だ」

この記事おかしい。AIに「2022のW杯の優勝国」を聞いて「まだ決まっていません」というまっとうな回答に「AIだったら未来を予測しろ」とかケチ付けているんですけど

無限に応答可能な小泉進次郎が世に放たれてしまった

>｢とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴｣が生まれた。それがChatGPTのもう1つの側面だ

>本当に怖いのは、ChatGPTのほうが人間よりもマシに見えてしまうケースがあること

ChatGPTが｢そこまですごくない｣理由。見えてしまった限界

｢とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴｣

ひ〇ゆきじゃん。

いい加減だとしても、会話する相手としては面白いよね。そのぐらいでいいんだと思う。

間違ってるけど自分なりの回答を出すって、それはそれでけっこうすごいと思うけども・・・(素人)

それっぽい、というのは言語モデルの表現としていい得て妙だと思う🤔

“AIが知らなそうなことを聞くと長い時間をかけて考えた挙句、｢すみません、その人は知りません｣と白状する。” 4年前くらいに鼓膜に異常を感じて登戸の耳鼻科行ったときの診察がこんな感じだった。

AI脅威論が強まらないための火消しならともかく、真面目に言ってるのならとんでもない認識不足・想像力不足です。まあある意味「研究・開発者」の典型的反応とも言えるが。
"

『
ちょっと期待値高く設定しすぎで十分凄いと思うのだが、
…まあ確かに巷の人の期待値ってこんなレベルなのもかな。<常識的>なAIへの期待値がよくわからなくなってる。

“Transformerに強化学習を組み合わせるともっとすごい、という発見｢だけ｣が今回のChatGPTで驚くべきポイント” →

僕はこの記事でのChatGPTに対する評論にかなり納得できるけれど、世間はどうだろうか

今、一部の向きにもてはやされている？AIって、そのほとんどがこの記事に書いてある通りのようなものである、と感じている。まあ、そう言う人間もいるけどね。何を隠そう私がそうだから（笑）。

やっぱりAIはこの部分が気になる。

「実はどんな機械学習モデルでも起きることだが、データセット開発や学習に関わる人間の持つポテンシャルによって、会話するAIの能力は大きな制約を受けてしまう。」

ChatGPTは、コピペでレポート課題を出す学生と同レベル。何も理解していない。あるいはWikipediaと同レベル。寄せ集めにすぎない。逆に、コピペでレポートを出す学生もいるし、Wikipediaを引用して恥ずかしいと思わない人もいるという「現実」を反映している。と私は思う。

「“それっぽい”だけのことでも、話が通じているように感じるだけマシ」だと感じてしまうのはたしかに怖い。二重の意味で。

“本当に怖いのは、ChatGPTのほうが人間よりもマシに見えてしまうケースがあることだ”

ChatGPTが「そこまですごくない」理由

『誰でもできた』世界初? www

ほんこれ
日本対スペインどっちがかつ？ってきいてみたら
AIなので推測できませんって言われてガッカリした
そこは、なんか過去のデータとかこねくりまわしてなんとかだしてみてほしかった

指摘はその通りだと思うけど、やっぱり凄く見えるのは凄いことだよ

最後の最後まで何が言いたいのか分からない記事だった

とうとう本職のAI研究者からダメだしされてしまった。 ->

使える部分で使えばよいんじゃないんかね。

"とりあえずそれっぽいことを表面的に語るだけの、実は無能なヤバい奴” たしかにそんな感じだ