「ChatGPTは、OpenAIが開発した実験的なチャットボットで、（略）「GPT-3.5」に基づいている」「デモ版が1日に無料で公開されて以来、人気が高まって」

「ChatGPTが生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いる」

「プログラミング関連Q&Aサイトの米Stack Overflowは12月5日（現地時間）、AIチャットボット「ChatGPT」によって生成した回答の投稿を一時的に禁止」

こういうのは今後増えそうです。

ワロタ＞

それらしいだけでChatGPTは自身の出力の意味と妥当性を理解できないと思います。専門性が求められる質問にはまだ回答すべきではないでしょう

ネタとしてはともかく、現状は真に受けちゃだめー

うーむ。『一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いる』

最後ChatGPT本人？にインタビューしてるの味わいがありすぎる

記事内に記載されてますが、ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねた際の回答が優秀すぎる…
末恐ろしい進化。。

大草原

Stack Overflowは与太記事溢れ出しそうになって禁止されてますね。
日本もQiitaとかで禁止されるんじゃないかと思ったけど、chatGPTの方がマシかもしれないとちょっとだけ思ってしまう…

イラストのDiffusion Modelにしろ、この件にしろ、
出力の質や使用者の倫理観が備わるより速く「人と見分けがつかない」能力が向上しているので、
AIがチューリングテストにカスるようになって、ネット上の情報の汚染が起きている

もうサービス停止したほうが良いんじゃ....

ただでさえ検索結果にStack Overflowの機械翻訳サイトが蔓延してるのに、今後はAIが生成したページが蔓延るようになりそうでこわい

AIが出した答えを正しいかどうか判断できる人間が居ないと意味ないって事すかねぇ…。あくまでもAIに担えるのは人間の代わりではなく補助なのです。

ノイズは人間と。"投稿前に回答の正しさを確認せずに投稿している人が多数いるという。（中略）そのような回答が正しいかどうかは、専門家が確認する必要があります"

早速荒らされとるのね>

迷い人を底無し沼に引きずり込むウィル・オ・ウィスプのようなAI

致し方なし

話題のチャットAIだけど、早速問題が。でも禁止と言っても識別できないよね。（ChatGPTに聞くと自身の回答か教えてくれるらしいけど）
ま、Overflowは知らんけど質問サイトの回答なんて結構いい加減なのもあるけど。

これ最悪すぎる

こんな所に弊害が。ChatGPT自身が「専門家による回答の確認が必要」って出力してるのは笑う。

一例をお示しします

そらそう。
流石にまだstack overflowに投稿されるレベルの内容の回答はできないでしょ

ChatGPT が Stack Overflow 出禁になったらしいが人が間違いチェックするのもアレなので、
間違いチェックもMLは無理としてもなんらかの手法で機械化できないんかしら？

今後もこういう問題各所で発生しそう「専門知識を持つ誰かが確認しなければならないという事実は、ボランティアベースの品質管理インフラを圧倒した」としている。

>数千件にも上るこうした回答の正誤を判断するために「専門知識を持つ誰かが確認しなければならないという事実は、ボランティアベースの品質管理インフラを圧倒した」としている

もうwikipediaにも相当数のコピペが入って来てるだろうな
なんならツイッターのbotにも

>ChatGPTが生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いる

ソーカル事件は起こるべくして起こった

AIのローパスフィルターみたいなのでノイズカットしないとけなくなりそうやねw

--

"ChatGPTに「Stack Overflowはry」と尋ねたところ "オチうまいなー

関連)

結局こうなるわけね(´・ω・｀)

まぁやたら自信あるふうに断言してくるからなぁ

最後にChatGPTに質問してるのいいな。Stack Overflowのこの件に関する記事は書いたけど、こういうセンスは私には無かった。

最後にChatGPT本人（？）に直接取材しててよい

ChatGPT。AIもここまできたのか。
画像なり文章なりをAIが生成したものかどうかを判定する、AIの需要がありそう。
でも100%ではないアウトプットを100%ではないものが判定するし。。。
もはや哲学。フィロテック？

めっちゃ冷静ww

早速迷惑かけとるやんけ

もっともらしいが不正確

人工知能の弊害だな。

🔵🟡🔴プログラミンニュース
～気になるニュースをピックアップ～

"ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねたところ”……尋ねたのか笑

この使い方は思いつかなかった

”Stack Overflowによると、ChatGPTが生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いるという。”

すでに SO はアンチ業者の書き込みでゴミだらけじゃんね?

不正確な情報を大量生産する方向にしか強まってなくないか？／

AIコンテンツは既存のコンテンツ投稿サービスを機能不全にしがち。
絵、文章の次はなんだ、音楽かな？
そのうちAIが生成したゲームでsteamも溢れ返るのかな。

画像の時と似たような展開だなと思った。生成速度が異次元になると障壁が崩れるのだろうなと思う。→

みてる

間違いは間違いであると見抜ける人でないと（AIを使うのは）難しいのね

一方でこういう問題も出てきてる。注意が必要かもしれないね。

嘘を嘘と見抜けない人は使うのは難しい

PowerShellのコマンドとか聞くと、すげーもっともらしく存在しないオプション返してくるからなｗ 間違い指摘しても認めないしｗ

人間の間違った解答も大量に乗ってるけどなぁ。Stack Overflowって何種類かの解答を試して、一個の正解を得られるみたいなサイトなので、そんなに信頼してないｗ

「いかがでしたか？」系クソブログがこれから大量作成されるのはほぼ確定しているから自分は怯えてる。検索がさらにゴミになっていく。人間だと手を抜いたのがすぐ分かるが、AI君は全力でそれっぽい嘘を書く。

マジ草

人工知能と言ってもアルゴリズムを考えるのは人で、回答は入力された過去事例から抽出し組み合わせて生成するので自ずと限界がありますね！

こういうサイトならテーマや目的を限定して、例えば裁判事例を元に弁護論文...

本人インタビューは草

もっともらしいというのは本当にすごいと思う
最もそうらしいフェイクニュースも作れそう

ChatGPTにインタビューしてるの面白い

ChatGPTに本件のインタビューしてるのはセンスが良い

yahoo知恵袋なんかもどうするんだろうか。あそこは以前からウソ回答が多いのであんまり変わらないか？

googleの検索結果の質が年々悪化してると言われるが、こういうAIが自動生成して人間以上の速度で大量生産させるデマblogが増えるとさらに悪化するかな。興味深い

>

“ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねたところ” 聞いてるしw

"生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いる" これは結構深刻な問題

AIが炎上するなんて未来だね。

さもありなん

オチが綺麗すぎる

オチで爆笑してしまったじゃんこの記事

えっ、みんなそんな事分かりきった上でというか、それが面白くて遊んでるんと違うの…

「専門知識を持つ誰かが確認しなければならないという事実は、ボランティアベースの品質管理インフラを圧倒した」

最後にChatGPTに質問しててワロタ

QAで間違っている回答があふれかえるのは明確に有害。お気持ちでAIイラストを排除するのとはまるで違う話。

QAで間違っている回答があふれかえるのは明確に有害。お気持ちでAIイラストを排除するのはまるで違う話。

点数稼ぎ? 親切心ではないよな。 --

『ChatGPTによる回答に間違っているものが多く、「ユーザーにとって実質的に有害」だとしている。』

最後本人にインタビューしていて草

人類は愚か…

＞「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねたところ、「私は、意見を述べることができません」としつつ

ちゃんと本人取材しとる

Stack OverflowがChatGPTの回答を禁止するのもわかるなぁ・・・。
もっともらしい嘘の回答してくるんだもの。
貴重な情報源が汚染されちゃう・・・。

人間だってもっともらしいが不正確な回答をたまによくすると思うが、もっともらしさが妙に熟達していて量もこなしてくるのは厄介よな。

【 】

AI、マジでそれっぽいデタラメを言うから質が悪い

やるやつはいるやろなと思ったけど，想定より多かったって感じか．まぁpixivとかdlsiteとかもAI絵が一気に氾濫したしさもありなんという > "

たしかに…。不確かだけどもっともらしいところを活かして ChatGPT だけで演劇みたいな作品も作れちゃうだろか ：

これから自動生成の回答コメントや記事は増えるだろうし、もうWeb上のどれが「天然物」かわからない世界になるのかな

そのうちフィッシングメール生成にも使われたりして

色んなところで起こりえそう。

Stack Overflow に ChatGPT で生成した回答を投稿するという発想がそもそもなかった

Wikipediaとかも怪しそう

ChatGPTってのがあるのか、使ってみよかなー

Twitterのトレンドとその中身がやばい。
噛み合ってない。

けど、ChatGPTみてるとそんなものか・・・とも思う。

今はクラウドワークスとかで人力で生成しているスパムページが、近い将来、AIの自動生成に置き換えられるのか。

背景：大規模言語モデル、大規模化。正しい学習データ・正しい学習強化訓練手法・アウトプットの専門家に依る解釈正誤ー判断不可、本質的問題。

この記事がどんな利用のされ方をするのか見てみよう。
"ChatGPTは現段階では、もっともらしく聞こえるが不正確な回答や意味不明な回答をすることがあり、ユーザーのフィードバックを得て問題点を把握し、システムの改善に活かすため プレビュー版を無料で公開しております。"

「人工無能」の現代版という認識だったが ＞

あまりにも自然に適当なこというAIと戦わせることで、「いかがですか」ブログの駆逐できるのではないか。

ま〜そうなるよね。

まだまだ課題は多い

イラストレーター界で起きていたようなことがプログラマ界でも起きるようになった？

ChatGPTの解答がそのとおりすぎる

なんということだ🤯