事実を完全に学習し記憶すれば、過学習となり自然な言語モデルは成立しない。GPTは、あくまで言語処理のモデルなのだ。応答の中身が正しいと期待する方が間違っている。その点、Bingは検索を実際に実行し、GPTをあくまで自然言語との翻訳に用いている。正しい方針だ。

使い始めた方見かけたので早い段階で知っておきたいネタ置いとくｗ

何となくそんな気がしてた

なるほどね。それなら要約肉付け得意なのは理解出来る。

ビールが糖尿病に良い？腸内環境を良くして認知症の予防にも


宮崎の「干し椎茸」が米アマゾンで人気爆発

ふむふむ

＞単語の計算機
なるほどなぁ……AIはあくまで電卓という念頭は置いていたつもりだけど、数字の代わりに単語を入力するんだと思えばすごいシックリくる。

盲目的に信じず自分で裏取りしろと。
ネットと一緒だな。

(｡･ω･｡)ﾉ

まぁもう既にデマ拡散のツールにしてる奴おるしな

「対話型AIにまつわる課題の多くは、対話型AIが実際よりも優秀に見えてしまう点にある」

みんな！そろそろ頭冷やして冷静になろうな！

パソコンをタイプライターとしか使わない人
iPadを動画視聴にしか使わない人
ならならいように

「言語モデルを用いた対話型AIは検索エンジンではなく『単語の計算機』と考えた方がいい」

なるほどね

今のところこれがよさそう

>対話型AIに適している活用方法として、、、以下のような事例を列挙
・エッセイを与え、その内容を要約させる。
・特定の文章を与え、その文章に含まれている情報について質問する。
・記事において示された事実を箇条書きにするよう求める。

素敵だ

「この文章を17世紀の海賊風に書き直して」

まさにワイが考えている使い方正解であり、今世の中が騒いでる検索的な使い方でないこと間違ってないな。

うまく使ってユーザインターフェスをガラリと変えるイノベーションがそこまで来てる。やはり次のイノベーションはUIだ！！

ワイも昔からずっと、拡張知能なんぞ「言語電卓、玩具」と言ってる。

ヒントは養老孟司のジジイが昔言ってた

「AIが人間に合わせる？人間がAIに合わせる様になるんだよ馬鹿野郎」だったと思う。

AIは進歩して身近になったのにそのイメージは未だにAll if full of love の引き写しなのが、使う側の進歩が足りてないことを象徴してるよ。

CahtGPTは便利で楽しいが、注意は必要。
“ChatGPTなどの対話型AIがそれらしく見えるのに事実ではない回答を生成することを、「Hallucination(幻覚)」と呼びます。”
“ChatGPTなどの対話型AIを検索エンジンのように使用することは危険です。”

言葉を数値化
どうやっても余りが...
なら解答は？右往左往？
だからこそ突き詰めは得意
ならAIでイイ仕事は？ドンドン置き換えを
じゃ人間は？哲学を！
当たり前に正解が無いから何故
でいつでも何故が本当に面白い筈が
お金が物理だから
人間欲に目が眩む
捕らぬ狸の皮算用で

書き直しはホント優秀

要約は、出始めの頃からかなり有用だって言われてたね

検索エンジンで無い事は確か。ChatGPTはネット知識全て詰め込んだ話相手みたいのものかな。
ただ、ChatGPTは対話型AIの一例に過ぎない。今後様々なタイプの言語モデルが出現する。
一方、今の検索エンジンは単なるバックエンドの情報アーカイブになる。

“「計算機はいつでも同じ答えを返すが、言語モデルは同じプロンプトを与えられても回答が微妙に異なる」という欠陥があります”／temperatureを0にするんじゃ、ダメなのかな？会話の履歴も揃える必要はあるけど。

んだんだ🧐

だいたい合ってる 的な

GNUで浄化されたDebianはあるか。と聞いても、あると答えてくれるから、真実かどうかはどうでもいい。

あ、わりとこの使い方に近いかも。

なんか質問の文句をいちいち考えてAIチャットで検索するよりも今まで通り単語検索で行った方が慣れ親しんでるのもあるけど楽なんだよね。それを考えても今のブームがいつまで続くかって思うね。

数学の計算が電卓でできても結局理屈わかってないとまともに使えないのと同じって意味でも、やっぱGPTは計算機って表現が一番しっくりくるな

"Willison氏は、対話型AIにまつわる課題の多くは、対話型AIが実際よりも優秀に見えてしまう点にあると指摘"

"SF作家の テッド・チャン氏は…エッセイで「ChatGPTはウェブのぼやけたJPEG画像」とたとえています"

単語のための計算機、か

なんか、この言い方が腑に落ちる感じがする。

【だんだんと正しい理解が出てきている】 対話型AIにまつわる課題の多くは、対話型AIが実際よりも優秀に見えてしまう点にある。

ChatGPTなどの対話型AIがそれらしく見えるのに事実ではない回答を生成することを、「Hallucination(幻覚)」と呼ぶ。

ChatGPTは息を吐くように嘘をつく、と思っておいたほうが。調べ物には不向き。

のハルシネーション（幻覚）

「ChatGPTはもっともらしい嘘をつく」
実は、ChatGPTが得意とするのは正しさではなく、「もっともらしい」の部分。
日本語（読解・要約・作文・語彙）が超得意な、あまり物を知らないやつ。

これは納得

"適している活用方法…文章を与え、その文章に含まれている情報について質問…記事において示された事実を箇条書きに…文章を…書き直させる…類義語辞典として利用"

計算機とは電卓でよいのでしょうか。
それだとなんか感覚的にはわかる。

とすると、別の何かがそろばんにたとえられるのか。そんなことも考えてみる。
プロセスがブラックボックスなのか、トレースできるのか？それも私には大事。

・エッセイを要約させる。
・特定の文章に含まれている情報について質問する。
・記事内の事実を箇条書きにするよう求める。
・文章をよりパンチの効いた、プロフェッショナルな言い回しに書き直させる。

そう。たしかにこんな用途くらいしか使えない。今のところは。

だからこそ、ランダム性、不確実性を楽しめる使い方もありだと思うんだよね。プログラミングも書き方は１つじゃない。

それです。その事その事。

至極仰る通り。既存の価値観をひっくり返すほどの技術革新までは少し足らなくて、これまでロジカルに見えなかったことが見えるようになっただけだからなぁー

「対話型AIにまつわる課題の多くは、対話型AIが実際よりも優秀に見えてしまう点にある」

ソフトウェア開発者でブロガーの Simon Willison氏が、「言語モデルを用いた対話型AIは検索エンジンではなく『単語の計算機』と考えた方がいい」と述べています。

テッド・チャン氏は 「ChatGPTはウェブのぼやけたJPEG画像」とたとえています。

自然言語処理って「単語の計算機」って表現しっくりくる。

必ずしも正確ではない、と言うことを分かっていない人たちにどうやって知ってもらうかだと思うんですよ。ただ関心がないことは頭に入ってこないです😑

単語の計算機 であるか

「計算機」であればヒトのインプットが不適切なら結果も不適切になる可能性があると。

「単語の計算機」っての、しっくりくるな。

当たり前体操。間違ってもConfig作ったりコード書かせたりしてはいけない。そう言う事したいなら自前でモデル作ろうねって話

なるほど、本質をついているかもしれぬ。

「単語の計算機」って、ホンマかな。GPTは、言語パズルをやっているのではなく、単語の背後にある「概念」を理解しているように、僕には見えるけどな。

の適切な使い方

・文章をよりパンチの効いた、あるいはプロフェッショナルな言い回しに書き直させる。
・「○○を示唆する言葉を教えて」と質問し、優れた類義語辞典として利用する。

の適切な使い方

・エッセイを与え、その内容を要約させる。
・特定の文章を与え、その文章に含まれている情報について質問する。
・記事において示された事実を箇条書きにするよう求める。

あーこれしっくり来る表現だ。

これはなんという有用な記事…！
現段階の有効な使い方、扱い方の心得が載ってますね。

まぁ、私はまだGPT４を使ってもないのですが。……そ、そのうち🥺

わかってる人の例えという感じもした。今も既に、対話型に限らずAI全般でAI=正解的な認識をする人はいるなあ。でも、そういう人は人相手でも「断定調の説明=正解」「期待する"ぽい"答え=正解」と思ってるフシはある。

これは実際その通りで、AIは既存の文章をそのまま引用してる訳ではなく、常に新たな文章を生成してる訳でね。

>「正解を探す検索エンジン」ではなく「単語の計算機」
試してみりゃわかることだけど、そうだよ。

-

これは完全に同意。そもそもLLMはテキスト要約・理解のために作られた代物なのでそのように使うのがベスト「言語モデルを用いた対話型AIは検索エンジンではなく『単語の計算機』と考えた方がいい」

フードプロセッサーみたいに、プロセッサーよなぁ。何を投入して、どれだけ、処理させるか。あらかじめ、出てくるであろう出力をより明確に意図しておくのがコツみたいな。

この感覚が正しいと思う

ChatGPT自体は｢言語を違和感なく出力するだけの存在｣だと、公式が表明している。
この部分を理解していないユーザーが余りにも現代社会に溢れ過ぎている。

"対話型AIにまつわる課題の多くは、対話型AIが実際よりも優秀に見えてしまう点にあると指摘"
( ´ω`) '`ｨ

「私は言語モデルを『単語の計算機』として考えるのが好きです」
「言語モデルはその名の通り「言語」を扱うためのツールであり、本当に優れているのは質問に対する正確な回答ではなく、言語操作だ」

この解釈、良すぎる

AIの回答だけでは情報を比較して正しい事実に辿り着けない事がある、にも関わらず正しい事実のように見えるのが問題で、むしろ画像のような活用が適していると指摘。

検索エンジンも１つの検索結果を見るだけでは危険、どちらも比較検討が必要です。
🦜「対話型AIが生成した1つの回答を見るだけでは、情報を比較検討して正しい事実にたどり着けないことがあるため、ChatGPTなどの対話型AIを検索エンジンのように使用することは危険です。」

まだまだ「中国語の部屋」なんだって

WAVに対するMP3みたいな面がある、ってことかな？

ふむふむ、話題にするコンテンツや事実の情報を与えるところから始めるのがよいね。

わりとしっくりくる説明

『正解を探す検索エンジンではなく』はほぼ同意なんですが 『計算機』はちょっと…

情報を与えて処理させるのが王道だと思うけど、コンサルとかプログラミングとか、手法の一般的な背景知識が豊富な点は見逃せない特徴ではある…

そう、単語の計算機だから英語が主軸として扱われるし、最大のプログラミング言語になっていくって話になる。

ChatGPTは万能とか神とか言う人もいるけど、並べた単語がそれらしく見えるだけで、人工無能とあまり変わらない気がする。孤独な人が話し相手として使うのはすごく良いと思う。

【ゆかりさんニュース】