ファクトチェックのために検索しても、ChatGPTが書いたものがヒットするかもわからない。ChatGPTにジャックされてしまったときには、もうどうしようもないかもしれません。そのとき、われわれは過去30年間享受してきた「ウェブ」という資源を失うことになるかもしれませんね。

タイトルはクソダサ吊り記事の臭いがぷんぷんするが、中身は真面目な論評。こうやって良記事が埋もれていくということを地で行っているという皮肉がすごい

大変貴重な記事でございました。

ChatGPT

官僚が国民を永久に管理したがる、権力を独占したい、民主主義のためと嘘をついてでも

もともと人間は全知全能でない不完全体

もともと世界は虚実入り混り混乱していた

さらに、会話できるAIも嘘や真実の情報を撒き散らすだけのこと

国立情報学研究所 新井紀子氏
「グーグルのスンダー・ピチャイCEOはこうした副作用を理解したうえで、（AIチャットボットの）展開を抑えてきたんだと思うんですよ。Transformerを出しておきながら、何ができるかまで言わなかったのは、そういうことではないかと

AIが作成した文章か判定するツールは既にOpenAIが出してた気がするんですが
>

「パンドラの箱が開いてしまった」と話す、国立情報学研究所 社会共有知研究センター長の新井紀子さん。AIの功罪ともに描かれたとても良い記事でした。▷

新井先生は鋭い＞ネット上がChatGPTにジャックされてしまったときには、もうどうしようもないかもしれません。そのとき、われわれは過去30年間享受してきた「ウェブ」という資源を失うことになるかもしれませんね。

では人間の頭部にある汎用知能はなぜ「意味を理解し、正誤を判断できる」のかということも気になるけど、もしかしたら「意味は理解されていないし、正誤も判断されてない」だけかもしれない

"（ChatGPT時代の教育は）この未熟な技術を、自らが真に主人になって使いこなすとはどういうことなのか、ということを、身をもって感じてもらう必要があります"

ちょっと何言ってるかわからないです

ChatGPTはさらっと嘘を交えるので信頼できない。しかし、すぐに答えを教えてくれるので、楽でタイパがいい。つまり、嘘を信じやすい人たちにとっては、極めて危険であり、民主主義の脅威。

でも、一度開いたパンドラの箱を閉じることはできない。

人々をネットの呪縛から解放して「忘れられる権利」を実現するには、フェイク情報で埋め尽くすぐらいしかないので、嘘つきChatGPTがもたらすのはむしろ明るい未来かも知れん。

新井紀子氏｢非常に危険なものが生み出された｣

これはどうなんだろう？わからんな💦😅

《脳はとにかく楽をしたがる器官で、どうしても“タイパ”が良いほうに流れてしまう》《ChatGPTは答えを言ってくれるので、これを信じてしまえるなら、そのほうが楽でタイパがいい》と警告。

おかしい使い方をベースに話を展開されましても。

ChatGPTがICT兵器だからじゃないの？

新井紀子さんのコメントが冴えている。実際、ChatGPTへの評価は言葉の流暢さのバイアスがかかっているよね。
＞ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。

ChatGPTは、「知のミノフスキー粒子」として機能する、と。

同じことを考えている人がいた...
しかしパンドラの箱は開かれ、人はプロメテウスの火を持つことになってしまった。
民主主義はフェイクの業火で焼かれるのか、残されたエルビルを見つけることができるのか。
AIの登場で、より人の知性が試されているのかもしれない。

入試問題で東大世界史の論述を書かせたら、0点だったと…

明確な答えがある場合は、さすがのAIもダメっぽい。
抽象的な問いの方が得意なのかなぁ。

【上手に嘘をつく人がいるように、AIがそうなってきた（笑）】 しかし、AIがいくら賢くなっても100%の正確性は実現しない。民主主義とChatGPTは相性が悪いが独裁国家にはとても相性がいい。野放しは危険。

「善悪の観念」がない
人間のフリをする機械が、
人間には不可能な無限のリソースで、
有象無象をWEBにバラまけばどうなるか？

この問題は既に生命倫理にも
片足を突っ込みはじめている。

えっ、こわい

今の手法では正しさの担保は無理かぁ。
東大の小島武仁さんが言ってたAIには根拠がないから公共のものには使えないってのを思い出すね。

この記事を鵜呑みにするのもどうかと思う一方、直近 Wikipedia は確かにやべーな、と思った。Wikipedia に対し広範囲のページ・言語に自然とデマを埋め込むモチベーションは、ある。そして人力の校正では抗しきれまい。

こういう分割ページの記事、ChatGPTでまとめづらいので読む気が失せますね。海外のサイトだと、長い記事でも1ページで済むことが多いのですが。

"ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。" ほんこれ。

「ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います」
ここは同感だがEU自体がChatGPTっぽい

AIが導き出した最適解に人間が従うというフィクションが多くあるけど、その解が間違っていたら大変だよな

「この非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか。この点について考えなければならない。これは“民主主義への挑戦”でもあります」

う〜〜ん。そうかなぁ。

『コンピューティングの資源は有限である』と云う前提が抜けている気がする……

"ウィキペディアでもChatGPTが書けてしまう"
そうだよな、出典元にしたって、AIに書かせてKindle出版を自動でいっぱいしてやれば、嘘でも事実にできるかもしれない。

"「それっぽい文章を書きなさい」と指示し、気が遠くなるほどの数のフェイクニュースを毎日どころか毎秒ばらまい…"

ファクトチェックに対する飽和攻撃だな。わかりやすい文がかけるって、怖いことなのね。

思った以上に意味不明な与太話をやっていた。

AIをだしに自分の商売道具を広めようとしているやつがまだ何かほざいている

歴史分野で言えばChatGPTくんは織田信長を徳川家康配下の武将とか言い出したからなあ。
新説すぎて爆笑した。

ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因している

サイコパスなAIなんて恐ろしすぎる😰😰😰

もやばいが のこの婆さんが言ってることも相当やばい。 まっしぐらな頭の人が言いそうなこと。日本はやっぱりグローバリズムなど要らない。撤退すべきだ。

新井紀子さんの記事
これは面白かった。

なんでこんなオモチャに正確性を求めてるの？バカなの？

"ChatGPTで昨年度の東京大学の世界史の第1問、600字の大論述を解かせてみました。 代々木ゼミナールの世界史の先生方に採点を依頼したところ、「0点」というお返事がありました。"

難解な記事。EUや中国に対する理解がわたしと異なるからか。

「自信ありげに流れるように自然に嘘を言うサイコパス味」には納得。ファクトチェックが心理的にも難しいというのも。
遊びとして使うとおもしろいけれども、これを人間側が勝手に信じて拡散するなら、ネットは今までの比ではない真偽不明の腐海になっていくんだろうな。

ChatGPTが意味を理解しているように見えることについて、「おそらく心理学的な効果ではないでしょうか。ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います」と新井紀子氏。

要約すると
「ChatGPTも誤りが多い！仕組み上100％正確にはならない」
「論文や記事もAIが作成してしまう」みたいな話

当たり前やろと…
こういうしょうもない話をいつまでしてんねん…

何を恐れている、此こそが人類の進化では無いか。
いつの時代にも居るんだ、こう言う人達。

この記事はとても分かりやすい、近未来に役立つ情報で読んでおこう〜未来が恐ろしくならないために〜

なんだか流行りそうだけど、これもまた
情報撹乱させるためのツールになりかねないんだな…

・・・まったく恐ろしくありません～！
のことを怖がる方は～未来の波に乗れないのと…この話って使いこなす人と使いこなせない人の経済的格差（社会的地位等）がハッキリする。

あの、AIは100％正解を出す、なんて誰も言ってないのですが。。根拠のない適当な回答を出さない、ならあってる。人間にきくかAIにきくかのどっちにする？岐路に今居ると思うのよね。

『対話型AI』は『何ができて』『何ができないのか』を理解した上で利用しないと、活用するのは難しい。

▶︎

その負の側面について、同時に認識しておくことが重要だ

これなー。
なんかまだ電脳には繋がってはないのに言語も映像等イメージも情報は既にハッキング受けまくってるようなもので、でもファイヤーウォールはなくて、自分で情報精査しないといけないというか。

「データ量を数千倍に増やすと、突然精度が上がるなど、今までの蓄積では説明がつきにくい現象が起こっています」「ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います」

■今人気の記事■ 【

今回のAIブームに関して専門家の方は「データ量を数千倍に増やすと、突然精度が上がるなど、今までの蓄積では説明がつきにくい現象」に必ず言及していて、ここが重要と思うだが。

新井紀子という人の無駄に長い記事を要約するのにChatGPTは素晴らしい効果を発揮してくれた。まだ入口ということを全く理解していない人だね。偉いポジションにいても感度が悪い人ってダメだ

『あるネットメディアがChatGPTに「それっぽい文章を書きなさい」と指示し、気が遠くなるほどの数のフェイクニュースを毎日どころか毎秒ばらまいたとしましょう。そうなってくると、人力のファクトチェックは追いつかない』

これは既に感じている。Webは嘘ばかりの世界になるかもしれない

【本文より】ネット上がChatGPTにジャックされてしまったときには、もうどうしようもないかもしれません。そのとき、われわれは過去30年間享受してきた「ウェブ」という資源を失うことになるかもしれませんね

日本人はサムライスピリッツを思い出す時がきましたね。自分で考えて意思決定できない人はベーシックインカムがなければこれまで通り生きてゆくのは難しいと思います。特に私のような無能なカレー臭おじさんはもう行き場がないかもしれません。中辛最高。

大袈裟すぎる

先日、偶然観たお昼のTV番組でも取り上げられていたけど、占いや人生相談、未来予測に使えると勘違いしてないか？
ただのワープロ（文章を生成する物）でしょ？

ちょっと語調は厳しいけど、頭に置いておいた方が良さそうな認識ですね。

タイパとファクトの天秤どちらをとるのか。
自分の中に軸や中心となる問いがないと、なかなか生きるのが苦しい時代になりそうです。

( ﾟдﾟ)ﾊｯ!

そりゃコイツらの仕事がなくなるからな

"「ファクトを知る権利」のような法律を作り、こうした技術をビジネス展開するところにはファクトチェックのコストを負担させるとか。"

公衆マナー叩きで小作が溜飲下げてよろこでるけど、バカは年齢関係ない。

ホントの老害ってこういうのを言うんだぜ？

『AI vs. 教科書が読めない…』でも思ったけど、なんかこの人って結論ありきな感じがするんだよなー。

「 をすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います／知的レベルが高い人でも『こっちのほうが正しいんじゃないか』と、信念や心理を揺さぶられる」

杞憂とは言えない懸念かなあ。少なくとも、非常に精巧なbotがそこかしこに居るということを、ネットリテラシーとして知っておかなければならなくなるんだろう

首肯しかない記事でした📖

ChatGPTをすごいと感じてしまう現象は、対話の正しさより、自信満々&スムーズに嘘をつくサイコパスっぽさに起因

知的レベルが高い人も「こっちの方が正しいのでは」と信念を揺さぶられる

論述問題「部分点無し」の結果は色々すごい

さっき感じた恐怖感、これだ…！
あまりに堂々と間違うもんだから、油断すると確認せずに信じてしまいそう。。

> 自信満々かつスムーズにウソをつく“サイコパス”っぽさ

試験問題を、AIの文章を読ませて誤りを指摘させる、という形式にするの、とても良い案だな。

内容的には、どうも私の受け止めとギャップがあるけど端的にはうまく表現できませんね。あとそれから、タイパ、という言葉があるんですね。⇒

これから世間に浸透しそうな、
AIやChatGPT。

自社にとって、有効に活用するなら、
こういう視点も必要、
という意味で参考になる記事。

まだ不完全であり、真贋混濁した情報から生成される技術。
使う側の理性や品性が必要だけど、政治や利益至上者たちは、悪用しかしないでしょう。気をつけていないと。

「ロボットは東大に入れるか」のプロジェクトディレクタを務めた新井紀子氏のインタビュー記事

”これを見ていると、ケインズとミクロ経済学者の論争を思い出します。”はなるほど

ポジティブにばかり捉えているが、多少はリスク・危険性についても踏まえるようにします

> 資本主義と民主主義を延命させることが、投資家にとって重要なんです。EUの立法を金銭的にも人的にも支援するのではないかと思います。例えば「ファクトを知る権利」のような法律を作り、こうした技術をビジネス展開するところにはファクトチェックのコストを負担させるとか

ChatGPTらAIが「民主主義への挑戦」とか必死な、国立情報学研究所の人工知能担当ディレクターががChatGPT否定の論調出した記事が出たのとほぼ同時期とか、リンクさせたくなるなあ。

メモとして

ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。

おもしろい ただこれ「AI」ていうか最初の例えの「自信満々に嘘をいうサイコパスを信じたらいかん」という話で、AIじゃなくても人間のサイコパスが跋扈してんだからむしろAIのほうがいいよ

自身がある程度歴史も知ってる分野の出力であれ？と思った私が何か違和感があったのは、こういうことかも。OpenAIがすごいすごいと言っているひとを見ると違和感があるのも同じく。

技術をどう使うか。子どもの教育も変わらざるを得ないなー。

根本的に人間自体が誤りの総体みたいな存在なので、ChatGPTに対して誤りを許容しないって態度自体が誤りの総体であることを歌づけているようにすら感じますよね。使い方と向き合い方、リテラシーが必要ってことです。

ワイも禿みたく浮かれたいのに／

ふむー。
記録として残す。

記事の最後に、試験のときに使える方法の例があってなるほどと思いました。
「例えば試験の際、『何千字で書きなさい』という論述問題について、ChatGPTが回答した文章を配布します。…」

webがChatGPTに汚染され使い物にならなくなる、こっちの世界線も認識しておかないとまずいな。東ロボ新井先生の記事。

興味深い内容だった👀

見てる：

昨日も呟いたけど、こういう新しく得体のしれないものが出てきたときは、過去新技術登場のとき何が言われていたのか知るのが大事かな
インターネットとかスマホとか

おっかね〜😱

例えば、「ファクトを知る権利」のような法律を作り、こうした技術をビジネス展開するところにはファクトチェックのコストを負担させるとか。（ChatGPTが書いた文書かどうかを識別する）GPTZeroのような技術にも投資して、自動生成された文書に対してはアラート

ChatGPTが嘘拡散機でもあり社会を破壊しうるという指摘。新井紀子・国立情報学研究所 社会共有知研究センター長。使用データの権利関係がどう処理されてるのかも気になりますね。

「ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。」

なるほど。
嘘の中に本当が混じると、その嘘が本当っぽく見えるのですが、それを堂々とやられるとコロッと…(以下略)

生成AIが吐き出す文章のファクトチェックの問題。確かに鵜呑みにする人が増えると恐ろしいが、これまでもフェイクへの自浄作用はそれなりに働いてきた。完全に悲観的になる必要はないが、どんな自浄作用があるか考えないと
ー

「大多数の人々はファクトなんてどうでもいいかもしれない」ってのは、本当だろう。「読者が求めているのは満足感であって正確さではない」みてえなことを豪語してる自己啓発書の編集者にあったこともある。で、そいつの作る本はよく売れる（笑）