自分が感じていたけど言語化できなかったことが上手く表現されている❝ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因している❞

東京都教育委員会も小池都知事も英語スピーキングテストESATJなんかやめて、最新テクノロジーを英語学習に利用していきましょうよ
都教委の新井紀子教授もChatGPTを｢非常に危険なものが生み出された｣とか言ってないで、AIの有効活用を考えたほうがいいですよ

次は国立情報学研究所が
｢非常に危険なもの」生み出しちゃうの？

2023.3.4
新井紀子氏｢非常に危険なものが生み出された｣

日本は“修繕”か“崩壊”かの岐路に立っている

え、でも。。
どうする国立情報学研究所。

＞ 新井紀子氏｢非常に危険なものが生み出された｣

現状のChatGPTの正確性はまだ低いんだよね。もっともらしい事を言うのは得意。こっちが正解を知ってる話題について利用しないと騙される。将来的には精度上がるだろうと期待はしてる。

＞自信満々かつスムーズにウソをつく“サイコパス”っぽさ
＞“民主主義への挑戦”でもあります
＞人力のファクトチェックは追いつかない
＞大多数の人々はファクトなんてどうでもいいかも

ChatGPTはひろゆきの上位互換なのだな

これは示唆に富む記事。
AI の進化に期待を寄せているが、問題点を認識しておくの大事やなと思った。
あと、ファクトチェックする能力を育てる教育の必要性も述べていて賛同する

ChatGPTにケチ付ける人たちってGoogle検索とか使ってないのかな？ネットの情報は間違いだらけだし、そもそも人間が言うことだって正しいとは限らないんですよ？

後で読む

アート、映画、音楽関係の答えのデタラメさは、呆れるのを通り越して、笑えるレベル。歴史もデタラメなんだ。。

「ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います」

◎3/8

記事拝読しました。

深い闇やな〜

マクロ的？観点では、もう日本はぶっ壊れてるからさておき、米大統領選挙関連でどうなるかは興味がある。

ChatGPTが書いた記事が氾濫して検索結果が汚染されて使い物にならなくなるって未来はあり得るな。「誰が書いたか」「どこに載っているか」がレーティングの重要な要素になりそう。牧歌的なWWWの価値観の終焉

商用ソフトのAPIも知ってたけど、インプットが足りないせいか、ありもしない関数をでっち上げて返してきたりした。今の所は、使用者側で相当注意しないといけなそう。

考えさせられる記事。

"数学の枠組みで動く限り、AIは「言語」を「記号」として認識し計算処理することはできても、その「意味が正しい」と理解することができない。"
この部分の意味がよく理解できなかった.

「われわれは過去30年間享受してきた『ウェブ』という資源を失うことになる」

それなんていうひろゆき
↓
おそらく心理学的な効果ではないでしょうか。ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。

「数学の枠組みで動く限り、AIは『言語』を『記号』として認識し計算処理することはできても、その『意味が正しい』と理解することができない。よって、AIが100％正しくなるというのは、科学的に無茶な命題です」とあるように、AIの出してくる話に倫理観など求めようがない。

AI vs. 教科書が読めない子どもたち の新井紀子さんのインタビュー。
--

YouTuberと一緒だよね
言いきられると信じる人がでてくる

特に基礎力がない人が犠牲になりやすい

＞ChatGPTをすごいと感じてしまう現象は、（略）自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。そのため、知的レベルが高い人でも「こっちのほうが正しいんじゃないか」と、信念や心理を揺さぶられる。

どこぞの首相がチャットGPTな件。

自分はゆくゆくはAIに人類の欠陥を補ってもらいたいと思っていてどちらかというとAIには期待している方だけど、この記事は共感する部分が多い。ファクトチェック専用に鍛えたAIに汎用チャットAIを監視させるようなことはできないんだろうか？

これ、放っておくと人間がAIに翻弄される世の中になるかも🤔
これからの子どもはフェイクニュースに踊らされずに、情報の真贋を見分ける力がとても重要になるんじゃないかと思う。

"ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。"

言い得て妙。

さすが新井先生、わかってらっしゃる。

”ChatGPTを凄いと感じてしまう現象は、受け答えの正しさよりも、自信満々かつｽﾑｰｽﾞに嘘をつく“サイコパス”っぽさに起因していると…"

Hitlerや三浦や橋下や堀江や博之やﾌﾟｰﾁﾝ等に通ずるよな。

2023 03 07 02:33
🌍🌏🌎
👁️‍🗨️
🦅🗾

AIには良心がないわけで、サイコパスみたいなもの。人間が良心を吹き込まないといけない。
サイコパスがAIを支配したら恐ろしいことになる。

使い方は難しいけど、可能性はある
でも内容を改めないとダメな打率が高過ぎるんよね

自信満々に嘘をつくAIを誰でも使えて回答を流布できる時代が来てしまった。知性主義とウエブの危機。必読です＞

この人はなんでこう・・まだ発達初期段階の技術に対して決めつけで揚げ足をとるような事を言うのだろう 温厚ならこさんがはらわた煮えくり返るほど激しい怒りを感じてるから相当なもんやぞ

なんとなくそれっぽい文章を書くのが、chatGPTなのか
正しさを重要視するタイプとは相容れないのかもしれない
嘘を書くにしても正しい情報を知った上で敢えて嘘をつきたいよね

｢非常に危険なものが生み出された｣？
「ChatGPTが回答した文章を配布してファクトチェックさせる」という期末テストを提案した」？

使い道があったじゃん。

2023.3.4
新井紀子氏｢非常に危険なものが生み出された｣

東洋経済

いくつかの重要な指摘がされていると思います。

急速に広まるものには何かの狙いがあるのかな、とかいうと陰謀論っぽくなるな。

自分達に出来なかった事が出来た開発者達の成果を

褒めたたえないでけなしにかかるところが

いかにも日本人的というか。

足をひっぱりあう文化だから仕方ないけど

"ネット上がChatGPTにジャックされてしまったときには、もうどうしようもないかもしれません。そのとき、われわれは過去30年間享受してきた「ウェブ」という資源を失うことになるかもしれません"

技術とはまた別の世界の話しとして、実際に中国がChatGPTに規制かけたという話しとか鑑みると、冗談ごとではないのかも知れないなぁ。ChatGPT面白いんだけど…

「ChatGPTすごい！」って最初は言われてたけど、最後の調整は自分でやらないといけないから、全部完成はむりよね。プログラミングなどのスキルが元々ある人は有利で、その差がはっきり出るから、勉強続けることが大事だね〜笑。

>数学の枠組みで動く限り、AIは「言語」を「記号」として認識し計算処理することはできても、その「意味が正しい」と理解することができない。よって、AIが100％正しくなるというのは、科学的に無茶な命題

は民主主義への挑戦。

「あるネットメディアがChatGPTに「それっぽい文章を書きなさい」と指示し、気が遠くなるほどの数のフェイクニュースを毎日どころか毎秒ばらまいたとしましょう」

2016年米大統領選のbotを上回る破壊力になりそう。

正直、落語でよく見た知ったかぶりするご隠居さんと与太郎の図だし、何なら特にギーグでもない人がネットにアクセスしやすくなった時期にも見られた現象だなぁという所感

ChatGPTの負の面だけ見れば、こういう意見になるのかも。僕は賛同しない。

ChatGPTを使ってみて感じたのは、人間ができることはまだまだたくさんあるということ。
AIの発展は、本来の人間の素晴らしさを、より炙り出してくれると思ってる。

「脳はとにかく楽をしたがる器官で、どうしても“タイパ”が良いほうに流れてしまう。」耳が痛いこの言葉を、正座して受け止めたい。

大丈夫か？っていうか、おおむねその通りよ。

なおNew bingは参考文献いちいちリンク貼ってくれるし、類似サービス一般がと言い切るのはちょっと難しい状況。ただChatGPTは論じられてる通り。

よい記事。こういう時代こそ社会科学が大事ということを示していると思う。

新井紀子さん
数学者なのに極めて文系的考え方のかただと思ったら、AIで東大合格を目指した「東ロボ」プロジェクトの責任者だった！

結局「東ロボ」は「問題文が読めない」「文脈を理解できない」でプロジェクト凍結かぁ（Wikipedia）
ChatさんはUSMLEとMBA試験に合格したよ

情報の精度や文法の正確性はわからないけど、すでに「主婦のお茶会」行くよりはChatGPTと話してる方が知的な会話できて楽しい。ヤバい未来が来てそう。

結局ネットリテラシーとか言われてたのと一緒でその情報の中身を精査できないとだから何かの際の補助には使えても教師には怖くて使えないかな

〈ChatGPTは答えを言ってくれるので、これを信じてしまえるなら、そのほうが楽でタイパがいい。そういう世の中で、「ファクトこそが重要だ」という正義は通りにくい〉。

ChatGPTが革新的であるのはそのとおりだが、玉石混交な情報空間は活版印刷初期に「魔女に与える鉄槌」が流行った頃から続く伝統なので今更ではあるな。
むしろ検索サイトの絶対的支配者としてネット上に君臨していたGoogleのビジネスモデルを破壊するものとして期待したい

> ChatGPTで昨年度の東京大学の世界史の第1問、600字の大論述を解かせてみました。
> 代々木ゼミナールの世界史の先生方に採点を依頼したところ、「0点」というお返事がありました。

よりによってChatGPTが一番苦手な「歴史」をわざわざチョイスして論評するの、悪意ない？

ファクトが失われる危機は、ChatGPTに関係なくSNSが生まれた時点で発生してる。

面白い

ChatGPTはさておき、民主主義観やネットの未来観みたいなところは面白い。

AIも使い方ひとつで人類を破滅させかねない(;''∀'')。
かつて人類を破滅させたガンダムで、牛さん運んだり、洗濯を手伝ったりしたロラン君を見習う日が来た。

秒単位のごく短い時間でものすごい数のもっともらしいTwを横溢させて条理を圧倒できる技術
話者の姿が見えない言論空間が存在しない人々の声で溢れる未来
ディストピアSFとしては面白いけど、これは現実だ

何回か試したけど、回答を見ても占いレベル。人間だって間違った答えを出すんだから、一つの方法や選択肢として軽く考えればいいでしょ。

技術の進歩は素晴らしいけど
色々な弊害もあるかもしれません‥
どんな未来になっていくんだろうか🤔

最後の「ネット上がChatGPTにジャックされる可能性」は同意できるけど、それ以外は同意できない。えらい感情的な文章に見えましたが何かあったのかな。

『AI vs. 教科書が読めない子どもたち』の著者によるChat GPTの解説。

「（前略）AIは『言語』を『記号』として認識し計算処理することはできても、その『意味が正しい』と理解することができない」

同書にあった「AIは計算機」というメッセージと一致するなあと。

AIだらけのWebコンテンツになると、どういうことが起きるか？
--
「われわれは過去30年間享受してきた「ウェブ」という資源を失うことになるかもしれませんね。」

リスクの話っていつでも興味深いな

新井：脳は楽をしたがる器官で、どうしても“タイムパーフォーマンス”が良いほうに流れてしまう。そういう世の中で、「ファクトこそが重要だ」という正義は通りにくい。
MO：AIを使ってはいけないという法律ができませんように。

ネットのやり取り自体がそういうものなのでは？と考える部分も多かった。
「答えの正しさよりも、自信満々かつスムーズにウソをつく」ChatGPT ってSNSと似ている。

人が過去情報を引き継ぐことのできる情報量には限度がある。過去に他人が経験した失敗事例をすべて理解していたらバグはかなり回避できる。生成AIは正しくデータ選択で人間以上の余地あり。

自然な受け答えを評価される一方、誤りの多さについて懸念も上がっています。

話の説得力はファクトが生むのではなく「それらしい語り口と話し手に対する信頼感が９割」という、人類が見ないようにしてきた公然の秘密が、ここにいたってAIに突き付けられるとは。

新井紀子さん「ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因している」
「この非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか」

＞ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。

→ひろゆき君そのもので笑った。

言いたいことはわかるけれど、この方の過去の仕事を考えると、今は沈黙は金、なんじゃないのかな…

なるほどー

1日に移動できる距離や、伝えられる情報量によって国家の適切なサイズは決まるんだと思います。現状の国民国家は前回の産業革命の技術を基にサイズが決定されたのでしょう。

30年間のウェブという資源を失うかも、という恐れは浮かれている人も肝に命ずべきでは

Googleのバード（鳥じゃなくて吟遊詩人らしいが…😅）が登場しても同じようなツッコミの対象になるんだろうか…🤐

ネット上がChatGPTにジャックされてしまったときには、もうどうしようもないかもしれません。そのとき、われわれは過去30年間享受してきた「ウェブ」という資源を失うことになるかもしれまん

＞クローズドにChatGPTを活用するだけであればフェイクもフェイクじゃないも関係ないので。Bingに搭載して勝負をかける、という展開はやや意外でした。

オープンAIになったということで、見たことのない世界を見るだろう。

まあ、インテリセンスとか使ってきた身としては、ツールとして便利だと思うので、利用しまくってる今日この頃。

難しいこと考える時間があったら、手に入れた新しい道具を使ってクリエイティブしたい派です。<アホとも言います …

新井先生の新作だ

「受け答えの正しさよりも、自信満々かつスムーズにウソをつく」って、今でもネットやメディアでよく見かけるヤツ（生身の人間）か。今後はこういうのが文字通り大量生産される、と・・・😩

なんで人間も間違った記事いっぱい書いてんのにAIは間違うどうこういう人多いのかね…
ソースは確認しろって昔から言われてただろうに
フェイクニュースに騙されるタイプの人達なんだろうなぁ

> 生成AIという「民主主義への挑戦」
こんなキーワードが出てくる時点でなんかズレてる気がする。出始めの技術の問題点なんて数年である程度解決されるだろうし、Webが支配されるなんてこともあるわけない。

人々はこのタイパの良さに勝てるのか、民主主義とChatGPTは相性が悪い、正しく見えるのは自信満々に嘘をつくサイコパスっぽさが起因、
など良い視点が多い……！
だからさっきも書いたけど、読書感想文が他人が見て良い出来って、相当いい出力させた気がする

「心」ないからな

AIによって内容はデタラメなフェイクニュースが濫造される。それに対してファクトチェックが追いつかない。それどころかチェックするために検索してもAIが書いた文章がヒットする。そういう事態がまもなく訪れるそうです。

誤った情報や思想的な偏りが仕組まれているので洗脳などに悪用される可能性が高いというかそのためのツールというか

しい未来

嘘を自信満々で言い切る感じがすでにうさんくさかった。どんな進化を遂げるんだろう。

关于ChatGPT最冷静的分析。值得一读，可惜是日语文章。

AIとその明快さに心酔する人々にいくらファクトを突きつけたところで、最後は「ファクトってそんなに大事か？こっちはこれで楽しくやってるんだから放っとけよ」と居直られる予感。

話題のchatGPT
こんな記事を発見

記事の本筋からズレるけど、俺がChatGPT触って思ったのは、これ日本語しかできないとやべえぞって事。

「ChatGPT｣に浮かれる人が知らない恐ろしい未来

いやもうこの一文でダメじゃん。
↓
東大を目指したAIは使える資源が十分になく、知っていることを時代順に羅列することが精いっぱいでした。
これがデータ量を数千倍に増やすと、突然精度が上がるなど、今までの蓄積では説明がつきにくい現象が起こっています。

内容は勉強になった。もっとマシなタイトルを付けてやれよと思った

面白い記事だった

新井紀子（国立情報学研究所 社会共有知研究センター長）「ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います」 「そのため、知的レベルが高い人でも『こっちのほうが正

読んだ。嘘を正すのはめっちゃコストかかるので前から問題でしたよね。未来はどうなっちゃうんだろう

面白い。東大の世界史の過去問を解かせたらそれっぽい答えになっけど採点したら実は0点。
でも正しい文法でそれっぽいこと言ってくるし、ワンチャン「こっちが知らないだけか？」となり採点が大変に。
入力者と確認者のリテラシーがより重要になるなー