グーグルやマイクロソフトならクローズドにしていたと思う。
ChatGPTが垂れ流す嘘をファクトチェックすることはいずれ不可能になる。パンドラの箱が開いてしまった以上、資本主義と民主主義を延命させるか崩壊を待つかの岐路に立たされる。

現生知識人が死んだ後の世界が心配。AIが適当な事言って人類飼い慣らしそう。まぁインテリ層がAI層に変わるだけで知識もフィクションて事かねぇ…。

AIは「言語」を「記号」として認識し計算処理することはできても、その「意味が正しい」と理解することができない。

アウトプット読んでも正しいと思っちゃうよなぁ。サラッと読んでる限りは。

「AIができたきっかけは数学基礎論という分野なんです。
数学の枠組みで動く限り、AIは「言語」を「記号」として認識し計算処理することはできても、その「意味が正しい」と理解することができない。よって、AIが100％正しくなるというのは、科学的に無茶な命題です。」

これは恐ろしい。
しかし今までも嘘っぽいあるいは嘘の記事を言ってくるマスメディアはあったわけで、受け手の理解力と判断力の向上が今後益々必要になるということか。

だいぶ悲観的な記事ですけど日経新聞ですら専門領域に入ると間違いが多いのが現実。AIにも得手不得手があり、まだいい話し相手程度の代物と理解する限りネットの信頼性低い情報や仲間内の噂話と変わりはしない。

な～んかもっともらしいこと言って煽ってるけど、これも全部ChatGPTが書いたんじゃないの？笑

何で民主主義の話になるのか俺の頭では理解できませんでした。一旦英語に翻訳した問題でChatGPT に解いてもらったらどうだろう。日本語の学習量が足りないと見た覚えが。 >

『ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因している』

本当にAIの研究家なのか？論旨が無茶苦茶になってる。ChatGPTって「文章生成AI」ってこと忘れてない？

"暗号通貨やAIについていける人にとって、世界は小さくなります。国家の枠を飛び越えて利益を最大化する人々から確実に徴税できないと、国民国家の意義は損なわれ、安定性は揺らぎます。(つづく)"

> この非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか。この点について考えなければならない。これは“民主主義への挑戦”でもあります。

そのロジックだと人間こそが危険なので人間を滅ぼすしかない

チャットボットのhallucinationの問題は確かに解決できていないけど人の意志が反映されるフェイクニュースとは次元の違う話 それで民主主義が揺らぐのだとしたらまずあまりにも教育レベルが低すぎることを憂うべきだろ

この人、ChatGPTしか使ってないんじゃないだろうか。ChatGPTでもアイデア出しに使うことはできるし、Bing AI Chatも間違えることはあるけど何を根拠に答えているかリンクを示してくれるので自分で確認できる点が大きく違う。

事実かどうか、はあまり重視されなくなるかも、っていう視点が面白かった

「ChatGPTで昨年度の東京大学の世界史の第1問、600字の大論述を解かせてみました」代ゼミの世界史の先生方の採点は「0点。『部分点を与えられる箇所がまったくないので驚いた』とのことでした」

『ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。』

そうそう、まさにこの表現がしっくり来る。それっぽいからコロっと信じる人が多そうな怪しさが怖い。

人間が100％正しいなんてこそなさそうで、その人間からしたら100％正しいAIはありえないってことならまだ分かる

うーん、「自分より賢いAIがウソをついても本当かどうか判定できない」という話でしかないような。それは今まで相手が人間だったときも同じだったのでは？

非常に簡潔に問題点がまとまってる。新井先生、相当な危機感を抱いてるんだと思う。

「ネット上がChatGPTにジャックされてしまったときには、もうどうしようもないかもしれません。そのとき、われわれは過去30年間享受してきた「ウェブ」という資源を失うことになるかもしれませんね。」

やや長い記事ですが考えさせられますね。
それっぽいフェイクが大量に拡散されてファクトチェックが追いつかずにファクトに変わってしまう、というのは極端ですが、あり得る話だなと思いました。

こう言う記事が出る技術って、流行るんだよねぇ・・・

大げさなタイトル、と思ったら本当に怖かった

「すごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います」

危うい、その通り。今の浮かれ具合は…

こんなに便利と、これを商売にしようとするテック系の人が中心になり布教始めているが
いつもそうだな

ブロックチェーンだNFTだWEB３なんちゃらと

AIが民主主義を壊すかもしれないという恐ろしさを感じました。

「ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います」

東洋経済

【AI による独裁国家化】

｢ChatGPT｣が嘘を付く事をツイートしたり、嘘つかれたことにイイネするのは鵜呑みに注意するためだったりする。
(考えたら、人間が書くウィキペディアも論拠にならないと否定しているな)

ああーなるほど

最近真偽のあやしいツイート増えたのはこれのせいか。

Bing Chat にプロンプト文を入力したところ、エラーになりました。その文では回答ができないようです。文を直してBing Chatに入力したところ、3行しか答えが返ってこなくて、あとは図書館で調べろということです。

ChatGPTは過去のデータをフィルタした抽出物を文章化したもので、別に知能が有るわけじゃ無い。
知能があるように見えるのはその位の情報で足りるからであって、知能を必要とする活動は案外、少ないのかもな。

わかっていて使うなら構わんでしょ。盲信するのが危険

非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか。

AIを中心とした技術革新の使い方が今後の人間社会の課題になりそう

ハイラックス(車じゃないほう)が象と親類だよね？と確認したら強硬に違うと答えて

「ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。」

おお、確かに！

新井紀子氏は｢非常に危険なものが生み出された｣と言っているのだけれども、私は新井紀子氏自体が「危険なもの」ではないかという気もするのだが･･･

インターネットが生まれたときも「こんな、セキュリティもなく、通信品質の保証もないものが、うまくいくはずがない」と大勢の人が言っていたなぁ、、と思う。

「必ず正しい答えしか述べないAI」を目指していたのか。間違えてもいい。

できれば、どのような情報に基づいてその結論を導き出したのか、
情報源の提示と確からしさを表示して欲しい。

「数学の枠組みで動く限り、AIは「言語」を「記号」として認識し計算処理することはできても、その「意味が正しい」と理解することができない。よって、AIが100％正しくなるというのは、科学的に無茶な命題です」

メモ
新井紀子氏｢非常に危険なものが生み出された｣

うーん、ノーコメント >

そんなに外れた内容でもなかったとは思うけど。記者の編集のピックが話題になるように選別されている。
もうパンドラの箱は開いてしまったので、あとは残った希望を探さないとね。

AIはサイコパスさんですからね。利用する側がその辺の事情を理解しているのかどうか怪しいもんだな。ここでも言ってるけど、民主主義社会において、AIはそれを破壊する存在になるかもしれない危険性は常に認識しておかないと。

要は、「まことしやかなデタラメ」が大量に流通する社会で、どうやって事実を見分けるか、という難問。

1．自分で実地経験をする。
2．信用できる他人を選ぶ。

くらいしか思いつかぬ。

そもそもウェブに限らず、「一本足」は駄目って話でしょ。真理のツボはないって当然の理。
AIに限らんよ。

＜ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。＞

数学の枠組みで動く限り、AIは「言語」を「記号」として認識し計算処理することはできても、その「意味が正しい」と理解することができない。

この人最初から最後まで何にもこの技術のことを理解できなかったね。

非常に巧妙（というか「無意識に」）嘘が出力されるので、複数のAIが台頭するか自衛しないと騙される。むしろどれを信じるかと言う点で自己判断力が試される時代になる可能性。

この人を誰か止めて…。

そうね、スカイネットが人類に反逆し始めかねないもの / とはいえ、うなずける指摘も。ファクトチェックの問題、google検索はポスト真実にどう対処するか（あれこれAIに限らない？）AIはリファレンス能力を持てない？

最後に「この記事はChatGPTに生成させたフェイクです」って付いてたら最高だった。

タイトルが扇情的でダサいが、中身は面白かった。こういうタイトルのつけられた記事、最近開かなくなってきた。ーーー »

数学の枠組みで動く限り、AIは「言語」を「記号」として認識し計算処理することはできても、その「意味が正しい」と理解することができない。よって、AIが100％正しくなるというのは、科学的に無茶な命題です。〉すごいわかりやす！

戦後、外部からもたらされたとはいえ民主主義を謳歌してきた日本という国が、それを守るために民主主義を“修繕”するのか、それとも身を委ねて“崩壊”のままにするのか岐路に立っているとはいえるでしょう。(新井)

みてた

出典なしでウソをばらまける仕組みっていまの授業でやっているレポートにも繋がる話なのよね／

「ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。」 この記事自体にそれに近い傾向を感じるのだが。

屁理屈はどうでもいいけど
人工知能は６６６獣システム
それを操っているのが。。。
それを監視しているのが 神
神に見限られたらこのＡＩは消滅だ
笑笑

新井さん、また荒ぶってんじゃんｗ
いや、また粗捜ししてんねｗ

> ChatGPTやBingchatが続々と公開され、自然な受け答えを評価される一方、誤りの多さについて懸念も上がっています...

「国民国家やEUは大きすぎ、もっと小さなサイズの国家を望みはじめる。ずっとほぼ同じサイズの国家で1000年以上過ごしてきた日本人にはわかりにくいかもしれませんが」

内容はともかく、パッと見でかなり自然なアウトプットが出来る人工無脳、という印象＞

"ちなみに、代々木ゼミナールの世界史の先生方に採点を依頼したところ、「0点」というお返事がありました。「部分点を与えられる箇所がまったくないので驚いた」とのこと"

本当かどうかなんてお構いなしのAIという存在が社会を根本的に変えてゆく。ファクトチェックの方法が鍵か。どう対処できるのか。。。

まだこんな「頭の悪い使い方」して騒いでるのか。

この人の言ってることも根拠薄弱ではあるんだけど、人間だって嘘つくし間違うしっていう反論もちょっと違うなと思ってて、今のAIのつく嘘って「零度の嘘」(誰も得しない悪意のない無意味な嘘)ってやつで、

ChatGPTの危うさは、ホントっぽく書けるところ、ということか

「AIが100％正しくなるというのは、科学的に無茶な命題です」
「ファクトチェックのために検索しても、ChatGPTが書いたものがヒットするかもわからない」

まだ未熟、と言い切る新井紀子氏が「ChatGPTの回答を提示し誤りを指摘させる」という試みを提案していて興味深い。

新井紀子氏｢非常に危険なものが生み出された｣

AIは品質保証ができないって誰かが言ってたわ

紙の時代に逆戻りー😇😇

知り合いの方にある相談した際に、その方から明らかにChatGPTで出した回答とわかるものがコピペで送ってこられました。
ジョークのつもりだったと思いますが、何とも言いようのない、すごくイヤな気持ちになりました。

「ChatGPT｣に浮かれる人が知らない恐ろしい未来

はやく医療AIが実用化されてほしい。何十年か前に医師免許取ってそれ以降ろくに勉強していない医者や、詐欺医療で騙して効果不明かつ高額な治療・サプリに誘導する医者よりAIの方が信用できる。

うっす。

あたかも合ってるような文章だと真実がゆがめられそう。Fact Checkの力を養う力が必要となると、その時はそれ以上の知識を身につけなければいけないのでは🤔

今までのインターネットそのものがAIに食わせる情報を集める為の図書館だったんだと思う

(｡･ω･｡)ﾉ

進化のペースが早すぎるのもよくない

勉強になる。さすが新井先生。

言ってることは分かるし、こういう記事はそれはそれでよいと思う
ただ、この人学者さんだよね
わかってる技術者は元々この手のものの危険性を理解しつつ、それでも「浮かれて」いるし、それが技術者の性
学者は研究が仕事だけど、技術者は結果を出すのが仕事

それコンピュータが生み出された時と同じ理論

審判の日

生き残ったもの達はそう呼んだ

しかしもっと恐ろしい未来が待ち受けていた

ロボットとの戦争である...

国立情報研・新井紀子センター長
「検索の場合、結果がたくさん出てくるので、その中から情報を選ぶ必要がある。
ChatGPTは答えを言ってくれるので、これを信じてしまえるなら、そのほうが楽でタイパがいい。

…『ファクトこそが重要だ』という正義は通りにくい」

この記事、情報リテラシーをファクトチェックのみで考えている節があります。今でもファクトチェックなんか間に合ってないんですけどね。

東ロボくんプロジェクト主宰の敗戦の弁。多分今後彼女はどんどん正気を失っていき、残念な人になっていくだろうという予想をせざるをえない。

技術の限界を無視して、これは機会とイベント薄っぺらいイベントをして活用ばかりを騒ぐのはかなり浅はか。限界と有用性を慎重に検討する必要がありますね→

間違った情報を自信たっぷりに回答するからタチ悪い。→

ブレインストーミング。
確かに、○○についてと書くと、ハチャメチャな内容が出てきますからね。

東洋経済オンラインのインタビュー。若い武山記者がじっくり話を聞いてくれました。自分の言葉を持っている記者とお話しするのは楽しく、希望が持てる時間でした。

恐ろしかろうがなんだろうが、AIは人間を駆逐するだろうね。遅いか早いかだけの問題になってると思うよ。人類が生き残れるかどうかというSFじみた話になるだろね。

『ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因していると思います。』

ChatGPTは本当に明白な嘘を、いとも簡単に、正々堂々とつくからね……。

ChatGPTは手放しに質問すると尤もらしい答えをつらつらと書いて渡してくる。画面にある情報を我々の脳はいかにダイレクトに受容するか、ネットが普及したこの四半世紀あまりで痛感したところも多いはずだ。技術との付き合い方を模索せねば振り回される。

後で読む。

学者だなぁ
まぁ学者だから当たり前なのか