🌠「GPT-4より強力なAIの開発を直ちに停止せよ」──公開書簡にマスク氏やウォズニアッ…|バズるNEWS

メディア記事

「GPT-4より強力なAIの開発を直ちに停止せよ」──公開書簡にマスク氏やウォズニアック氏が署名

バズる指数ピーク 349

twitterコメント 195件中 1～100件

半年間AIの開発を停止させたいのはChatGPTの一人勝ちが面白くないからでもあるだろう。AI以外にも核融合や遺伝子操作など危険そうな技術の開発は進んでいる。

最初危険かなとも思ったけど、別に開発しながら考えれば良いだけの話だし、６カ月止めるっていうのはやっぱりイーロンマスクやGoogleが遅れてるから圧力かけてるだけな感じの気がしてきた。ワシャ止めるの反対じゃ。

日本語の記事
↓↓↓

「人類にとって深刻なリスクをもたらす可能性」って具体的にはどういう事なのだろう🤔。既に人手が回らなくて放置されている不条理がリアルにもネット上にも沢山あるよね。人手が足りなくて放置されるリスクとAIによって起こりうるリスクが比べられるのかは分からないけど。

仮にアメリカがやめたとしても、倫理観も常識もない国がやるから意味ない。
それこそ手遅れになる。

未来の二つの顔の世界が近づいてきたのか

脳細胞をに接続
で学習し数式を解くことに成功

「より強力なAIの開発を直ちに停止せよ」
公開書簡にマスク氏などが署名
やってるが言うのか
まぁAIとBMIで繋がったら負けるか

・MetaのチーフAIサイエンティストを務めるヤン・ルカン氏は「私はこの書簡に同意しないし、署名もしない」とツイートした。

アメリカだけ不安になって禁止しても中国とかインドとかがやり始めたらどうしょうもない気がするけど。

倫理問題を引き起こすことは薄々感じていました

そして、中国に追い抜かれるのかもしれない。

ホリエモンに全く同感。開発に乗り遅れたマスク他が、もっともらしい理由をつけて、Microsoft傘下のオープンAIに〈半年待ってくれ💦〉と言ってるだけ。

AIの安全性について研究する非営利研究組織が、GPT-4よりも強力なAIの開発と運用を少なくとも6カ月間停止するように呼びかける書簡を公開。著名人を含む1000人以上が署名しているという

足の引っ張り合いかな？

これOpenAIからしてみれば、せっかく業界をリードしてるのに他が追いつくまで待てって言われるに等しくて冗談じゃないよって話だよね

ウォズニアックが反対しているのは残念。反対しても止められないよ。＞

確かにマジでヤバそうな気がする、一度立ち止まって冷静に整理した方が良さそう。ホーキング博士生きてたら筆頭で署名してたろうな。何と無くmetaが一番危うい気がする。

Muskおぢさんは兎も角、ウォズがいるのが気になる🤔

の進化スピードを危惧した声明なのだろうけど、出し抜く輩は居るだろうから、開発は止まらないんだろうな( ˙-˙ )

イーロンとかの起業家はオープンソース化させて恩恵を受けたいだけだからな？

とうとう最先端現場で意識をもってしまった奴が出たんだな。

法律や社会システムがAIの存在を前提としてない現状を鑑みると、モラトリアムを設けて世界的に議論する必要はあると思うんだけどなぁ

AIを見抜き監視できるのはAIでしかない気がする。くだらないダウトゲームに社会コストを払わなくてはならない、非効率な低進化時代が到来してしまった。

この記事をchatGPT(GPT-3)に読ませた感想がこちらです。

危険視するのは開発でなく、AIのアクセス権限やバイアス誤情報の伝達では？

悪用を恐れるなら、課題の透明化や人とモデルのアクティブディレクトリに力を入れるべきという意見

6カ月止めて何かがよくなるのかしら？

"AIの安全性について"

人類にとって深刻なリスクをもたらす可能性

せっかくGPTのwebアプリ作ったのに
😭

こんな記事も。
未来が来ている。

ターミネーターのスカイネットが出来るとでも本気で思ってるのかな？どちらにせよAIの進化は止められないとは思うけど。

盛り上がってる

>自分が馬鹿になりたい人はを使えばいい。人間の尊厳を維持したい人はは使わないに越したことはない。

おお、ウォズニアックまで署名するのかぁ。マスクは前からAI規制した方が良いと言ってたけどね。

でもこういうテクノロジーは生み出したら最後、不可逆な気がする。核兵器もなくならないしなー

そりゃそうよな

先に良いもの作られると困るという本音が見え透いてる

これでロボットが仕事を奪うとかいうアレと同じようにアホが踊るんだろなぁ

GPTが先行ってる？

６ヶ月ってのが、「ちょ、ちょっとタイム！」に見えなくもない。笑

「MetaのチーフAIサイエンティストを務めるヤン・ルカン氏は「私はこの書簡に同意しないし、署名もしない」とツイートした」

もう止まらないんだろうなぁ。犯罪係数の時代は直ぐそこに。>>

イーロン・マスクのAI開発停止運動、これOpenAIへの嫉妬でしょw

自分は人型ロボットや自動走行AI作り、でもその「普通のAI」の開発は止めずGPT止めろって意味不明

OpenAIの勢い止めたいしAI覇権は彼が取りたいのよね

彼から言われたら皆署名するよ
でもこれは無理がある

マスクがこれ言うのはわかるけど(完全に買収しようとして失敗したから)、ウォズが同調したのは残念感あった

ワクワクなんかSFぽくなってきた(他人事)

こういうのは言って止まるもんちゃうで…

永続的な凍結ではなく半年凍結って事は、Appleはその半年でGPT-4を追い越せるって事かな
お互い禁止しても裏で継続するのは世の常ですしね

また何の意味も成さない規制を…

まぁそうなるよな。。

(｡･ω･｡)ﾉ

じつに興味深い……。もうすでにAIが彼らの名前を記録しているであろうことも含めて……(´ー｀)

非営利の研究組織Future of Life Institute（FLI）が、GPT-4よりも大きなAIシステムの開発と運用を少なくとも6カ月間停止することを呼びかける書簡を公開したとのこと。 …

これだけ見ると立ち遅れた人たちが止めに入ってるとしか見えない

どうなるやら。

人工知能SFにリアリティそんな感じるのか＞

マスク氏がそっち側なのが予想外だった。

これは少しわかる気がする。

気持ちはわかるけど、このメンバーだと説得力がない。

Open AIへの資金援助の約束をバックれたマスクが署名してなかったら素直に信じれたんだけどな……

競争相手がいるのに自分だけ開発を止めるのは難しい。GAFAが協定を結んだとしてもスタートアップの開発を止める強制力はない（止めようとしたら違法だろう）。規制できるとしたら政府しかないが他国との競争もあるし

気にしないでもっとヤバいの生み出そうよ

その方が楽しいよ

核より恐ろしいものを見てしまったんだろうねぇ～😓
科学者が言っていたもんねぇ～人類と比較すると”人とカエル”だって🥴

「安全性や倫理性の問題を引き起こす可能性」ここの部分は、言語化されると、確かに不安要素ではあるけども、どうなんだろね。
---
読んでいる：

言語処理AIコアの開発を停止する必要はなくて、逆に多くの無知な利用者が正答誤認によって誤情報を利用してしまうリスクの回避方法を世界レベルで早急に議論・策定すべきだ

止めたところで感法整備はよの署名のほうがええんでない

いわゆる陰謀論者が唱える「社会変革」は全く来るとは思ってないのですがw
シンギュラリティは思ったより早く来るのではないかと思う。
AIの進化スピードはもう人間のコントロール出来る範囲には無いのではないか？

ターミネーターの世界が現実になる前に？

今のChatGPTとかの広がりを見ても倫理的な問題もかなりありそうだし
と言っても走り始めてしまった物を止められるのかしらん

AIの開発者に何も利がないので、こんな提案が通るわけない

>Googleやその傘下のDeepMind、Amazon、Microsoft傘下のGitHubなどのエンジニアの名前もあるが、今のところMicrosoft、OpenAI、MetaなどAIに注力している大手の幹部や従業員の名前はない。

今勝ってる人たちがぐずぐず言ってるだけのような？

非営利のAI研究組織であるFLIはこの度、とある書簡を公開したようです。

端的に言えば、
「現在のAI技術が安全性や倫理性の問題を引き起こす可能性があるから、これより高性能のAIを作るのは６か月は待つべき」
とのこと。

非常に悩ましい問題ですね…

世界をコントロールしている人たちが恐怖しているのなら、我々庶民には好ましい方向だ！！

まじかー

おはようございます！！！！
絶対なりますよ😂

これも立派に研究開発なので署名したら詰むと思う。
＞リスクを十分に評価し、必要な対策を講じる

本稿執筆現在1000人以上が署名している。イーロン・マスク氏や、米Appleの共同創業者、スティーブ・ウォズニアック氏の名前もある

Metaは署名しない

「AIの安全性について研究する非営利の研究組織Future of Life Institute（FLI）」「イーロン・マスク氏や、米Appleの共同創業者、スティーブ・ウォズニアック氏の名前もある」

守秘義務ありそうな大事な仕事ソースコードは入力しない。逆に勉強中言語の動かないコードや人に聞けないおバカな質問はどんどん入力してる。根気良く付き合ってくれるGPT4クンがどんどん疲れてバカになってお釈迦にならんか心配してます！

まだ4/1になってないよな……マジでSFの世界になってきた……

マスク氏ら「AI開発中断」を要求
関連ニュースのリンクは↓

ハラリはこういう所がある。
この辺、言うまでもなくハラリは専門外の活動をしているので、私も特に評価はしない。

AI開発において「立ち止まる」ということを人間が選択できたことは好ましい決定。
今のただ技術が発展すればいいというのではなく「人間が幸せになるための技術とは何か？」を議論・再認識しながら進めていければ、技術一辺倒の未来への不安も軽減されるだろう。

この業界はこれから、ものすごいスピードで変わっていくんだろうな。うかうかしてると簡単に置いていかれそう。

Open AIに遅れを取ってるビッグ・テックやイーロン等とても倫理的とは思えないがAIの開発をなぜか「6ヶ月」止めろと言ってる。
再分配もせず富を集中させてる当人らの言う6ヶ月は自分らが追いつくためとしか思えない。
逆に停めちゃダメなのでは思う。
と言うか手遅れでは？

> Googleやその傘下のDeepMind、Amazon、Microsoft傘下のGitHubなどのエンジニアの名前もあるが、今のところMicrosoft、OpenAI、MetaなどAIに注力している大手の幹部や従業員の名前はない。
これが答えでしょ。あと、欧米がなんかルール作ってもきっと中国は従わないよね。

アメリカが停止しても他の国で進められるだろうし、この手の開発は止めることは不可能だと思う。

"人類にとって深刻なリスクをもたらす可能性のある一般的なタスクにおいて、人間と競合するようになったAIシステムに対する懸念から提示された"

に大きな影響が出そうなニュース。
と思って、実際のサイトを訪問した。
世界中の誰でも簡単に署名できる仕様。
全世界でまだ1,000人台。
今のところ、大きな流れではなさそう。

==>必ず「反対」する人はいる！

今の方式のAIだとコピペを違和感なくする程度のもんだろうし人間を超えることはないのでは

まぁそうなるよね、たぶん5年もしない内に今の世界はひっくり返るぞ。

➀

➁

署名したとて囚人のジレンマ

自分達が開発遅れてるからって他人の脚引っ張ろうとするのはいただけないわ。
イーロン・マスクはそういやツイッターに金かけて何がしたかったんですかね。

ウォズならともかくイーロン・マスクに倫理的なことを説かれても「どの口が？」以外の感想がないので、この手のオープンレターに看板として依頼する著名人の人選はPVじゃない指標で考えたほうが良いと思います。

門戸開放政策！？

ウォズニアックが・・・

もう年老いたということか

シンギュラリティは近い。