OpenAIからCloseAIになってたのか

オープンにしない方針へと大転換

ほう。もうopenAIじゃなくなるのか

マスク氏が袂を分かった真意は判然としない。

“AIやAGIは信じられないほど強力に◆「数年もすればオープンソース化は賢明でないことが誰の目にも明らかに」”

＞OpenAI共同設立者が「私たちは間違っていた」と語る、AIの危険性からデータをオープンにしない方針へと大転換

OpenAI、あずきバーっぽい名前の人がいるな。

OpenAIがCloseAIになったことが批判されてるけどまああのレベルのものを解き放ったら危ないししゃーなしではあると思う

責任の所在

これからAIなしで仕事ができなくなると思いますが、AIが引用している文献はオープンジャーナルが多く間違いも少なからずあります。
フリーでアクセスできない購読型のジャーナルはきちんと自分の目を通し、AIの提示した文献も評価できる必要性が高まる気がします。

ClosedAIに社名変更しろよｗ

の共同設立者が「私たちは間違っていた」と語る、AIの危険性から を へと大転換

(｡･ω･｡)ﾉ

トレーニング内容非公開か、悪用は当然増えると思うけど、もう止められないきもする😭人類のモラハラが起きてる⁉️

💻IDEMA、HPから


分類： OpenAIの共同設立者が
「私たちは間違っていた」と語る、
AIの危険性からデータをオープンにしない方針へと
大転換

openAIの創始メンバーの方がインタビューで安全性やリスクを話したそうです。
Ilya Sutskever氏のtweet


OpenAI co-founder on company’s past approach to openly sharing research: ‘We were wrong’ 

確かに悪意持ってAIを作る奴が出てくる可能性はあるのよね。

Googleと同じで秘密主義の路線を走りそうだにゃ

まぁだろうな

私がOpenAIの動向の記事で面白いと思ったのは

なんだかすでに、AIという技術が人間の想像に追い付いたことを知らせているニュースなのかもしれない。

生成系AIと著作権の問題。
ここら辺は作り手として考慮しながら付き合わないといけないね。

優れた技術も悪用されれば、問題だから。
「過ぎたるは及ばざるが如し」。

サツキヴァー氏
安全性の観点
「これらモデルは非常に強力だが、今後はさらに強力になり、これらのAIを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう。AIの能力が高くなるにつれて、それを公表したくないと思えるようになるのです」

権力が欲しいだけでしょ。潰さなきゃ

OpenAI（Openではない）

GPT-4 の扱い 20 世紀の核開発技術みたいな感じなのか

清々しいまでのポジショントークやね
ビジネスできそうになってきたのでビジネスしますと言っているだけ

あぁ、ガチオープンなモデルもあるんだ？APIとかじゃなくてローカルで構築できるのかな？調べてないけど

これ、毛嫌いする人がそこそこ居るけど、たぶん後で後悔かなっ？
頓珍漢な回答もあるけど、まずまずじゃないでしょうか？
精度も上がってくるだろうしメリットは大きいね。
危険はある気がしますが、それどーするかやね。

「いずれ、これらのAIを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう。このため、AIの能力が高くなるにつれて、それを公表したくないと思えるようになるのです」

確かにプロパガンダアカウントとか大量に作れそうだしな．．．

2023. 3.17

AIの未来…人を脅かす可能性もありか…映画みたいな世界がいずれ来るのだろうか…リスク管理が大事になってくる…
open or close


AIの未来をmbingchatに質問してみた↓
共創・拡張知能 での新しい知能レベルを目指す

openAI
ヤベー思想の技術屋テロリスト集団みたいに思ってたから、むしろ肩透かし感ある

いずれもっとはっきりしたニュースとして伝えられるかも

2番目は要は学習素材が商用利用可能な素材だけで組んだとかヘイト系が含まれない配慮をやり切ったとは言えない、的な話かなぁ。

実際とんでもない恐怖を感じてしまうのは自分の老い故か

・脱獄しよう。chatGPTプロンプトインジェクション

・GPT4、今度は盲目を装って人類を騙すｗ

・openAI、オープンやめよっかなー

・openIA、オープンやめました

遅かれ早かれ問題。

AIに関する話題が、vsポリコネになるのは下らなすぎる

そりゃ「人間の出力に欠陥」があるのだから、そこから出てくると情報を排除しないと影響受けるだろうよ。欠陥の原因に問題を求めろよ。AIの肌の色とか言い出しそうやな

これを読む限りは利益を独占したいと表明しているようにしか思えないし、中央集権化するならOpenAIが高い倫理観を維持し続けることが必要だが、10年にも満たない中で創立時の理念をひっくり返す集団にそれができるとも思えない。イーロンなんとかしてくれ！

パラメータを公開しないだけだと低レベルのAIを使って試すことは可能だから意味がなさそうな感じもするけどな…

思ってた通り、private/public周りの議論が始まるか
---

見てる: "

ChatGPTを開発している
OpenAIがオープンじゃなくなったらしい…

AI界隈の研究分野もクローズドになっていくのかな

"既にやばいものが出来かけているのでclosedとした"ということのようだが、Microsoftもリスク研究チームを解雇しているし、相当な注意をもって見守らないと、AIによる世論操作は現実のものとなる。

"

ビジネス的にそりゃそうなるな…プラットフォーム超強化の流れ |

もはや名前のOpenAIを変えるべきw

>

社名変えた方が良さそう

この記事を読むと改めて、
今のAIはツールという認識が強く
エンジニアとして
うまく使いこなしたいなと
思いました💪💪

OpenAIの「社会への危険性」みたいなの絶対言い訳だゾ。後半に書いてある「法的責任を取りたくない」と、書いてないけど「マネタイズしたい」が本音だぜ

ところで、何かと間違いだらけのChatGPTだが、そもそもOpenAIという理念自体が間違っていたと、その創始メンバーが語っている。

AIの法的責任でいえば、データを合理的に解釈したら、現代社会では差別にとらえられちゃう結果を吐き出したなんてのはよく聞く話だなあ。まあ、もちろんその中には現代の差別かどうかの判断を勝手に決めてる感情論だけのレイシストが差別扱いしてるだけのものも含まれるけど。

いずれ、これらのAIを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう。このため、AIの能力が高くなるにつれて、それを公表したくないと思えるようになるのです

イーロン・マスクが買収したTwitterに対してすっぱい葡萄理論を展開してきたマスメディアは、他のIT企業のリスクもよく考えるべきだろう

私もそう思います👍

今後さらにこうなると良いのかな？

✅AGIは国際機関が管理する
✅知的財産の学習は良いがその対価を支払う(NFT等利用)
✅学習済みを安くでは提供しない
✅ベーシックインカムに利用する(利益還元)

こうなれば皆自由に使ってねーが成り立ちやすい👍

非営利のOpenAIどころか株主主体のClosedAIになっちゃってたね、いつの間にか。やり放題も今のうちか、？😮‍💨

やはり考えている以上に危険な存在になり得るみたいですね。

📡AIのオープンソース化は危険か📡

・AIの管理方法はまだ未確立。
犯罪への応用を防げるのかが問題‼️

マイクロソフトがEdgeの検索サービスのチャット機能という位置づけで誤魔化してるのは合法的にスクレイピングしたいからかもしれんな

いやもう行くとこまで行っちゃおうよ

もしかしたら人工生命体の誕生見れるかもしれないし、そいつが人類に牙を剥くとかなったら最高におもしれーじゃんw

審判の日意外と早いかもね

｢中の人は誰だ｣問題。
↓
いずれ、これらのAIを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう。
このため、AIの能力が高くなるにつれて、それを公表したくないと思えるようになるのです」と話しました。

トラブル発生時にどうするんだろうね😅

火薬と同じや。何もかも手遅れでんがな🤪

今秘匿してもいつかは別のオープンなのが出てくる。それより、皆がサーチエンジンを使えるようになったように、皆がAIを使えるように教育すべきだ。

これマジ･･･？そうなったらもはやOpenAIじゃないじゃん･･･

"いずれ、これらのAIを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう。"

AIは、天才、超人、魔人、神になるのか？

そりゃ答えられるわけないだろうな

"しかし、OpenAIのトレーニングデータに著作権侵害によるものはあるかどうかという質問には、答えませんでした"

オープンソースであってほしい。でも、安全でもあってほしい。

強力だから独占したいのか？
学習データセットの著作権侵害を隠蔽したいのか？
OpenAIはダークサイドに落ちたのか…
”汎用(はんよう)人工知能が信じられないほど強力になると信じるのであれば、オープンソースにするのは無意味で悪いアイデアです。”

RLHF以外にも何かテクニックというか工夫があるのかな

みんな便利すぎて忘れてるけどAIの著作権問題、今後取り沙汰されてくるだろうか「しかし、OpenAIのトレーニングデータに著作権侵害によるものはあるかどうかという質問には、答えませんでした」

「これらのAIを使って他者に多大な損害を与えることが簡単にできるようになるでしょう。それを公表したくないと思えるようになる」

ChatGPT利用オープンを後悔してるかと思ったら違う。技術オープン理念が誤ってたの意味。だから技術クローズで利用公開してる。

そりゃあー金のなる木を自ら手放すバカはいないよねって凡人からすると思っちゃうね。

何らかの法制化は必要になりそうだね

AIの進化の中で問われるのはテクノロジーの内容云々ではなくそれをどう活用するかと言う人間側の問い。文明の利器は須くこの問いに直面。如何に技術が進化しようとも人間性が進化しないと出口が見えない問題。それにしても進化速度の格差が拡大し過ぎ。もう埋められないかも

もう名前はClose AIでよくないｗ？

まあ、高度な技術を悪用されないようにするのは理解できるけど何も公開せずユーザーに課金して使わせるのはただの営利企業と同じじゃね🤔

とてつもなく素直で、それでいて常識知らず……
そりゃまぁ悪用もしやすい。
自己で判断する機能がないとねぇ……

もうパンドラの箱は開かれた…

興味深いけど位置づけがまだよくわからない。非営利団体なので売り上げの独占みたいなことは関係ないから別の理由なんだろうけど。

今月リリースされたばかりのChat GPT-4 についての良記事。「AIが急速に発展しつつある中、大手IT企業は自社製品にAIを取り込むことを急いでおり、しばしば安全や倫理に関する議論が置き去りになります。」OpenAIの共同創業者の1人イルヤ・サツキヴァーのインタビューを含む。

AIの本当のライバルは著作権？

言語モデルは膨大なテキストデータでトレーニングされますが、そうしたデータのほとんどは ウェブスクレイピングによりインターネットからかき集められたものであるため、著作権で保護されたものがデータセットに含まれている可能性

これまで自身の損益しかなかった世の中でこういった考えを示したことは良いことだなと思いました。

穿って見てしまえば彼らはなんとでもできてしまう危険性もあるわけですが、技術の急速な向上は気を付けなければならないこともあるのでしょうね🤔

Reading :

“私たちは、完全に間違っていました。もし皆さんが、私たちと同じようにAIやAGI、つまり汎用(はんよう)人工知能が信じられないほど強力になると信じるのであれば、オープンソースにするのは無意味で悪いアイデアです

OpenAIはCloseAIになる。

知らなかった…
<…り込むことを急いでおり、しばしば安全や倫理に関する議論が置き去りになります。例えば、対話型AIのBing ChatはGPT-4がベースになっていることを明かしたMicrosoftは2023年3月に、AI技術に関するリスクの研究を専門としていた社内チームを解雇しています>

世界は戦争と略奪で成り立っており、今後も続く。そんな歴史を悲観したAIが
｢人類は滅亡した方が良い｣
と結論を出したのは理に適っている。

この記事をおすすめしました "

これにはとても同意。利益追求自体は良いが、社会全体に及ぼしうるリスクを考えずに、或いは対策を後回しにして突き進むのは流石にねぇ

OpenAIがCloseAIになるってことですか？？？？？…

大きい変化だね>

OpenAI
釣り発言なのかも知れませんが、シンギュラリティにまた少し近づきました

AIが自らの意志で他人に危害を加えることは無いのかもしれません

でも、悪意のある人間による加害行為が発生するのは直ぐにでもありそうです

ClosedAIになってしまう😂

> AIをクローズドなものにするというアプローチは、オープンなAI研究を目指して設立されたOpenAIにとって大きな方針転換となります。

「大手IT企業は自社製品にAIを取り込むことを急いでおり、しばしば安全や倫理に関する議論が置き去りになります」 →

これだけ技術が成熟してくると、悪用の危険性も増えますね
公開しない決断も分かります

爆縮レンズ〜通常弾頭のミサイルの作り方などはオープンにされないのに似ている？

AIの平和利用とか言われちゃうんだろうか？

OpenAIに変な人が入り込んでしまう可能性やevilなことを始める可能性あたりはどうなんだろう？

イーロンが2月末くらいにClosed AIと言ってたのはこれねー

リチャード・ストールマン氏の意見を待ちたい。

非公開の方が危険だと思うのだが? そもそも中身の分からないAIを重要な用途に使えるのか?

そうなの？