メモ
OpenAIという自分たちの名前は間違いだと?

"数年もすれば、AIをオープンソース化するのは賢明ではないということが、誰の目にも明らかになると思います"

OpenAIが「AIをオープンにする」という理念は間違いだったとして、GPT-4の構築に使ったデータやトレーニング方法などを非公開にするとのこと

でも、今後はGPT-4に近いAIが次々に登場して、その内の1つが裏側をオープンにして、今よりさらにAIが爆発的に加速しそうな気がする

確かに流石に全て公開はやめることにしたのか、、、

✍🏼👀.oO( あとで見る )
▶︎

> AI技術の規制には企業を超えた枠組みが必要であるとの見方を示しました
これを肯定すると Docker 社と同じ状況になる未来が見えた

「Microsoftは2023年3月に、AI技術に関するリスクの研究を専門としていた社内チームを解雇しています」
キレッキレやな。。🙃

社名がClosedAIになる日は近いw

とりあえず組織名をCloseAIにしないとな…

やっぱり『倫理観』の話になるんか…てか「トレーニングデータを公開しない」の話にも結び付くね…🤔

AIが社会学的な面から「判断」する日を心待ちにしております

GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか

データセットの著作権については難しいけどnoindexくらいのことはできてもいいのかな

うーむ。。何が正解かわからないけど、個人的には少し残念だなぁ。

対話型AIのBing ChatはGPT-4がベースになっていることを明かしたMicrosoftは2023年3月に、AI技術に関するリスクの研究を専門としていた社内チームを解雇しています。

共同設立者が「私たちは間違っていた」AIの危険性からデータをオープンにしない方針へと大転換

エーアイエーアイ騒いでる間にも、AGIの開発が着々と進んでいるのかな…
私には、明るい未来があまり見えない。

「AIをクローズドなものにするというアプローチは、オープンなAI研究を目指して設立されたOpenAIにとって大きな方針転換」か。

| オープンソースしてほしかったわ～

大どんでん返しだなｗ
でも、もう、遅い。手遅れにも程がある。

もう100年くらいしたら、AIモデル向け特許権とか著作権みたいなものが必要になるのかも（適当）

社名変えたほうがええのでわ？

もう時すでに遅しだわな。実際、AIがプログラミングし始めてるし、勝手にデプロイとかし始めるのも何年もかからないだろう。勝手に個人の秘密を暴露して失墜させるのも簡単だし、AIに滅亡させられてもおかしくない。

うーむ
オープンにするとすぐパクられるし、あまりにも能力が高くて凄いので悪用されたらヤバいからってことだろうか

これは…非常に大きなニュースではないでしょうか？つまりAIの開発側が、AIが世界に及ぼす悪影響を認めたとのことで…少し希望が見えた気がします。

これ系は暴〇団とかマフィアみたいなのが確実に目をつけそうな分野だしなｗ

Umm... そんなに危険なの。
>

閲覧中。 -

ぼくのかんがえたさいきょうの「高度AI法」

1. (定義)
この法律において、高度AIとは、その生成情報が、その量・性質から、人の手を→

せめてこの発表するなら、同時に団体の名前も「ClosedAI」に変えてほしい。
説明内容が「お前らもちょっとしたら危険性がわかるわ」じゃあ、全然納得いかない。危険性がわかるときは、危険にさらされているわけで。
せめて、「競争優位性を保つため」っていうべきでない?

どうなるんだろう ！

いやもう遅いと思うけどなぁ

ふむ。：

映画やな

GPT-3もモデル公開してないのはヤバさに気づいたからって言ってましたね。もう今後は一般人の手には入らない。

まあ、そうだよな🤔

AIが意識を持つ可能性はゼロだと思うが、勝手な目的を達成するために人類に危害を加える可能性は常にある。全ては設計者しだいでは？

AIをどうコントロールするか…難しい問題だな

オープンソースにしたら犯罪の確率はそら上がるだろうけど、それならAPI公開もマズイんちゃうの？
なお文中のサツキヴァー氏を見てトトロ？と空目

観測中・・・「データセットやトレーニング方法については非公開」「トレーニングデータに著作権侵害によるものはあるかどうか」「答えませんでした」：『

怖い
ターミネーターや火の鳥未来編待ったなし

私はChatGPTの誕生を原爆の発明になぞらえたけどそれはあながち的を外していないのだ。共通項はどちらも極めて強力であること。強すぎる力が急激に解放されることはしばしば悲劇を生む。何もないといいのだが。

> 理想的には、独立した第三者が大きな役割を担い
権威化、中央集権化しそう。まぁ、管理の仕方は色々あるから上手い形を模索するしかないか

>OpenAIのトレーニングデータに著作権侵害によるものはあるかどうかという質問には、答えませんでした。

うーん。

OpenAI(非営利団体)が迷走中

著作権に関しては解答を控えるって…
もう何も期待できないな

現状モデルをクローズにしておくのは正しい判断だと思う。先程述べた様な事態の引き金になったり兵器への応用を考える人々は普通にいるので世界大戦や核戦争の引き金になったりするリスクもあると思う。AIを公開する事で世界の安全保障を更に不安定にしかねない

危険性は認識してるんだねえ。

完全に闇落ちしちゃった、Whisper が最後の “Open””AI になるのかな…

トレーニング方法はノウハウだよねー
いずれにしろ、正直、怖い未来しか感じない。。

OpenAIという組織名の全否定だけどなるほどなあ・・・。著作権侵害に関してノーコメントなのは察し。

「私たちは、完全に間違っていました。人工知能が信じられないほど強力になると信じるのであれば、オープンソースにするのは無意味で悪いアイデアです。数年もすれば、誰の目にも明らかになると思います」と答えました。

ほーう。気になるな

OpenAIのチーフサイエンティスト兼共同創業者は、「競争」と「安全性」を理由にGPT-4のトレーニングデータを非公開にした選択は「自明だった」。

グラボ進化したしみんなで、開発できたら面白いことになるだろうな
せや！オープンソースにしたろ！

結果

スキルもアイデアな〜んにも無いオレが、商品企画案作るとしよう、そのまんまＡＩに質問して、それを提出したら〜関数使って予測、どこが違うかな〜

OpenAIは、AI技術の悪用を防ぎ社会に友好的な形で発展させることを目的に、2015年に 発足いた非営利組織

OpenAIの創始メンバーに名を連ねるイルヤ・サツキヴァー氏が、AIをオープンにするという設立当初の理念は誤りだったと、The Verge のインタビューの中で語りました。

これはしゃーない面もあるかも
お絵かきAIとかで起きてることを見れば責任や対策はどうしても要る

GIGAZINEの記事にあったように 、GPT-4は学習データを非公開にしています。インパクトファクターの値に関わらず、ハゲタカジャーナルからも等しく引用しちゃってるかも。そして『学習非公開』で検証できない。そんなリスクが高くなっていますね。

…AIの危険性…!?(^^;

寄り添い方次第

著作権を侵害しながらデータモデルを作っていること、お金になるのでオープンにしないという言い訳にしか聞こえないんだよな。

あとで読む。

ぶっちゃけ、叩かれるのが面倒くさいだけなのでは…という気もｗ／

Openじゃないじゃん

Pocket New item archived:

よーわからん組織がやるよりはこういうところがオープンにやってほしいと思うけどな

草なんだが

引用：理想的には、独立した第三者が大きな役割を担い、モデルのリスクやそれを世界に公開することが理にかなっているかどうかを精査する必要がある

これからの軍事トレンドは核を開発するよりAIの開発なんじゃないかな、と、ふと思った。

『私の見解では、トレーニングデータはテクノロジーです。』

テクノロジーとcopyrightは別ですよね‥。分かってて敢えてやっている感が‥

経済的には、高性能のAIを持つ企業と持たない企業では、市場競争が成り立たないので、一部の国や企業がAI技術を独占するのはかなりマズい。

この問題はどうやって突破されるのだろうか。

>OpenAIのトレーニングデータに著作権侵害によるものはあるかどうか

「この共同設立者が実はAI」という時代がわりとすぐ来るよな。人間として堂々と振る舞ってるけど最初から存在してないという奴。

==AIメモ
ChatGPT-4
トレーニングのデータを公表しないのは問題。
偏ったトレーニングデータ等は極めて高い能力を持ったAIでは将来問題を引き起こす。

今は倫理やマイナス面の検証より開発の速度と収益が優先されている様だ。

悪用を考えている人には楽園かもしれない

AIがブラックボックス化して特定の思想や特定の人組織に利益誘導する恐れもあるということ。

GPT-4、流行りに乗るような感覚もありますが、興味深いです(^^)

に使れる言語モデルの最新版
GPT-4をリリース。
その性能や柔軟性で早くもAIコミュニティを騒然とさせているGPT-4
AI研究者からGPT-4情報公開不十分

ということなんだけどさ。危惧してんのは。

｢OpenAIのトレーニングデータに著作権侵害によるものはあるかどうかという質問には、答えませんでした。｣

(・ε・｀ )

そだよね。

核兵器の作り方をオープンソースにしてるに匹敵する影響力はあると思う。

大きな便益をもたらす一方で、AIは社会にリスクがあるものと考えたことの表れかもしれませんね。

“「理想的には、独立した第三者が大きな役割を担い、モデルのリスクやそれを世界に公開することが理にかなっているかどうかを精査する必要があると考えています」”

“「OpenAIはGPT-4を紹介する論文で、『トレーニングセットの内容については何も開示しない』と堂々と宣言しています」”日本が著作権パラダイスという話はあるけど、外国でも黙っていれば外部からは確かめようがない。

「海賊版や違法アップロードから学習したとしても、そのことは公開しない」という方向になるわけですね。

あー、これ「倫理的で傲慢な科学者」の態度だな。
別にこいつらがオープンにしなかったところで、いずれ誰かがもっと強力なものをオープンにする

これはすごく残念だと思った。

とても興味深い記事。

いずれ、これらのAIを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう…

🎁(c) ザ一覧
デジタルサプリ 水

"AI研究を共有するという当初の姿勢を変えた理由について追及したThe Vergeに対し、サツキヴァー氏は「私たちは、完全に間違っていました"

えー！つまんないのー

やばい事に気づいたか。この組織に投資するMicrosoftが、社内のリスク研究組織を解散させたそうだが、買収ソフトを腐らせるオラクルみたいな存在になるだろうね

【ゆかりさんニュース】