すっかりBe Evileになって久しいGoogleにいた人間が何いっちゃってんの？？？？？… -

このMeredith Whittakerさんの講演は現場に私もいましたが、内容的に現所属を名乗れませんでしたね。で、元グーグルではなく、ちょっと前まで米連邦取引委員会のAI関連顧問で現在はSignalのトップだと書くほうがこの界隈には響くような気がする。今のFTCの感覚も近いのだろう

いやでもこの文章読んでも結局は「米国がAI開発の足を止めている間に中国は軍事政治利用を進める」って感想しか出てこないかな…ただもはやAIは高度過ぎて新規企業が参入出来ないという一文はちょっと気になった

つまり、AIというのは監視モデルの延長線上にある。技術的な飛躍というよりも、権限の集中の結果であるといえます

ChatGPTをめぐる問題には、何が根底にあるのか。

元グーグル社員のウィテカー元NY大研究教授は、一番の懸念は「世界で数えるほどの企業だけがAIを開発し、提供するリソースを持っていること」と指摘します。

独禁法抵触と言われるGoogleが、今度は被害者を気取ってみるって話？
－－

「『中国にやらせるくらいなら、うちがやったほうがいいだろう』と。そのような『冷戦メンタリティー』を持つ人たちは、中国との軍拡競争というストーリーでAIを説明しようとします。中国に勝つ必要がある。そのためには規制をかけず道徳や倫理については考えるのをやめて…」

飲み屋の会話のほうがまだマシな意見に感じるほど中身が、、

この方は、妄言師が家族と使っている通信アプリ Signal の社長さんだったのね。

#

前田直人さん( 「データの民主化」という言葉がよく使われます。ある企業内で、データを社内のだれもが入手でき、活用できるような環境にするこ...

(｡･ω･｡)ﾉ

ChatGPT
「一番問題なのは、世界で数えるほどの企業だけが、これらのAIを開発し、提供するリソースを持っているということです。中立的でもなければ、民主的でもない。究極的には、彼らの利益につながるようにつくられています」

必読: "いま話題のAIは、こうした資源と権限の集中の結果として生まれてきたもので、技術的な革新の成果ではありません。「魔法みたい、人間より賢い、いろんなことに使える」という誇大宣伝が、正確性も安全性もわからない実験的な技術を、正当化することに利用されています"

「規制が何もないのをいいことに、マイクロソフトのような企業はいま、世界の全人口を実験台として利用することが許されてしまっています。倫理や道徳という観点から考えれば、もっと民主的な統制があってしかるべきでしょう。」

核と同じ。

サーチエンジンが資本力的にGoogle独占になったときは何も言わないのに，DLでは騒ぐって言う…
>

「世界の全人口を実験台として利用」

データと権限集中に懸念
「チャットGPTを搭載した検索サービスは新疆でのウイグル族への中国政府の対応は回答しないという設定
MSが真実や公共の利益よりも上位に自社の営業上の利益を置いていたからだ」 元グーグル社員「非常に無責任で無謀」

Twitterは自由👏

一番問題なのは、
世界で数えるほどの企業だけが、
これらのAIを開発し,
-----
中立的でもなければ、民主的でもない。
究極的には、
彼らの利益につながるようにつくられています

「政府機関や社会インフラの多くが、マイクロソフトやグーグル、アマゾンに依存している。過去20年間を見れば、社会への悪影響を防ぐような規制が機能しなかったことが分かる」

元グーグル社員の警鐘です。

今の状態が問題含みな可能性を否定はしないが、この話には「監視（要定義）は悪」「無償の善意でなければ悪意」みたいな雑なレトリックを感じた

《規制が何もないのをいいことに、企業はいま、世界の全人口を実験台として利用することが許されてしまっています。倫理や道徳という観点から考えれば、もっと民主的な統制があってしかるべきでしょう。》

AIが想像した野沢雅子の若い頃かと思った。

全文読めないけれど、大事な部分は公開してくれてる気がする。
"いま話題のAIは、こうした資源と権限の集中の結果として生まれてきたもので、技術的な革新の成果ではありません。"

ピントがずれていると感じる。「ウソにまみれたネットから学ぶAIは容易にデマ拡散器になる」ことが問題だと思う。ルールのある囲碁なら正否を判断できようが、計算機に不可視な実世界の正否をどう判定するというのか

Googleは膨大なネット情報をインデックス化し、それに検索順位を付けて、広告収入を得てきた。
ChatGPTは、同じ膨大な情報を、より人間っぽく整形して吐き出しているだけだと思うのだが。😜

一時期「集合知」って言葉が流行りましたが普通に誤りもありました。その結晶として生まれたAIを今後どうするのか…


一部の大企業の決定によって生じる問題の後片付けをしなければならなくなるのは私たちの社会

✍🏼👀.oO( あとで見る )
▶︎

ビックテックの新戦略ってところか？

個人のデータ漏洩が強いであろうと思われるので、無闇矢鱈とは使えないが、端末の改ざんで市場の動向を探るにはもってこいのシステムだ。

うーん、その理屈だとGoogleとかAWSとかも同じようなこと言えない？
あらゆる企業が金儲けのためにビジネスをしているわけで。

過去に自分が発信した記録を利用しているとのことですが自分はほぼ発信しておらず、発信しても誰も見向きもされない存在なので、この路線で生きていければと思います(*^-^*)無理かな？

> 世界で数えるほどの企業だけが、これらのAIを開発し、提供するリソースを持っているということです...究極的には、彼らの利益につながるようにつくられています"

なるほど。こうやって権限を幻想的に高めて支配体制にまで持っていったというわけか

それで、このTwitterなどのSNSが、たとえユーザーが善意で誹謗中傷を報告しても通らないのは、「利益にならない」からだろう

グーグルの嫉妬定期

「チャットGPTを搭載した検索サービスは、中国・新疆でのウイグル族への中国政府の対応について回答しないという設定になっていた。マイクロソフトが、真実や公共の利益よりも上位に自社の営業上の利益を置いていたからだ」→ChatGTP 元グーグル社員「非常に無責任で無謀」

監視資本主義批判のあのズボフの主張をAIに展開した感じの話．しかし，GAFAのやり方とOpenAIのやり方がイコールである前提になっているけど，本当にそうなのだろうか．そこが気になっている．OpenAIも（ズボフのいう）「人形遣い」なのか？

なるほどー。
いろいろ懸念があるわけね。

ワイがAIのことよくわかってないのでまだハッキリとした意見を持てる段階ではないけど
とりあえずはワイの講義とテキストをパクらないことは願う。

かつてないほど便利で、その一方でかつてないほど恐ろしい世界。
最近も、Twitterが気まぐれにAPIの運用を変更しただけで、過去の投稿に簡単にアクセスする手段を失ったっけ。同じことをGoogleがやったら…と考えると恐ろしい。

「規制が何もないのをいいことにマイクロソフトのような企業はいま、世界の全人口を実験台として利用することが許されてしまっている。倫理や道徳という観点から考えればもっと民主的な統制があってしかるべき」→chatGTP、何が問題か 元グーグル社員「非常に無責任で無謀」

ChatGPTの研究中止を求めたイーロン・マスクが意外なほどまともに見える。

で、「元」グーグル社員ってエラいの？

AIが分析した情報で、話したこともない人間が勝手に判断される時代。道具だということを理解していなければ、統計に可能性が潰されることもある。

結局何が問題か分からなかった

有料会員じゃないので最後まで読めなかったケド…

わかりやすく、貴重なインタビューだと感じました。

元々の監視AIの大元締めで、NSAと繋がるグーグルが批判すると違和感が大きいですね。

アンタも同類だろ？
と、言いたくなります。

自由主義者の立場からは、数えるほどの企業だけでいい、それが自然。

中国のように独裁政権だけより、よっぽどいい。

ChatGPT元グーグル社員「一番問題なのは、世界で数えるほどの企業だけが、これらのAIを開発し、提供するリソースを持っているということです。」

①無料でも使え、有料でも月2,000円程度のサービスの一体何が問題？
②【民主的ではない。AIは彼らの利益に繋がるように作られている】との事だが、AIに限らず全てのサービスがそうだし、Googleとかその筆頭では？Amazonとかさ

ChatGPT元グーグル社員「非常に無責任で無謀」

世界の全人口を実験台として利用

#

結局
AIに核ボタン握られたら
人類は滅びる

そんなマンガを
読んだことある

「倫理的な面でたくさんの懸念があります。一番問題なのは、世界で数えるほどの企業だけが、これらのAIを開発し、提供するリソースを持っているということです」

#
ヤバいです。本当に1984的なヤバい世界になってきてしまった、の感が強い。この流れを押しとどめ、民主的な社会実現に向かわせるには、どうしたらいいのか？ 簡単じゃあない……

優れている一方で、尤もらしく嘘を言いきる。断言されると人は嘘だと思っても揺らぐ。嘘や詭弁だけのインフルエンサーがのさばる理由。AIが無責任に流すデマの中で米大統領選挙が行われる。

「規制が何もないのをいいことに、マイクロソフトのような企業はいま、世界の全人口を実験台として利用することが許されてしまっています。」

>中立的でもなければ、民主的でもない - そんな事はAIに限った話ではないだろう。むしろAIがポリコレに不都合な客観事実を示したり、知識労働を標榜しながらもITに依存的な認知コスト弱者を脅かしたりする事に恐怖を感じたのでは？ ChatGPT、「非常に無責任で無謀」：朝日

朝日新聞の「非常に無責任で無謀」に比べたら全然かわいいものよ。

Googleさんが検索エンジンを通して"中立的でもなければ、民主的でもない。究極的には、彼らの利益につながるようにつくられています"をしてると思うけど

#

3/28にご講演いただいたMeredith Whittakerさんのインタビュー、朝日新聞です。GLOCOMホールでの講演写真も掲載いただきました

いま注目のChatGPTですが、興味深いインタビューです。

元Google社員なんだからバイアスかけたことしかいわないにきまってんだろw
それに元Google一社員の意見にそこまでの価値ないだろ

やっぱ朝日新聞ってバカばっかなんだな😁

「数えるほどの企業だけが…開発し、提供するリソースを持っている…」「『AIに投資しろ』はすなわち『グーグルやマイクロソフトに投資しろ』を意味するのです。冷戦中の核軍拡競争で、民間企業に対する巨額の投資を正当化するのに使われたレトリックと非常によく似ています」

比較的新しもの好きな私がChatGPTブームには少し慎重に行きたいと感じるのはまぁそれなりに理由が。今度外部セミナーで勉強してきます。

独占的な巨大IT企業が監視によって得たデータを、広告によって収益化する。その収益によって高いインフラの費用をまかない、データを集約してAIをトレーニング
規制が何もないのをいいことに、マイクロソフトのような企業はいま、世界の全人口を実験台として利用

↑
つづき
メレディス・ウィテカーの朝日新聞インタビュー記事の全体は誌面には掲載されていないが、デジタル版にはさらに興味深い内容のインタビュー全体が(有料だが)載っている。

一兵卒、中卒な僕が頭のいい人たちに云えることでもないんだけど、こうした議論の種や小競り合い、合意形成は、神が争いを避けるか争いの火種になる為の一種の🍎林檎におもえなくもないが、流れは変えられない。と感じるかな▼

「最近のAIはすごいなぁ」だけじゃない話。自分なりに考えないといけない時が来たなあと。そして知らなかったことがたくさん書いてあります。

インターネットは本当に自由なのか。技術と軍事、企業主導の開発…。デュアルユースとはなにか、考えさせられる

ビッグテックがますます儲かって、職を失った大量の貧乏人が野垂死ぬ世界になるのだろうな。

“AIというのは監視モデルの延長線上にある。技術的な飛躍というよりも、権限の集中の結果であるといえます”

興味深いインタビューです。

「一番問題なのは、世界で数えるほどの企業だけが、これらのAIを開発し、提供するリソースを持っているということです。中立的でもなければ、民主的でもない」

元グーグル社員の学者が警鐘を鳴らしています。

「従来のような、例えば私の位置情報とか、そういうものではなく、もっと内面的な、推論的な形で、私について明らかにすることができます。」

>規制が何もないのをいいことに、マイクロソフトのような企業はいま、世界の全人口を実験台として利用することが許されてしまっています

長文ですが、頭の整理に。どう考えればいいの？に資する記事かと

必読です。→

重要なことが書かれている記事だ。ノーテンキにChatGPTで遊んではしゃぐことの危険さに気付かされる。

#

この5年でみんなが気づくようになりました。IT企業が善意から無料でテクノロジーを提供してくれているのではなく、収益が目的なんだと。私たちの側にも、何十億もの人がいます。…真実に率直でいられることが、私たちの力になると思います」

「そうです。人々は無料で商品やサービスを得て、費用は広告主が払う、という仕組みこそが、監視ビジネスの中心です。彼らは『テクノロジーは無料である』という魔法のような考えを、一般の消費者の間に広げることに成功しました」

1950年代の大半、当時最大のコンピューター会社だったIBMの収益の7割は米軍からのものでした

イタリアでも（一時的）使用中止。
ご存じの通り...イーロン・マスク氏ら著名な起業家や学者も停止を求めるChatGPTをはじめとしたAI。
さてさて、どうなることやらぁ？
『ChatGPT、何が問題か？元グーグル社員...』

「倫理面で多くの懸念がある。一番問題なのは世界で数えるほどの企業だけがAIを開発、提供するリソースを持っていること。中立的でもなければ民主的でもない。究極的には彼らの利益につながるようにつくられています」
我々は踏み越えてはいけない橋を渡ろうとしているのか？

Googleは最近おかしな方向を向き始めている。

非常に興味深く拝読しました。勉強になります。更に再読します。

一気に読んでしまった……キーワードが「監視」だとすると、それを記事中ちゃんと日本語の「監視」としたのも素晴らしい(英語でなんて言ったのか分からんけど)

「チャットGPTを搭載した検索サービスは、中国・新疆でのウイグル族に対する中国政府の対応について、回答しないという設定になっていました」

おまいう

なに言ってるんだ？
MicrosoftのWindowsがなければ今のITの発展もなかったよ

>一番問題は世界で数えるほどの企業だけがこれらのAIを開発し提供するリソースを持っているということです。中立的でもなけ民主的でもない。究極的には彼らの利益につながるようにつくられています

ネット上の多数派意見をまとめるAIである以上、仮にこうゆうニュースが多数派になった場合AIは自分を否定するのかな。

ちょっと滑稽に思えた。

#

ChatGPTなど、高度な人工知能（AI）に対する懸念の声が強まっています。

イーロン・マスク氏らが開発の停止を求めたり、プライバシーの面からイタリア政府が使用を一時的に禁止したり。

何が問題の根底にあるのでしょうか。

これもちょっと、
もう少し功罪を冷静に分析できないものか。

参考になるインタビュー「私たちはもう一つの声として、政府に圧力をかけなければいけません」

⇒
「倫理的な面でたくさんの懸念があります。一番問題なのは、世界で数えるほどの企業だけが、これらのAIを開発し、提供するリソースを持っているということです。中立的でもなければ、民主的でもない。究極的には、彼らの利益につながるようにつくられています」

「その〔大量の〕データは何らかの形の監視によって収集されたものです。AIをもっと使うには、人々を監視してもっとデータを集めてAIに与え、訓練する必要があります。その意味で、プライバシーとAIは対立するのです」

自動「作文」はそのうち慣れる。本命はこっちだろう。

主張はわかるが元グーグル社員に言われるのは納得できない気も（笑）

「AIというのは監視モデルの延長線上にある。技術的な飛躍というよりも、権限の集中の結果であるといえます」

あとで読む…と思ったが、また有料記事か…

非常に考えさせられるインタビュー

分かりやすいな、メレディス・ウィテカー。
朝日新聞よいぞ、このインタビュー。いままでの問題史をきちんと分かりやすく説明させている。

「人々は無料で商品やサービスを得て、費用は広告主が払う、という仕組みこそが、監視ビジネスの中心です。彼らは『テクノロジーは無料である』という魔法のような考えを、一般の消費者の間に広げることに成功しました」

監視モデルの延長にある権限の集中
中立的でもなく民主的でもなく一部の企業の利益に繋がるよう作成されている

検索エンジンも大概野放図だったけどな。なんとかしようと試行錯誤してたのかもしれんけど。

個人データの収集はプライヴァシーの侵害という批判に対して、いや、データは匿名化され、集合的に活用されるのだから個人のプライヴァシーは「直接は」侵害されない、しかもそのお陰でもっと便利になる、というのが従来の合意点だった。そこをどうするのか。

「倫理的な面でたくさんの懸念があります。一番問題なのは、世界で数えるほどの企業だけが、これらのAIを開発し、提供するリソースを持っているということです。中立的でもなければ、民主的でもない。究極的には、彼らの利益につながるようにつくられています」