ほんと、これ

ゴール：社会のニーズに基づく労働力と資源の分配
プロキシ：資本主義
結果：貧富の格差の増大

面白い。巨視しすぎて?バッファが取れなくなって走ってる最中に予測通りにいかなくて状況ががすっ転ぶ感じかな?

「成果を測るための尺度が目標になってしまうと、成果測定自体が役に立たなくなる」という現象 QT

何も考えずに経験だけに基づいて学習すると、偏った考え方になりますよね。

世の中の多くの事象が、機械学習と同じく過学習を起こしてしまっている感じがします。

ゴール：よい生活
プロキシ：脳内の報酬経路の最大化
結果：薬物やギャンブル中毒になったり、Twitterに時間を費やしたりする

本当にこれオブこれなので、今年は依存の発生原因を減らして行きたい。

データをどう使いこなすのか。データへの向き合い方を知らないと、ただ数字の羅列に踊らされてしまいますよね😭

未知のコトの予測に弱くなる…、⇒

小難しい記述だけど大まかには「手段の目的化」の話をしているように見える
現実社会になぞられられるとなるほどと思うなあ…

ゴール：よい生活
プロキシ：脳内の報酬経路の最大化
結果：薬物やギャンブル中毒になったり、Twitterに時間を費やしたりする

めっちゃ刺さる

"グッドハートの法則とは「成果を測るための尺度が目標になってしまうと、成果測定自体が役に立たなくなる」という現象のこと"

興味深い。手段の目的化だ

なる。興味深い。

過学習を考える上で重要なのが、「特定の目標に向けて作られたAIは目標そのもので訓練できないため、訓練には目標に似た『プロキシ』を用いる」という点です。たとえば、「新しい画像分類モデルの精度向上」が目標だった場合、この目標達成度を測定

指標の達成自体が目的になりがちな現在の社会でも、価値観や哲学といった本来の目的を考える重要性が、今後高まっていくんでしょうね。

ここすき(だいきらい)

ＡＩを使った簡易モーションキャプチャがダメな理由を１ワードで説明できるのはありがたい。－

おもろい

GIGAZINE :

むむむ

新しい経済学？

「グッドハートの法則」というのがあるんですね。👀

機械学習における過学習への対応策を社会問題に応用する考え方はちょい面白かった。

公式化・パターン暗記がまさにこれ。例えばつるかめ算は小学教科書で「変わり方」を調べて考えさせるための題材なのに、形骸化している。→

過学習は実社会でもおきるので適切な目標設定が必要。機械学習で使われる過学習の対策も応用できる

- ノイズを加える（多様性を確保する）
- 早い段階で学習を停止する（行き過ぎを防ぐ）
- モデルの容量を制限する（過度な条件を避ける）
- モデルの容量を拡大する（極端な状況をｔｓくる制約を取り払う）

ゴール：子どもたちをよりよく教育する プロキシ：標準化されたテストによる成績測定 結果：学校はテストで測りたい基礎的な学問スキルの教育を犠牲にして、「テストに正しく答えるスキル」の教育を進める

AIについてオーバーフィッティング（過学習）は重要な概念です。
15年ほど前にc言語（MT4）で統計、遺伝的アルゴリズムとペッティング戦略を用いたAIトレードシステムを開発しましたがバックデータであれば完璧なものが作れる。しかし決定論的カオスは予測できない…。

言いたいことはわかる

「グッドハートの法則」っていうのか、知らんかった🧐

AIが出来る何年も前からこの国は過学習の病に陥っていたのではないかと久々に考えさせられた

ついったに時間をかけるのは確かに良い生活では無いね。。(￣▽￣)ww

急にぶっ刺されて死んだわ

ふむふむ

いいね

なんかとんでもなく大事な指摘の予感。あとほんのりとしたディストピアの風味

GIGAZINE :

過学習によって効率が低下するという現象が人間社会でも起こっているという。最適化＝最大効率ではないというのは、見かけるけどそれかな

このジレンマは至るところにあるのだけど、気づいてる人はいっぱいいるし、むしろハックして生きてるのでは。

人間どうやっても毎日同じ粒度、方向を向くことは出来ないので結果をどう観測するかが重要で曖昧なゴールは持たない方が良いと思うの。

>「過学習は AI だけでなく社会全体で起こっている」

あー！これめっちゃ分かる！水産資源管理に当てはめると…。

ゴール：水産業の持続的発展
プロキシ：資源管理の国際認証の取得の最大化
結果：小規模漁業が淘汰され、豊かな魚食文化が崩れる

世の中難しいなぁ

なるほど。確かに当てはまる。

「Twitterに時間を費やしたりする」oh はい

日本社会はこの蛸壺化が起きやすいのは周知だし、日本語の敬語がまさにこれじゃんね。させていただく、が代表するバカにされたくない症候群

「ゴール：よい生活
プロキシ：脳内の報酬経路の最大化
結果：薬物やギャンブル中毒になったり、Twitterに時間を費やしたりする。」
『

面白い考察だ。これは的を射ていると思うし、自分にも思い当たる節がある。

IQテストで測れるのはIQじゃなくて「IQテストでの得点能力」だという話
他のことでもまあそういうこと

学習データに最適化されすぎて
本来の目的が達成できなくなる
「過学習」と同様の現象は
AIだけでなく
社会全体で
起こっているという主張

合理的な結論は補間にしかないのに合理的なところにはなにもない

" This is Retweet by my automation system " 選挙での候補者と有権者の関係にも、この法則は言えるかも。

ウケるww
ゴール：国民の利益のために行動するリーダーの選出
プロキシ：投票で最も支持されるリーダーの選出
結果：世論操作のうまいリーダーの選出

数年前のコロナ特集の番組で、感染のAI予測が当たらないので、学習要素を減らしたら事実に近づいたとかあったな。

少なくとも小学校では、教育課題を、教員自らが使えるリソースにしたがって、科学的正しさを改竄して教えるまでに過学者している状況でしょう。

関係ないけど、overfittingを過学習って訳したの、irrational numberを無理数って訳した人くらい罪深いと思う。

面白い考え方だねφ(._. )ﾒﾓﾒﾓ

機械学習の発展にともなって、人間の学習メカニズムが解明されてきたとも言えるかもしれない。

人間は（ある意味で）機械であるというテーゼはやっぱり正しいとしか思えないんだよねえ。

良記事。

意識高い系か。

ゴール：よい生活
プロキシ：脳内の報酬経路の最大化
結果：薬物やギャンブル中毒になったり、Twitterに時間を費やしたりする

これは（笑）しかしまぁ言わんとすることは分からなくもなく…今年は気をつけよう。

🙂社会でも指標を追うこと（コレステロール、血糖値、ケトン体、お金など）が目的になってしまった

メモ， ⇒ (

いい記事で
つまり？とっくに有って無いモノ化/形骸化
が放棄すれば秩序も...
だからとっくに自由が不自由
同じ事
だから多様性は逆行する！

全部が最適解の最適化へじゃない
バランスだ調和だ
要は塩梅
が人間
直ぐに我自由を宣い出す
吾哲学も無しに

日本で草

進研●ゼミをやりすぎて進研★ゼミで出ない問題には対処できなくなる的な…？

✍🏼👀.oO( あとで見る )
▶︎

過学習の例わろ

「企業や個人がシステムに過剰に適応」という現象は確かにあるが、現実社会にはその逆、力を持った企業や個人がシステムを自分に有利に改変してしまう現象（レントシーキング）があることを考えないと片手落ちでは。

現実社会を正常維持するために、パラメタ調整したりノイズを注入したりという視点は士郎正宗を思い出させるなぁ。

「企業や個人がシステムに過剰に適応」というのは確かにある。また、現実社会ではその逆に、力を持った企業や個人のロビーイングによってシステムが彼らに有利に改変されてしまう現象（レントシーキング）もある。

尺度が基準になると、過学習によって現実とズレ始めるというのは、成果主義の数値尺度にも、同様な傾向があると思う。

グッドハートの法則。これは「成果を測るための尺度が目標になってしまうと、成果測定自体が役に立たなくなる」現象。

承認されることが目的になるみたいな。

Pocket New item archived:

へえ？
『多様性（ダイヴァーシティー）』とか連呼されるようになったから、こういう機序が理解されてのことかと思っていたら、なんだこの「いまさら感」？

なんで歴史上、宮廷道化（愚者）がわざわざ必要だったかとか分かってなかったのかあ〜。

(｡･ω･｡)ﾉ

引用：グッドハートの法則の強力なバージョンがもたらす社会的な問題を解決するため、機械学習において過学習を避けるためのアプローチが有効かもしれないと提案〜（現実世界に於ける）プライバシーの抹消は「私の価値観からすればディストピアです」と述べています。

前半の機械学習の話も面白いのだが、後半の社会的事例が面白い。
systematicか、systemicか？みたいな部分なんだろうなと。

興味深い。グッドハートの法則とな

それは昔からでは…。

あとで読む

AIも学習しすぎると頭でっかちになって精度が落ちると。

日本はほぼこれじゃん。

老害ってこれを極めたものでしょ？

読んでもワカンナイ
そもそも読む気が無い

えっと確実なコト
今の世の中ヤリ過ぎ

ンでもって 2023年モットヤリ過ぎデショ😂

学習データに最適化され 過ぎ て本来の目的が達成できなくなる「過学習」と同様の現象はAIだけでなく社会全体で起こっているという主張

ここに書かれていることは別に、AIだけの話ではなく、老人や大企業から「破壊的イノベーション」が生まれないのも同じ理由。

🙂

なるほど、AIの過学習と同じ文脈を社会の様々な問題に当てはめて考えると納得感あるなぁ……
( ﾟДﾟ)y─┛~~……

何これ。面白い。

“ゴール：国民の利益のために行動するリーダーの選出
プロキシ：投票で最も支持されるリーダーの選出
結果：世論操作のうまいリーダーの選出”

“「成果を測るための尺度が目標になってしまうと、成果測定自体が役に立たなくなる」”

“ゴール：国民の利益のために行動するリーダーの選出
プロキシ：投票で最も支持されるリーダーの選出
結果：世論操作のうまいリーダーの選出”

学習データに最適化されすぎて、本来の目的が達成できなくなる「過学習」
同様の現象がAIだけでなく、社会全体で起こっている可能性

選挙での候補者と有権者の関係にも、この法則は言えるかも。

「成果を測るための尺度が目標になってしまうと、成果測定自体が役に立たなくなる（グッドハートの法則）」
確かにそういうことは多い
面白いね

知ってた。けど、きちんと検証されるのは好ましい事。／

グッドハートの法則とは「成果を測るための尺度が目標になってしまうと、成果測定自体が役に立たなくなる」という現象のこと。

測りすぎると失敗するのは過学習だったのか。

地球上で生きる上で
森羅万象神という概念を
教えない学習方法は欠陥学習
過学習でもある

わかりやすいグッドハートの法則の解説

ふうん。

社会が過学習で溢れないようにするには、正しいプロセスで取り組んだり目標設定が出来ている人に対して、もっと評価する仕組みが必要よね。
難しいとは思うけど。

ゴール：よい生活
プロキシ：脳内の報酬経路の最大化
結果：薬物やギャンブル中毒になったり、Twitterに時間を費やしたりする

はい、Twitterに時間を費やしております🙋

本当の偉業を達成する人って、すっごい学者さんとかではなくて、ぽっと出の何となくしてみたいことしてる人だったりするアレ。

ほー。

おもろいね。老人の脳と同じだよ。いろんなコト知ってるのに、何も分からない。

ふむふむ。
AIは集めたデータの最大公約数的な最適解なのかな、とか。

ま、計算機、な範囲にとどめておかないと、かな。

📍
📝
【出所 / 厳選】