人類最後の仕事はAIの穴を修正することですね。
今回は囲碁でしたが以前は将棋でした。
そして医療もまた同じ道を辿る
と８年前に書いたコラムがこちら↓です
『人工知能が医師を駆逐する日』


最強の囲碁AIの弱点を突いて人類が勝利したと話題に

タイムリーな話題だ

「ペリン氏が利用した戦術は実際にほとんど使われていないため、AIシステムが十分に訓練を受けていなかった」
訓練し直したらAiがまた勝ってしまうのか

僕も記念にツイートしておこう。

①完成70%で始める②ミスこそ大事🤖👍 まったく問題ない🤔 「 Ank Continent2 …最強の囲碁 に圧勝する人物が登場、AIの弱点を突いて人類が勝利したと話題に

>実際にほとんど使われていないため、AIシステムが十分に訓練を受けていなかった

つまり、”すでに”知られていることしか知らないわけで、そこを外されたら誤判断はするわけだ↓

過渡期だからこそ……

面白い。ただ、将棋のAI対策として一時期言われていた「飛車や角を成れる時に成らない（AIは飛車角は成るものと思っているので混乱する）」と同様に、じきにAI側が対策しそうだな：

AIが反乱を起こした時のために覚えとこ。

AIが「ときとして間違える」のを許容できない局面では信用しすぎてはならないということ。SFによく出てくる「AIの間違った判断による危機」が現実化しそうな世相になってきている。

またもや の悪質な記事．
最強の囲碁AIに圧勝する人物が登場

『 without tree-search 』が肝心！

囲碁的には，囲碁AIはツリー探索しないとド下手な碁を打つというだけの話．
本質のAI研究的には，AIは常に敵対AIへの対抗策を..って話．

の思考の先の

オモロイ。

AIを創ったのが人間なら、それを超えるのもまた人なんですね…
すごい（ΦωΦ）

人類最強騎士を打ち負かす最強AIにアマ騎士でも勝てる弱点があるとな。ただしその戦法はAI相手にしか効果的ではないと。興味深いですね

面白いな

かつての2八角打ち誘導みたいなものか

通常の対戦では有効じゃない方法にAIが対応出来ないのは分かるけどよく見つけたね

人間がAIに勝つとニュースになる時代‼｜

こういうのをみると、AIにも(少なくとも今は)盲点が存在しているのだとわかる。人+AIの協力が最も良い。( チェスだとそういう風潮だと以前にみたことがある。 )

こういう欠陥はＡＩだけではなく、昨今の頭がいいと言われている人々の思考にもあるような気が。。。

こういう欠陥はＡＩだけではなく、昨今の頭がいいと言われている人々の思考にもあるような気が。。。

囲碁でもAIの知らない局面に持ち込んで勝つってことができるのか。どのゲームもギャモンの通ってきた道を辿ることになるってのはあながち間違いでもなさそう。

”「ゆっくりと石の大きな輪を作ることで相手の陣地の一つを囲み、その間に盤面の他の隅で手を打ってAIの注意をそらす」というもの”

この記事がわりやすかったです。

»
「ゆっくりと石の大きな輪を作ることで相手の陣地の一つを囲み、その間に盤面の他の隅で手を打ってAIの注意をそらす」「人間なら注意をそらす作戦にダマされず」

... 過去に経験した特定の状況しか理解できず、人間が容易に理解できるような方法で経験および現在の状況を一般化することができません...

📡AIのバグをついて人間が囲碁圧勝❗📡

「この勝利によって、OpenAIのChatGPTなど現在広く使われているほとんどのAIシステムに共通する弱点が浮き彫りになっています」

これは面白い
つまり今のAIは自分で考えるという本来の意味のAIじゃいってことね
単なる膨大なデータを処理してそれらしく見せているだけということか
だから、ウソも判断が出来ない

“AlphaGoを簡単に打ち負かす戦法は、囲碁を効果的にプレイするものではありません”／なんだかジャンケンみたいで面白いな。AIは効果的なプレイに勝って、効果的なプレイは非効率なプレイに勝って、非効率なプレイは

棋譜を見たけど、どうしてKataGoがこういう打ち方になってしまうのか、人間の目からは謎。二重包囲という特殊な状況を作り、周辺での目眩ましを併用するということなのだろうか。／

AIは本当の意味で囲碁を理解しているわけではないということなんですかね。

＞ペリン氏が実際に用いた戦術は、「ゆっくりと石の大きな輪を作ることで相手の陣地の一つを囲み、その間に盤面の他の隅で手を打ってAIの注意をそらす」

それよりも高速に立場が逆転し続けていることに注目したい

将棋で言う実は勝ってたのに不思議な投了を呼び込むみたいなかんじかな？こういうのを思いつくのが凄いわ

"これまで知られていなかった囲碁AIの欠陥を利用して、AlphaGoに匹敵するレベルの囲碁AIに15ゲーム中14ゲームで勝利しました この勝利によって、OpenAIのChatGPTなど現在広く使われているほとんどのAIシステムに共通する弱点が浮き彫りになっています"

ふむー。それなりに大事な観点な気がするな
まぁ、あんまり気にしないんだろうけど

AIの弱点を突く人力RTAをやってるような時代

AIが学習したことがない物事は、人間の方が対応しやすいのかもしれない。→ 「システムは、過去に経験した特定の状況しか理解できず、人間が容易に理解できるような方法で経験および現在の状況を一般化することができません」

『現在の最先端にいるAIを支える深層学習システムの根本的な欠陥を示唆しています。システムは、過去に経験した特定の状況しか理解できず、人間が容易に理解できるような方法で経験および現在の状況を一般化することができません』

ＡＩとの戦いは続く

弱点をつく作戦で勝ちまくるAIと対戦させまくったら、克服してしまうのでは。

FAR AIが設計したプログラムは、囲碁のトップシステムの一つであるKataGoと100万局以上対戦し、人間のプレーヤーが利用できる「盲点」を見つけました

>ペリン氏が実際に用いた戦術は、「ゆっくりと石の大きな輪を作ることで相手の陣地の一つを囲み、その間に盤面の他の隅で手を打ってAIの注意をそらす」というもの。

「ゆっくりと石の大きな輪を作ることで相手の陣地の一つを囲み、その間に盤面の他の隅で手を打ってAIの注意をそらす」

興味深い。

100万局以上対戦し、人間のプレーヤーが利用できる「盲点」を見つけた

"システムは、過去に経験した特定の状況しか理解できず、人間が容易に理解できるような方法で経験および現在の状況を一般化することができません」"

完全かと思われた機械生命体の思わぬ弱点を見出し、人類が打ち勝つロマンは、SFだけのモノではなかった。

AIの思考パターンを分析して、その盲点を突いたということですね。しかもこれは他のAIサービスにとっても脅威になるとのこと。これをさらに防ぐAIが研究されていきますね。

＞欠陥が見つかるのは、AI研究ではよくあることです。にもかかわらず、非常に大きなAIシステムがほとんど検証されないまま大規模に展開されているのを、私たちは目の当たりにしている

囲碁がわかれば棋譜を見てみたい。わからんけど。

ゆっくりと石の大きな輪を作ることで相手の陣地の一つを囲み、その間に盤面の他の隅で手を打ってAIの注意をそらす。

『嘘食い』の「知者が間違うときは恐ろしいほど根本的に間違う」じゃないけど、AIとてバグをつけば大敗するのね

興味深い

ふむ。：

「人間相手には通用しないような陽動にAIは引っかかってしまう。使われない戦略だから学習データにも無いのだろう」というような話。

へぇぇぇ… →

対策の対策で…😇

なんだと

『ヒカルの碁』でアキラ君が目隠し碁で一番下手な子に苦戦するエピソードが思い出された。
棋譜見ても、通常なら悪手で打たれない手を序盤から連打している。

おー！

Pocket New item archived:

何かのSF映画みたいな話。
でも、この辺のかく乱作戦も近いうちに効かなくなりそう。
ちゃっとにしても行間とか読み始めそう

ほう！

"システムは、過去に経験した特定の状況しか理解できず、人間が容易に理解できるような方法で経験および現在の状況を一般化することができません。"
最後は少し断言的な気はするけど面白かった。

結局AIも知らない戦術を繰り広げるしかない訳で、無からの創造は人間の特権のままか -

🎁(c) ザ一覧
デジタルサプリ 水

人間側が15戦14勝はすげぇな。人間のプレーヤーが利用できる「盲点」か。将棋も類似した盲点みたいな手筋とかあるんかな。

// もちぶろ

【ゆかりさんニュース】