ですって！

。とても勉強になった。（2023年3月4日現在は有料記事になっている）

この記事って結局
冒頭に載っている

「秋葉原で売っているパソコン程度で動かせる」ってのが強すぎる！！

flexgenで検索するとエンジニアたちが、日本でもすでに使い方の記事を結構書いてくれている！

これまでに作ってきた製品（社内ナレッジの抽出と要約）は割と先見の明があったなという自負と、あっさり抜かれるかもしれないという不安。新しい武器を作らなきゃ。

面白い内容だった！

これは最強レベルの良記事です❗️
AIに興味のある方は是非是非お読みください👀
人工知能の歴史からこれからゲームチェンジャーとなるFlexGenについて細かく分かりやすく具体的に解説されています。
日本企業にも向いているとのこと🇯🇵
ChatGPTの次が見えてきます✨超必見です‼️

大規模言語モデルが大規模ではなくなる日が来るのか。統計的機械翻訳についても割とわかりやすく書いてあったので、バックデートで勉強になった。

大変面白かったです

ChatGPTの次は
らしいよ🧐

一般人にはFlexGenをインストールして動かすとか実質的に無理だろうから、誰でもタダで動かせるようにしたChatGPTの功績は偉大だと思う。

AIのこと何もわかってなかったから読んでて面白い

｢現在の会話AIは、自動翻訳の技術が拡張されたもの｣

今週ずっと読まれ続けている記事。
今のところ、これくらいの解像度でわかりやすくかける筆者は さんくらいしかいないのではないかと思います
↓
▶

新たなAI Flexgen
ニュース見かけただけなのでよくわからんがどんどん出てきますね凄いんが🤣

かなり勉強になる記事だった

どんどん押し寄せてくるこの感じ

📡ChatGPTの100倍の性能で、
PC上で稼働するAIが登場！

FlexGen がAIの本命となるか？

次から次と
ai投信はビミョーなんだけどｗ

この記事とは関係ないが、今でさえAIが小説書いたり、絵を描いたりしているんだから、そのうち人間がテーマだけだして、AIが漫画完成させる（絵もセリフも）とかありそう。早いし。

AI研究者が「FlexGen」をゲームチェンジャーと呼ぶ理由

めちゃめちゃ面白い記事。すごいなあ、どんどん進化していく。／

へぇ～これは興味深いね

去年起きたChatGPTのインパクトは認めつつも、すでに飽きつつあったところでこんな記事。数ヶ月もすればChatGPTオワコンとか言われそう。

ChatGPT級のAIがエッジデバイスで実現できればどんな未来がまっているのか。色んなロボットに搭載されれば、さらに人の代替が加速するかも。
---

FlexGenすごい。読み方はフレックスゲン？

“FlexGenはオープンソースライセンスの中ではもっとも制約が緩いライセンスの一つ｢Apache2.0ライセンス｣で配布”

AIの未来を先取りする非常に興味深い記事です。

ふむふむ

PCのグラフィックメモリに常駐できる軽い大規模言語モデル（LLM）であるFlexGenがゲームチェンジャーという話。マップがその場で自動生成されるゲームや会話がその場で生成されるNPCがUnityにくみこまれる？会議の前に議事録できる？

なるほどなー、将来的にはプログラミングも自然言語で行われるようになるだろうか。

読み応えあっておもしろかった！

メモ， ⇒ (

ChatGPTを使い始めたけど、flexgenというのも出たらしい。これは普通にpipでインストールして、自分のPCやcolabでも動かせるみたい。高性能なチャットボットの実装難易度が下がりそう。

とりあえず、今後さらにすごいことになることはわかった（語彙力）

ほう。

本当に翻訳してくれるとは

パソコンで動かせるChatGPT？

｢FlexGen｣が2月15日に公開された
FlexGenが、ChatGPTなどの大規模言語モデルを｢従来の100倍高速に動かせる｣上に、NVIDIA Tesla T4という、わずか16GBのメモリーしかないGPUでその性能を使える

翻訳や会話のAIの本質を語っている。

その先もあるんかい、ってことで…

なるほど。また面白いものでてきた。

非常に興味深い記事だった。

清水亮

> Unityのようなゲームエンジンがサポートするのは時間の問題だろうし、そうなれば、ゲーム内の村人と永遠に雑談できるロールプレイングゲームも作ることができる。

またすごいのが出てきたのだろうか（桁が大きすぎてよくわからん）

ChatGPTって自動翻訳だったのかぁ。嘘をつく理由はそこにあるんだね🤔

ChatGPTで騒いでる場合じゃない。
らしい

把握した

ふんふん

の 氏が取材により本来解説すべきことが書かれている良記事。

記事中に記載はないがノイマン計算機でAIが話すとは要は大規模配列扱いの技と理解。

AI研究者が注目する「FlexGen」は大規模言語モデルを「従来の100倍高速に動かせる」うえに、自宅のPCでも動作するほど軽量です。
そのインパクトの大きさをAI専門家が解説します。

>大規模言語モデルを秋葉原で売っているパソコン程度で動かせる新しいフレームワークが登場したことになる。

面白い時代だ🔥

なるほど…エッジコンピューティング的に、AIが動き出すと、一気に世界が変わる感

今流行っている『大規模言語モデル』のわかりやすい説明もあります。
僕は専門用語はわからないです❗️
それにしても可能性しかないですね。

ChatGPTで騒いでる場合じゃない! AI研究者が｢FlexGen｣をゲームチェンジャーと呼ぶ理由。
FlexGenが、ChatGPTなどの大規模言語モデルを｢従来の100倍高速に動かせる｣上に、NVIDIA Tesla T4という、わずか16GBのメモリーしかないGPUでその性能を使えるということだ。

"FlexGenは、CPUメモリーだけでなく高速ストレージ（一般的なPCに採用される、NVMeなど）にオフロードする選択肢も提供してくれる。
これによって、近い将来は｢Appleシリコンでも動作するようになる｣そうだ。"

GPUボード1枚と多目のメモリを積んだPC1台で動作する「FlexGen」の紹介。ネットに置けない社内文書の要約→社内教育というのは面白い。

FlexGenは、ChatGPTのようなことを遥かに少ないマシンパワーでできるらしい。AI界隈、相変わらず流れが速いわ…

すっごい

『｢辻褄が合うように｣単語を確率的に選択する』

オープンソースフレームワーク

“GPU前提だとGPT-3の推論・学習に1億4千万円の機材必要◆FlexGenの基本原理はメモリーオフロード。ロードマップには「Bloom」対応もあり注目集める”

最近流行りの対話型AIの仕組みを素人にも分かりやすく解説
面白かった

・・・また、未来が少し近くなった。

またなんか出て来た。
あとで読む。

FlexGen について技術的に分かりやすく解説されてよかった（無料分しか読めてないけど）

以前の自然言語処理では、「人間の言葉は機械的に分解可能である」の仮説に基づいていた
だから、品詞まで分解、組み合わせでうまく翻訳できると考えられた

一方、統計的機械翻訳は前後の文脈のみに注目「次に来そうな単語」を確率的な予測に集中した

GPTの100倍の速度で動くフレームワークまで登場してきました。まだ日本語は厳しそうですが..
今までゲームのNPCは固定会話がデフォでしたけど、そのうちオンライン空間の相手が人間かボットかは区別できなくなりそうですね

ほー(*´ω｀*)

AIの学習について書いてあるので、どのようなデータが吐き出されるかの概要がこの記事でつかめそう。

はえーおもろ、本体メモリ256GBはぶいちゃ民でも珍しそうだけど無理じゃないね

業界に変革をもたらす！ウチも採用検討。

個人的メモ

“推論するだけで H100が5基必要で、学習するには30基必要“
筑波大にH100が128枚あるから、意外に現実味あるのでは？と思うのはHPCに毒されてる？／

凄すぎます、、、

メモ


自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす

このライター凄くない？前半の説明がわかりやすくて感動した

今のうちに歴史やら仕組みやらをいろいろ紐解いて知っておくことは重要なことだと思う。

gpt-3より低燃費なモデル

1世代前のTesla T4でも動くのは驚きです

ELIZAからFlexGenまで自然言語処理の歴史をまとめたAI考古学記事とかないかしらー >

すげーなー。もうどんないい発言して言語化に徹しても一旦AI様にお伺いして確認取らなきゃダメな世界線なんだな。
そう考えるとネルフはMAGIといいバランス関係だったんだなぁ。

ほおぅ

また新しいのが出てきた…◼︎

記事の中では、自然言語処理や、大規模言語モデルの仕組みも簡単に解説してあります。

どんどん進む。

FlexGenの基本原理は｢メモリーオフロード｣という考え方で設計されている。GPUに搭載するメモリはとても高価なためCPUが使うメモリほど気軽に増やすことはできない。そこでGPUにはAIの頭脳にあたるNNのごく一部だけを載せ大部分をCPUのメモリに置い

AIはスーパコンピュータだけのものじゃない。パソコンやスマホでできちゃうかも知れない。

🔽technology news



Interesting😌

「FlexGen」、やはり凄そう。技術・展開に引き続き注視すべしですね。

TeslaT4でChatGPT並の精度出るフレームワーク出たらしい(なお物理メモリ256GB)

～意味の理解は不可能であるという前提の機械翻訳～
～現在の大規模言語モデルの基がいろいろ書いてある～

ChatGPTは確かに騒ぎ過ぎだと思っていた。リリースされたFlexGenは、かなりサクサクで、こちらの方が高価なGPUでなく、CPUでメモリーを増やすという手法を使っており遥かに良いようだ。

この記事面白かった👀

大規模言語モデルの仕組みの説明が分かりやすかった。

そっか。これ外国語（英語）学習とパラレルですね。
品詞まで分解するのが日本の学校英語。
しかし、それに習熟しても英語を使えるようになるとは限らない。

他方で私立小学校でしばしば行われているのは、理解を求め...

LLM on 手元PCな世界、いろんな可能性が開かれそう。「GPT3級の大規模言語モデルが、パソコンで動くようになると何が起きるだろうか」 »

“わずか16GBのメモリーのGPUを使用して、だ。 ただしトリックがある。GPUのメモリーは確かに16GBだが、CPU（PC本体）のメモリーを256GBも搭載しているマシンの話だ”

・大規模言語モデルをPCで動かせる新しいフレームワーク｢FlexGen｣が、2月15日に公開された

・従来の100倍高速に動作。GPUメモリ16GB、CPUメモリ256GBで動作

・現在対応している大規模言語モデルはMetaが開発した｢OPT｣だけだが、｢Bloom｣への対応が表明されている

ついていけない

まさに世界が湧いている。
｢FlexGen｣に大注目！

FlexGenを動かせる環境が無いしなぁ。
>>>

>現在の会話AIは自動翻訳技術の拡張
>統計的機械翻訳は｢意味の理解は不可能｣という前提
>AIは翻訳しているとは全く意識していない
>｢会話文1/返答1/返答1への返答/返答1への返答の返答｣
>自動翻訳の歴史は｢人工知能の歴史そのもの｣🤔ﾖﾐﾀｲ