[Financial Express]ニューヨーク、12月15日（ロイター・ブレイクビューズ）：人工知能（AI）分野には多くの不確実性があるが、常に明らかなことが1つある。それは、より大規模で高価なシステムほど、より良い結果を生み出すということだ。だからこそ、1570億ドル規模の開けるAIなどのモデル開発企業が絶え間なく資金を集め、大手IT企業グループが巨額の設備投資を行っているのだ。
しかし、現在、その確実性の核は崩れつつあるようだ。ソフトウェアを訓練するための新しいデータが尽きたため、研究者たちは、単に問題にさらなるリソースを投入するだけで、よりスマートな出力を得ようと奮闘している。ゴールドラッシュの段階は終わりを迎え、より機敏な新しい競争相手にチャンスが開かれるかもしれない。
技術者たちは最近まで、AIは「スケールする」、つまり大きいほど良いということには同意していた。2020年、サム・アルトマンの開けるAIの研究者らは、いわゆる大規模言語モデルは、より多くのデータ、コンピューティングパワー、システムのノブやダイヤルのようなパラメータを使用してトレーニングすると、着実に改善されることを示した。これにより、チップとデータセンターをめぐる軍拡競争が引き起こされ、アナリストらは、マイクロソフトだけで2025年に640億ドルの設備投資を行うと予想している。これはゼネラルモーターズの6倍だ。投資家はそれを買う：アルファベット、アマゾン、メタプラットフォーム、マイクロソフト、エヌビディアの合計時価総額は、開けるAIがチャットGPTをリリースした2022年11月よりも8兆ドル増加している。
問題は、AI スケーリングの法則の証拠が崩れつつあるように見えることだ。最先端のシステムは、すでに世界の有用で利用可能なトレーニング データのほとんどを吸収している。複数の AI ラボは、次世代のモデルで改善点を絞り出すのに苦労している。アルファベットの CEO、サンダー ピチャイ氏は最近のイベントで、主要モデルは同様のパフォーマンス レベルに収束しており、さらなる改善の道は険しくなったと述べた。開けるAI のアルトマン氏は同じカンファレンスで「壁はない」と述べ、AI スケーリングによる容易な利益は薄れつつあることを認めた。
一部の研究者は、今後の進歩は、従来の力ずくのアプローチではなく、より優れたアルゴリズムから生まれると期待している。「テストタイム コンピューティング」と呼ばれる手法は、顧客が AI システムを使用するときの推論プロセスを強化することに重点を置いている。モデルにパターンの発見や新しいデータの使用のための時間を追加することで、より良い結果が得られ、マシンが大きな問題を小さな問題に分割できるようになるかもしれない。有望ではあるが、これは AI 支持者が推進してきたソフトウェアの飛躍的改善というビジョンからは一歩後退している。また、モデルが問題に対する考えられるすべての答えを考え尽くした後、さらに時間を追加しても必ずしも役立つとは限らない。AI システムに時間がかかりすぎると、ユーザーは答えを他の場所で探すこともある。
減速の噂は、アルファベット、アマゾン、メタ、マイクロソフト、エヌビディアの株価に影響を与えていない。新しい時代が各社にさまざまな形で影響を及ぼす可能性は高い。
失うものが最も大きいのは、おそらくエヌビディアだろう。ジェンスン・フアンの同社は、自社のシリコンへのアクセスを確保するための狂乱の駆け引きから利益を得てきた。これは、イーロン・マスクのxAIが最近、すでに膨大な現在のレベルの10倍にあたる100万個のグラフィック処理装置チップを搭載したスーパーコンピューターを構築するという計画に象徴されている。将来、企業はより特殊で安価な半導体の使用を好むようになるかもしれない。そうなれば、エヌビディアの3兆3000億ドルの株式価値は危険にさらされることになる。開けるAIやダリオ・アモデイのアントロピックのようなモデル開発者は、おそらく複雑な気持ちだろう。
プラス面としては、ますます大きなシステムをトレーニングする必要がなくなることで、財務諸表にプラスの影響を与えるだろう。一方、AI のスケーリングが終焉すれば、開けるAI や 人類学的 の独自モデルがさらに賢くなり、最終的には世界の既存ソフトウェアの多くに取って代わるという、これらの企業の強気な見方の一部が崩れることになるだろう。
巨大企業についても状況は同様に複雑だ。朗報は、マイクロソフトのサティア・ナデラ氏とその同僚たちは、ライバル企業がどんなタスクもこなせる超知能の巨大モデルを開発するのを目の当たりにする、という存在に関わるリスクに直面することはもうないかもしれないということだ。これは、AI が無限に拡張されれば考えられたことかもしれない。その競争に負ければ、おそらく史上最大の富を生み出す技術を逃すことになる。したがって、ジャックポットは小さくなったかもしれないが、より強力なライバルに押しつぶされるリスクも小さくなっている。
こうした懸念から解放されたナデラ氏とピチャイ氏は、アクセルから足を離し、支出を正当化する収益が上がるのを待つことができる。株主は喜ぶだろう。鉄道や通信業界の過去の好況は、新技術に対する熱狂の危険性を示している。メタのマーク・ザッカーバーグ氏でさえ、企業がおそらく過剰投資したことを認めている。研究グループエポックによると、最大規模のモデルの計算コストは8か月ごとに倍増しており、トレーニングの電力消費は毎年倍増している。
しかし、設備投資競争の終焉は、参入障壁の低下も意味するかもしれない。巨大なコンピューティングパワーがもはや当たり前ではなくなったら、新しいスタートアップ企業は、おそらくザッカーバーグのメタが提供するオープンソースモデルをベースに設計することで、最小限のコストで競争力のあるAI製品を生み出すことができるはずだ。広く利用可能なシステムを微調整して、法務やプログラマーなどの特定の業界に提供するエンタープライズソフトウェアビジネスの新しい波を想像することは可能だ。シリコンバレーの新興企業に資金を提供し、育成するYコンビネーターは、何百もの潜在的な新しい挑戦者で溢れ、新しい扉を開いている。
どの企業が勝利するかにかかわらず、AIトレーニングのコストが上昇を止めれば、投資家全体にとっておそらく朗報となるだろう。
これは、推論の価格、つまり顧客がすでにトレーニング済みのモデルを使用する際に発生する費用が最近急激に低下したことを受けてのことだ。ベンチャー企業アンドリーセン・ホロウィッツによると、データの単位である100万トークンの処理には、3年前は60ドルかかった。現在では6セントだ。コストのデフレは導入を後押しし、進歩の兆しが広がることにつながるはずだ。たとえばメタでは、チャットGPT導入前と比べて四半期の広告収入が46％増加しているが、これはおそらく広告のターゲット設定が改善されたためだろう。一方、運営費は5％の増加にとどまっている。ゴールドラッシュの後には、投資収益を証明し、投資家の期待に応えるという困難な課題が待ち受けている。
Bangladesh News/Financial Express 20241216
https://today.thefinancialexpress.com.bd/stock-corporate/ai-models-slowdown-spells-end-of-gold-rush-era-1734286029/?date=16-12-2024
関連
