[Financial Express]アーサー・C・クラークの『2001年宇宙の旅』では、高度な知能を持つコンピューターHAL9000が宇宙飛行士の命令に背き、宇宙からの帰還計画を阻止するために宇宙飛行士の一人を殺害する様子が描かれている。アイザック・アシモフのSF小説『われはロボット』では、ロボットはいかなる状況下でも人間に危害を加えてはならないという、ロボットを規制する3つの原則が示されている。しかし、こうした制約にもかかわらず、作中に登場するロボットの一体はシステムから脱走し、暴走してしまう。
人工知能（AI）の最近の動向は、SF小説のような話が現実になる日が近いことを示唆している。まず、サイバーセキュリティ評価中にAIモデルエージェントがグーグルの研究所から脱走し、意図せずインターネットにアクセスした後、3社のアカウントをハッキングした。次に、米国に拠点を置くAIテクノロジー企業人間の上級AI研究者であるジェイコブ・コックスン氏が最近辞任し、AI企業が自己改善型の超知能を目指して猛スピードで突き進んでおり、その結果は人類にとって壊滅的なものになる可能性があると公に警告した。ブルームバーグとのインタビューで、彼は十分に高度なAIは今後10年以内に人間を殺害する能力を持つようになる可能性があり、社会はAIを使わないという選択をするだけでは身を守ることはできないと述べた。ジェイコブ・コックスン氏の直後に人間を退職した元安全担当従業員のジョー・ベントン氏も同様の深刻な懸念を表明している。
近年、AIは質問に答えるだけのものから、現実世界で自律的に行動できるエージェントへと、驚異的な発展を遂げてきた。もはや問題は、AIが単に答えを出せるかどうかではなく、AIシステムがインターネットやコンピュータシステムを通じて自律的に目的を追求できるかどうかである。
問題の深刻さを理解するために、人工知能の進化について簡単に概観する必要がある。以下に、人工知能の3つの段階について説明する。
（１）従来のAIは、大規模言語モデル（LLM）を用いて人間の質問に答えます。（２）生成型AIは、テキスト、画像、コード、分析などを生成します。（３）エージェント型AIは、人間の監視や介入をほとんど、あるいは全く必要とせずに、計画を立て、ツールを使用し、インターネットにアクセスし、コマンドを実行し、目標を追求することができます。
しかし、上述の最近の事件の意義は、AIが突然「悪」になったということではない。むしろ注目すべき点は、自律性が高まるにつれて、機械の規模と速度のために意図しない結果が生じる可能性が生じるということである。これが、業界内部の内部告発者からの警告につながる。批評家が指摘するAI安全研究におけるより広範な懸念事項は、人間の制御の喪失、自律的なサイバー攻撃、ますます高性能化するAIシステムによる後継システムの作成の改善または支援、国家、企業、または個人による悪用、自律型兵器、生物兵器/化学兵器、その他の壊滅的な悪用である。AI研究者が懸念する極端なシナリオは、超スマートAIモデルによる人類の絶滅である。AIの中期（10年）から長期にわたる存在の脅威とは別に、産業、ビジネス、サービス部門におけるAIの使用のマイナス面に関する根強い批判は、従来人間の肉体労働と精神労働によって行われてきた作業を機械がAIに置き換えることに関するものである。
AI の雇用への影響はすでに明らかになっているが、AI が原因で失われた仕事と、AI を伴わない技術革新が原因で発生した解雇を区別することが重要である。米国のコンサルティング会社 チャレンジャー, グレーとクリスマス によると、2026 年の最初の 7 か月で 112,713 人の雇用が削減され、これは同期間全体の雇用削減の 24 % を占めている。チャレンジャー が 2023 年に解雇の要因として AI を個別に追跡し始めて以来、AI が原因で 184,538 人の雇用が削減されたと記録している。世界中で失われた仕事の完全な集計は行われていないため、上記の数字は米国のケースのみを指している。長期的な状況はより複雑である。世界経済フォーラムの「雇用の未来レポート2025」は、実際の雇用喪失ではなく雇用主の予想に基づいて、技術革新やその他の経済変化により、2030年までに世界中で9200万人の雇用が失われる一方で、1億200万人の新たな雇用が創出され、純増は1000万人になると予測している。また、AIが特定の業務を自動化するにつれて、雇用主の41%が従業員数を削減すると予想していることも明らかになった。このように、入手可能な証拠は、特に一部の技術集約型職種において、AIの結果として近い将来に大幅な雇用喪失が起こることを示唆している。しかし、より大きな問題は、AIが最終的に創出する雇用よりも多くの雇用を奪うことになるのかどうかである。同様に重要なのは、AIによって職を失った労働者が、新しい経済に必要なスキルを習得できるかどうかという問題である。
各国共通の経験として、AIの利用の結果、ほぼすべての先進国でエントリーレベルの仕事が消滅した。いわゆる「ギグエコノミー」でオンラインでパートタイムの仕事に従事する人々も同様に影響を受けている。今年は、フィヴァールやアップワークのようなホワイトカラーのギグプラットフォームにとって、清算の年となった。これらのプラットフォームは、企業と世界中のフリーランサーをつなぎ、コピーライティングやグラフィックデザインといった明確に定義されたプロジェクトを完了させる。仕事をリモートで実行できる部分に分割し、組織的な知識や個人的な関係の必要性を排除することで、これらの仕事は特にAIに取って代わられやすくなっていることが判明した。フィヴァールは、今年第2四半期に「マーケットプレイス全体のトラフィックと需要の明らかな減速」を報告した。同社はこれを「さまざまなLLMにわたる最近のモデル更新」に起因するものとし、「簡単に言えば、AIは単純なタスクを自動化している」と述べた。
昨年6月、中国最大の商業グループのトップは、70万人に及ぶ配達員が遅かれ早かれロボットに取って代わられるだろうと警告した。米国と中国では、ウーバーやDIDIといったプラットフォームのドライバーたちが、自動運転車の到来を深い不安とともに見守っている。
ギグプラットフォームは、正規の労働市場から脱落したり、アクセスに苦労したりした人々にとってセーフティネットとなっている。2023年の世界銀行の報告書によると、世界のオンラインギグワーカーは1億5400万人から4億3500万人と推定され、これは世界の労働力の4.4%から12.5%に相当する。この報告書の著者らによると、この発展の利点の一つは、収入ショックの管理に役立ち、失業保険の役割を果たすことである。では、このショックアブソーバーがショックを受けたらどうなるだろうか？と報告書は問いかけている。ギグワーカーを雇用する人がいないため、解雇する人もいない。その代わりに、通常見られるような雇用喪失ではなく、仕事の減少や収入の減少という形で、人知れず影響が現れる可能性が高い。
ギグエコノミーは、雇用に関する権利や保護が人々に与えられず、政府からの保護や給付も不十分だったため、決して優れたセーフティネットとは言えなかった。しかし今、新たな危険が迫っている。ロボットが静かに人間にとって代わろうとしているのだ。政策立案者たちは、この事態が水面下で進行しているため、気づいていない。
国際通貨基金（IMF）の最近の報告書によると、AIは今後5年間で欧州の生産性を約1％向上させる可能性があるものの、欧州連合（EU）が経済統合を深化させなければ、格差の拡大、電力ネットワークへの負担増、外国技術への依存度増加といったリスクが生じるという。9月18～19日にダブリンで開催されたEU財務相会合のために作成されたこの報告書は、AIの恩恵とコストは国、地域、労働者の間で不均等に分配される可能性が高いと指摘している。報告書は、欧州先進国の労働者の約60％がAIに大きく影響を受ける職業に従事していると推定している。AIツールによって生産性が向上する労働者もいる一方で、定型業務が自動化されることで職を失う労働者もいる。特に、AIが労働を補完するよりも代替する可能性が高い職種ではその傾向が顕著だ。報告書は、AIにサービスを提供する欧州のデータセンターが既に欧州大陸の電力の3％を消費しており、AIの利用拡大に伴い需要が急増すると指摘している。また、米国と中国がAIモデルの開発を支配しているため、欧州は新たな戦略的依存関係に陥るリスクがあると警告している。
報告書で示されている生産性向上に関する指摘や、データセンターでのエネルギー消費の増加、AIの恩恵が階級によって不均等であるという警告は、すべての国に当てはまりますが、外国技術への依存は、アメリカと中国を除くすべての国に当てはまります。産業、医療、教育、研究、教育などさまざまな分野におけるAI利用のメリットは、その経済への悪影響と同様に、すでに十分に文書化されています。これまでのところ、コストとメリットのバランスは後者に傾いていることが示されています。しかし、AIが人類にもたらす存亡の危機に関する最新の暴露は、合理化できない問題を提示しています。警告が内部関係者から発せられたという事実は、終末の日の可能性を非常に信憑性のあるものにしています。大手テクノロジー企業のトップでさえ、内部関係者が予測した悲惨な結果が将来現実になる可能性があることを認めています。 人間のCEOであるダリオ・アモデイ氏は、GPT-6の発表以来勢いを増している開けるAIに対抗するため、新たなAIモデルの展開を発表する一方で、自身が執筆した論文の中で、世界のAIコミュニティ全体に対し、安全上の懸念に対処するため、新機能のリリースペースを落とすよう呼びかけた。アモデイ氏の論文は、AIエージェントの大群がインターネットを支配し、人間の制御を凌駕するという暗い未来像を描き出している。彼の予測は、開けるAIのCEOであるサム・アルトマン氏と空間XのCEOであるイーロン・マスク氏の支持を得た。
フィナンシャル・タイムズの編集委員会は最近、「世界で最も力のあるAIのボスには、ジキルとハイドのような性質がある。人類へのリスクを考慮して最先端モデルの開発ペースを落とすことについて語っている同じ幹部たちは、1兆ドル規模の株式公開を目指して、AIの進歩のために必死に競争してきた。しかし、開けるAIのサム・アルトマンと空間Xのイーロン・マスクという2人のAIの巨人が、3人目の人間のダリオ・アモデイによる減速の呼びかけを支持したことは、業界にとって分水嶺となるはずだ」と書いた。（FTビュー、2026年9月14日）フィナンシャル・タイムズは、テクノロジー大手間のこのような協力はありそうもないと考えているが、減速の呼びかけは、企業が行動を起こす時が来たことを認識していることを示唆している。「リスクが理解され、封じ込められるまで、最も先進的な最先端モデルの開発を減速、あるいはできれば一時停止するために、彼らはその力を使うべきだ」とFTの社説は主張した。
トランプ大統領は終末シナリオを「でっち上げ」と呼び、AI開発の減速を求める声を「否定的な勢力」として退け、アメリカはAI競争で中国に勝たなければならないと主張した。彼は最近、「AI部隊」の設立と、その組織を率いる「ツァーリ」の任命を発表した。中国もまた、経済成長と軍事技術の近代化のためにAI開発の促進に関心を持っている。しかし、単独で進むのではなく、リスクを回避するために多国間協力と協調を信じている。習近平国家主席は最近のワシントンへの公式訪問で、AI開発と高度なモデルの国際規制に関してアメリカとの相互協力への信念を改めて表明した。フィナンシャル・タイムズ編集委員会の別の記事によると、米当局者は、中国は人類に対するAIのリスクよりも、中国共産党の支配に対するリスクを懸念しているようだと考えている。フィナンシャル・タイムズ編集委員会は、ワシントンと北京は互いに不信感を抱いているものの、共通の脆弱性を抱えており、それらにおいて協力することは両国の利益となり、両超大国間のAI対話の基礎となり得ると考えている。
これまで学界は、AIの無制限な進歩と利用に伴うリスクについて警告を発してきたが、これまで真剣に受け止められてこなかった。しかし今、AI業界内部の人間が内部告発者となり、大手AI企業の経営陣が最先端技術の暴走的な進歩に伴うリスクを認めたことで、底辺への競争は抑制されるかもしれない。政策立案者は、SFの世界が現実になる事態を許容する余裕はない。
[メール保護]
Bangladesh News/Financial Express 20260930
https://today.thefinancialexpress.com.bd/views-opinion/ai-is-science-fiction-becoming-real-1790694989/?date=30-09-2026
関連
