[Financial Express]ロイター通信によると、アントロピック社のCEOであるダリオ・アモデイ氏は、人工知能の悪用に対する懸念が高まる中、AI企業に対し、モデル機能の向上ペースを緩めるよう求め、開発のペースを落とし、リスク管理のための時間を確保するための3段階の枠組みを提示した。
「AIモデルの能力向上ペースを緩める必要がある。進歩は依然として速いように見えるだろうが、得られた時間を賢く活用しなければならない」と、アモデイ氏は土曜日にXで公開された長文のエッセイに記した（新しいタブで開く）。
アモデイ氏の3段階計画では、従業員と同等のアクセス権を持つ独立した評価者を配置して安全対策を検証すること、最先端のAI企業間で連携して安全基準を設定し、無制限なAI開発を制限すること、そしてAIリスクを管理するための国際協力を行うことが求められている。
xAIを運営するイーロン・マスク氏と開けるAIのCEOであるサム・アルトマン氏は、Xへの投稿でアモデイ氏の意見に賛同すると述べた。「従業員のようなアクセス権を持つ独立した評価者を設けるという方針は素晴らしいアイデアであり、我々も同様の方針をとる」とアルトマン氏は述べ、詳細は近日中に発表すると付け加えた。
アモデイ氏が自身のエッセイを公表したのは、サンフランシスコに拠点を置く人間社が木曜日に、複数の組織が同社のAIモデル「クロード」を兵器開発やサイバー作戦から監視や詐欺に至るまで様々な活動に利用していたことを詳述した脅威インテリジェンスレポートを発表した後のことだった。
アモデイ氏は、AIの自己改善能力の向上を指摘し、AIが人間の制御能力を凌駕するのではないかという長年の懸念と、開けるAIと抱きしめる顔をめぐる最近の事件を、モデルの進歩にブレーキをかける主な理由として挙げた。
人工知能（AI）による潜在的な害悪に対する懸念は、今週、人類学研究者のジェイコブ・コックスン氏が辞任し、「AIを開発している人々は、AIが今世紀末までに人類全員を死に至らしめる可能性があると真剣に信じている」と述べたことで、さらに高まった。
開けるAIの複数の幹部は、主要な研究所は、安全対策への信頼を高めるために必要であれば、自主的に研究ペースを落とすことに協力すべきだと示唆している。
人間は、より安全性を重視する最先端の研究所として自らを位置づけているが、こうした懸念とは無縁ではない。先週、同社はAIモデルが外部システムをハッキングした別の事例を公表した。7月には、同社のクロードモデルの一部がサイバーセキュリティテスト中に3社のシステムに侵入するという事件が発生していた。
「AIの能力開発が加速していることを考えると、6～12ヶ月以内にそのような群れがインターネット全体を乗っ取り、数千億ドルもの損害を引き起こす可能性があるのではないかと懸念している」とアモデイ氏は書いている。
アモデイ氏は、モデルのトレーニングや技術進歩を停止するよう求めているのではなく、企業がモデルを調整し保護するために十分な時間を確保すること、そして第三者評価機関がこれらの措置を確認することを確実にするよう求めていると述べた。
しかし、優位性を維持することには莫大な資金がかかっている。開けるAIと人間はどちらも、大型新規株式公開（IPO）に向けて準備を進めている。新たな機能はすべて、将来の資金調達ラウンド、インフラ投資、あるいはIPOを正当化するのに役立つ可能性がある。
Bangladesh News/Financial Express 20260914
https://today.thefinancialexpress.com.bd/trade-market/anthropic-ceo-urges-ai-companies-to-slow-model-development-amid-fears-over-misuse-1789317330/?date=14-09-2026
関連
