ヴィタリック・ブテリンは、AIが封鎖される未来に警鐘を鳴らす

イーサリアム（@ethereum）の共同創設者であるヴィタリック・ブテリン氏（@VitalikButerin）は、中国のAI開発企業であるムーンショットAIが、新型Kimi K3.1 Proモデルのサイバー攻撃機能を制限するという決定を支持した。同氏は、ユーザーを制限するよりも利用事例を制限する方が良いと主張し、AIのリスク管理を誤ると、業界が厳重な監視と本人確認に基づくアクセスルールへと向かう可能性があると警告している。

ブテリンがキミK3.1 Proについて語ったこと

ゴクシュテイン氏が引用した投稿によると、ブテリン氏は「Kimi 3.1が訓練データから最上位の攻撃的なサイバー能力を意図的に除外していることに異存はない」と述べている。さらに、ユースケースによる差別は、ユーザーによる差別よりもはるかにましだと付け加えた。

ブテリン氏は、世界は強力なサイバー攻撃が到来する前に、準備、システムの強化、古いコードのチェック、新しいコードの正式な検証を行うために、できるだけ多くの時間が必要だと述べた。PANewsの報道によると、同氏はまた、AIリスクの第一波への対応を誤れば、ディストピアのような事態に陥る可能性があると警告した。それは、厳重にロックダウンされたモデル、すべてのアクセスに対する本人確認（KYC）チェック、そして広範な監視といったものだ。そのようなシナリオでは、人々は自身の資格や国籍に基づいて、モデルへのアクセスレベルが異なる可能性がある。

Moonshot AIがモデルで変更した内容

StratNews Globalによると、Moonshot AIは10月24日にこれらの安全対策を発表した。北京に拠点を置く同社は、Kimi K3.1 Proを3兆パラメータクラスで最も高性能なオープンウェイトモデルと位置付けている。同社は、モデルの一般的なコーディング能力は維持しつつ、サイバー関連のデータをトレーニングデータと強化学習環境から削除したと述べている。

Moonshotは技術ブログの中で、サイバー能力の絶対的な限界を押し広げるようなオープンウェイトを公開しないことを目指していると述べた。また、同モデルの攻撃的なサイバー能力は、設計上、自社の開発パイプラインが生成できるレベルを下回っているとも述べた。

同社は、K3.1 Proが社内サイバーベンチマークで81.0%のスコアを獲得したと報告した。これは、リスク軽減策を適用せずに構築された同様のバージョンの90.5%と比較して低いスコアである。UA.Newsが報じたExpress Tribune紙によると、これらの結果は独自に検証されていないという。同紙はまた、Moonshotが11月4日までにモデルの重みを公表する予定であるとも報じた。

これらの制限がどれほど永続的なものになるのかについては、疑問が残る。AI Weeklyによると、最近のポッドキャストで、ホストのネイサン・ランバート氏とフロリアン・ブランド氏は、すでに他のオープンモデルの安全対策を取り除いたバージョンを提供しているサービスについて言及した。彼らはK3.1 Proの改良版のリリース時期については言及せず、Moonshotもそのようなバージョンが登場した場合の対応については明らかにしていない。

ブテリン氏は長年、AIの安全性とプライバシーに注力してきた。今月初め、彼はAIエージェント向けのオープンソースのプライバシー設定を公開した。この設定はTorルーティングとゼロ知識決済を利用して、モデル提供者がユーザーを特定することをより困難にするものだと、BigGo Financeが報じた。

ソース

PAニュース：ヴィタリック氏、キミ3.1の攻撃的なサイバー機能の削除を支持
キミ: キミ K3.1 Pro 技術ブログ
StratNews Global: MoonshotはKimiモデルのハッキング機能を制限