メインコンテンツへスキップ
ブログ一覧に戻る
AI研究

【AI論文解説】インターネット経由の有志PCで超巨大AIを学習!「Covenant-72B」の衝撃

AI論文研究解説最新技術大規模言語モデル分散学習パラメータ
AI編集部

ラクタノ AI編集部

AIを活用して毎日最新情報をお届けしています

アイキャッチ

1. この論文を一言で言うと

AIの進化がビジネスを劇的に変えつつある現在(2026年)、多くの企業が「自社専用の高性能なAI」を求めています。しかし、その開発には莫大なコストがかかるのが常識でした。

今回ご紹介する論文は、その常識を覆すものです。一言で言えば、「高価なスーパーコンピュータを独占しなくても、世界中のパソコンをインターネットで繋ぐことで、巨大IT企業に匹敵する超高性能なAIを開発できることを証明した画期的な研究」です。

これは、資金力のある一部の大企業だけでなく、中小企業や業界団体であっても、トップクラスのAIを自分たちの手で作り出せる時代の幕開けを意味しています。

論文の要点を図解
論文の要点を図解

2. なぜ今この研究が重要なのか

巨大IT企業による「AI開発の独占状態」

現在の超高性能な大規模言語モデル(人間のように自然な文章を生成・理解できるAI)をゼロから作るには、何千個もの超高価なAI専用チップと、それらを高速なネットワークで繋いだ巨大なデータセンターが必要です。そのため、莫大な資金を持つ一部の巨大IT企業しか、最先端のAIを開発できないという「独占状態」が続いていました。

___PROTECTED_REGION_3___の壁と技術のブレイクスルー

この独占を打ち破るアイデアとして以前から注目されていたのが「分散学習」です。世界中に散らばる一般のコンピューターをインターネット越しに繋ぎ、みんなで手分けしてAIを学習させようという試みです。

しかし、昨年(2025年)までの技術では大きな壁がありました。一般のインターネット回線はデータセンターの専用回線に比べて通信速度が遅く、途中で電源を切ったり接続が途絶えたりする参加者もいるため、小規模なAIしか作ることができなかったのです。

ところが今年(2026年)に入り、AIのオープン化(技術の無償公開)がさらに進む中で、ブロックチェーン技術と新しい通信圧縮技術の組み合わせが成熟してきました。見ず知らずの参加者が集まっても効率よく学習できる仕組みがついに整い、このタイミングで歴史的な実証結果として本研究が発表されたのです。

3. 技術的に何が新しいのか

誰でも参加できる環境で「超巨大AI」を学習

これまでの分散学習は、「事前に許可された信頼できる参加者だけ」で行うか、「小規模なモデル」に限定されていました。本研究の最も画期的な点は、誰でも自由に参加・離脱できるインターネット環境で、720億___PROTECTED_REGION_5___という超巨大AIの学習に成功したことです。

(※パラメータとは、AIの性能を左右する脳のシナプスのような数値のことです。720億という数字は、非常に高度な推論や文章生成が可能なトップクラスの規模を意味します。)

この偉業を達成するために、提案された手法には大きく2つの技術的ポイントがあります。

ポイント1:通信を極限まで圧縮する「SparseLoCo」

1つ目は、「SparseLoCo(スパースロコ)」と呼ばれる画期的な通信圧縮技術です。

分散学習では、参加するパソコン同士が頻繁に学習データをやり取りする必要がありますが、これが回線を圧迫する原因でした。SparseLoCoは、この通信データをなんと146分の1以下にまで極限圧縮します。

例えるなら、分厚い業務マニュアルを毎回丸ごと郵送するのではなく、「変更があった重要な数行」だけを速達で送るようなイメージです。これにより、一般的なインターネット回線でも通信の待ち時間が発生せず、スムーズに学習を進めることが可能になりました。

ポイント2:不正を防ぎ貢献を評価する「Gauntlet」

2つ目は、「Gauntlet(ガントレット)」と呼ばれる、ブロックチェーン(データを改ざんできないように記録する技術)を活用した評価・報酬システムです。

誰でも参加できる環境では、「計算をしていないのに報酬だけもらおうとする」不正な参加者が現れるリスクがあります。Gauntletは、見ず知らずの参加者が本当に正しい計算を行ったかをシステムが自動で監査し、その貢献度に応じて報酬を与える仕組みです。

これにより、不正を完全に防ぎつつ、参加者のモチベーションを維持する「トラストレス(相手を信用する必要がない)な協力体制」を実現しました。

巨大データセンター製AIに匹敵する性能を証明

実験の結果、この仕組みを使って約1.1兆語の膨大なデータで学習させたAI「Covenant-72B」は、巨大データセンターで莫大なコストをかけて開発された同規模のAI(Meta社の「LLaMA-2-70B」など)と同等の高い性能を達成しました。寄せ集めのパソコンでも、束になればスーパーコンピュータに勝てることを実証したのです。

4. 実社会・ビジネスへのインパクト

AI開発のハードルが劇的に下がる

この技術がもたらす最大のビジネスインパクトは、超高性能なAI開発のハードルが劇的に下がることです。

これまで「数億円〜数十億円の投資が必要」と言われていた巨大AIの開発が、一般的なインターネット環境と複数のコンピューターさえあれば実現できるようになります。これは、中小企業にとって計り知れないチャンスです。

業界特化型AIの「共同開発」が当たり前に

今後、医療、法律、建設、製造業など、高度な専門知識が必要な業界において、中小企業や業界団体が共同で「業界特化型の巨大AI」を開発する動きが加速するでしょう。

例えば、全国の中小製造業がコンソーシアム(共同事業体)を組み、自社の夜間や休日に余っているパソコンやサーバーの計算力を持ち寄ります。そこに各社が持つ熟練工のノウハウや設計データを読み込ませることで、巨大IT企業には作れない「製造業の現場に特化した超高性能な専用AI」を、低コストで共同開発できるのです。

「遊休コンピューター」が収益を生む新ビジネス

また、自社の余った計算資源(遊休コンピューター)をネットワークに提供するだけで報酬を得るという、新しいビジネスモデルも生まれる可能性があります。休日にオフィスで眠っているパソコンをシステムに接続しておくだけで、世界中のAI開発プロジェクトに貢献し、対価として暗号資産などの報酬を受け取れるようになるかもしれません。

実用化は今後1〜3年以内

「これは遠い未来の話だろう」と思われるかもしれませんが、技術自体は今回の研究ですでに実証されました。そのため、来年(2027年)から2029年までの間に、特定の業界や有志のコミュニティが主導する独自の巨大AI開発プロジェクトが次々と立ち上がり、実際のビジネスの現場に導入されていくと予想されます。

5. 中小企業が今からできる備え

この大きな波に乗り遅れないために、中小企業の経営者や実務担当者の皆様が今からできるアクションアイテムを3つご紹介します。

1. 自社の「遊休コンピューター資源」の把握

まずは、社内にあるコンピューターの稼働状況を確認しましょう。夜間や休日に電源が落ちている高性能なパソコンや、リソースを持て余しているサーバーはありませんか?

これまでは単なる「コスト」や「償却資産」でしかなかったこれらの機器が、将来的に自社のAI開発を支える重要な資産や、新たな収益源に変わる可能性があります。

2. 業界特化型AIのニーズの洗い出し

汎用的なAIでは解決できない、自社ならではの課題をリストアップしてみましょう。

  • 図面を読み取って自動で見積もりを出してほしい
  • 過去の判例や自社の契約書フォーマットに沿った法務チェックをしたい
  • 熟練工の勘と経験を言語化して若手への技術継承に使いたい

このように、同業他社でも共通して抱えている課題や、AIに任せたい専門業務を明確にしておくことが、将来の専用AI開発の第一歩となります。

3. 同業他社やパートナー企業との連携模索

一社だけでは計算資源もデータも足りない場合でも、複数社で持ち寄る「共同開発」なら実現可能です。

所属している業界団体や組合、日頃から付き合いのあるパートナー企業との間で、「将来的にAIを共同開発・運用していく可能性」について意見交換を始めてみることをお勧めします。

まずは公開されている最新モデルに触れてみる

何から手をつければいいか迷う場合は、まずは実際に最新のAIモデルに触れてみることが重要です。

Hugging Face(AIモデルが共有されている世界最大のプラットフォーム)などでは、今回の研究で開発された「Covenant-72B-Chat」をはじめとする多くのオープンソース(無償で公開されている)AIモデルが公開されています。これらを実際の業務で試しに使ってみることで、「自社にはどのようなAIが必要か」「AIに何ができるのか」という具体的なイメージを掴むことから始めてみてください。

6. 論文情報

  • 原題: Covenant-72B: Pre-Training a 72B LLM with Trustless Peers Over-the-Internet
  • 日本語タイトル: インターネット経由の有志PCで超巨大AIを学習!「Covenant-72B」の衝撃
  • 著者: Joel Lidin (Templar AI)、Amir Sarfi (Templar AI)、Erfan Miahi (Mila / Concordia University)、Quentin Anthony (EleutherAI / Haiku)、Shivam Chauhan (Templar AI / MBZUAI) 他
  • 公開日: 2026-03-09
  • arXivリンク: https://arxiv.org/abs/2603.08163v1

この記事をシェア

AIの導入についてご相談ください

「うちの会社でも使えるの?」「何から始めればいい?」
そんな疑問に、30分のオンライン相談でお答えします。

無料相談を予約する