Cointime

扫码下载App
iOS & Android

AI 掀起 GPU 短缺潮:区块链如何缓解机器学习瓶颈?

区块链通过允许分布式访问模型,并创建具有加密激励的更便宜模型市场,为访问较低计算成本的 GPU 提供一座桥梁。

原文标题:《The Rise of AI and GPU Shortages: How Blockchain Alleviates Machine Learning Bottlenecks》

撰文:Tommy Eastman

编译:Frank,Foresight News

随着人工智能的发展和对 GPU 需求的增加,机器学习行业面临着 GPU 成本和可访问性的问题,让我们看看区块链技术是如何提供解决方案的。

GPU 产业

在过去的一年里,基于人工智能的应用程序和集成有了巨大的增长。OpenAI 的 ChatGPT 成为有史以来增长最快的应用程序,在发布仅仅两个月后就达到了 1 亿月活跃用户。相比之下,TikTok 花了 9 个月,Instagram 花了 18 个月才达到同样的里程碑。

对人工智能的需求极大地影响了图形处理器(GPU)的价值和可用性。GPU 是为执行并行计算而优化的处理单元,同时处理许多数据,这使得它们对机器学习、视频编辑和游戏应用程序很有用。由于 GPU 在人工智能赛道具有多用途,因此市场对 GPU 的需求有所增加。

GPU 是由少数几家公司开发和分售的,这在制造业供应链的延迟中很明显。自 2017 年牛市以来,它们一直与区块链行业密切相关,2018 年以太坊工作量证明矿工购买了几乎所有可用的 GPU。以太坊区块链已经转向了权益证明,但随着人工智能的爆炸式增长,区块链技术仍然为获得 GPU、训练成本、分布式推理等常见问题提供了有用的解决方案。

机器学习过程和瓶颈

机器学习是一个庞大而迅速发展的行业。模型的训练通常分为几个步骤,每个步骤都有一定的瓶颈。

1. 基础模型训练

基础模型训练包括获取大型数据集(例如维基百科)并训练初始基础模型,以用作通用智能模型或最终进行微调,它使用学习到的模式和关系来预测序列中的下一个项目。

例如,图像生成模型被训练将图像模式与相应的文本关联起来,因此当给定文本输入时,它们根据这些学习到的模式生成图像。类似地,对于文本,模型根据前面的单词和上下文预测文本字符串中的下一个单词。

基础模型的训练在劳动力、基础设施、时间和精力方面是昂贵的,目前的供应链很难获得最先进的 NVIDIA GPU,即使对拥有充裕资金的公司来说也是如此。

例如 OpenAI 的 GPT-3 的迭代训练持续了几个月,仅能源成本就消耗了数百万美元。因此基础模型的训练仍然是一项昂贵得令人望而却步的努力,只有少数私人企业才能做到。

2. 微调

值得注意的是,与基础模型训练相比,更少的资源密集,微调优化了特定任务的模型(例如学习新方言的语言模型)。基础模型在特定任务上的性能可以通过微调大幅提高。

虽然 GPU 稀缺会影响这三个领域,但微调受到的影响最小。然而,微调完全依赖于开源的基础模型。如果私人公司决定停止开源他们的模型,社区模型将以惊人的速度落后于最先进的(SOTA)模型。

3.推理

访问模型代表了该步骤的最后一步——例如从 ChatGPT 接收问题的答案,这是基于稳定扩散的用户提示生成的图像——需要 GPU 资源用于模型查询。推理在计算需求方面正在迅速升级,特别是在 GPU 支出方面。

推理既包括最终用户,也包括将模型合并到其应用程序中的开发人员,这是确保该模式经济可行性的途径。这一概念对于将人工智能系统整合到社会中至关重要,其重要性体现在终端用户积极使用 ChatGPT 等工具的快速采用率上。

GPU 的稀缺性使得推理成本迅速上升。虽然与基础模型训练相比,推理的基准线要求较低,但公司部署应用程序的规模要求查询模型的 GPU 负载惊人。随着 GPU 模型多样性的增加(通过微调和新的基础模型开发),应用程序的多样性将会增加,而来自推理的 GPU 需求将急剧增加。

区链为机器学习瓶颈提供解决方案

在过去,GPU 被用于挖掘以太坊和其他 PoW 代币。现在,区块链被视为一个独特的机会,可以提供访问和增加 GPU 空间瓶颈之间的协调——特别是在机器学习方面。

加密激励

大规模 GPU 部署需要大量的前期资金,这阻碍了除了大型公司之外的所有公司在这一领域的发展进程。区块链激励为 GPU 所有者创造了从备用计算中获利的潜力,为用户创造了一个更便宜、更容易进入的市场。

分布式访问

任何人都可以提供 / 使用计算、托管模型和查询模型——这与需要处于测试版或在传统空间中具有有限的访问权限有明显的不同。

区块链可以为机器学习空间提供的一个重要特性是分布式访问。传统上机器学习需要大型数据中心,因为 FMT 还没有在非集群 GPU 上大规模完成,而分布式协议正试图解决这个问题,如果成功,将打开 FMT 的闸门。

市场协调

区块链市场帮助协调 GPU 采购,允许拥有 GPU 的个人和公司找到想要租用它们的人,而不是让它们闲置,在 GPU 闲置的时候产生收入可以帮助抵消购买 GPU 的前期成本,允许更多的实体参与 GPU 托管。

Foundry 对负责任 AI 的承诺

区块链机器学习领域是一个刚刚起步的行业,在主网上只有很少的项目。目前 Foundry 正在支持 Bittensor AI 项目以及 Akash,这被证明是推进分布式 AI 的一种有意义的方式。

Bittensor

Bittensor 是一个去中心化的、无需许可的计算网络,可以更容易地访问模型,并通过加密激励创建一个更便宜的模型市场,任何人都可以托管模型,并且用户提示与给定模态的排名最高的模型相匹配。

Bittensor 已经发展成为加密领域最大的人工智能项目之一,利用区块链创建了一个大规模的计算推理网络,该网络最近发布了激励不同模式的子网,包括图像生成、预测市场等。

Foundry 在网络上进行验证和挖掘,并运行权威证明节点以确保共识。

Akash

Akash 是一个通用的计算市场,它允许更容易地大规模访问 GPU,训练更多的基础模型,并降低 GPU 的成本。

Akash 最近推出了他们的 GPU 市场,其目标与减少入门资金门槛、降低 GPU 计算成本和增加可访问性类似,基础模型培训计划在 Akash 发展。Foundry 正在为网络提供 GPU 计算,并与团队合作开发功能。

接下来是什么?

随着机器学习继续融入企业,对 GPU 的需求将继续飙升,这在机器学习领域引发了持续的供应链问题,区块链技术通过允许分布式访问模型并创建具有加密激励的更便宜的模型市场,为访问较低计算成本的 GPU 提供了一座桥梁。

评论

所有评论

推荐阅读

  • 美股三大指数集体高开 科技股普遍反弹

    美股三大指数集体高开,道琼斯指数涨0.80%,标普500指数涨0.44%,纳斯达克综合指数涨0.63%。热门科技股中,苹果股价下跌0.31%,英伟达股价上涨1.48%,微软股价上涨0.32%,谷歌-A股价上涨0.99%,亚马逊股价上涨1.36%,台积电股价上涨1.42%,SpaceX股价上涨2.2%,特斯拉股价上涨1.28%,Meta股价下跌0.47%,博通股价上涨0.27%,SK海力士股价上涨2.46%,美光科技股价上涨0.14%,超威半导体股价上涨0.71%,阿斯麦股价上涨0.45%,思科股价上涨0.23%,甲骨文股价下跌3.9%,英特尔股价下跌1.22%,戴尔科技-C股价下跌0.5%,ARM股价下跌0.18%。

  • Anthropic第三季度营收同比增长1127% Claude营收达170亿美元

    11月2日,Anthropic披露,截至2026年9月30日的三个月,公司营收同比增长1127%,旗下Claude业务营收达到170亿美元。同期,公司调整后营业利润为25亿美元,调整后营业利润率为15%;但按会计口径计算,营业亏损为5.67亿美元。 此外,截至9月30日及此后,公司采购承诺及租赁协议项下的承诺支出总额约8954亿美元。

  • Strategy 上周增持 810 枚 BTC

    据 Strategy 官网数据,Strategy 上周增持 810 枚比特币,累计持仓由 848,517 枚增至 849,327 枚,今年累计买入 176,827 枚。

  • Melius Research将英伟达目标价从420美元下调至315美元

    11月2日,Melius Research:将英伟达(NVDA.O)公司目标价从420美元下调至315美元。将迈威尔科技(MRVL.O)的目标价从445美元下调至300美元。

  • 香港交易所:延长衍生产品收市后交易时段

    11月2日,香港交易所将延长衍生产品收市后交易时段。由2027年3月起,香港交易所衍生产品收市后交易时段的收市时间由现时凌晨3时延长至凌晨4时15分;将根据收市后交易时段延长后的市场发展,考虑是否于2027年11月将收市时间再延至凌晨5时15分。新安排下,收市后交易时段的收市时间将由凌晨3时延长至凌晨4时15分,让市场参与者可在香港日间交易时段以外,因应外围市况灵活管理风险。

  • ETH突破2300美元

    行情显示,ETH突破2300美元,现报2300.05美元,24小时涨幅达到1.35%,行情波动较大,请做好风险控制。

  • 本周重要事件与数据预告:美国中期选举、非农、中国外储

    11月2日,本周重要事件与数据预告如下: 1. 周一:①数据:中国10月RatingDog制造业PMI;瑞士9月实际零售销售年率;法国、德国、欧元区、英国10月制造业PMI终值;美国10月标普全球制造业PMI终值;美国10月ISM制造业PMI;美国9月营建支出月率;②事件:今日有1万亿隔夜逆回购、560亿元7天期逆回购到期。③财报:苹果(AAPL.O)、Palantir(PLTR.N)等。 2. 周二:①数据:澳大利亚至11月3日澳洲联储利率决定;瑞士10月CPI月率;美国9月JOLTs职位空缺;美国9月工厂订单月率;②事件:澳洲联储公布利率决议和货币政策声明,主席布洛克召开货币政策新闻发布会;2027年FOMC票委、芝加哥联储主席古尔斯比发表讲话;欧洲央行管委拉德夫、穆兰、科赫尔、多伦茨等发表讲话;2026年美国中期选举;③假期:日本东京证券交易所因文化日休市一日;④财报:辉瑞(PFE.N)、AMD(AMD.O)、BioNTech SE(BNTX.O)等。 3. 周三:①数据:美国当周API原油库存;中国10月RatingDog服务业PMI;法国、德国、欧元区、英国10月服务业PMI终值;欧元区10月CPI初值;美国10月ADP就业人数;美国9月贸易帐;美国10月标普全球服务业PMI终值;美国10月ISM非制造业PMI;美国当周EIA原油库存、当周EIA俄克拉荷马州库欣原油库存、当周EIA战略石油储备库存;②事件:欧洲央行管委内格尔、首席经济学家连恩发表讲话;美国财政部发布季度再融资公告;第二十四届中国半导体封装测试技术与市场年会于11月4日-6日在南京丰大国际大酒店举行;③财报:高通(QCOM.O)、Arm(ARM.O)、Uber(UBER.N)、麦当劳(MCD.N)等。 4. 周四:①数据:法国9月工业产出月率;瑞士10月季调后失业率;欧元区9月PPI月率;美国10月挑战者企业裁员人数;英国至11月5日央行利率决定;美国至10月31日当周初请失业金人数;美国10月全球供应链压力指数;美国当周EIA天然气库存;②事件:日本央行公布9月货币政策会议纪要;欧洲央行管委穆兰、执委施纳贝尔等发表讲话; 英国央行公布利率决议、会议纪要及货币政策报告,行长贝利召开货币政策新闻发布会;瑞士央行行长施莱格尔发表讲话;2026年FOMC票委、克利夫兰联储主席哈玛克就稳定币和避险货币汇率问题发表讲话;2027年FO

  • 伊朗外长披露“两天计划” 美方履约方能重启伊美谈判

    当地时间11月1日,伊朗外长阿拉格齐在接受媒体采访时表示,伊朗代表团访问卡塔尔是伊朗与卡塔尔、巴基斯坦等调解方持续沟通的延续。目前,摆在桌面的方案与伊朗此前提出的“七日计划”基本相同。卡塔尔和巴基斯坦等调解方也就此进行了多次磋商和讨论,并提出了比伊朗“七日计划”更具可行性和可操作性的建议。 阿拉格齐表示,卡塔尔提出的建议之一是“将七天期限缩短至五天甚至更短”。目前,伊朗同意一项“两天计划”,即:第一天,美国将采取一系列(履约)措施。第二天,霍尔木兹海峡将开放,海峡交通将恢复到之前的状态。 阿拉格齐指出,现在所有这些问题都摆在了桌面上,只要(美国)遵守伊朗这个为期两天的计划,就能为和平铺平道路,使霍尔木兹海峡恢复正常。在美国履行相关承诺、霍尔木兹海峡开放后,伊朗与美国恢复谈判的道路才会打开。据了解,伊朗提出的美国必须履约的条件包括:确定霍尔木兹海峡通航新航线、解冻伊朗资金、结束包括黎巴嫩在内的地区战争、解除海上封锁、伊朗出口石油豁免权、解除在《伊斯兰堡谅解备忘录》后美国实施的新制裁等。(央视)

  • 以媒:以色列已准备好与美国联手打击伊朗,但具体目标尚不明确

    11月2日,据《耶路撒冷邮报》报道,如果特朗普要求以色列国防军(IDF)在11月3日美国中期选举后参与美军空军对伊朗的军事行动,以军已做好打击准备,但目前局势仍笼罩在诸多不确定性之中。特朗普此前曾在今年8月、10月初及其他多个时点撤回对伊朗发动袭击的威胁,而如今袭击可能性再次上升,部分原因在于各方已尝试通过其他途径争取伊朗让步,特朗普团队中的部分成员也正重新转向支持军事打击。过去一周,超过10架美国军用运输机抵达以色列南部的内瓦提姆空军基地和乌夫达空军基地,似乎是在为一场重大军事行动做准备。另有报道称,美国正向以色列及其他阿拉伯盟友调运防空系统和拦截弹。不过,目前美国在该地区的兵力仍少于此前一些时期的部署规模。但这可能只是部署的开始。美国与以色列对于此类军事行动的具体目标仍存在分歧。(金十)