作者：蛋酱

「AI 超级底座」有什么代价？小到一场竞赛，大到全体家当。

从 2022 年开始，大模型就成为了最热门的技能关键词，这种热度显然辐射到了多个干系领域。
比如，在近日召开的 2023 天下机器人大会上，「大模型 + 机器人」就成为现场谈论最多的话题。

这几天，不管是后空翻的四足机器狗，还是吟诗互动的人形机器人，都给到场的不雅观众留下了深刻的印象。
如果你也在现场，一定还会关注到这场「热火朝天」的技能大赛：戴上脑电帽，双手平放只靠「意念」打字、掌握机器臂，乃至指挥无人机，纵然是在这场「黑科技」浩瀚的机器人盛会中也格外吸睛。

这是「天下机器人大赛 —BCI 脑控机器人大赛」连续举办的第七年。
很多人可能不知道，在 2022 年之前，由于赛事系统只能同时支撑十几支军队本地参赛，以是比赛的举办规模一贯受到限定。

而从去年开始，比赛报名、赛题发布、数据建模、算法演习、算法验证等流程成功上云，使得报名规模一下子提升了超过 50%。
今年，大家的参赛激情亲切不减：共有 67 所高校的 200 + 支军队参与，个中，来自机器科学、人工智能、打算机科学专业的参赛者数量最多。

在赛事上云之前，选手们无法在赛场上利用须要 GPU 算力进行深度学习演习与推理的创新算法。
但现在，每一位参赛选手都拥有充足的打算资源在比赛中去验证自己的技能设想。

这几百支军队的每一次算法变动、调试，背后都是腾讯云在供应算力支持。

支撑一场 200 支军队的赛事

须要若何的云端算力？

脑机接口是通过生物电旗子暗记实现直接人机交互的方法，是一门涉及打算机科学、神经科学的前沿技能，在医疗、养老、助残、康复等领域具备巨大前景和广阔市场运用根本。
比如，医院可通过脑机接口识别感情后即时供应生理康健建议、残疾人士可利用脑机接口掌握轮椅完成意念打字进行日常互换等。

在这些方向上，也已经涌现了一些家当化落地的探索。
比如马斯克成立的 Neuralink 就希望借助这项技能帮助视障和行动不便人士，规复视力和行动能力。
今年 5 月，Neuralink 获准进行脑机接口人体试验，意味着脑机接口技能进入了一个新的阶段。

不过，目前的脑机接口技能进展间隔大规模家当化仍有一定间隔。
很多实验室都在投入脑机接口项目的研究，但暂时仅用于根本科研。
中国十分看重脑机接口的家当化发展，2023 年 5 月尾，工信部宣告，将把脑机接口作为造就未来家当发展的主要方向，加强脑机接口运用处景探索，加速推动脑机接口家当发展。

想要推动这项技能的家当化落地，除了政策上的重视之外，培养脑机接口人才也是主要的路子之一。
这也是「BCI 脑控机器人大赛技能赛」举办的初衷。

今年，大赛以脑机接口实用系统为背景，环绕 SSVEP、P300、运动想象三个紧张范式及脑机接口技能运用方向设置了技能赛及技能赛，希望从准确度、速率、实用性、技能性等多维度提高脑机接口技能在旗子暗记识别、医疗康复、生理康健等各领域的技能与家当发展。

经由激烈比拼，来自喷鼻香港大学和澳门大学的港澳联队得到了本次 BCI 脑控机器人大赛「腾讯云杯」技能赛枕叶脑机赛题、脑机对抗安全赛题等的多项冠军。

「比赛中对付算力的需求是动态的，线上赛阶段对算法的韶光哀求比较宽泛，而线下赛阶段须要对数据做实时处理，以是我们对高性能算力有很强的需求，有很多深度学习的模型都非常花费算力。
」斩获多项赛题冠军的港澳联队表示。

在赛事中，腾讯云异构打算所供应的公有云做事 ，让参赛者们觉得「为虎傅翼」。
腾讯云为比赛供应了强大稳定的算力支持，选手能够利用基于 GPU 算力的深度学习算法比拟赛中的大量数据进行演习。

想要探索场景运用，还须要真实的场景数据。
有赖于腾讯云的加持，2023BCI 脑控机器人大赛中首次引入了真实病人脑电科研数据，让参赛者们能够真正打仗到大量科研级别的数据资源。

正在这样的支持下，很多参赛队员能够将更具创意的想法在比赛中考试测验去实现，「BCI 脑控机器人大赛技能赛」也从一场十几支军队的小规模比赛走向了大平台模式，实现了对接科研与家当的代价。
脑机接口技能的上云，进一步降落了科研与家当领悟的门槛，未来将极大推动在医疗、养老、助残、康复等领域的家当运用。

其余，这一次的官方竞赛数据将作为我国脑机接口领域主要研究成果全程保留记录，技能赛的决赛数据和有关算法剖析文章也将收录在清华大学的 Brain Science Advances 专刊中，推动脑机接口技能未来通过高性能云做事在医疗场景乃至日常生活中更快地实现运用转化。

竞赛同期还举办了 2023 天下机器人大会脑控机器人寻衅活动，并创造了本年度的脑控打字、脑控无人机赛会记录。
来自天津大学的选手实现了 10.049bits/min 的键盘手控无人机效率，与手控无人机效率相称；来自清华大学的选手在触屏 - 脑机输入速率桃战中得到了均匀 1.43 字符 / 秒的成绩，靠近现场不雅观众手机触屏打字速率。

大算力时期，须要若何的 AI 超级底座？

像这样为一场两百支军队规模的机器人比赛供应做事，仅是腾讯云的浩瀚「微型实践」之一。

在 IDC 近日发布的《中国人工智能公有云做事市场份额 2022》报告中，腾讯云凭借其 2022 年在打算机视觉、对话式 AI 等领域的领先上风，营收增速达到 124.6%，成为海内收入增速最快的公有云厂商。

同时，作为拥有产品品类最多的云做事商之一，腾讯云所供应打算做事的客户目前已遍布环球。
与一线客户群体需求的密切打仗，让腾讯云更早洞察到云打算做事领域的每一个变革趋势。

显然，变革的速率近年来不断加快：通用大模型时期到来了，AI 正在从 1.0 时期过渡到 2.0 时期。
大模型的共同特点是：数据量巨大，模型参数量巨大，所需算力也是巨大的。
当 AI 家当落地大规模铺开，这对传统的云打算根本举动步伐是不可回避的磨练。

众所周知的 AI 三要素中，算力平台是核心根本。
几年前，单卡或者单机就能完成模型的演习，但在本日，大模型的参数动辄几十上百亿，演习大模型的算力标配是千卡乃至万卡，很多人只能感叹一句「玩不起」。
同时，单体做事器供应的算力也很有限，大规模、分布式的高性能打算集群成为「刚需」。

另一方面，在大模型技能的推动下，数据量呈爆炸式增长，然而很多数据都是非构造化的，想要高效率、低成本地处理数据，面临着很多困难。

曾经的云打算，重视的是单机单卡的性能、标量数据的构造化精准检索以及云原生带来的自动调度。
今后，关注点已经转移到了集群性能的提升、向量数据的存储与检索以及自动容错能力。

在这样的需求下，云根本举动步伐底座的设计范式必须随之进化。

环球的科技公司都在加码布局新一代的算力根本举动步伐，腾讯云的技能底座也在不断升级和变革。
大模型时期，数据、网络、算力构成了底层根本举动步伐的三要素，而 HCC 高性能打算集群、星脉高性能打算网络以及向量数据库，就组成了腾讯云的「AI 超级底座」。

首先便是打造云上算力集群的问题。
今年 4 月，腾讯云正式推出了高性能打算集群产品 HCC。
该集群采取腾讯云星星海自研做事器，搭载最新代次 GPU，做事器之间采取 3.2T 互联带宽，通过对单机算力、网络架构和存储性能进行协同优化，供应高性能、高带宽和低延迟的集群算力。

在非稀疏规格条件下，新一代集群单 GPU 卡支持输出最高 495 TFlops（TF32）、989 TFlops （FP16/BF16）、1979 TFlops（FP8）的算力。

实测显示，腾讯云新一代集群的算力性能较前代提升高达 3 倍。
去年 10 月，腾讯完成了万亿参数混元 NLP 大模型的演习，在同等数据集下，上一代腾讯云 HCC 集群将演习韶光由 50 天缩短到了 11 天。
如果是在基于新一代集群的情形下，演习韶光将进一步缩短至 4 天。

随着集群规模扩大，通信性能会直接影响演习效率。
特殊是参数达到千亿、万亿级别的 AI 大模型，须要大带宽、高利用率、无损的网络来帮助其高效地完成演习任务。

腾讯自研的星脉高性能打算网络利用自研交流机构建了超大规模网络架构，具备业界最高的 3.2T 通信带宽，能提升 40% 的 GPU 利用率，节省 30%~60% 的模型演习本钱，为 AI 大模型带来 10 倍通信性能提升。
基于腾讯云新一代算力集群 HCC，可支持 10 万卡的超大打算规模。

实测结果显示，搭载同样的 GPU，最新的 3.2T 星脉网络相较 1.6T 网络，能让集群整体算力提升 20%。

此外，今年 7 月，腾讯云推出了向量数据库 ( Tencent Cloud VectorDB），这是海内首个从接入层、打算层、到存储层供应全生命周期 AI 化的向量数据库。

随着人工智能技能的快速发展，传统的关系型数据库在处理向量数据时存在一些瓶颈，而向量数据库则能够更好地知足这些运用的需求。
腾讯云向量数据库具备强大的性能和规模上风：不仅支持高达 10 亿级的向量检索规模，并将延迟掌握在毫秒级，比较传统的单机插件式数据库检索规模提升了 10 倍。
同时，腾讯云向量数据库还具备百万级每秒查询（QPS）的峰值能力。
经由腾讯内部海量场景的实践，数据接入 AI 的效率也比传统方案提升 10 倍，运行稳定性高达 99.99%。

从前沿科技到真正的生产力

很多科技厂商都选择从 MaaS（Model-as-a-Service）模式切入大模型之战，这也是腾讯云选择的道路。
在「AI 超级底座」之上，腾讯云搭建了行业大模型 MaaS 做事，包括金融、政府、文旅、传媒、教诲等。
基于这些根本模型，腾讯云的客户只要加入自己的场景数据，就可以天生契合自身业务须要的专属模型。

与其造出自己的大模型，对付很多厂商来说，不如构建一套自上而下的大模型生态工具，助力行业用户开释大模型的生产力，加速家当落地。
MaaS 可以帮助更多中小客户更轻松地接入大模型，并在此根本上发挥自身长处，从实际需求出发高效利用大模型能力。

正如这场比赛，脑机接口是一门关于打算机科学、神经科学的前沿技能，研究成果很随意马虎被限于实验室之内，但在上云之后，一些创意和灵感就能真正转化为大规模的医疗、养老、助残、康复等领域的家当运用。

腾讯云的「AI 超级底座」所供应的大模型高性能打算集群、打算网络以及向量数据库，都是技能转化为生产力的根本。

或许在不久的将来，我们就能在腾讯云的做事中看到来自这场比赛的算法成果。
脑机接口走进普通人生活，还会远吗？