引子

2023年，科技巨头纷纷押注大模型，搅动互联网行业。繁荣背后伴随质疑，推动行业回归理性。元宇宙风潮曾经历类似场景，2021 年 Roblox 成为元宇宙第一股，Facebook 更名为 Meta。2023 年，ChatGPT 成为新热点，元宇宙似乎成为被遗忘的风口，XR 行业也随之寒风瑟瑟。

XR 行业遭遇寒冬

投融资遇冷 2023 年上半年，全球 XR 行业投融资大幅下滑。2021 年，XR 行业投融资金额同比增长 128% 至 554 亿元，2022 年却下滑 11.4%。2023 年一季度降幅继续扩大，同比下降 73.2%。年中略有回升，但 8、9 月再次下降。 大厂收缩、裁员 大厂 XR 业务线陷入寒冬。阿里达摩院 XR 实验室高层人事动荡，多位高管离职。腾讯 VR 部门裁撤 300 多人，转变发展路径。号称研发国内首款元宇宙产品希壤的负责人马杰离职。Meta 裁员 2 万多人，微软解散工业元宇宙团队。 设备销量下滑 2022 年全球 XR 设备销量同比下跌 21% 至 853 万台。2023 年一季度出货量进一步下跌，同比下降 33%。

寒冬的原因

元宇宙回归理性 元宇宙被视为前沿研究方向，但爆火后迅速冷却。XR 行业作为元宇宙入口，不可避免受其影响。 技术瓶颈 当前 XR 设备存在佩戴舒适度、眩晕、延迟等问题。技术发展瓶颈阻碍行业发展。 缺乏现象级应用 XR 行业缺乏杀手级应用，无法吸引广泛用户。 内容生态不完善 XR 内容生态尚未成熟，优质内容稀缺。

寒冬的影响

行业萎缩 投融资减少、大厂收缩，导致行业萎缩。 技术发展受阻 技术发展受限，创新步伐放缓。 用户体验受损 设备问题、内容缺乏，影响用户体验。

寒冬何时过去？

XR 行业寒冬何时过去尚未可知，但以下因素可能影响其回暖： 技术进步 技术突破解决设备佩戴感、眩晕等问题。 现象级应用诞生 革命性的应用带动行业爆发。 内容生态完善 优质内容涌现，丰富用户体验。

结语

XR 行业寒冬是转型阵痛的体现。善于投资未来的企业应深入洞悉行业问题，把握发展机遇。在技术进步、应用创新、内容完善的推动下，XR 行业有望走出寒冬，迎来新的篇章。

---

大模型是什么意思

大模型指的是包含超大规模参数（通常在十亿个以上）的神经网络模型，这些模型在自然语言处理领域得到广泛应用。

一、大模型特点

1、大规模数据集

大模型需要处理大规模的数据集以学习广泛的知识和模式。这有助于模型捕捉更复杂的模式。

2、多任务学习

大模型通常可以同时处理多个任务，这使得模型能够学到更广泛的知识和技能。例如，语言模型可以学习词义、语法、语义等多个方面的知识。

3、模型架构和技术

大模型可以采用不同的模型架构和技术来优化模型的精度和效率。例如，Transformer模型可以用于处理自然语言处理任务，而卷积神经网络可以用于处理图像识别任务。

4、参数规模大

大模型的参数规模非常大，这意味着需要更多的计算资源和存储空间。

二、大模型优点

1、强大的语言理解能力

大模型由于其巨大的规模和复杂的结构，能够更好地理解和处理自然语言，包括语法、语义和语境。

2、高精度的预测和决策

大模型在处理图像、语音和文本等复杂任务时，能够提供更高精度的预测和决策，这在许多领域如自动驾驶、医疗诊断中至关重要。

3、强大的特征学习和泛化能力

大模型通过训练能够学习到数据的深层特征，从而具有更强的泛化能力，能够适应不同任务和场景。

大模型实际应用

1、自然语言处理

大模型在自然语言处理领域的应用包括机器翻译、语言理解、聊天机器人等。这些大模型可以生成高质量、流畅的文本，理解人类语言，并能够进行智能对话。

2、计算机视觉

大模型在计算机视觉领域的应用包括图像分类、目标检测、图像生成等。例如，GAN网络模型可以生成高度逼真的图像。

3、语音识别和语音合成

大模型可以提高语音识别和语音合成的准确度和自然度。

4、推荐系统

大模型在推荐系统领域能够更好地理解用户兴趣，从而更准确地为用户推荐适合的内容和产品。

5、自动驾驶和机器人技术

大模型可以帮助汽车和机器人更好地理解环境和做出智能决策。

6、医疗保健

大模型可以帮助医生在诊断、治疗和研究方面取得更好的效果。

7、金融服务

大模型可以帮助银行和金融机构更好地进行风险评估和欺诈检测。

8、内容生成和设计

大模型可以用来生成与指令相关的文本、图像、代码等内容，也可以对文字、图片进行设计。

9、数据分析

大模型在智能对话方面作用突出，还能够协助进行数据分析。

大模型是什么意思

大模型（Large Model）是指具有数百万或数十亿个参数的深度神经网络模型，这种模型经过专门的训练过程，能够对大规模数据进行复杂的处理和任务处理。

大模型需要占用大量的计算资源、存储空间、时间和电力等资源来保证它的训练和部署。相比之下，小模型（Small Model）是指具有较少参数的深度神经网络模型。小模型常常运行速度更快，也更加轻便，适用于一些计算资源和存储空间较少的设备或场景，例如移动设备或嵌入式设备。

在实际应用中，选择大模型或小模型取决于需要解决的问题和可用资源。大模型通常在自然语言处理、计算机视觉、推荐系统等方面表现良好，它们通常需要高性能计算资源的支持，例如标准的GPU或云端集群。

小模型适合解决一些简单的、小规模的问题，例如信用卡欺诈检测等，它们具有更快的推理速度，可以在低功耗设备上运行，例如智能手机或物联网设备。

大模型能解决的问题

大规模预训练可以有效地从大量标记和未标记的数据中捕获知识，通过将知识存储到大量的参数中并对特定任务进行微调，极大地扩展了模型的泛化能力。在应对不同场景时，不再从0开始，只需要少量的样本进行微调。

再比如BERT已经训练好了，我们要做下游任务，做一个句子的情感分析。那么就会在BERT的输入token中加入一个 class token，这个和vit的做法一样，encoder以后用class token的向量做一下linear transoformation 和softmax和gt做损失训练，所以这一步可以直接初始化BERT模型的预训练参数做finetune，效果要更好。收敛的又快，loss又低。