随着、等大型言语模型（LLM）的发生，提醒工程（PromptEngineering）变得越来越关键。很多人将prompt视为LLM的咒语，其好坏间接影响模型输入的结果。

如何写好prompt，曾经成为LLM钻研的一项必经课。

引领大模型开展潮流的target=_blankclass=infotextkey>OpenAI，近日官网颁布了一份提醒工程指南，该指南分享了如何借助一些战略让GPT-4等LLM输入更好的结果。OpenAI示意这些方法有时可以组合经常使用以取得更好的成果。

指南地址：

六个战略，取得更好的结果

战略一：写分明指令

首先用户要写分明指令，由于模型不可读懂你的大脑在想什么。举例来说，假设你宿愿模型的输入不要太便捷，那就把指令写成「要求专家级别的写作」；又比如你不青睐如今的文本格调，就换个指令明白一下。模型猜想你想要什么的次数越少，你获取满意结果的或者性就越大。

只需你做到上方几点，疑问不会太大：

首先是 提醒中尽量蕴含更具体的查问信息 ，从而取得更关系的答案，就像上方所展现的，雷同是总结会议记载，驳回这样的提醒「用一个段落总结会议记载。而后写下演讲者的Markdown列表以及每个要点。最后，列登程言人倡导的后续步骤或执行名目（假设有）。」结果会比拟好。

其次是 用户可以提供示例 。例如，当你想让模型模拟一种难以明白形容的回答格调时，用户可以提供少数示例。

第三点是 指定模型成功义务时所需的步骤 。关于有些义务，最好指定步骤如步骤1、2，显式地写出这些步骤可以使模型更容易地遵照用户志愿。

第四点是 指定模型输入的长度 。用户可以要求模型生成给定指标长度的输入，指标输入长度可以依据单词、句子、段落等来指定。

第五点是 经常使用分隔符来明白划分提醒的不同部 分。"""、XML标签、小节题目等分隔符可以协助划分要区别看待的文本局部。

第六点是让模型表演不同的角色，以管理其生成的内容。

战略2提供参考文本

言语模型会时不时的发生幻觉，自己发明答案，为这些模型提供参考文本可以协助缩小失误输入。须要做到两点：

首先是批示模型经常使用参考文本回答疑问。假设咱们可认为模型提供与以后查问关系的可信信息，那么咱们可以批示模型经常使用提供的信息来组成其答案。比如：经常使用由三重引号惹起来的文原本回答疑问。假设在文章中找不到答案，就写「我找不到答案」。

其次是批示模型从参考文本中援用答案。

战略3：将复杂的义务拆分为更便捷的子义务

正如软件工程中将复杂系统分解为一组模块化组件一样，提交给言语模型的义务也是如此。复杂的义务往往比便捷的义务具有更高的失误率，此外，复杂的义务理论可以被从新定义为更便捷义务的上班流程。包括三点：

由于模型具有固定的高低文长度，因此要总结一个很长的文档（例如一本书），咱们可以经常使用一系列查问来总结文档的每个局部。章节摘要可以衔接起来并启动总结，生成摘要的摘要。这个环节可以递归地启动，直到总结整个文档。假设有必要经常使用前面局部的信息来了解前面的局部，那么另一个有用的技巧是在文本（如书）中任何给定点之前蕴含文本的运转摘要，同时在该点总结内容。OpenAI在之前的钻研中曾经经常使用GPT-3的变体钻研了这种环节的有效性。

战略4：给模型时期去思索

关于人类来说，要求给出17X28的结果，你不会立马给出答案，但随着时期的推移依然可以算进去。雷同，假设模型立刻回答而不是花时期找出答案，或者会犯更多的推理失误。在给出答案之前驳回思想链可以协助模型更牢靠地推理出正确答案。须要做到三点：

首先是批示模型在急于得出论断之前找出自己的处置方案。

其次是经常使用innermonologue或一系列查问来暗藏模型的推理环节。前面的战略标明，模型有时在回答特定疑问之前具体推理疑问很关键。关于某些运行程序，模型用于得出最终答案的推理环节不适宜与用户共享。例如，在辅导运行程序中，咱们或者宿愿激励在校生得出自己的答案，但模型关于在校生处置方案的推理环节或者会向在校生提醒答案。

innermonologue是一种可以用来缓解这种状况的战略。innermonologue的思绪是批示模型将原本对用户暗藏的局部输入放入结构化格局中，以便于解析它们。而后，在向用户出现输入之前，将解析输入并且仅使局部输入可见。

最后是征询模型在之前的环节中能否遗漏了任何内容。

战略5：经常使用外部工具

经过向模型提供其余工具的输入来补偿模型的弱点。例如，文本检索系统（有时称为RAG或检索增强生成）可以通知模型关系文档。OpenAI的CodeInterpreter可以协助模型启动数学运算并运转代码。假设一项义务可以经过工具而不是言语模型更牢靠或更有效地成功，或容许以思索应用两者。

战略6：系统的测试变动

在某些状况下，对提醒的修正会成功更好的性能，但会造成在一组更具代表性的示例上全体性能变差。因此，为了确保更改对最终性能发生踊跃影响，或者有必要定义一个片面的测试套件（也称为评价），例如经常使用系统信息。

更多内容，请参考原博客。

再增两百博士下一线，华为云盘古大模型奔涌进行业

在过去几个月的大模型落地实践中，业界遇到了方方面面的挑战。为了攻下行业山头，华为常务董事、华为云CEO张平安在华为全联接大会2023上，提出了 “解难题、做难事、行致远”的号召。华为云今年还将派出200多位博士和天才少年，与行业头部企业、战略伙伴一起，开展大模型落地会战。

文｜赵艳秋

编｜牛慧

9月21日，在盘古大模型3.0推出两个多月后，华为云在华为全联接大会2023上又推出了汽车、医学等新的行业大模型，并对政务、矿山、气象、数字人直播、软件研发等大模型进行了升级。

与会者观察到，华为云全力在行业大模型的道路上快速推进，打法路径更为明晰。会议上宣布了矿山、气象、政务等大模型落地的标杆案例。

由于不少行业处于大模型落地早期，在过去几个月的实践中，业界普遍反映，遇到了方方面面不小的困难。华为常务董事、华为云CEO张平安在会上提出了“解难题、做难事、行致远”的号召。

数智前线获悉，为了攻下行业山头，华为云今年还将增派200多位博士和天才少年到一线，与头部企业、战略伙伴一起，开展各种会战。

大模型的路线“分歧”

今年7月华为云发布盘古大模型3.0后，很多客户和业界朋友找到软通动力华为云智能服务总经理魏建勋咨询，华为云所说的大模型，为什么与OpenAI的ChatGPT大语言模型不同？

华为云对大模型的定义和发展路径，在业界也引发争论。不少大厂今年强力投入的是大语言模型，但华为云发布的是自然语言、视觉、科学计算、预测、多模态等五个基础大模型以及数个行业大模型，对大语言模型并未特别强调。

有人士认为，这混淆了大模型的概念，也有人士认为，解决行业问题才是硬道理。不过，魏建勋发现，最近一个多月，华为云的大模型单子越来越多，找华为云和软通动力合作的企业也越来越多。“大家看到在行业中，尤其在矿山和气象领域的典型落地案例后，无论在惠民，还是在企业收益上，大家都渐渐有了感知。”

“华为云主打的是行业，行业有纵深，会遇到多种多样的诉求。”魏建勋告诉数智前线，在这种情况下，只有大语言模型是不行的。

华为云一位高管告诉数智前线，之所以选择这个模式，是因为他们觉得一个模型解决不了所有问题。“有的模型擅长文，有的擅长理，比如我们的科学计算大模型，能解决调度这类复杂问题。我们的盘古气象大模型，研究成果上了《自然》杂志，就是因为它有一个独立的模型。”

“从本质上看，华为云的大模型道路是一条可落地、可变现、不烧钱的商业路径。”从事数字人应用开发的云蝠智能创始人魏佳星观察。

他坦言，华为云选择这条路径与ToB基因密切相关。国内外有多个大厂在做大语言模型，但在大语言模型还未展现出明确商业化优势前，“在这样一个竞争氛围里，我感觉华为即使去做，胜算也不会太高”。而在产业这块就不同了，像华为云盘古气象大模型，一两年内可能就是市场上的独家技术。“在这个窗口期内，它可以继续加大数据、加大算力，做到占领市场。”

实际上，在华为全联接大会2023上，张平安介绍，盘古气象大模型已在欧洲中期天气预报中心、国家气象局等开始试用。泰国气象局也启动了与盘古的合作。在矿山领域，山东能源集团已把矿山大模型全面应用到9大业务系统、21个场景中。目前，矿山大模型在全国其他8个矿井开始规模使用......

华为判断，人工智能应用迎来奇点，正在加速进入行业生产系统，未来2年将深入到50%以上的行业核心场景，逐步成为数字经济增长的主引擎。

“这是不是有点像5年前新能源车的状况？”魏佳星说，“在纯电赛道没有一个明确的定论前，一些企业先做增程式，比做纯电跑得要快，但大家一开始也有争议。”

不过，大模型落地行业，并不是一件容易的事。

一位金融行业资深人士向数智前线描述了今年银行落地大模型的状态：二三月，大家都很焦虑，怕落后；四五月，纷纷组建团队去做；之后几个月，大家在找方向、落地上遇到了困难，开始变得理性；现在，他们看标杆，把验证过的场景拿来试用。

在这个过程中，除了编程助手这类开箱即用的功能外，业界发现，大模型与业务场景结合的难度不小，一方面需要大算力，不少头部企业因为数据与合规要求，要构建基础设施，投资大，有一定周期；另一方面，在行业或企业大模型的训练上，即便是微调，也可能要一两万条数据，还要找到适宜的方法，企业都在探索中；同时，不少企业还要开发算子，解决公有云和私有云协同。

魏建勋观察，目前阶段，华为云的打法是聚焦头部企业，找到具有代表性和普适性的痛点，结合盘古大模型和企业know-how，打造行业标杆，为行业复制打基础。

大模型落地大会战

打造标杆是一件具有开拓性的事。在华为内部有着密密麻麻的Roadmap，科学家和数学家进一步下沉一线，识别行业难点，更快构建行业大模型，拓展行业深度。

华为云人工智能算法专家金博士，参与了盘古汽车大模型的构建。“下到一线后，我充分理解到自动驾驶中数据的价值。”数据是个吞金兽，一个包含视觉、雷达等多传感器的10秒图像文字训练，数据采集标注成本要几百元，而自动驾驶需要几百万小时的行驶数据。

同时，如何补足“鬼探头”这类Corner Case长尾数据，解决几年前自动驾驶车将横穿马路的白色大卡车误判为云朵，而酿成事故的这类问题，是行业难题之一。

在盘古汽车大模型中，采用NeRF构建的数字孪生、元宇宙虚拟环境中，利用大模型的生成和泛化能力，产出大量虚拟数据，而且只要训练一次，就可生成适配不同新车型视角的视频，让Corner Case闭环周期，从两周以上缩短到两天内，也降低了实际道路采集标注成本。

盘古汽车大模型也进入汽车的研产供销服场景中，一汽解放数字化部宋磊部长，在会上分享了一汽解放，应用盘古汽车大模型的实践。

在金融领域，负责盘古金融大模型的祝博士，下到一线后，了解到银行的痛点之一，是传统智能客服仍要依赖大量人工，而对一线人员的知识传递也存在瓶颈。大模型结合知识库，可理解专业知识，实现专业问答，成为一线人员的助手。基于盘古金融大模型的网点问答，7月在工行上线后，陆续推广了几百个网点，答案采纳率超过85%，获得一线业务的好评。目前，文档问答孵化成的标准解决方案，又快速复制到交行、农行、银联以及上交所等。

值得关注的是，工行向祝博士反映，他们在人才上面临两难：一方面不希望员工被大模型取代；另一方面很多岗位还有人才缺口。他们期望大模型释放出的员工，能做更多高价值的事。在这一诉求下，华为联合工行实验室的人力资源团队 ，梳理了大模型在企业应用的人员转身实践，设计了系列培训课程，如Prompt调优、微调、大模型运营等，并与远程银行、网点等部门合作，建立联合项目组，驱动企业人员能力提升。

“这样的实践，也驱动我们梳理了一整套企业落地方法论，真正做到授人以渔，让企业和员工深入拥抱新技术，提升生产力。”祝博士说。

在气象领域，盘古气象大模型此前创造了台风路径的预测纪录。这次升级后，它又攻克了暴雨预测这一全球气象领域Top级难题，让暴雨红色预警从3小时预报，提前到24小时发出，这对政府的灾害防御、老百姓的生产生活极为关键。

深圳气象局也在与华为合作，基于盘古气象大模型，打造深圳区域气象预报大模型。数智前线获悉，这或将成为全球首个区域气象预报模型，有望实现大约三公里精度的气象预报。

9月30日，华为云还将启动盘古气象平台的邀测，这是一个SaaS服务，让全球用户可以直接调用降水预测等功能。

在医学领域，乔博士和刘博士的团队在解决医疗大模型严肃性和专业性的挑战。“通用NLP大模型通过公开数据学习，能力非常有限。”乔博士介绍，他们通过大量医学数据，并定义了大量医学任务，教会NLP大模型学习医学的知识和场景。“大模型还结合搜索、知识图谱，进一步保障大模型的可溯源性。”刘博士说。

盘古医学大模型的目标是让每个医生拥有可信赖的临床助手，这对普惠医疗的实现也意义深远。目前，在由10个科室真实病例构成的检验报告解读测试中，在三个对照组中，盘古医学助手几乎达到了对照组1，也就是相当于临床医生的平均水平。

在大会期间还公布了多个大模型的落地进展，如政务大模型首次将NLP大模型与CV大模型融合，让城市各类开放和长尾事件秒级发现、分钟级分拨。矿山大模型，让山能济宁二号煤矿每年多产出8000吨精煤，增收数千万元；数字人直播，让丹寨农特产和非遗产业蜡染走出大山，走向全球。

过去几个月，华为攻克行业难题的各种会战中，合作伙伴的能力和价值也在快速释放中。他们识别行业关键问题，结合自身行业know-how，推动盘古进入行业。魏建勋告诉数智前线，软通动力在尝试突破车险理赔的难点，将原来理赔定损，从几天逐步缩短到小时级、分钟级，“现场就能解决”，目前该项目与车企客户在PoC阶段。

支撑百模千态

在大模型训练和落地过程中，算力目前是行业的“集体焦虑”。这也是华为全联接大会2023上，与会者最关注的事情之一。

“大家都在到处找算力，供需比大约在 1：10 之间。”一位算力行业人士说，“大模型厂商都在各地密集访谈，到处寻找稳定算力的合作伙伴，每家对算力的需求都在万P以上。”

chatGPT是什么意思？

ChatGPT是是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型，一款人工智能技术驱动的自然语言处理工具。 它能够通过学习和理解人类的语言来进行对话，不仅上知天文下知地理，知识渊博，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，但ChatGPT不单是聊天机器人的简单，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。 同时也引起无数网友沉迷与ChatGPT聊天，成为大家讨论的火爆话题。