GPT之于自动驾驶意味着什么？
文丨智驾网 黄华丹
ChatGPT带火了AI，当GPT遇到自动驾驶，又会发生怎样的化学反应？
GPT全称Generative Pre-trained Transformer，即生成式预训练Transformer。简单概括即是一种基于互联网可用数据训练的文本生成深度学习模型。
4月11日，在第八届毫末AI DAY上，毫末CEO顾维灏正式发布了基于GPT技术的DriveGPT，中文名雪湖·海若。
DriveGPT能做到什么？又是如何构建的？顾维灏在AI DAY上都做了详细解读。AI DAY还展示了毫末自动驾驶数据体系MANA的升级情况，主要是其在视觉感知能力上的进展。
01.
什么是DriveGPT？能实现什么？
顾维灏首先讲解了GPT的原理，生成式预训练Transformer模型本质上是在求解下一个词出现的概率，每一次调用都是从概率分布中抽样并生成一个词，这样不断地循环，就能生成一连串的字符，用于各种下游任务。
以中文自然语言为例，单字或单词就是Token，中文的Token词表有5万个左右。把Token输入到模型，输出就是下一个字词的概率，这种概率分布体现的是语言中的知识和逻辑，大模型在输出下一个字词时就是根据语言知识和逻辑进行推理的结果，就像根据一部侦探小说的复杂线索来推理凶手是谁。而作为适用于自动驾驶训练的大模型，DriveGPT雪湖·海若三个能力：
1.可以按概率生成很多个这样的场景序列，每个场景都是一个全局的场景，每个场景序列都是未来有可能发生的一种实际情况。
2.是在所有场景序列都产生的情况下，能把场景中最关注的自车行为轨迹给量化出来，也就是生成场景的便会产生自车未来的轨迹信息。
3.有了这段轨迹之后，DriveGPT雪湖·海若还能在生成场景序列、轨迹的输出整个决策逻辑链。
也就是说，利用DriveGPT雪湖·海若，在一个统一的生成式框架下，就能做到将规划、决策与推理等多个任务全部完成。具体来看，DriveGPT雪湖·海若的设计是将场景Token化，毫末将其称为Drive Language。
Drive Language将驾驶空间进行离散化处理，每一个Token都表征场景的一小部分。目前毫末拥有50万个左右的Token词表空间。如果输入一连串过去已经发生的场景Token序列，模型就可以根据历史，生成未来所有可能的场景。也就是说，DriveGPT雪湖·海若同样像是一部推理机器，告诉它过去发生了什么，它就能按概率推理出未来的多个可能。
一连串Token拼在一起就是一个完整的驾驶场景时间序列，包括了未来某个时刻整个交通环境的状态以及自车的状态。
有了Drive Language，就可以对DriveGPT进行训练了。
毫末对DriveGPT的训练过程根据驾驶数据以及之前定义的驾驶尝试做一个大规模的预训练。通过在使用过程中接管或者不接管的场景，对预训练的结果进行打分和排序，训练反馈模型。也就是说利用正确的人类开法来替代错误的自动驾驶开法。
后续就是用强化学习的思路不断优化迭代模型。
在预训练模型上，毫末采用Decode-only结构的GPT模型，每一个Token用于描述某时刻的场景状态，包括障碍物的状态、自车状态、车道线情况等等。毫末的预训练模型拥有1200亿个参数，使用4000万量产车的驾驶数据，本身就能够对各种场景做生成式任务。
这些生成结果会按照人类偏好进行调优，在安全、高效、舒适等维度上做出取舍。毫末会用部分经过筛选的人类接管数据，大概5万个Clips去做反馈模型的训练，不断优化预训练模型。在输出决策逻辑链时，DriveGPT雪湖·海若利用了prompt提示语技术。输入端给到模型一个提示，告诉它“要去哪、慢一点还是快一点、并且让它一步步推理”，经过这种提示后，它就会朝着期望的方向去生成结果，并且每个结果都带有决策逻辑链。每个结果也会有未来出现的可能性。这样我们就可以选择未来出现可能性最大，最有逻辑的链条驾驶策略。可以用一个形象的示例来解释DriveGPT雪湖·海若的推理能力。假设提示模型要“抵达某个目标点”，DriveGPT雪湖·海若会生成很多个可能的开法，有的激进，会连续变道超车，快速抵达目标点，有的稳重，跟车行驶到终点。这时如果提示语里没有其他额外指示，DriveGPT雪湖·海若就会按照反馈训练时的调优效果，最终给到一个更符合大部分人驾驶偏好的效果。
02.
实现DriveGPT毫末做了什么？
DriveGPT雪湖·海若的训练和落地，离不开算力的支持。
今年1月，毫末就和火山引擎共同发布了其自建智算中心，毫末雪湖·绿洲MANA OASIS。OASIS的算力高达67亿亿次/秒，存储带宽2T/秒，通信带宽达到800G/秒。光有算力还不够，还需要训练和推理框架的支持。毫末也做了以下三方面的升级。
一是训练稳定性的保障和升级。大模型训练是一个十分艰巨的任务，随着数据规模、集群规模、训练时间的数量级增长，系统稳定性方面微小的问题也会被无限放大，如果不加处理，训练任务就会经常出错导致非正常中断，浪费前期投入的大量资源。
毫末在大模型训练框架的基础上，与火山引擎共同建立了全套训练保障框架，通过训练保障框架，毫末实现了异常任务分钟级捕获和恢复能力，可以保证千卡任务连续训练数月没有任何非正常中断，有效地保障了DriveGPT雪湖·海若大模型训练的稳定性。
二是弹性调度资源的升级。毫末拥有量产车带来的海量真实数据，可自动化的利用回传数据不断的学习真实世界。由于每天不同时段回传的数据量差异巨大，需要训练平台具备弹性调度能力，自适应数据规模大小。
毫末将增量学习技术推广到大模型训练，构建了一个大模型持续学习系统，研发了任务级弹性伸缩调度器，分钟级调度资源，集群计算资源利用率达到95%。
三是吞吐效率的升级。在训练效率上，毫末在Transformer的大矩阵计算上，通过对内外循环的数据拆分、尽量保持数据在SRAM中来提升计算的效率。在传统的训练框架中，算子流程很长，毫末通过引入火山引擎提供的Lego算之库实现算子融合，使端到端吞吐提升84%。
有了算力和这三方面的升级，毫末可对DriveGPT雪湖·海若进行更好的训练迭代升级。
03.
MANA大升级，摄像头代替超声波雷达
毫末在2021年12月的第四届AI DAY上发布自动驾驶数据智能体系MANA，经过一年多时间的应用迭代，现在MANA迎来了全面的升级。
据顾维灏介绍，本次升级主要包括：
1.感知和认知相关大模型能力统一整合到DriveGPT。
2.计算基础服务针对大模型训练在参数规模、稳定性和效率方面做了专项优化，并集成到OASIS当中。
3.增加了使用NeRF技术的数据合成服务，降低Corner Case数据的获取成本。
4.针对多种芯片和多种车型的快速交付难题，优化了异构部署工具和车型适配工具。
前文我们已经详细介绍了DriveGPT相关的内容，以下主要来看MANA在视觉感知上的进展。
顾维灏表示，视觉感知任务的核心目的都是恢复真实世界的动静态信息和纹理分布。因此毫末对视觉自监督大模型做了一次架构升级，将预测环境的三维结构，速度场和纹理分布融合到一个训练目标里面，使其能从容应对各种具体任务。目前毫末视觉自监督大模型的数据集超过400万Clips，感知性能提升20%。在泊车场景下，毫末做到了用鱼眼相机纯视觉测距达到泊车要求，可做到在15米范围内达测量精度30cm，2米内精度高于10cm。用纯视觉代替超声波雷达，进一步降低整体方案的成本。在纯视觉三维重建方面，通过视觉自监督大模型技术，毫末不依赖激光雷达，就能将收集的大量量产回传视频转化为可用于BEV模型训练的带3D标注的真值数据。
通过对NeRF的升级，毫末表示可以做到重建误差小于10
【本文来自易车号作者智驾网，版权归作者所有,任何形式转载请联系作者。内容仅代表作者观点，与易车无关】
扫码关注公众号
扫码体验小程序版
暂无数据
Chat Gpt
写论文该如何进行提问和编写，这里我们以水产养殖的毕业论文为例
作为一名水产养殖专业的学生，老师要我们进行毕业论文的编写，请你根据现在的科技情况为我拟定一个毕业论文的题目
题目：基于智能物联网技术的水产养殖环境监控与优化系统研究
在现代水产养殖行业中，环境监控与管理对保证养殖品质和降低成本等方面发摔着重要作用。随着物联网技术和智能传感器的迅速发展，利用这些技术开展水产养殖环境监控与优化显得尤为重要。
本论文将侧重于研究以下几个方面：
1.水质参数实时监测与预警：通过设计智能化的多参数监测系统，实时采集水质参数(如温度、溶解氧、pH值等)，并通过大数据分析预警潜在风险。
2.环境调控系统优化：结合各类环境传感器和物联网技术，开发一种自动化、智能化的环境调控系统，以实现温度、湿度、光照等因素的自动控制，优化养殖环境。
3.饲料投放智能化：研究如何根据实时监测的水质和生物参数，制定精确的饲料投放计划，降低饲料浪费及环境污染。
4.节能与环保技术应用：探讨利用新型环保材料和设备，提高养殖场设施的能源利用率，降低能源消耗及减小环境污染。
5.系统集成与远程监控：将各项监控和管理功能集成到一套水产养殖环境监控与优化系统中，实现远程控制和操作，提高工作效率。
通过研究和设计这一环境监控与优化系统，力求为水产养殖行业带来技术革新，提高养殖水平，为实现绿色、高效、可持续的水产养殖发展做出贡献。
关于水质参数实时监测与预警你能提供几个思路?
当然可以。关于水质参数实时监测与预警，以下是一些建议的思路：
1.集成式水质传感器：研究与开发具有多项水质参数实时监测功能的集成式传
感器(例如溶解氧、温度、pH值、氨氮、亚硝酸盐等)，并将其部署在养
殖池中，以实现对养殖环境的持续监测。
2.大数据分析与机器学习：收集大量历史和实时的养殖水质数据，应用大数据
分析和机器学习算法建立水质预测与评估模型。这可以帮助提前发现不良的
水质变化趋势和潜在危险，实现预警功能。
3.物联网通信技术：通过物联网通信技术，将水质传感器收集到的数据实时上
传至云端服务器。这样可以实时远程查看水质参数，并可在不良水质出现时
及时采取相应措施。
4.可视化监控平台：开发一个可视化监控平台，将实时监测数据以图表或地理
信息等形式展示，为水产养殖管理人员提供方便直观的水质信息。
5.智能预警系统：基于监测数据的大数据分析与机器学习模型，针对水质参数
建立智能预警阈值，当水质参数超过预先设定的临界值时，预警系统会发出
警报，提示相关人员及时处理。
6.移动端应用：开发一款移动应用，使养殖户或监管人员在移动设备上实时查
看水质数据并接收预警通知，提升水质管理的便捷性。
7.自动调控模块：结合智能预警系统，设计自动调控模块，如水体循环系统、
曝气装置及酸碱调节系统等。当监测到水质参数异常时，系统可自动调整相
关设备的工作状态，以改善养殖水体环境。
通过以上思路，结合现有技术手段，可以实现对水质参数的实时监测与预警，保障水产养殖环境的稳定与安全。
集成式水质传感器具有什么创新性地方，如果有，请指出3点
集成式水质传感器在水产养殖领域具有一定的创新性，主要表现在以下三个方面：
1.高度集成：集成式水质传感器将多个水质参数的测量集成在一个单一的传感器设备中，例如溶解氧、温度、pH值、氨氮、亚硝酸盐等。这使得传感器更紧凑、便携，减少了单独部署和维护多个传感器所需的空间和成本。
2.高精度与实时性：集成式水质传感器采用高精度测量技术，提高了水质参数的测量准确度。与传统的周期性采样或人工检测相比，集成式传感器可以实时持续监测水质，更快地捕捉到水质的波动或异常情况。
3.与物联网的融合：结合物联网通信技术，集成式水质传感器可以实时将采集到的水质参数上传至云端平台。这使得养殖户或监管人员可以随时随地远程查看和分析水质数据，提高了水环境监测和管理的便捷性。通过物联网技术，传感器可以接入智能养殖系统，实现自动化控制和预警功能。
集成式水质传感器在水产养殖领域的创新性主要体现在集成度高、检测精度高和物联网应用等方面，有利于实现高效、智能的水质监测与管理。
结论：虽然现在的Chat Gpt已经先进到可以创作论文， 但是还有很多需要改进的地方，我们要灵活使用AI智能，不能生搬硬套，还是要结合自己的想法来进行创作。
使用ChatGPT构建模型的一般过程如下：
1. 数据收集：首先需要收集与聊天相关的语料库。这些语料库可以包含聊天记录、对话数据集、互动式游戏对话等。要确保数据的质量和多样性，以便训练出更好的模型。
2. 数据准备：对于ChatGPT，一般选择将对话以「对话样本」的形式进行训练。对话样本由一系列「用户回复」和「模型回复」组成。你可以将每个对话划分为多个对话样本。确保对话样本的顺序是合理的，因为模型是根据前面的回复来生成后面的回复。
3. 模型训练：使用收集到的对话样本训练ChatGPT模型。训练过程中，可以使用类似于GPT的预训练方法，如「自监督学习」。为了提高效果，可以使用更多计算资源和更长的训练时间。
4. 超参数调整：调整ChatGPT的超参数以获得更好的性能。你可以尝试不同的模型大小、训练步数、学习率等。调整超参数是一个试错的过程，需要不断进行实验和评估。
5. 评估和迭代：对训练好的ChatGPT模型进行评估，使用一些指标（如人工评估或自动评估）来评估其生成回复的质量。根据评估结果，可以对模型进行改进和迭代，优化其性能。
6. 部署和使用：当ChatGPT模型达到满意的质量后，可以将其部署到生产环境中，并通过API或其他方式使用它。在部署之前，确保模型的性能和稳定性，并进行必要的测试。
在使用ChatGPT时，要确保模型生成的回复准确、可靠，并注意潜在的误导性和偏见。可能需要采取措施来限制模型生成不恰当、冒犯性或有害的内容。
要使用ChatGPT建立模型，您需要遵循以下步骤：
1. 数据收集：收集用于训练ChatGPT模型的数据。可以从各种渠道如聊天记录、论坛帖子、电子邮件等获取数据。确保数据具有多样性和广泛性，以便共建一个更全面的模型。
2. 数据预处理：对数据进行预处理以使其适合模型的训练。这可能包括去除HTML标签、分词、去除停用词、处理缺失值等。确保数据经过良好的清洗和格式化，以提高模型的质量。
3. 模型训练：使用预处理的数据训练ChatGPT模型。可以使用开源的GPT库如Hugging Face的Transformers或OpenAI的GPT-3来训练模型。参考相应的文档和示例代码以了解如何使用这些库。
4. 调参和优化：通过调整模型的超参数来优化模型的性能。这可能包括模型的层数、隐藏层大小、学习率等。可以使用交叉验证等技术来评估模型的性能，并选择最佳参数配置。
5. 模型评估：评估模型的性能以确定其生成响应的准确性和流畅度。可以使用一些指标如BLEU、Perplexity等来评估模型的质量。还可以进行人工评估，与实际用户进行交互并检查模型生成的回复是否合理。
6. 模型迭代和改进：根据评估结果，进行模型的迭代和改进。可以添加更多的训练样本，尝试不同的网络架构，或者使用不同的训练算法来提高模型的性能。
7. 部署和应用：将训练好的ChatGPT模型部署到实际应用中。可以使用Web界面或API将模型集成到聊天机器人、客服系统、虚拟助手等各种应用中。
请注意，训练ChatGPT模型需要大量的计算资源和时间。模型的性能也取决于数据的质量和数量，以及训练的参数配置。建议在训练之前对任务和数据进行充分的规划和准备。保持对语言模型伦理诉求的意识，确保模型生成的内容符合道德和负责任的标准。
chatGPT念“柴特鸡皮题”，GPT全称Generative Pre- -trained Transformer，是一种预训练语言模型，这种模型读的越多，也就懂的越多。Chat是聊天的意思，顾名思义，ChatGPT的核心是GPT模型，只不过加上了一个能跟人聊天的对话框。
2023年2月7日，微软宣布推出由ChatGPT支持的最新版本人工智能搜索引擎Bing（必应）和Edge浏览器。微软CEO表示，“搜索引擎迎来了新时代”。
2023年2月8日凌晨，在华盛顿雷德蒙德举行的新闻发布会上，微软宣布将OpenAI传闻已久的GPT-4模型集成到Bing及Edge浏览器中。chatGPT的规范使用
2023年2月，媒体报道，欧盟负责内部市场的委员蒂埃里·布雷东日前就“聊天生成预训练转换器”发表评论说，这类人工智能技术可能为商业和民生带来巨大的机遇。
但同时也伴随着风险，因此欧盟正在考虑设立规章制度，以规范其使用，确保向用户提供高质量、有价值的信息和数据。
GPT之于自动驾驶意味着什么？
文丨智驾网 黄华丹
ChatGPT带火了AI，当GPT遇到自动驾驶，又会发生怎样的化学反应？
GPT全称Generative Pre-trained Transformer，即生成式预训练Transformer。简单概括即是一种基于互联网可用数据训练的文本生成深度学习模型。
4月11日，在第八届毫末AI DAY上，毫末CEO顾维灏正式发布了基于GPT技术的DriveGPT，中文名雪湖·海若。
DriveGPT能做到什么？又是如何构建的？顾维灏在AI DAY上都做了详细解读。AI DAY还展示了毫末自动驾驶数据体系MANA的升级情况，主要是其在视觉感知能力上的进展。
01.
什么是DriveGPT？能实现什么？
顾维灏首先讲解了GPT的原理，生成式预训练Transformer模型本质上是在求解下一个词出现的概率，每一次调用都是从概率分布中抽样并生成一个词，这样不断地循环，就能生成一连串的字符，用于各种下游任务。
以中文自然语言为例，单字或单词就是Token，中文的Token词表有5万个左右。把Token输入到模型，输出就是下一个字词的概率，这种概率分布体现的是语言中的知识和逻辑，大模型在输出下一个字词时就是根据语言知识和逻辑进行推理的结果，就像根据一部侦探小说的复杂线索来推理凶手是谁。而作为适用于自动驾驶训练的大模型，DriveGPT雪湖·海若三个能力：
1.可以按概率生成很多个这样的场景序列，每个场景都是一个全局的场景，每个场景序列都是未来有可能发生的一种实际情况。
2.是在所有场景序列都产生的情况下，能把场景中最关注的自车行为轨迹给量化出来，也就是生成场景的便会产生自车未来的轨迹信息。
3.有了这段轨迹之后，DriveGPT雪湖·海若还能在生成场景序列、轨迹的输出整个决策逻辑链。
也就是说，利用DriveGPT雪湖·海若，在一个统一的生成式框架下，就能做到将规划、决策与推理等多个任务全部完成。具体来看，DriveGPT雪湖·海若的设计是将场景Token化，毫末将其称为Drive Language。
Drive Language将驾驶空间进行离散化处理，每一个Token都表征场景的一小部分。目前毫末拥有50万个左右的Token词表空间。如果输入一连串过去已经发生的场景Token序列，模型就可以根据历史，生成未来所有可能的场景。也就是说，DriveGPT雪湖·海若同样像是一部推理机器，告诉它过去发生了什么，它就能按概率推理出未来的多个可能。
一连串Token拼在一起就是一个完整的驾驶场景时间序列，包括了未来某个时刻整个交通环境的状态以及自车的状态。
有了Drive Language，就可以对DriveGPT进行训练了。
毫末对DriveGPT的训练过程根据驾驶数据以及之前定义的驾驶尝试做一个大规模的预训练。通过在使用过程中接管或者不接管的场景，对预训练的结果进行打分和排序，训练反馈模型。也就是说利用正确的人类开法来替代错误的自动驾驶开法。
后续就是用强化学习的思路不断优化迭代模型。
在预训练模型上，毫末采用Decode-only结构的GPT模型，每一个Token用于描述某时刻的场景状态，包括障碍物的状态、自车状态、车道线情况等等。毫末的预训练模型拥有1200亿个参数，使用4000万量产车的驾驶数据，本身就能够对各种场景做生成式任务。
这些生成结果会按照人类偏好进行调优，在安全、高效、舒适等维度上做出取舍。毫末会用部分经过筛选的人类接管数据，大概5万个Clips去做反馈模型的训练，不断优化预训练模型。在输出决策逻辑链时，DriveGPT雪湖·海若利用了prompt提示语技术。输入端给到模型一个提示，告诉它“要去哪、慢一点还是快一点、并且让它一步步推理”，经过这种提示后，它就会朝着期望的方向去生成结果，并且每个结果都带有决策逻辑链。每个结果也会有未来出现的可能性。这样我们就可以选择未来出现可能性最大，最有逻辑的链条驾驶策略。可以用一个形象的示例来解释DriveGPT雪湖·海若的推理能力。假设提示模型要“抵达某个目标点”，DriveGPT雪湖·海若会生成很多个可能的开法，有的激进，会连续变道超车，快速抵达目标点，有的稳重，跟车行驶到终点。这时如果提示语里没有其他额外指示，DriveGPT雪湖·海若就会按照反馈训练时的调优效果，最终给到一个更符合大部分人驾驶偏好的效果。
02.
实现DriveGPT毫末做了什么？
DriveGPT雪湖·海若的训练和落地，离不开算力的支持。
今年1月，毫末就和火山引擎共同发布了其自建智算中心，毫末雪湖·绿洲MANA OASIS。OASIS的算力高达67亿亿次/秒，存储带宽2T/秒，通信带宽达到800G/秒。光有算力还不够，还需要训练和推理框架的支持。毫末也做了以下三方面的升级。
一是训练稳定性的保障和升级。大模型训练是一个十分艰巨的任务，随着数据规模、集群规模、训练时间的数量级增长，系统稳定性方面微小的问题也会被无限放大，如果不加处理，训练任务就会经常出错导致非正常中断，浪费前期投入的大量资源。
毫末在大模型训练框架的基础上，与火山引擎共同建立了全套训练保障框架，通过训练保障框架，毫末实现了异常任务分钟级捕获和恢复能力，可以保证千卡任务连续训练数月没有任何非正常中断，有效地保障了DriveGPT雪湖·海若大模型训练的稳定性。
二是弹性调度资源的升级。毫末拥有量产车带来的海量真实数据，可自动化的利用回传数据不断的学习真实世界。由于每天不同时段回传的数据量差异巨大，需要训练平台具备弹性调度能力，自适应数据规模大小。
毫末将增量学习技术推广到大模型训练，构建了一个大模型持续学习系统，研发了任务级弹性伸缩调度器，分钟级调度资源，集群计算资源利用率达到95%。
三是吞吐效率的升级。在训练效率上，毫末在Transformer的大矩阵计算上，通过对内外循环的数据拆分、尽量保持数据在SRAM中来提升计算的效率。在传统的训练框架中，算子流程很长，毫末通过引入火山引擎提供的Lego算之库实现算子融合，使端到端吞吐提升84%。
有了算力和这三方面的升级，毫末可对DriveGPT雪湖·海若进行更好的训练迭代升级。
03.
MANA大升级，摄像头代替超声波雷达
毫末在2021年12月的第四届AI DAY上发布自动驾驶数据智能体系MANA，经过一年多时间的应用迭代，现在MANA迎来了全面的升级。
据顾维灏介绍，本次升级主要包括：
1.感知和认知相关大模型能力统一整合到DriveGPT。
2.计算基础服务针对大模型训练在参数规模、稳定性和效率方面做了专项优化，并集成到OASIS当中。
3.增加了使用NeRF技术的数据合成服务，降低Corner Case数据的获取成本。
4.针对多种芯片和多种车型的快速交付难题，优化了异构部署工具和车型适配工具。
前文我们已经详细介绍了DriveGPT相关的内容，以下主要来看MANA在视觉感知上的进展。
顾维灏表示，视觉感知任务的核心目的都是恢复真实世界的动静态信息和纹理分布。因此毫末对视觉自监督大模型做了一次架构升级，将预测环境的三维结构，速度场和纹理分布融合到一个训练目标里面，使其能从容应对各种具体任务。目前毫末视觉自监督大模型的数据集超过400万Clips，感知性能提升20%。在泊车场景下，毫末做到了用鱼眼相机纯视觉测距达到泊车要求，可做到在15米范围内达测量精度30cm，2米内精度高于10cm。用纯视觉代替超声波雷达，进一步降低整体方案的成本。在纯视觉三维重建方面，通过视觉自监督大模型技术，毫末不依赖激光雷达，就能将收集的大量量产回传视频转化为可用于BEV模型训练的带3D标注的真值数据。
通过对NeRF的升级，毫末表示可以做到重建误差小于10
【本文来自易车号作者智驾网，版权归作者所有,任何形式转载请联系作者。内容仅代表作者观点，与易车无关】
ChatGPT是是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型，一款人工智能技术驱动的自然语言处理工具。
它能够通过学习和理解人类的语言来进行对话，不仅上知天文下知地理，知识渊博，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，但ChatGPT不单是聊天机器人的简单，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。同时也引起无数网友沉迷与ChatGPT聊天，成为大家讨论的火爆话题。
1750亿个参数。
GPT3模型有1750亿个参数，ChatGPT是基于GPT3.5。
参数量就是指，模型所有带参数的层的权重参数总量，也叫参变量，是一个变量。我们在研究当前问题的时候，关心某几个变量的变化以及它们之间的相互关系，其中有一个或一些叫自变量，另一个或另一些叫因变量。