第39章 关于ChatGPT的一些解读中第1/2段
关于chatGpt
1、chatGpt：更智能的 AI 对话交互工具
chatGpt 是由 openAI 公司于 2022 年 11 月发布的聊天机器人模型，可以通过对话形式实现交互，能够回答连续问题，承认错误，质疑不正确的前提，并拒绝不合理的需求。chatGpt 的对话互动可以实现普通聊天、信息咨询、撰写诗词作文、修改代码等，由于更类人的智能化表现，chatGpt 推出后受到广泛关注，上线不到一周用户量突破 100 万。2023 年 1 月，微软 cEo 表示计划将 chatGpt 等人工智能工具整合到所有产品中，并作为平台提供给其他企业使用。buzzfeed 和亚马逊也在探索 chatGpt 应用场景。
Gpt 引入新的模型训练方法，AI 行业发展有望加速Gpt通过transformer为基础的预训练语言模型，此前已公布Gpt-1、Gpt-2、Gpt-3 三个模型，chatGpt 是对 Gpt-3 模型（又称为 Gpt-3.5）微调后开发出来的对话机器人。chatGpt 引入了 RLhF（基于人类反馈的强化学习）方法，
方法分为三个步骤： 1）有监督地调优：预训练的语言模型在少量已标注的数据上进行调优，以学习从给定的 prompt 列表生成输出的有监督的策略（SFt 模型）；2）模拟人类偏好：标注者们对相对大量的 SFt 模型输出进行投票，创建一个由比较数据组成的新数据集，训练建立模型（Rm）；
3）近端策略优化（ppo）：使用 Rm 作为强化学习的优化目标，利用 ppo算法微调 SFt 模型。我们认为，chatGpt 的成功展示出 AI 大模型的应用潜力，新方法的引入有望加速 NLp 算法及 AI 行业发展。
3、巨头坚定投入，开启 AI 新浪潮2023 年 1 月 18 日，微软宣布将于 3 月底前在全球裁员 1 万人，约占员工总数的 5%；1 月 23 日微软在其官方博客宣布，已与 openAI 扩大合作伙伴关系，微软将向 openAI 进行一项为期多年、价值数十亿美元的投资，以加速其在人工智能领域的技术突破，此前微软已分别于 2019 年和 2021 年对openAI 进行投资1算法及 AI 行业发展。
本章未完,请点击下一段进行阅读!