龙头三天两板!ChatGPT是如何获得理解力的?前景又如何?
从广义上看,ChatGPT是文字模态的AIGC应用,负责生成自然语言,能够和使用者进行问答式对话。
能够“理解”输入信息的含义并输出内容,这类AI模型,在一定程度上拥有和人脑同样的能力——创造力。
近期大火的AIGC(AI-generated content)和ChatGPT都属于这类模型,即生成式AI。从广义上看,ChatGPT是文字模态的AIGC应用,负责生成自然语言,能够和使用者进行问答式对话。
其他形式还包括AI写诗、AI作曲、AI绘画、AI换脸……甚至有人认为,游戏中导入图片生成模型的“捏脸系统”都是AIGC。相关热门应用也层出不穷,包括Stable Diffusion、QQ小世界AI画匠/异次元的我、盗梦师、玩句等。
其中,ChatGPT被称为AI里程碑式应用,它是明星公司Open AI在2020年推出的自然语言生成式模型——GPT 3的衍生产品。此前也不是没有这类应用,AI客服、聊天机器人、语音工作助手、小说衍生器等都属于此类。
但ChatGPT的智能化远远超出了这些“前辈”。与此前的模型相比,ChatGPT亮点主要包括:
(1)新增代码理解和生成能力,对输入的理解能力和包容度高,能在绝大部分知识领域给出专业回答。
(2)加入道德原则。即ChatGPT能够识别恶意信息,识别后拒绝给出有效回答。
(3)支持连续对话。ChatGPT具有记忆能力,提高了模型的交互体验。
上线5天,ChatGPT的用户突破100万。连特斯拉创始人马斯克也称:“许多人陷入了该死的疯狂ChatGPT循环中。”
那么,作为生成式AI的代表,ChatGPT是如何获得理解力的呢?
这一过程离不开大模型、大数据、大算力。整体技术路线上,ChatGPT在效果强大的GPT 3.5大规模语言模型(LLM,Large Language Model)基础上,引入“人工标注数据+强化学习”来不断训练语言模型,主要目的是让GPT模型学会理解人类的命令指令的含义。
简单来说,就是基于优秀的机器学习算法和强劲的算力,通过海量的数据训练,让AI学会“思考”。Open AI在2020年从微软取得GPT 3的独家授权后,一直在Azure AI超算基础设施(由V100GPU组成的高带宽集群)上训练该模型,主要使用的公共爬虫数据集有着超过万亿单词的人类语言数据集。
国盛证券进一步认为,生成算法、NLP(自然语言处理)与算力决定AIGC能否运行,而高质量的数据集决定了AIGC质量与商业模式。相关公司包括:
另外,AI需要利用大量的标注语料进行训练和学习,标注数据的数量和质量对于模型的输出结果至关重要,数据标注/ AI训练数据因此也被视作增量需求。
汉王科技的自由书写文稿识别技术即依托于海量数据训练,本周一至今,该股三天内收获两个涨停板(分别为12月5日、12月7日)。
汉王科技K线图
A股公司中,从事数据训练业务的还有海天瑞声、四维图新等。在A股公司互动易上,已有投资者向AI 训练数据提供商海天瑞声提问:ChatGPT方面应用方向?是否为人工智能+训练数据业务?
不过,海天瑞声的回复并没有提及ChatGPT,仅表示将持续关注大模型领域新趋势,并根据客户的需求变化,适时推进公司产品创新、技术创新,满足更多客户、更新领域的AI训练数据需求。
▌下一目标:大规模商业化
对于这些AI工具的创造者们来说,下一步要考虑的是大规模商业化。
从GPT进化到GPT 3的过程相当烧钱——参数量从1.17亿增加到1750亿,预训练数据量从5GB增加到45TB,其中GPT 3训练一次的费用是460万美元,总训练成本达1200万美。高额投入使得B端变现更具可行性。
如今很多C端应用均为免费版,国泰君安表示,当前AI绘画的用户付费意愿不强,60%的用户从未在AI绘画相关方面付费,在C端付费形式刺激度较低的情况下,未来B端或将成为AI绘画软件的核心客户。
并非没有愿意掏钱的消费者。ChatGPT不限于普通聊天,还可解决具体难题,比如协助写代码等,部分用户在社交媒体上表达了对ChatGPT的付费意愿,AI绘画小程序“盗梦师”从10月1号开始商业化后,已经有很多用户付费,该产品负责人表示,目前次日留存率大概40%,七日留存率接近30%。
另外,版权问题是生成式AI绕不开的一道坎,绝大多数原创作品的版权拥有者会介意AI提取自身作品的部分元素。
相关文章
卖“天价酒”难阻连亏三年,青海春天何时等来春天?
牛耳财经 · 02-27
万科“钱紧”,定增150亿元能否解忧(万科暴涨)
投资者网 · 02-27
杠上了!"牙茅"计划二度入股,这家上市公司到底有何魅力?
券商中国 · 02-27
中国化工:和美国上空飞艇没关系 中国化工和国外差距
金融界 · 02-26
5年10倍!珀莱雅还能疯多久
格隆汇APP · 02-26
康泰生物新冠疫苗之殇:套现利器成弃子,组合拳“救市”难挡颓势
钛媒体 · 02-25