面向AI toB行业非开发人员的产品技术分享，包含AIGC方面的科普及如何结合到toB领域的思考。
- 判别式AI与声明式AI
对于判别式AI的场景应用，推荐系统为最典型，它的优势就是能够替代原本门户网站频道编辑的工作，能够精细，准确地从海量内容中找到合适的内容推送给不同的用户。但这里的智能只降低了执行的成本，突破了编辑选材的上限，并不能真正的生产内容。从这个意义上看抖音的成功，在于首先归功于千万自媒体生产了大量有趣的内容，再次才是强大的分发能力把这些内容展示到用户手机上。与此同时，判别式AI给人的感觉并不是传统人们理解的智能，更多像是一个组织紧密的策略执行机器，它只是在更好的执行。 对于生成式AI，其特点是突破了判别式AI的创造力困境，通过概率理解加用户输入（zero-shot 或 few-shot）激发模型产生数据制造，进而形成类似人的思维逻辑（其本身的逻辑蕴含在其学习的数以亿计的资料中）。而另一个更潜在的让产业界看好的原因，在于其一定程度缓解了“超人工”智能的困境，大量的资料来自于未标注的数据，并且一旦训练完成，具有比较强的泛化性，面向模型编程变得可行（相较于传统方式，需要面向不同业务领域，面向时间，对接多样的数据，不断的训练模型才能达到业务的长期需要）。生成式AI极大的降低了内容创造的成本，同时，它的创造性带来的就是产生模糊和不准确，不靠谱的结果（本质上是因为新概率不见得符合实际规则）。 要说明的是，它们都是AI技术的一个拼图，两者并不是完全的取代关系，而是根据场景差异选择合适的技术，如何协同才是正确认识这两种AI的态度。
2.相关技术
关于生成式AI应用，涉及到的技术涉及到模型，存储，编排等。这里提一下，由于开发者的惯性，会倾向于finetune模型，即通过指令微调（SFT）的方式提升模型性能，但从成本、易用性和可迁移性角度讲，首先应该从prompt learning入手尝试解决问题，进而再考虑finetune。这里也藏着一个商业机会，就是如何利用prompt enginering来重构现有应用。举一个例子，有一个公司做内容标注业务，原来简历标注的工作是雇佣标注员来做，而现在他们利用GPT-4通过prompt 工程，自动做简历内容提取，可想而知，其生产力有了多大的提升。
###Prompt
Extract entities from the following sentences without changing original words.
###
Sentence: " and storage components. 5+ years of experience deliver
ing scalable and resilient services at large enterprise scale, including experience in data platforms including large-scale analytics on relational, structured and unstructured data. 3+ years of experien
ce as a SWE/Dev/Technical lead in an agile environment including 1+ years of experience operating in a DevOps model. 2+ years of experience designing secure, scalable and cost-efficient PaaS services on
the Microsoft Azure (or similar) platform. Expert understanding of"
DIPLOMA: none
DIPLOMA_MAJOR: none
EXPERIENCE: 3+ years, 5+ years, 5+ years, 5+ years, 3+ years, 1+ years, 2+ years
SKILLS: designing, delivering scalable and resilient services, data platforms, large-scale analytics on relational, structured and unstructured data, SWE/Dev/Technical, DevOps, designing, PaaS services, Microsoft Azure
###
Sentence: "8+ years demonstrated experience in designing and developing enterprise-level scale services/solutions. 3+ years of leadership and people management experience. 5+ years of Agile Experie
nce Bachelors degree in Computer Science or Engineering, or a related field, or equivalent alternative education, skills, and/or practical experience Other 5+ years of full-stack software development exp
erience to include C# (or similar) experience with the ability to contribute to technical architecture across web, mobile, middle tier, data pipeline"
DIPLOMA: Bachelors\nDIPLOMA_MAJOR: Computer Science
EXPERIENCE: 8+ years, 3+ years, 5+ years, 5+ years, 5+ years, 3+ years
SKILLS: designing, developing enterprise-level scale services/solutions, leadership and people management experience, Agile Experience, full-stack software development, C#, designing
###
Sentence: "5+ years of experience in software development. 3+ years of experience in designing and developing enterprise-level scale services/solutions. 3+ years of experience in leading and managing
teams. 5+ years of experience in Agile Experience. Bachelors degree in Computer Science or Engineering, or a related field, or equivalent alternative education, skills, and/or practical experience."
涉及到的技术栈可参考右图，更多技术栈信息参看：快讯:红杉近日（6.14）发布LLM应用开发技术栈指引
3.AIGC的特色能力与技术趋势
从能力上看，LLM作为大脑，智能的载体，既有能够替代原有NLP任务的处理方法，更重要的是具备了一定的智能特征，如推理分析。对于大模型开发来讲，chain，agent，muti-agent是智能发展的技术路径，从基于chain流程模板的方式，到利用ReAct范式，结合目标和每次阶段目标的结果，智能规划和执行任务，从而完成最终任务，再到多智能体协作形成能力全面的超级AI，替代人力，这是进化的必然。最近硅谷，关于Agent的开发热度不减，OpenAI联创Andrej Karpathy亲自下场，鼓励大家朝这个方向发展。
4.AIGC产品发展趋势分析
笔者推荐阅读刘建忠老师提的范式转换立方体的概念以及他对产品的理解，详见：AGI时代的产品版图和范式。
按照理论，一个发生范式转换的创新产品，必须是做到了三个轴内的某个轴的模式变化，并且基于这一逻辑对比了PC互联网，移动互联网等赢家及产品。未来可能的机会是，一个以AI为代表的技术轴范式改变，另一个是空间计算在媒介轴带来的范式转化。
那么，基于这一思路，在智能时代，市场又将如何切入。提出了范式转换型和渐进增强型两个切入方向。
AI作为生产力工具，其核心就是降本增效，用到了核心业务流程中，改变了游戏规则，围绕AI设计核心的产品流程，那就是范式转换，比如AI之于内容分发。不改变产品流程，只是局部的能力增强，那就是渐进增强，比如人脸识别登录。两者各有价值，就像一部电视剧，做主角的机会只有一个，更多人做的只是配角。但所有配角都能用心演好，那么整部剧的质量也不会低到哪去。效率提升也是一样，都期待量变到质变，但在没找到核心的范式转换模式之前，对原有业务模式增强，也是一个不错d的稳妥选择。
**4.
一些代表性产品思路**
以下，给出一些代表性产品，有造工具的也有用工具的，总之寻找到需求，形成商业闭环，这样的产品和模式就有希望在市场上活下来。
第一种，案例上面提到了，标注网站就是一个使用大模型增强原有业务模式提升标注效率例子。它是一种渐进增强。
第二种，以AIGC技术特点改变旧模式，构建创意->生成->展示的全新内容制造链 上的工具。
1.撰写剧情背景描述（prompt），再利用检索增强，从大量同类题材中收集候选物料，再借助GPT-4自动生成故事，并转语音，形成有声读物。
2.视频转录文字工具。
3.虚拟人，这一领域国内也有小冰之类的产品，之前缺少内容生产，现在有了这一个链条，便能完成产品闭环。
如何制作AI虚拟人：Midjourney+ChatGPT+D-ID
商业模式上有两类，一类闭环做业务，以内容生产，变现为主，比如绘本，视频等，通过海量，低成本的制作成本，依靠长尾流量变现。比如这个小和尚，通过带货获取收益。
一类做付费工具，比如之前介绍过的智能PPT生成工具gamma.app，或是conva，runway.ai,voicemaker这类内容创作工具，通过高品质的产品体验，订阅收费。
另外，推荐两个网站，可以看到当下热门AI产品趋势。
https:// www.toolify.ai / zh /
5.tob市场的一些可能方向
也可以从两个维度来考虑，从融合增强和业务链路重塑或者创造角度考虑。
6.toB产品方案竞争格局
从竞争格局来讲，下三层为资本密集，人才密集，是寡头聚集的象限，而上三层，是目标模糊，需求非标，需要业务认知，并且快速模式变化的象限。某种意义上下三层是平台，类似滴滴，抖音，上三层就是司机和自媒体，这里不仅有个人，更有诸如头部的MCN机构，构建自己的运营生态矩阵。这其中，llmops比较模糊，是上三层有机会做平台工具，形成生态联盟的一个机会点。要想在这样的环境下生存，需要做到能切实找到客户的核心需求，不管是第一种，还是第二种。第二，能够高效率地完成，客户需求变化快，技术迭代快，如何能够快速高效实现是关键。第三，就是要在技术上，财务上，管理上做到低成本。这一点和前两点往往是个矛盾，最终平衡的好的项目和产品才能活下去。
7.交付层面的技术痛点
上图左侧是原来AI应用的基本技术流程，右侧是一个典型的检索增强的LLM应用流程，可以看到，在产品研发和交付层面，它们本质逻辑并没有改变，因此，其痛点也没有改变。
模型只是其中一环，如何应对多变的需求（需求真不真，聚焦不聚集），有一套标准可复制的方案范式，并且能够在差异化和可复制上找到突破（效率高不高，重复才能摊薄成本），技术迭代日新月异，如何保持持续竞争力，又尽可能降低项目实施门槛，做人层面的scale out，而非scale up。
思考这些达成这些最终的目的是使得商业形成闭环，让飞轮转起来。这对于身处这一行业的公司自身也是一个范式转变的大命题。
阅读至此了，分享、点赞、在看三选一吧🙏