开源 Scale 聊天机器人

anisur222

法学硕士已展现出惊人的内容生成能力，可用于提高写作或编码等任务的生产力。许多工具都迎来了大量个人专业用户的涌入，其中一些用户正在升级到利用内容共享等功能的团队级别设置。但什么能让 LLM 应用程序更上一层楼呢？ 我们相信，第一波获得企业采用的应用程序将集中于法学硕士的较窄应用：通过自然（人类）语言界面实现交互。这里最好的例子是聊天机器人。 考虑到这一点，我们认为在我们自己的网站上添加聊天机器人会很有价值，原因有两个。首先，它将有助于访问我们网站上提供的长尾信息，使创始人更容易与我们互动并了解我们的观点。其次，我们认为形成我们自己的投资论文需要对技术有深入的了解——而这只能通过编写代码来探索解决方案空间来获得。 在这篇博文中，我们分享了聊天机器人的架构并开源了实现，其中大多数组件都是使用 NumPy 等标准库从头开始构建的。

我们还分享了开发过程中的经验教训，其中包含了自一个多月前将聊天机器人添加到我们的网站以来基于早期用户反馈的迭代。阅读我们的经验作为企业采用法学硕士的例子可能会对创始人在该领域构建产品有所帮助。我们的示例还 美国电话号码列表 可以为直接开发聊天机器人的其他公司提供实用的框架。 我们已经发布了聊天机器人的所有源代码。它可以免费使用、修改和分发。我们还提供了轻松设置和定制的说明。为了避免本文变得臃肿，我们将代码片段限制在代码库的一些关键说明性部分。当您浏览内容时，我们强烈建议您查看存储库，特别是如果您希望实现类似的设置。 要求 希望推出自己的聊天机器人的公司通常都有类似的要求： 准确性：所提供的信息必须正确。在大多数情况下，这也意味着需要引用来源，以便用户（或监督向用户显示内容的人）可以知道答案来自哪里。 新鲜度：信息不断变化，需要纳入模型中。



虽然频率很大程度上取决于数据源和聊天机器人的目的，但通常情况下，过时的聊天机器人无法满足其目的。 速度：我们早期用户测试的经验是速度是良好用户体验的关键。特别是，聊天机器人“感觉”有多快的关键因素是第一个字节的时间，即开始看到单词出现需要多长时间。聊天机器人的第一个版本感觉很慢，因为最终调用 LLM（生成答案）之前的步骤花费了太长时间。 操作简单性：我们是一家风险投资公司，试图提供可扩展且高度可用的聊天机器人，理想情况下无需管理分布式系统或注册新供应商。使用少量简单的依赖项使我们能够显着缩短上市时间。 建筑学 LLM 还不够 聊天机器人的一种理论架构将完全依赖于法学硕士，该法学硕士可以根据模型中嵌入的知识回答问题。基于上述需求，我们认为这远不是实践中的最佳解决方案。 以下示例说明了为什么会出现这种情况： ChatGPT 回答法律问题 根据加州车辆法规，这里的答案是不正确的也有更明确的规定。