AI

2023-05-05 · 阅读 9050 · 字数 509

今天在 V2EX 论坛上学到了一个有趣的技巧：如何一句话区分 ChatGPT 3.5 与 4。 目前我用到的大部分免费的 ChatGPT 套壳网站都是基于 ChatGPT 3.5 的，偶有标榜使用了 ChatGPT 4 接口的网站。即便是申明使用了 4 的接口，很多也是挂着羊头卖狗肉。比较 4 的接口成本太高了。 回归正题，直接看截图： 这个我一直在用的一个套壳站，果然一句话就露馅了，这就是典型的 ChatGPT 3.5 的回复。 对于 4 则是有逻辑性的分析过程： 问：小明 8 岁，他妹妹年龄是他的一半。小明 56 岁时，妹妹几岁 答：小明现在 8 岁，他的妹妹年龄是他的一半，因此妹 ...

阅读全文...

2023-04-22 · 阅读 5879 · 字数 1027

虽然我已经 用 Rasa 实现了中文自动问答机器人功能，但是里面 pipeline 的配置，其实我完全没看明白各个组件起到的作用。我已经很认真地读了几遍官方文档关于各个组件的描述，英文/中文文档都看了不少，对我来说太晦涩了，无法理解。 但是这个项目除了要实现功能，还要做成 PPT 给合作方讲解，对方有深度学习的专家教授，这就更尴尬了。只能临时抱佛脚求助 ChatGPT，没想到 AI 给出的解释通俗易懂，真大哥也。 除了口头禅 “总之”，其他都挺好的。 rasa 中 DIETClassifier 的作用 在 Rasa 中，DIETClassifier 是一种用于意图分类和实体提取的深度学习模型。 ...

阅读全文...

2023-07-01 · 阅读 7297 · 字数 641

由于要现场演示 Rasa 对话机器人的实际效果，感觉用 Rasa Shell 命令来演示不太正式。 还是用网页版 Rasa 组件来演示更直观一些，也容易理解。 再就是我想把对话场景制作成一段小视频，或 gif，放到 PPT 里给客户演示。这种情况，也是网页端更简单直观。 页面效果 但是官方组件在手机端体验不太好，底部发送按钮有遮拦，在 iphone 上按钮超出右侧屏幕，原因是宽度都是用的 px 写死。 rasa websocket 配置 打开配置文件 credentials.yml: 增加 socketio: user_message_evt: user_uttered bot_me ...

阅读全文...

2025-05-01 · 阅读 4376 · 字数 655

自动化的必要性 手动跑一遍覆盖各种问题的对话，太耗费时间了。例如，即便最简单的有十几个意图识别的对话场景，手动测试一遍都需要很长时间。 而且记不住有哪些 rule ... 需要对照着 nlu.yml 文件才能记起来。 比较高效的方式是，跑一遍自动化测试，然后将失败的 case 摘出来，手动跑一遍交互式训练。 还有另外一个好处，就是之后现场演示的时候，可以照着自动化测试的 test case 来演示，以保证万无一失。避免像百度文心一言一样，发布会上连现场演示的勇气都没有。 测试文件 > ls tests/ test_stories.yml 似乎没有 test_rules.yml 这样的文 ...

阅读全文...

2023-04-19 · 阅读 3742 · 字数 287

在配置 Rasa 对话规则的时候，我一直有一个疑问。 Rasa 中 story 的意义是什么？ 我在跟 Rasa 对话的时候，似乎也没发现按照 story 的流程走。 查了一下： Rasa 包含了两种方式来定义对话流程：规则（Rules）和故事（Stories）。 规则是一种简单而有限制的方式来定义对话流程。它们通常用于处理简单的用户请求，例如回答一个固定的问题或者执行某些操作。规则只能捕获单个意图（intent）并且不能处理槽位填充或多轮对话。该方法适用于简单的场景下。 相比之下，故事可用于更复杂的对话流程。故事中可以包含多个意图、槽位填充以及多轮对话。在故事中，您可以定义特定的对话场景，并 ...

阅读全文...

2023-04-17 · 阅读 3570 · 字数 287

首先在 google colab 上新建一个笔记本，然后菜单里选择 “修改” - “笔记本设置” 在弹出的配置对话框里，选择 GPU 作为硬件加速器，即可。 点击保存。 GPU 加速数据处理的场景 机器学习和深度学习：GPU 对于大规模数据集的处理速度比 CPU 快得多，因此免费的 GPU 资源可以用于训练神经网络、图像识别、自然语言处理等任务。 科学计算：GPU 可以用于加速各种科学计算，如物理仿真、气象预测等。 游戏开发：使用 GPU 进行游戏开发可以提高渲染速度和图形质量。 数字艺术和设计：GPU 可以用于加速渲染和处理高分辨率图像和视频，从而加快数字艺术和设计的工作流程。 例如 ...

阅读全文...

2023-05-31 · 阅读 6617 · 字数 1475

由于线上生产环境使用的是腾讯云的服务器，Ubuntu server 版本比较低，是 18.04。自带的 python 版本为 3.6，不满足对话机器人框架 rasa 对 python 版本的最低要求。 而升级 python 版本可能破坏系统的一些工具。至于 virtualenv, miniconda 的方案我都非常反感，因为手动操作也不少，增加了重复部署的复杂度，而且长时间不用，命令就忘了。（目前大部分服务端程序，我都采用了 golang，已经很少用 python）我觉得目前最佳的部署方案是 docker。 这也是我第一次线上生产环境尝试 docker 部署，所以记录一下流程。 如果有一定 d ...

阅读全文...

2023-05-08 · 阅读 5220 · 字数 363

使用 Rasa rules.yml 是最简单的指定回复内容的方式，即，添加一条匹配规则。 添加一个意图对应的回复，需要编辑三个文件。 以回复用户的夸奖为例： nlu.yml 意图识别： data/nlu.yml - intent: praise examples: | - 你真聪明 - 你怎么这么聪明 - 你太智能了 - you are really smart - you are so clever domain.yml 编辑返回的内容模板。domain.yml 中添加： version: "3.1" intents: ...

阅读全文...

2024-04-10 · 阅读 14275 · 字数 1913

Rasa 安装之后，默认是不支持中文对话的。 学习、配置的策略 查到的示例，pipeline 配置各不相同，不动手试，难以知道相互间的优劣。 所以，先从能运行的最简单配置开始。例如使用《Rasa 实战：构建开源对话机器人》这本书上的推荐的中文 pipeline。 里面有个医疗机器人的 nlu 配置示例。当然，只包含了 nlu 部分的配置，即识别意图和实体，没有回复配置。 效果 基于 Rasa websocket 的网页组件 实现。 最简单的中文配置 打开项目根目录下的 config.yml 配置文件，修改如下： recipe: default.v1 language: zh pipeli ...

阅读全文...

2023-04-07 · 阅读 4293 · 字数 702

官方文档 https://rasa.com/docs/rasa/components 记录几个感觉比较重要的： 语言模型 Language Model MitieNLP: 预训练的语言模型之一，需要指定模型文件，网上有可以下载到的用百度知道和维基百科训练好的中文模型文件。 SpacyNLP: 另一个预训练的语言模型。也需要指定模型文件，以中文为例，有几个版本，https://spacy.io/usage/models, 小的几十M，大的几百M. 推荐使用至少中型模型，即 md，否则影响意图分类的性能。 在一些文章里看到说是官方推荐使用 SpacyNLP, 但是我在官方文档里没有找到这样的说 ...

阅读全文...

2023-08-29 · 阅读 2948 · 字数 388

rasa init 初始化项目之后，可以看到增加了很多不需要添加到 git 项目管理中的文件，例如 模型文件。默认的模型文件大小就有 24M。 cache 文件 等。 在开始动手修改各种 yml 配置文件之前，最好先提交原始的文件到 git 管理中，防止误操作。 网上找到一个规范的 rasa gitignore 文件，用来过滤这些文件。 参考 https://raw.githubusercontent.com/RasaHQ/rasa-nlu-examples/main/.gitignore gitignore 配置 # Byte-compiled / optimized / DLL fil ...

阅读全文...

2025-05-01 · 阅读 11040 · 字数 1208

需求是实现一个特定领域的问答功能，交互模式类似跟 ChatGPT/文心一言聊天一样，或者是购物平台中的客服机器人。 基于 ChatGPT 的开源实现来训练模型肯定不现实，毕竟这么大的模型，训练成本极高，而且现实需求也不需要这么庞大的功能，只需要专业的领域知识即可。 此外，涉及到医疗领域，自动回复不能太随意，容易引起纠纷。所以最近经常看到有人在问“怎样使用 ChatGPT 构造一个客服机器人？”，我的感觉是，对场景理解有偏差。 找了一下发现一个不错的开源对话管理框架 Rasa。 Rasa Open Source is the most popular open source framework ...

阅读全文...

2023-03-30 · 阅读 3493 · 字数 349

参考前文，用 yolov5 的 pytorch torchscript lite 模型开发了一个多物体检测的 Android APP。 调试完成之后，进行编译打包 Generate Signed Bundle/APK。 然而，编译后的 APK 文件大小让我大吃一惊，足足有 240M。 使用 Android Studio 自带的 Build - Analyze APK 功能的分析结果： 好在不是面向 C 端的产品，否则估计没有几个人愿意下载这么大的 App，仅仅为了一个图像识别功能。 巨大的 apk 文件 torchscript lite 模型 model 文件大小：23M libpytor ...

阅读全文...

2023-04-03 · 阅读 4736 · 字数 808

由于 yolov5 相关的 TensorFlow Lite 示例代码太少，而且都是旧版本的示例，导致我完全不知道怎么上手。 所以转投 pytorch mobile 的方案，主要是 facebook 官方的示例代码非常完整，且清晰明了，容易修改。 再就是国内 Android 手机普遍不能使用 google play 的服务，所以 TensorFlow lite 安装包小的优势也就没有了。至于性能，暂时没有要求，而且实测来看，pytorch mobile 的识别速度就非常快，几乎瞬间完成，没有做计时，估计也是几十毫秒的范围，已经很满意了。 识别效果 以识别照片中小麦穗数量为例： 导出 pytor ...

阅读全文...

2023-03-29 · 阅读 3502 · 字数 560

TFLite 是 TensorFlow Lite 的缩写。TFLite 在 Android 上的运行速度更快，因为它专门针对移动设备进行了优化。但是，最后我发现我实在找不到在 Android 上执行 yolov5 TFLite 模型的示例，转而使用 pytorch mobile 的 torchscript lite 模型实现了在 Android 上的目标检测。 虽然没有在 Android 上用 tflite 模型实现功能，但是记录一下导出 tflite 模型的操作方法。 导出命令 python export.py --weights yolov5s.pt --include tflite ...

阅读全文...