Dify VS FastGPT —— 两个出色的整合大模型应用的开源项目

在基于大语言模型 API 的生态上,有那么几种类型的应用解决不同的痛点: 1. 使用最广泛的是网页或软件在API上套壳,方便有网络障碍和弹性需要的用户; 2. 检索增强生成(RAG),适用于垂直和私有化数据领域; 3. 结合第三方软件,包括 SaaS 平台、本地工具,扩展模型的能力; 4. 低代码拖控件调度工作流,降低个性化定制的门槛; 5. 统一API接管,应对各家模型如雨后春笋般发布的场景。 而 langgenius/dify 和 labring/FastGPT 将以上功能集于一身,是开源AI项目中的佼佼者,类似的项目还有 Bisheng 和 TaskingAI(国外的新起之秀)等。综合体验下来,我选择 Dify 和 FastGPT 的社区版作为其中代表进行比较, 这两个应用也是我使用最多的,在不同服务器上都部署过,以下评价并非严谨的测试,仅作为主观使用感受总结。 安装和运行环境: Dify…

AI的轻应用开发只是热闹一时

这篇文章写于2024年1月15日,现在分享到博客上来。 我自己也开发过GPT,对话数超过10k,评分4.5,算排名靠近,不过我也早早取消了Plus订阅,改用API了,那对我来说更好用。 GPT是OpenAI推出的定制版ChatGPT,有点类似于微信小程序。定制门槛很低,最简单的直接在聊天框上提需求,构建器会自动帮你创建好,然后还可以分享到商店来赚取收益。 在这篇文章中,我得出几个结论,如果您有不同的看法,欢迎探讨。 1. GPT应用真正能落地的场景很有限 这个结论也同样适用于国内AI平台。 为了理解这点,我们需要回顾一下Prompt和Agent,即提示工程和智能体代理。 简单来说,大语言模型根据前文生成后文,而Prompt就是利用模型的这一特性预设某些提示以规范输出,例如角色扮演,Agent的骨干也是Prompt,通过特殊的提示让模型能够与外部服务及私有数据结合起来,更加垂直化。 提示和代理提供了无限的想象空间,大模型如同压缩了世界知识的宝藏,提示词如同密钥,有什么样的钥匙就能开出什么样的宝石。而代理将自然语言赋予了创造的魔力,如同咒语般从石头…

Ghost进阶系列:填坑总结

更新时间:2023年3月5日20点32分 除非 Ghost 有你不可替代的功能需求,或者喜欢上手高难度,否则我建议你放弃。 备份和更新 Docker 版不支持完整的 Ghost CLI,例如通过命令行进行备份,备份参考文档:如何重新安装幽灵。 Docker容器更新办法: 一种方式是通过 Watchtower 自动更新,比较省事,但是可能会出问题,博客掉线了可能都不知道。 另一种方式是手动更新: * 初始搭建时选择 ghost:latest 这个名称的镜像。 * 更新只需重新下载,镜像同名但是最新版本,新镜像将会替换旧镜像。 * 然后将正在运行的 Ghost 容器复制一份。 * 关闭旧容器并删除旧容器上的端口映射。 * 启动新镜像的容器并选择复制旧容器的设置和数据,重新映射端口。 * 博客已经运行在新容器上,数据没有损失。 * 运行一段时间后再决定是否删除旧容器和镜像。这种更新方式比较安全。 扩展阅读:如何更新群晖Synology的Docker容器_哔哩哔哩_bilibili 问题1:每次系统重启或容器更新时 Ghost…

曲线救国:用谷歌语音助理唤起必应聊天

现在手机上的 Bing 应用 已支持 AI 聊天,并且可以语音对话。 声音还行,识别率也高,即便偶尔口误或者识别出错别字,也基本上能够返回正确的回答。 不过,Bing 还无法像 Siri、小爱那样在待机状态下用语音唤醒,也许未来微软会重新上线像曾经的 Cortana 那样的智能助理,但目前只能通过点击桌面上的图标打开。 有没有办法直接用口令唤醒呢? 经尝试,我在 Android 手机上成功用 Google Assitant 和 Tasker 呼出 Bing Chat Voice 并连续对话。 本文只演示安卓设备上的操作,比较简单,欢迎探讨实现更复杂的功能,或者更直接的操作。理论上苹果 IOS 上的快捷指令也能实现 Siri 和 Bing 的联动,期待看到相关的教程。 前提:需要一部无障碍使用 Google 三件套的安卓设备,…

替代 ChatGPT,用 Notion AI 和 Bing Chat 写文稿

Notion 简介 Notion 是一款功能强大的云端笔记软件,可以让用户创建各种类型的文档、表格、数据库、任务清单、日程安排等。Notion 支持多人协作,可以轻松地与团队成员共享和编辑文档。Notion 支持块引用和 API,这让它拥有丰富灵活的能力,不仅仅用来做笔记,也可以用来做项目管理、任务清单、知识库、财务记账、博客等。 Notion AI 介绍 Notion AI 是 Notion 最新推出的智能写作助手,它利用生成式语言模型自动创建各种文本内容,功能主要包括: * 写作模式:使用不同的模式,例如博客、社交媒体帖子、待办事项、想法等自动生成不同内容。 * 自动建议:Notion AI 可以根据用户输入的文本建议下一步操作,例如添加任务、创建列表、甚至自动完成句子。这种功能可以帮助用户更快地完成文档,从而提高效率。 * 自动摘要:Notion AI…

listmonk:优秀的Newsletter自托管工具

更新时间:2023年8月16日06点59分 Ghost大概是最佳的Newsletter[1]自托管方案,但一来它的学习与搭建成本比较高(参考我的#Ghost 系列博文),二来在Newsletter方面也有诸多限制:不支持SMTP,只支持Mailgun的API。 假设你拥有可用于批量投递的企业邮箱(从知名品牌服务商那儿获取的个人邮箱和非独立公网环境下自建的邮箱并不适合用来发送批量邮件——这应该成为常识),希望进行Newsletter形式的内容创作,Listmonk可以用作Ghost的补充工具。或者你并不需要一个博客,而是将listmonk单独使用——提供给访客一个简单的订阅表单,文章不发布于网站,只从邮件推送,此外也支持短信、手机通知,这个demo可以体验完整的功能,这里主要介绍如何安装。 官方文档介绍的是用docker-compose安装,默认配置也将安装Postgres DB,Postgres是必须的,许多Docker项目都依赖Postgres数据库,我建议独立安装,让许多服务连接同一个容器,安装教程参考postgres - Official Image | Docke…

Docker版PostgreSQL升级迁移(慎用Watchtower更新基础服务)

Docker容器更新是个麻烦事,我的话因为大部分服务只有自己在用,也做了数据持久化和备份,就用Watchtower一键更新,这样做很方便但也可能会产生问题,因为有些项目版本迭代会导致配置、数据以及网络环境不兼容,我碰到过的就有:Alist从V2升级到V3导致配置重置;一个更新失败导致后续所有的容器丢失(大坑,建议还是一个一个更新而不是全部一起更新)等等。这次又作死更新了postgres,发现大版本已经从14升级到15了,提示数据库不兼容: PostgreSQL database files are incompatible with server. 迁移方式 官方支持的方式: 1. pg_dump或pg_dumpall,这种方式将数据库转储为一个sql文件,在新旧数据集导出和导入,缺点是速度较慢,迁移多个数据库比较麻烦,似乎也不支持非文本数据,我没有测验过,参考教程1、教程2; 2. pg_upgrade,此种方式不需要中间文件转储,速度较快,但是除了要复制数据文件,还要手动复制容器中…

Ghost进阶:存储库和编辑器

更新时间:2022年10月22日15点37分 存储库的选择 Ghost编辑器默认将图片上传在本地content/images文件夹,支持第三方存储库,已提供的适配器包括Http-Store 、WebDAV、GitHub、Amazon S3、七牛云、又拍云、阿里云 OSS、Azure 云存储等,其中有些可能不兼容Ghost 4.0及以后版本。另外可以自己开发适配器——Docker部署的话,需要重新封装镜像,这为升级带来不便。 默认的本地存储库有许多缺点: * 尽管图片作为静态内容,可以用CDN缓存,但是和文章在同一个源站还是会占用比较大的上行带宽和流量; * Ghost对隐私的保护是不够的,照片通常会带有包含地理位置等隐私信息的元数据,虽然博文默认加载的是压缩和删除过元数据的照片,但是原始照片也保存在本地存储库中,可以以某种方式访问到; * Ghost没有图片管理界面,删除只能在文件夹中进行,不管博客前端是否加密、文章是否发布,上传的图片可通过直链公开访问的,因此,Ghost可以当作一个简单的图床,但最好不要把它当作个人日记本上传私密照片。 手动压缩图片和删…