AI

平时多流汗,战时少流血!

从零开始学 Dify- 帐户与租户管理系统设计揭秘

本介绍了 Dify 的帐户和租户管理系统,该系统负责处理平台内的用户身份验证、工作区(租户)管理和用户权限。提供了全面的用户身份管理、多工作区支持以及基于角色的访问控制。 系统概述 帐户和租户管理系统是 Dify 的核心组件,用于管理: 用户帐户(User Accounts) ——注册、身份验证、配置文件管理 工作区(租户) - 拥有自己的成员和资源的组织单位 成员资格和角色 - 工作区内...

从零开始学Dify - API 后端架构原来是这样设计的

详细介绍了 Dify API 后端服务的架构,包括其核心组件、服务组织、数据流和集成点。API 后端是 Dify 的中核心系统,将 Web 前端与各种 AI 模型和数据存储系统连接起来。 API 后端架构概述 Dify 的 API 后端基于现代 Python 技术栈构建,并以 Flask 作为 Web 框架。它采用模块化架构,在路由、业务逻辑和数据访问之间清晰地划分了关注点。该系统设计为水平...

从零开始学Dify - Dify 系统架构

本文将全面介绍 Dify 的系统架构,阐述了主要组件如何协同工作以提供 LLM 应用程序开发平台。涵盖了高级架构、部署选项、核心子系统以及外部集成。 总体架构 Dify 采用基于微服务的架构,将前端 Web 应用程序与后端 API 服务分离。该系统旨在实现可扩展性,并可在各种环境中部署,包括自托管安装和云部署。 该架构包括: Web 前端 :基于 Next.js 的 Web 应用程序,为...

从零开始学Dify - Dify 平台简介

Dify 简介 Dify 是一个开源大型语言模型 (LLM) 应用程序开发平台,旨在弥合 AI 应用程序原型设计与生产部署之间的差距。本文为希望了解或扩展该平台的开发者和技术用户提供了 Dify 架构、组件和功能的技术概述。 平台概述 Dify 提供端到端解决方案,通过可视化工具和 API 的组合,构建基于 LLM 的应用程序。其架构旨在支持 AI 应用程序开发的整个生命周期,包括模型集成、...

让 LLM 稳定输出 JSON

LLMs 是如何工作的 非常高层级的 GPT 模型,包括 ChatGPT、GPT-4、GPT-3.5-turbo,它们接受过庞大的数据集的训练,包括互联网、维基百科、公共 GitHub 代码和其他授权材料。它们被称为自回归,因为它们所做的只是综合所有这些信息。它们接受一个 prompt,或者我们可以称之为上下文。它们查看 prompt。然后它们基本上只是决定,给定这个 prompt,给定这个...

使用搜索 API 进行问答并重新排名(Re-rank)

问题概述 搜索相关信息有时感觉就像大海捞针,但不要绝望,GPT 实际上可以为我们做很多这样的工作。在本文中,我们探索了一种使用各种 AI 技术增强现有搜索系统的方法,帮助我们筛选有价值信息。 检索 GPT 信息的两种方法是: 模仿人类浏览(Mimicking Human Browsing):GPT 触发搜索,评估结果,并在必要时修改搜索查询。它还可以跟进特定的搜索结果以形成思维链,就像人类...

这个 Prompt,为我节省了不少钱

不知道大家有没有遇到过,在使用 ChatGPT 提问相同的问题时,第二次回答会以“很抱歉”之类的话术回答,然后再加一些新的知识。 如下图,向 ChatGPT 提交完全相同的问题 复现问题 经过多次实验,发现只要记忆中有过类似的回答,经常会以“抱歉”的态度开始一个新的回答。 在实际的开发过程中,也遇到了类似的情景,如下图: 一开始误以为是 Tool 返回数据时,数据丢失,导致 Agent ...

编程神器 Cursor,自然语言编程,程序猿们是不是要。。。

编程神器——Cursor 在网上看到了一款编程神器——Cursor,官网介绍说是与 OpenAI 合作的。 Cursor 现在还处于早期阶段,但是现在 Cursor 可以帮助我们做一些事情: 智能编写代码:生成 10-100 行代码; 查看代码 Diff:让 AI 编辑一段代码; 聊天:在当前文件中,打开类似 ChatGPT 的界面,并与之交互; 其它:修复 Lint 错误,自动生成测试和...

3分钟部署ChatGPT服务端应用(附代码)

准备部署 在上一篇文章中我们设计了一个 ChatGPT 图形化应用,那么,怎么部署到服务器上,通过接口对外入提供服务呢? 如下图所示:可以点击"Export"按钮,可以将流程导出为 JSON 文件,以便与 LangChain 一起使用 测试模型 代码 flow.py from langflow import load_flow_from_json flow = loa...

3分钟搭建ChatGPT图形化问答应用

检查 Python 版本 安装 langflow 通过 pip 安装 pip install langflow 在安装过程中出现了如下错误: 同时,提示升级 pip,按提示执行命令,完成升级 再次运行 pip install langflow 命令,确保安装正常。 运行 langflow 执行如下命令 langflow 控制台输出上图信息,说明安装完成。 创建流程 浏览器输入网...

开启AI时代,ChatGPT和Whisper API隆重登场!

最新动态 ChatGPT 和 Whisper 模型现在已经可以在 OpenAI 的 API 上使用,使开发人员可以获得尖端的语言处理(不仅仅是聊天!)和语音转文本功能。通过一系列系统级别的优化,自去年 12 月以来,OpenAI 团队已经实现了 ChatGPT 的成本降低了 90%;现在正在将这些节省成本传递给 API 用户。开发人员现在可以在 API 中使用 OpenAI 开源的 Whis...

使用 ChatGPT 搭建微信聊天机器人

体验震撼 ChatGPT 近期以强大的对话和信息整合能力风靡全网,可以写代码、写诗、改论文、讲故事、教你谈恋爱等等,几乎无所不能。当然它也有不能干的,比如让它告诉你怎么赚 100 万。。。 自从注册了帐号,用上 ChatGPT 发现已经离不开它了哈,有问题第一时间都会想到去 ChatGPT 提问试试。它的回答总感觉就是有一个专业团队为你专门整理答案一样,非常准确又没有广告。 ChatGPT ...

手把手教你完成 ChatGPT 注册

ChatGPT 由人工智能公司 Open AI 推出,其对自己的定义是(优化对话的语言模型)非常震撼,近期不断有研究者发布与 ChatGPT 对话的内容,但其不支持中国大陆用户的注册,把我们想尝试进去玩一玩的人拒之门外。这里为大家提供一种注册方式。 科学上网环境准备 这个不用过多介绍了哈,需要将网络环境切换国外 IP(注意:香港 IP 也是不可以的),否则,你会遇到下图的错误提示。这里建议使...