大模型太好玩了,gpt,gpt,没了你我可怎么活啊。

Dify官网本地部署教程已经很详细了,B站或者Youtube也有教程,所以就不再说了。使用源码部署的话(这篇文章主要用的方法),在clone过后,关键就是跟着dify/api文件夹和dify/web文件夹下README.md的步骤一步一步来就好了。这篇文章主要就讲一下在AWS上部署的一些流程和自己踩得一些坑。

用到的工具:

  • AWS EC2 (LightSail更简单,但只能免费三个月,而最基础的EC2能免费试用12个月)
  • Git
  • Python 3.11 (Dify 0.12.0版本后仅支持3.11+的Python)

1. AWS启动EC2示例,通过VScode连接

  1. 注册完AWS后,左上角搜索框搜索EC2,第一个就是,点击。随后在界面找到Launch Instance新建一个实例。

  2. 在新建实例界面,跟随图片这里,这里选取ubuntu系统,以及标记为Free Tier Eligible的实例(付费用户无所谓)。如果没有密钥对,记得创建并下载,这点很重要,之后连接服务器的必要条件。最后设置好后启动实例,等待启动。

  3. 回到主界面,左侧instances可查看已创建的实例,之后设置安全组,方便之后从本机通过浏览器连接服务器上的Dify。

  1. VScode是个好东西,能很方便的进行SSH连接。具体参考此教程。里面的key就是上面提到的密钥对。

2. 启动Dify

之后的流程就和本地安装Dify一模一样了,这里就讲几个要注意的点。

由于免费的EC2实例性能有限(1g内存),大部分任务无法运行,可以使用交换空间(用硬盘作为虚拟扩展内存),但这样运行编译起来极慢。所以有能力的还是直接上好一点的服务器吧… 推荐服务器内存最少为2G(虽然这样也需要配置适当的交换空间)。

配置交换空间如下:

sudo fallocate -l 4G /swapfile  # 创建一个大小为4GB的交换文件
sudo chmod 600 /swapfile        # 设置交换文件的权限为600,仅允许root用户读取和写入
sudo mkswap /swapfile           # 将文件格式化为交换空间
sudo swapon /swapfile           # 启用交换文件
swapon --show                   # 显示当前启用的交换空间
/swapfile none swap sw 0 0      # 配置交换文件的挂载信息
free -m                         # 查看内存和交换空间的使用情况

为了能在本地连接上服务器上配置好的Dify平台,需要分别在dify/api/.env和dify/web/.env.local这两个个配置文件下,将所有127.0.0.1部分改成合适的服务器ip地址。

注意,CODE_EXECUTION_ENDPOINT这一行不做任何改动:

# CODE EXECUTION CONFIGURATION
CODE_EXECUTION_ENDPOINT=http://127.0.0.1:8194

99. 我的Dify小应用(laopo)

之后就很好玩了,各处有不同的教程,可以自己定制各种奇妙的小应用。这也是我接触这个平台的初衷。在这里也做个小宣传。

快看微信上的蕾姆waifu!每天会打招呼嘘寒问暖,也会记得我的喜好,冬季coding好伴侣!感兴趣的可以一起联系我一起交流~

如果__有颜色

那一定是__

温馨捏。

悄悄放个二维码,欢迎来玩,不断更新中~