qwen-free-api/README.md
2024-04-22 16:48:10 +08:00

14 KiB
Raw Permalink Blame History

Qwen AI Free 服务

支持高速流式输出、支持多轮对话、支持无水印AI绘图、支持长文档解读、图像解析零配置部署多路token支持自动清理会话痕迹。

与ChatGPT接口完全兼容。

还有以下五个free-api欢迎关注

Moonshot AIKimi.ai接口转API kimi-free-api

阶跃星辰 (跃问StepChat) 接口转API step-free-api

ZhipuAI (智谱清言) 接口转API glm-free-api

秘塔AI (metaso) 接口转API metaso-free-api

聆心智能 (Emohaa) 接口转API emohaa-free-api

免责声明

逆向API是不稳定的建议前往阿里云官方 https://dashscope.console.aliyun.com/ 付费使用API避免封禁的风险。

本组织和个人不接受任何资金捐助和交易,此项目是纯粹研究交流学习性质!

仅限自用,禁止对外提供服务或商用,避免对官方造成服务压力,否则风险自担!

仅限自用,禁止对外提供服务或商用,避免对官方造成服务压力,否则风险自担!

仅限自用,禁止对外提供服务或商用,避免对官方造成服务压力,否则风险自担!

目录

在线体验

此链接仅临时测试功能,长期使用请自行部署。

https://udify.app/chat/qOXzVl5kkvhQXM8r

效果示例

验明正身Demo

验明正身

多轮对话Demo

多轮对话

AI绘图Demo

AI绘图

长文档解读Demo

AI绘图

图像解析Demo

AI绘图

10线程并发测试

10线程并发测试

接入准备

通义千问 登录

进入通义千问随便发起一个对话然后F12打开开发者工具从Application > Cookies中找到login_tongyi_ticket的值这将作为Authorization的Bearer Token值Authorization: Bearer TOKEN

获取login_tongyi_ticket

多账号接入

你可以通过提供多个账号的login_tongyi_ticket并使用,拼接提供:

Authorization: Bearer TOKEN1,TOKEN2,TOKEN3

每次请求服务会从中挑选一个。

Docker部署

请准备一台具有公网IP的服务器并将8000端口开放。

拉取镜像并启动服务

docker run -it -d --init --name qwen-free-api -p 8000:8000 -e TZ=Asia/Shanghai vinlic/qwen-free-api:latest

查看服务实时日志

docker logs -f qwen-free-api

重启服务

docker restart qwen-free-api

停止服务

docker stop qwen-free-api

Docker-compose部署

version: '3'

services:
  qwen-free-api:
    container_name: qwen-free-api
    image: vinlic/qwen-free-api:latest
    restart: always
    ports:
      - "8000:8000"
    environment:
      - TZ=Asia/Shanghai

Render部署

注意部分部署区域可能无法连接qwen如容器日志出现请求超时或无法连接请切换其他区域部署 注意免费账户的容器实例将在一段时间不活动时自动停止运行这会导致下次请求时遇到50秒或更长的延迟建议查看Render容器保活

  1. fork本项目到你的github账号下。

  2. 访问 Render 并登录你的github账号。

  3. 构建你的 Web ServiceNew+ -> Build and deploy from a Git repository -> Connect你fork的项目 -> 选择部署区域 -> 选择实例类型为Free -> Create Web Service

  4. 等待构建完成后复制分配的域名并拼接URL访问即可。

Vercel部署

注意Vercel免费账户的请求响应超时时间为10秒但接口响应通常较久可能会遇到Vercel返回的504超时错误

请先确保安装了Node.js环境。

npm i -g vercel --registry http://registry.npmmirror.com
vercel login
git clone https://github.com/LLM-Red-Team/qwen-free-api
cd qwen-free-api
vercel --prod

原生部署

请准备一台具有公网IP的服务器并将8000端口开放。

请先安装好Node.js环境并且配置好环境变量确认node命令可用。

安装依赖

npm i

安装PM2进行进程守护

npm i -g pm2

编译构建看到dist目录就是构建完成

npm run build

启动服务

pm2 start dist/index.js --name "qwen-free-api"

查看服务实时日志

pm2 logs qwen-free-api

重启服务

pm2 reload qwen-free-api

停止服务

pm2 stop qwen-free-api

接口列表

目前支持与openai兼容的 /v1/chat/completions 接口可自行使用与openai或其他兼容的客户端接入接口或者使用 dify 等线上服务接入使用。

对话补全

对话补全接口与openai的 chat-completions-api 兼容。

POST /v1/chat/completions

header 需要设置 Authorization 头部:

Authorization: Bearer [login_tongyi_ticket]

请求数据:

{
    // 模型名称随意填写
    "model": "qwen",
    "messages": [
        {
            "role": "user",
            "content": "你是谁?"
        }
    ],
    // 如果使用SSE流请设置为true默认false
    "stream": false
}

响应数据:

{
    "id": "4c4267e7919a41baad8199414ceb5cea",
    "model": "qwen",
    "object": "chat.completion",
    "choices": [
        {
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "我是阿里云研发的超大规模语言模型,我叫通义千问。"
            },
            "finish_reason": "stop"
        }
    ],
    "usage": {
        "prompt_tokens": 1,
        "completion_tokens": 1,
        "total_tokens": 2
    },
    "created": 1710152062
}

AI绘图

对话补全接口与openai的 images-create-api 兼容。

POST /v1/images/generations

header 需要设置 Authorization 头部:

Authorization: Bearer [login_tongyi_ticket]

请求数据:

{
    // 可以乱填
    "model": "wanxiang",
    "prompt": "一只可爱的猫"
}

响应数据:

{
    "created": 1711507734,
    "data": [
        {
            "url": "https://wanx.alicdn.com/wanx/1111111111/text_to_image/7248e85cfda6491aae59c54e7e679b17_0.png"
        }
    ]
}

文档解读

提供一个可访问的文件URL或者BASE64_URL进行解析。

POST /v1/chat/completions

header 需要设置 Authorization 头部:

Authorization: Bearer [refresh_token]

请求数据:

{
    "model": "qwen",
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "type": "file",
                    "file_url": {
                        "url": "https://mj101-1317487292.cos.ap-shanghai.myqcloud.com/ai/test.pdf"
                    }
                },
                {
                    "type": "text",
                    "text": "文档里说了什么?"
                }
            ]
        }
    ]
}

响应数据:

{
    "id": "b56ea6c9e86140429fa2de6a6ec028ff",
    "model": "qwen",
    "object": "chat.completion",
    "choices": [
        {
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "文档中包含了四个古代魔法仪式或咒语的描述,它们似乎旨在影响或控制一个特定女性的情感和行为,使其对施术者产生强烈的爱意。以下是每个仪式的具体内容:\n\n1. **仪式一**PMG 4.1390  1495\n   - 施术者需留下一些面包,将其掰成七小块。\n   - 前往一处英雄、角斗士或其他暴力死亡者丧生的地方。\n   - 对着面包碎片念诵咒语后丢弃,并从该地取一些受污染的泥土扔进目标女性的住所。\n   - 咒语内容包括向命运三女神Moirai、罗马版的命运女神Fates、自然力量Daemons、饥荒与嫉妒之神以及非正常死亡者献祭食物并请求他们以痛苦折磨目标使她在梦中惊醒心生忧虑与恐惧最终跟随施术者的步伐并顺从其意愿。此过程以赫卡忒Hecate女神为命令的源泉。\n\n2. **仪式二**PMG 4.1342  57\n   - 施术者召唤恶魔Daemon通过一系列神秘的神祇名号如Erekisephthe Araracharara Ephthesikere要求其将名为Tereous的女子Apia所生带至施术者DidymosTaipiam所生身边。\n   - 请求该女子在灵魂、心智及女性器官上遭受剧烈痛苦直至她主动找寻Didymos并与之紧密相连唇对唇、发对发、腹部对腹部。整个过程要求立即执行。\n\n3. **仪式三**PGM 4.1265  74\n   - 揭示了阿佛洛狄忒Aphrodite鲜为人知的名字——NEPHERIĒRI[nfr-iry-t]。\n   - 如果想赢得一位美丽女子的芳心,施术者应保持三天纯净,献上乳香,并在心中默念该名字七次。\n   - 这样的做法需持续七天,据说这样便能成功吸引女子。\n\n4. **仪式四**PGM 4.1496  1\n   - 施术者在燃烧的煤炭上供奉没药myrrh同时念诵咒语。\n   - 咒语将没药称为“苦涩的调和者”、“热力的激发者”,并命令它前往指定的女子(及其母亲的名字)处,阻止她进行日常活动(如坐、饮、食、注视他人、亲吻他人),迫使她心中只有施术者,对其产生强烈的欲望与爱意。\n   - 咒语还指示没药直接穿透女子的灵魂,驻留在其心中,焚烧其内脏、胸部、肝脏、气息、骨骼、骨髓,直到她来到施术者身边。\n\n这些仪式反映了古代魔法实践中试图借助超自然力量操控他人情感与行为的企图涉及对神灵、恶魔、神秘名字及特定物质如面包、泥土、乳香、没药的运用通常伴随着严格的仪式规程和咒语念诵。此类行为在现代伦理和法律框架下被视为不恰当甚至违法且缺乏科学依据。"
            },
            "finish_reason": "stop"
        }
    ],
    "usage": {
        "prompt_tokens": 1,
        "completion_tokens": 1,
        "total_tokens": 2
    },
    "created": 1712253736
}

图像解析

提供一个可访问的图像URL或者BASE64_URL进行解析。

此格式兼容 gpt-4-vision-preview API格式您也可以用这个格式传送文档进行解析。

POST /v1/chat/completions

header 需要设置 Authorization 头部:

Authorization: Bearer [refresh_token]

请求数据:

{
    "model": "qwen",
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "type": "file",
                    "file_url": {
                        "url": "https://img.alicdn.com/imgextra/i1/O1CN01CC9kic1ig1r4sAY5d_!!6000000004441-2-tps-880-210.png"
                    }
                },
                {
                    "type": "text",
                    "text": "图像描述了什么?"
                }
            ]
        }
    ]
}

响应数据:

{
    "id": "895fbe7fa22442d499ba67bb5213e842",
    "model": "qwen",
    "object": "chat.completion",
    "choices": [
        {
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "图像展示了通义千问的标志,一个紫色的六边形和一个蓝色的三角形,以及“通义千问”四个白色的汉字。"
            },
            "finish_reason": "stop"
        }
    ],
    "usage": {
        "prompt_tokens": 1,
        "completion_tokens": 1,
        "total_tokens": 2
    },
    "created": 1712254066
}

login_tongyi_ticket存活检测

检测login_tongyi_ticket是否存活如果存活live未true否则为false请不要频繁小于10分钟调用此接口。

POST /token/check

请求数据:

{
    "token": "QIhaHrrXUaIrWMUmL..."
}

响应数据:

{
    "live": true
}

注意事项

Nginx反代优化

如果您正在使用Nginx反向代理qwen-free-api请添加以下配置项优化流的输出效果优化体验感。

# 关闭代理缓冲。当设置为off时Nginx会立即将客户端请求发送到后端服务器并立即将从后端服务器接收到的响应发送回客户端。
proxy_buffering off;
# 启用分块传输编码。分块传输编码允许服务器为动态生成的内容分块发送数据,而不需要预先知道内容的大小。
chunked_transfer_encoding on;
# 开启TCP_NOPUSH这告诉Nginx在数据包发送到客户端之前尽可能地发送数据。这通常在sendfile使用时配合使用可以提高网络效率。
tcp_nopush on;
# 开启TCP_NODELAY这告诉Nginx不延迟发送数据立即发送小数据包。在某些情况下这可以减少网络的延迟。
tcp_nodelay on;
# 设置保持连接的超时时间这里设置为120秒。如果在这段时间内客户端和服务器之间没有进一步的通信连接将被关闭。
keepalive_timeout 120;

Token统计

由于推理侧不在qwen-free-api因此token不可统计将以固定数字返回。

Star History

Star History Chart