Qwen3.5-9B部署教程:HTTPS反向代理(Nginx)安全访问配置

张开发
2026/5/23 23:33:33 15 分钟阅读
Qwen3.5-9B部署教程:HTTPS反向代理(Nginx)安全访问配置
Qwen3.5-9B部署教程HTTPS反向代理Nginx安全访问配置1. 项目概述Qwen3.5-9B是一个拥有90亿参数的开源大语言模型具备强大的逻辑推理、代码生成和多轮对话能力。该模型支持多模态理解图文输入和长上下文处理最高可达128K tokens是当前开源模型中的佼佼者。1.1 基础环境信息模型版本: Qwen3.5-9B多模态变体搭建日期: 2026-03-25运行环境: torch28 (Conda)默认端口: 7860进程管理: Supervisor2. 准备工作在开始配置HTTPS反向代理前请确保已完成以下准备工作基础服务运行正常Qwen3.5-9B已通过Gradio WebUI在7860端口正常运行域名准备已拥有一个可用的域名如example.comSSL证书已获取有效的SSL证书可通过Lets Encrypt免费获取2.1 项目目录结构/root/qwen3.5-9b/ ├── app.py # 主程序 (Gradio WebUI) ├── start.sh # 启动脚本 ├── service.log # 运行日志 └── history.json # 对话历史记录3. Nginx反向代理配置3.1 安装Nginx# Ubuntu/Debian sudo apt update sudo apt install -y nginx # CentOS/RHEL sudo yum install -y epel-release sudo yum install -y nginx3.2 配置SSL证书假设您已通过Certbot获取Lets Encrypt证书sudo certbot certonly --standalone -d yourdomain.com证书通常存储在证书文件:/etc/letsencrypt/live/yourdomain.com/fullchain.pem私钥文件:/etc/letsencrypt/live/yourdomain.com/privkey.pem3.3 创建Nginx配置文件在/etc/nginx/conf.d/qwen3.5-9b.conf中创建以下内容server { listen 443 ssl; server_name yourdomain.com; ssl_certificate /etc/letsencrypt/live/yourdomain.com/fullchain.pem; ssl_certificate_key /etc/letsencrypt/live/yourdomain.com/privkey.pem; # SSL优化配置 ssl_protocols TLSv1.2 TLSv1.3; ssl_ciphers ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-RSA-AES128-GCM-SHA256...; ssl_prefer_server_ciphers on; ssl_session_cache shared:SSL:10m; ssl_session_timeout 10m; location / { proxy_pass http://localhost:7860; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; # WebSocket支持 proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade; # 超时设置 proxy_connect_timeout 60s; proxy_read_timeout 600s; proxy_send_timeout 600s; } # 静态文件缓存 location /static/ { alias /root/qwen3.5-9b/static/; expires 30d; access_log off; } } # HTTP重定向到HTTPS server { listen 80; server_name yourdomain.com; return 301 https://$host$request_uri; }3.4 配置说明SSL安全配置强制使用TLS 1.2/1.3禁用不安全的加密套件启用OCSP Stapling提高性能反向代理设置将HTTPS流量转发到本地的7860端口保留原始客户端IP信息支持WebSocket协议性能优化适当延长超时时间大模型响应可能较慢静态文件缓存减少服务器负载4. Supervisor进程管理确保Qwen3.5-9B服务通过Supervisor管理配置文件位于/etc/supervisor/conf.d/qwen3.5-9b.conf[program:qwen3.5-9b] command/bin/bash /root/qwen3.5-9b/start.sh directory/root/qwen3.5-9b environmentHOME/root,USERroot,LOGNAMEroot,SHELL/bin/bash,PATH/opt/miniconda3/envs/torch28/bin:/usr/bin:/bin userroot autostarttrue autorestarttrue startsecs30 startretries3 redirect_stderrtrue stdout_logfile/root/qwen3.5-9b/service.log stopasgrouptrue killasgrouptrue4.1 常用管理命令# 查看服务状态 supervisorctl status qwen3.5-9b # 重启服务 supervisorctl restart qwen3.5-9b # 停止服务 supervisorctl stop qwen3.5-9b # 查看实时日志 tail -f /root/qwen3.5-9b/service.log5. 安全加固措施5.1 防火墙配置# 允许HTTP/HTTPS sudo ufw allow 80/tcp sudo ufw allow 443/tcp # 禁止直接访问7860端口 sudo ufw deny 7860/tcp # 启用防火墙 sudo ufw enable5.2 访问控制在Nginx配置中添加基础认证location / { auth_basic Restricted Access; auth_basic_user_file /etc/nginx/.htpasswd; proxy_pass http://localhost:7860; # ...其他proxy设置 }创建密码文件sudo sh -c echo -n username: /etc/nginx/.htpasswd sudo sh -c openssl passwd -apr1 /etc/nginx/.htpasswd5.3 定期更新证书设置crontab自动续期# 编辑crontab sudo crontab -e # 添加以下内容每月1号凌晨3点检查续期 0 3 1 * * /usr/bin/certbot renew --quiet --post-hook systemctl reload nginx6. 功能验证6.1 访问测试通过HTTPS访问您的域名https://yourdomain.com验证SSL证书有效性浏览器地址栏应显示安全锁图标测试各项功能文本对话图片上传与分析参数调节6.2 性能监控# 查看Nginx连接状态 sudo nginx -t sudo systemctl reload nginx sudo tail -f /var/log/nginx/access.log # 监控资源使用 htop nvidia-smi # 如有GPU7. 常见问题解决7.1 502 Bad Gateway错误可能原因Qwen3.5-9B服务未运行代理超时设置过短解决方法# 检查服务状态 supervisorctl status qwen3.5-9b # 增加Nginx超时时间 proxy_connect_timeout 300s; proxy_read_timeout 300s; proxy_send_timeout 300s;7.2 SSL证书问题错误现象浏览器提示不安全连接证书过期警告解决方法# 手动更新证书 sudo certbot renew --force-renewal # 检查证书路径 ls -l /etc/letsencrypt/live/yourdomain.com/7.3 WebSocket连接失败解决方法 确保Nginx配置中包含WebSocket支持proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade;8. 总结通过本教程您已经成功为Qwen3.5-9B配置了HTTPS反向代理实现了以下安全增强加密传输所有通信通过TLS加密防止数据泄露访问控制限制直接访问原始端口增加基础认证性能优化合理的超时设置和静态文件缓存自动化维护证书自动续期和进程监控现在您可以安全地通过互联网访问您的Qwen3.5-9B实例享受其强大的多模态能力而无需担心基础安全问题。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。

更多文章