Ostrakon-VL-8B代码实例：Chainlit前端集成vLLM服务的完整调用示例

Ostrakon-VL-8B代码实例Chainlit前端集成vLLM服务的完整调用示例1. 引言当零售AI遇到可视化交互想象一下你是一家连锁超市的技术负责人。每天门店经理需要处理成百上千的商品图片检查货架陈列、识别过期食品、分析顾客行为。传统的人工检查不仅耗时费力还容易出错。现在有一个专门为零售场景打造的AI模型——Ostrakon-VL-8B它能看懂图片、理解场景还能给出专业建议。更棒的是这个模型已经用vLLM部署好了你只需要一个简单的前端就能调用它。今天我就带你一步步实现这个功能用Chainlit搭建一个直观的交互界面让不懂代码的业务人员也能轻松使用这个强大的零售AI助手。通过本文你将学会如何验证vLLM部署的Ostrakon-VL-8B服务是否正常运行如何使用Chainlit快速搭建一个图文对话前端如何编写完整的调用代码实现图片上传、问题提问、结果展示的全流程掌握实际应用中的技巧和注意事项无论你是AI开发者、零售行业的技术人员还是对多模态AI应用感兴趣的爱好者这篇文章都能让你快速上手把先进的AI能力应用到实际业务中。2. Ostrakon-VL-8B零售领域的AI专家2.1 模型定位与核心优势Ostrakon-VL-8B不是一个通用的多模态模型它是专门为食品服务和零售商店场景量身定制的领域专家。你可以把它想象成一个在零售行业工作了多年的资深顾问它不仅能看懂图片还能理解零售场景的特殊需求。这个模型基于Qwen3-VL-8B构建但在零售相关任务上的表现甚至超过了规模大得多的通用模型。这意味着什么呢简单来说就是“小而精”——虽然参数规模不大但在特定领域内非常专业。2.2 技术特点与能力范围Ostrakon-VL-8B的核心能力体现在三个方面视觉感知能力它能识别零售场景中的各种元素从商品标签上的小字到货架的整体布局都能准确捕捉。模型训练时使用的图片平均每张包含13.0个物体这意味着它擅长处理复杂的视觉场景。合规检查能力在零售行业合规性非常重要。模型能检查食品标签是否规范、商品摆放是否符合规定、安全标识是否齐全等。智能决策能力基于对图片的理解模型能给出专业的建议。比如分析货架陈列是否合理、识别潜在的食品安全问题、提供库存管理建议等。模型支持多种输入输出格式输入单张图片、多张图片、甚至视频输出开放式问答、结构化数据、选择题等多种格式这种灵活性让它能适应不同的业务需求从简单的商品识别到复杂的场景分析都能胜任。3. 环境准备与服务验证3.1 检查vLLM服务状态在开始编写前端代码之前我们首先要确保后端的模型服务已经正常运行。如果你使用的是预置的镜像环境服务通常已经部署好了但我们还是需要确认一下。打开终端运行以下命令查看服务日志cat /root/workspace/llm.log如果看到类似下面的输出说明服务已经成功启动INFO 07-15 10:30:25 llm_engine.py:73] Initializing an LLM engine with config: model/models/ostrakon-vl-8b, tokenizer_modeauto, trust_remote_codeTrue, dtypeauto, seed0) INFO 07-15 10:30:25 model_runner.py:105] Loading model weights took 85.3 GB INFO 07-15 10:30:26 llm_engine.py:179] # GPU blocks: 47680, # CPU blocks: 8192 INFO 07-15 10:30:26 llm_engine.py:180] Available memory: 79.2 GB INFO 07-15 10:30:26 llm_engine.py:181] Model successfully loaded.关键信息解读Model successfully loaded模型加载成功Available memory显示可用内存确保有足够资源运行模型如果没有错误信息说明服务状态正常如果服务没有启动你可能需要检查模型文件是否完整下载内存是否足够8B模型需要较大内存vLLM配置是否正确3.2 理解服务接口Ostrakon-VL-8B通过vLLM提供服务这意味着我们可以通过标准的HTTP接口来调用它。vLLM提供了兼容OpenAI API的接口这让我们的集成工作变得简单。服务通常运行在本地端口比如http://localhost:8000。我们可以通过以下方式测试接口是否可用import requests # 测试服务连通性 try: response requests.get(http://localhost:8000/health) if response.status_code 200: print(✅ 服务运行正常) else: print(❌ 服务异常状态码:, response.status_code) except Exception as e: print(❌ 连接服务失败:, str(e))这个简单的测试能帮助我们确认服务是否可访问避免在后续开发中遇到连接问题。4. Chainlit前端开发实战4.1 Chainlit简介与安装Chainlit是一个专门为AI应用设计的聊天界面框架它让创建交互式AI应用变得非常简单。你可以把它想象成给AI模型穿上一件漂亮的“外衣”让用户通过直观的界面与模型交互。安装Chainlit只需要一行命令pip install chainlit如果你需要更具体的版本或者遇到安装问题可以指定版本pip install chainlit1.0.0安装完成后你可以通过以下命令验证安装是否成功chainlit --version4.2 创建基础应用框架让我们从创建一个最简单的Chainlit应用开始。新建一个文件app.py写入以下代码import chainlit as cl cl.on_chat_start async def start_chat(): 聊天开始时的初始化 await cl.Message( content欢迎使用零售AI助手我可以帮你分析商品图片、检查货架陈列、识别食品安全问题等。请上传图片并提问吧 ).send() cl.on_message async def handle_message(message: cl.Message): 处理用户消息 # 这里暂时简单回复后面我们会接入真正的模型 await cl.Message( contentf我收到了你的消息{message.content}。模型功能正在开发中... ).send()运行这个应用chainlit run app.py然后在浏览器中打开http://localhost:8000注意这是Chainlit的默认端口不要和vLLM服务的8000端口冲突如果冲突可以修改端口。你会看到一个简单的聊天界面可以发送消息并收到回复。虽然现在还没有接入真正的模型但我们已经搭建好了前端的基本框架。4.3 实现图片上传功能在零售场景中图片分析是核心功能。Chainlit提供了方便的图片上传组件让我们轻松实现这个功能。修改app.py添加图片处理逻辑import chainlit as cl from PIL import Image import io import base64 cl.on_chat_start async def start_chat(): 聊天开始时的初始化 # 初始化会话状态用于存储上传的图片 cl.user_session.set(uploaded_images, []) await cl.Message( content欢迎使用零售AI助手请上传商品或货架图片然后提出你的问题。 ).send() cl.on_message async def handle_message(message: cl.Message): 处理用户消息 # 获取会话中存储的图片 uploaded_images cl.user_session.get(uploaded_images, []) if message.elements: # 处理上传的图片 for element in message.elements: if image in element.mime: # 将图片转换为base64格式方便后续处理 image_data base64.b64decode(element.content) image Image.open(io.BytesIO(image_data)) # 保存图片信息到会话 uploaded_images.append({ data: image_data, name: element.name, size: element.size, image_obj: image }) await cl.Message( contentf✅ 已收到图片{element.name} ({element.size} bytes) ).send() # 更新会话中的图片列表 cl.user_session.set(uploaded_images, uploaded_images) # 如果有文字消息处理用户的问题 if message.content: if not uploaded_images: await cl.Message( content请先上传图片然后提出问题。 ).send() else: # 这里先简单回复后面会接入模型 await cl.Message( contentf已收到问题{message.content}\n当前有{len(uploaded_images)}张待分析的图片。 ).send()这段代码实现了图片上传和存储图片信息的显示基本的会话状态管理用户现在可以上传图片并在聊天界面中看到上传成功的反馈。5. 集成vLLM服务完整调用示例5.1 配置模型客户端现在到了最关键的部分把Chainlit前端和vLLM后端连接起来。我们需要创建一个模型客户端用于与Ostrakon-VL-8B服务通信。首先安装必要的依赖pip install openai requests pillow然后在app.py中添加模型客户端import chainlit as cl from openai import OpenAI import base64 import io from PIL import Image import json # 配置OpenAI客户端指向本地的vLLM服务 client OpenAI( base_urlhttp://localhost:8000/v1, # vLLM的OpenAI兼容接口 api_keynot-needed # vLLM不需要真正的API key ) def prepare_image_for_api(image_data): 将图片数据转换为API需要的格式 # 将二进制图片数据转换为base64 image_b64 base64.b64encode(image_data).decode(utf-8) # 构建消息格式 return { type: image_url, image_url: { url: fdata:image/jpeg;base64,{image_b64} } } def build_messages(user_question, images): 构建发送给模型的消息 messages [ { role: system, content: 你是一个零售行业的专家助手专门分析商品图片、货架陈列、食品安全等问题。请用专业但易懂的语言回答用户的问题。 } ] # 添加图片内容 content [] for img_info in images: content.append(prepare_image_for_api(img_info[data])) # 添加文本问题 content.append({ type: text, text: user_question }) messages.append({ role: user, content: content }) return messages5.2 实现完整的模型调用现在让我们完善消息处理函数实现真正的模型调用cl.on_message async def handle_message(message: cl.Message): 处理用户消息 # 获取会话中存储的图片 uploaded_images cl.user_session.get(uploaded_images, []) # 处理新上传的图片 new_images [] if message.elements: for element in message.elements: if image in element.mime: image_data base64.b64decode(element.content) image Image.open(io.BytesIO(image_data)) new_images.append({ data: image_data, name: element.name, size: element.size, image_obj: image }) # 显示上传成功的消息 await cl.Message( contentf✅ 已收到图片{element.name} ).send() # 将新图片添加到现有列表 uploaded_images.extend(new_images) cl.user_session.set(uploaded_images, uploaded_images) # 处理文本问题 if message.content and uploaded_images: # 显示思考中的消息 thinking_msg cl.Message(content正在分析图片...) await thinking_msg.send() try: # 构建消息 messages build_messages(message.content, uploaded_images) # 调用模型 response client.chat.completions.create( modelostrakon-vl-8b, # 模型名称 messagesmessages, max_tokens500, # 最大输出长度 temperature0.7, # 创造性程度 streamTrue # 启用流式输出 ) # 处理流式响应 answer for chunk in response: if chunk.choices[0].delta.content: answer chunk.choices[0].delta.content # 更新消息内容实现打字机效果 await thinking_msg.stream_token(chunk.choices[0].delta.content) # 完成消息 await thinking_msg.update() # 清空图片列表准备下一次对话 cl.user_session.set(uploaded_images, []) except Exception as e: await thinking_msg.update() await cl.Message( contentf调用模型时出错{str(e)} ).send() elif message.content and not uploaded_images: # 没有图片只有文字 await cl.Message( content请先上传图片然后提出问题。我可以帮你分析商品、检查货架、识别问题等。 ).send()5.3 添加实用功能增强体验为了让应用更加实用我们可以添加一些辅助功能cl.on_chat_start async def start_chat(): 聊天开始时的初始化 cl.user_session.set(uploaded_images, []) cl.user_session.set(chat_history, []) # 显示欢迎消息和使用提示 welcome_msg # 零售AI助手使用指南 欢迎使用基于Ostrakon-VL-8B的零售AI助手我可以帮你 ## 支持的功能 1. **商品识别** - 识别图片中的商品名称、品牌、规格 2. **货架分析** - 分析陈列是否规范、商品是否齐全 3. **合规检查** - 检查标签、保质期、安全标识 4. **场景理解** - 理解零售场景中的各种元素 ## 使用方法 1. 上传一张或多张图片 2. 提出你的问题如图片中的店铺名是什么 3. 等待AI分析并回复 ## 示例问题 - 这张图片里有哪些商品 - 货架陈列有什么问题 - 食品标签是否规范 - 估计一下库存数量 开始上传图片并提问吧 await cl.Message(contentwelcome_msg).send() cl.step(name分析图片, typetool) async def analyze_image_step(question, image_count): 创建一个分析步骤显示在侧边栏 return f正在分析{image_count}张图片问题{question} # 在handle_message中添加步骤跟踪 async def handle_message(message: cl.Message): # ... 之前的代码 ... if message.content and uploaded_images: # 创建分析步骤 analysis_step await analyze_image_step( message.content, len(uploaded_images) ) # ... 调用模型的代码 ... # 完成步骤 analysis_step.end() # ... 其余代码 ...6. 完整代码与部署指南6.1 完整的app.py代码将前面所有的代码片段整合起来以下是完整的app.py文件import chainlit as cl from openai import OpenAI import base64 import io from PIL import Image # 配置OpenAI客户端指向本地的vLLM服务 client OpenAI( base_urlhttp://localhost:8000/v1, api_keynot-needed ) def prepare_image_for_api(image_data): 将图片数据转换为API需要的格式 image_b64 base64.b64encode(image_data).decode(utf-8) return { type: image_url, image_url: { url: fdata:image/jpeg;base64,{image_b64} } } def build_messages(user_question, images): 构建发送给模型的消息 messages [ { role: system, content: 你是一个零售行业的专家助手专门分析商品图片、货架陈列、食品安全等问题。 请用专业但易懂的语言回答用户的问题。 如果图片不清晰或无法识别请如实告知。 对于不确定的内容不要猜测可以说明需要更多信息。 } ] content [] for img_info in images: content.append(prepare_image_for_api(img_info[data])) content.append({ type: text, text: user_question }) messages.append({ role: user, content: content }) return messages cl.on_chat_start async def start_chat(): 聊天开始时的初始化 cl.user_session.set(uploaded_images, []) welcome_msg # 零售AI助手 基于Ostrakon-VL-8B多模态模型专为零售场景优化。 ## 我能帮你 - 识别商品信息和品牌 - 分析货架陈列规范 - 检查食品安全标识 - 理解零售场景细节 ## 快速开始 1. 点击上传按钮或拖拽图片到聊天框 2. 输入你的问题 3. 查看AI的分析结果 试试问图片中的店铺名是什么 或 货架上有什么商品 await cl.Message(contentwelcome_msg).send() cl.on_message async def handle_message(message: cl.Message): 处理用户消息 uploaded_images cl.user_session.get(uploaded_images, []) # 处理新上传的图片 new_images [] if message.elements: for element in message.elements: if image in element.mime: try: image_data base64.b64decode(element.content) image Image.open(io.BytesIO(image_data)) # 检查图片大小避免过大 if len(image_data) 10 * 1024 * 1024: # 10MB await cl.Message( contentf图片 {element.name} 太大请上传小于10MB的图片 ).send() continue new_images.append({ data: image_data, name: element.name, size: element.size, image_obj: image }) await cl.Message( contentf✅ 已上传{element.name} ).send() except Exception as e: await cl.Message( contentf处理图片 {element.name} 时出错{str(e)} ).send() uploaded_images.extend(new_images) cl.user_session.set(uploaded_images, uploaded_images) # 处理文本问题 if message.content: if not uploaded_images: await cl.Message( content请先上传图片然后提出问题。我可以分析商品图片、检查货架陈列等。 ).send() return # 显示思考状态 thinking_msg cl.Message(content 正在分析图片...) await thinking_msg.send() try: # 构建消息 messages build_messages(message.content, uploaded_images) # 调用模型 response client.chat.completions.create( modelostrakon-vl-8b, messagesmessages, max_tokens800, temperature0.7, streamTrue ) # 流式输出 answer for chunk in response: if chunk.choices[0].delta.content: token chunk.choices[0].delta.content answer token await thinking_msg.stream_token(token) # 完成消息 await thinking_msg.update() # 可选保存到聊天历史 chat_history cl.user_session.get(chat_history, []) chat_history.append({ question: message.content, answer: answer, images: [img[name] for img in uploaded_images] }) cl.user_session.set(chat_history, chat_history) # 清空当前图片准备下一次对话 cl.user_session.set(uploaded_images, []) except Exception as e: await thinking_msg.update() error_msg f调用模型时出错{str(e)}\n\n error_msg 请检查\n error_msg 1. vLLM服务是否运行运行 cat /root/workspace/llm.log 查看\n error_msg 2. 服务地址是否正确默认 http://localhost:8000\n error_msg 3. 模型是否加载完成 await cl.Message(contenterror_msg).send() cl.password_auth_callback def auth_callback(username: str, password: str): 简单的身份验证可选 # 在实际部署中这里应该连接数据库或使用其他认证方式 if username admin and password admin123: return cl.User(identifieradmin) return None # Chainlit应用配置 cl.instrument_openai() # 运行应用时显示的信息 chainlit_title 零售AI助手 - Ostrakon-VL-8B chainlit_icon 6.2 配置文件chainlit.md创建一个chainlit.md文件来定制应用的外观# 欢迎使用零售AI助手 这是一个基于Ostrakon-VL-8B多模态模型的零售场景智能助手。 ## 功能特点 - ️ 支持图片上传和分析 - 专为零售场景优化 - ⚡ 快速响应和准确识别 - 本地部署数据安全 ## 使用说明 1. 上传零售相关的图片商品、货架、店铺等 2. 用自然语言描述你的问题 3. 获取专业的分析和建议 ## 技术栈 - 后端Ostrakon-VL-8B vLLM - 前端Chainlit - 部署Docker容器 --- *提示上传清晰、光线良好的图片可以获得更准确的分析结果。*6.3 部署与运行方式一直接运行# 安装依赖 pip install chainlit openai pillow # 运行应用 chainlit run app.py -w --port 7860参数说明-w启用自动重载修改代码后自动重启--port 7860指定端口避免与vLLM冲突方式二使用Docker部署创建DockerfileFROM python:3.9-slim WORKDIR /app # 安装系统依赖 RUN apt-get update apt-get install -y \ gcc \ g \ rm -rf /var/lib/apt/lists/* # 复制依赖文件 COPY requirements.txt . # 安装Python依赖 RUN pip install --no-cache-dir -r requirements.txt # 复制应用代码 COPY . . # 暴露端口 EXPOSE 7860 # 运行应用 CMD [chainlit, run, app.py, --port, 7860, --host, 0.0.0.0]创建requirements.txtchainlit1.0.0 openai1.0.0 Pillow10.0.0 requests2.31.0构建并运行# 构建镜像 docker build -t retail-ai-assistant . # 运行容器 docker run -p 7860:7860 --name retail-ai retail-ai-assistant方式三使用docker-compose推荐创建docker-compose.ymlversion: 3.8 services: vllm-service: image: vllm-service:latest # 你的vLLM服务镜像 ports: - 8000:8000 volumes: - ./models:/models command: [ python, -m, vllm.entrypoints.openai.api_server, --model, /models/ostrakon-vl-8b, --served-model-name, ostrakon-vl-8b, --port, 8000 ] deploy: resources: reservations: devices: - driver: nvidia count: all capabilities: [gpu] chainlit-frontend: build: . ports: - 7860:7860 depends_on: - vllm-service environment: - VLLM_API_URLhttp://vllm-service:8000/v1 volumes: - ./app.py:/app/app.py - ./chainlit.md:/app/chainlit.md运行docker-compose up -d7. 实际应用示例与效果展示7.1 完整使用流程演示让我们通过一个实际例子来看看整个系统如何工作。假设我们有一张超市货架的图片步骤1上传图片用户通过Chainlit界面上传一张货架图片界面会显示上传成功的信息。步骤2提出问题用户输入问题图片中的店铺名是什么货架上主要有哪些商品步骤3AI分析系统将图片和问题发送给Ostrakon-VL-8B模型模型会识别图片中的文字信息店铺招牌、商品标签等分析货架上的商品种类和品牌理解商品的摆放方式和数量步骤4返回结果模型返回的分析结果可能是根据图片分析 1. 店铺名称图片左上角的招牌显示为惠民超市这是一家社区超市。 2. 货架商品分析 - 左侧货架主要陈列饮料类商品 * 可口可乐500ml装约15瓶 * 百事可乐500ml装约12瓶 * 各种果汁饮料橙汁、苹果汁等 - 中间货架零食和方便食品 * 乐事薯片原味、烧烤味 * 康师傅方便面红烧牛肉味 * 奥利奥饼干 - 右侧货架日用品 * 纸巾心相印、维达品牌 * 洗发水海飞丝、飘柔 * 牙膏佳洁士、高露洁 3. 陈列观察 - 货架整体整洁商品分类明确 - 部分商品陈列不够饱满如中间货架上方 - 价格标签清晰可见 建议可以考虑补充中间货架的库存保持货架丰满度。7.2 不同场景的应用示例场景一商品识别与信息查询用户上传一瓶饮料的图片用户提问这是什么饮料营养成分有哪些AI回复这是元气森林气泡水白桃味是一款无糖气泡水。 营养成分表每100ml - 能量0kJ - 蛋白质0g - 脂肪0g - 碳水化合物0g - 糖0g - 钠10mg 配料水、二氧化碳、赤藓糖醇、碳酸氢钠、柠檬酸、三氯蔗糖、食用香精等。 特点零糖零脂零卡适合控糖人群。场景二合规性检查用户上传食品包装标签图片用户提问这个食品标签是否符合规范AI回复根据《食品安全国家标准 预包装食品标签通则》分析 ✅ 符合规范的内容 1. 食品名称清晰XX牌巧克力饼干 2. 配料表完整按含量递减顺序排列 3. 净含量明确标注200g 4. 生产日期和保质期清晰 5. 贮存条件说明完整 6. 生产厂家信息齐全 ⚠️ 需要注意 1. 营养成分表字体偏小建议加大 2. 缺少过敏原信息提示 3. 生产许可证编号位置不够醒目 建议补充过敏原信息调整标签排版以提高可读性。场景三货架陈列分析用户上传超市货架全景图用户提问这个货架的陈列有什么问题如何改进AI回复货架陈列分析 当前状况 1. 商品分类基本合理饮料区、零食区、日用品区分开 2. 价格标签基本齐全 3. 通道空间充足 存在问题 1. **陈列不饱满**上层货架有空缺影响美观和销售 2. **黄金位置未充分利用**视线平行层1.2-1.6米放置了滞销商品 3. **关联商品分散**薯片和饮料分开摆放影响连带销售 4. **清洁度待提升**部分货架有灰尘 改进建议 1. 立即补货保持货架丰满度至少80% 2. 将畅销商品调整到黄金位置 3. 将薯片和饮料相邻陈列促进组合销售 4. 加强日常清洁保持货架整洁 5. 添加促销标识吸引顾客注意力 预计改进后销售额可提升15-20%。7.3 性能优化建议在实际使用中你可能会遇到一些性能问题。这里提供一些优化建议图片处理优化def optimize_image(image_data, max_size1024): 优化图片大小提高处理速度 from PIL import Image import io image Image.open(io.BytesIO(image_data)) # 调整图片大小 if max(image.size) max_size: ratio max_size / max(image.size) new_size tuple(int(dim * ratio) for dim in image.size) image image.resize(new_size, Image.Resampling.LANCZOS) # 转换为JPEG格式控制质量 output io.BytesIO() image.save(output, formatJPEG, quality85, optimizeTrue) return output.getvalue()批量处理支持async def batch_process_images(images, questions): 批量处理多张图片和多个问题 results [] for i, (image, question) in enumerate(zip(images, questions)): # 显示处理进度 progress (i 1) / len(images) * 100 await cl.Message( contentf处理进度{progress:.1f}% ({i1}/{len(images)}) ).send() # 处理单张图片 result await process_single_image(image, question) results.append(result) return results缓存机制import hashlib from functools import lru_cache def get_image_hash(image_data): 生成图片哈希值用于缓存 return hashlib.md5(image_data).hexdigest() lru_cache(maxsize100) def cached_analysis(image_hash, question): 缓存分析结果避免重复计算 # 这里可以连接数据库或使用内存缓存 # 实际实现需要根据具体需求调整 pass8. 总结通过本文的完整示例我们实现了一个基于Ostrakon-VL-8B和Chainlit的零售AI助手。这个系统将先进的多模态AI能力包装成了易用的Web应用让非技术人员也能轻松使用。8.1 关键要点回顾模型选择Ostrakon-VL-8B是专门为零售场景优化的模型在商品识别、场景理解等方面表现出色。服务部署使用vLLM部署模型服务提供了高性能的推理能力和标准的API接口。前端开发Chainlit让我们能够快速构建交互式AI应用支持图片上传、流式响应等现代功能。系统集成通过OpenAI兼容的API前端和后端可以无缝对接实现完整的AI应用流程。实际应用系统可以应用于商品识别、合规检查、货架分析等多个零售场景真正解决业务问题。8.2 扩展与优化方向这个基础系统还有很多可以扩展的地方功能扩展添加多轮对话支持让AI能记住之前的对话内容实现批量图片处理提高工作效率添加导出功能将分析结果保存为报告性能优化实现图片缓存避免重复处理相同图片添加队列系统处理高并发请求优化图片预处理减少传输和处理时间用户体验添加更多交互元素按钮、下拉菜单等实现历史记录和搜索功能添加自定义提示词模板企业级特性添加用户认证和权限管理实现数据加密和隐私保护添加审计日志和操作记录8.3 开始你的AI零售之旅现在你已经掌握了从模型部署到前端开发的完整流程。无论是想为现有的零售系统添加AI能力还是开发全新的智能零售应用这个框架都能为你提供坚实的基础。记住技术的价值在于解决实际问题。Ostrakon-VL-8B在零售场景的专业能力加上Chainlit的易用界面让你能够快速构建出真正有用的AI应用。开始动手吧用AI技术为零售行业带来真正的改变获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。