烙馍网
  • 网站首页
  • 享受生活
    • 享受生活
    • 美食
    • 徐州美食
    • 小吃
    • 旅游
    • 旅游推荐
    • 文化
  • 产业
    • 产业
    • 3D打印
    • 物联网
  • 软件开发
    • 软件开发
    • Docker
    • Java
    • PHP
    • MySQL
    • Node
    • Python
    • Web
    • WordPress
    • Windows
  • AI
    • AI
    • Claude Code
    • AIGC
    • Agent-Skills
    • Codex
    • Hermes Agent
    • OpenClaw
  • 时光圈
    • 读者墙
    • 阅读导航
    • 博客归档
  • 留言板
    • 网站地图
    • 试试手气
  • 中文 (中国)
    • 中文 (中国)
    • English
  • 网站首页
  • 享受生活
    • 享受生活
    • 美食
    • 徐州美食
    • 小吃
    • 旅游
    • 旅游推荐
    • 文化
  • 产业
    • 产业
    • 3D打印
    • 物联网
  • 软件开发
    • 软件开发
    • Docker
    • Java
    • PHP
    • MySQL
    • Node
    • Python
    • Web
    • WordPress
    • Windows
  • AI
    • AI
    • Claude Code
    • AIGC
    • Agent-Skills
    • Codex
    • Hermes Agent
    • OpenClaw
  • 时光圈
    • 读者墙
    • 阅读导航
    • 博客归档
  • 留言板
    • 网站地图
    • 试试手气
  • 中文 (中国)
    • 中文 (中国)
    • English
徐州园博园初步开放时间定了!10大建筑群+49个展园即将亮相!
16796个OpenClaw Skills合集下载|总2.7G,压缩后仅738M,覆盖全场景技能
  1. 首页
  2. 标签
  3. 软件
极速本地大模型部署!SGLang保姆级实操教程,低显存高吞吐

大型语言模型 极速本地大模型部署!SGLang保姆级实操教程,低显存高吞吐

玩本地大模型的小伙伴应该都有同感:主流的 Transformers、vLLM 部署要么速度慢、吞吐低,要么显存…

57次阅读 0个评论
大型语言模型 2026年7月7日
开源 AI 短剧神器 Toonflow:整本小说一键生成完整剧集,个人 / 工作室量产利器

AI戏剧 开源 AI 短剧神器 Toonflow:整本小说一键生成完整剧集,个人 / 工作室量产利器

前言 短剧赛道持续火热,但绝大多数创作者都卡在制作效率上:几万字小说要手动拆剧本、逐个设计角色、一张张生成分镜…

75次阅读 0个评论
AI戏剧 2026年7月7日
告别重复低效!Soonflow,普通人也能上手的AI工作流神器✨

AIGC 告别重复低效!Soonflow,普通人也能上手的AI工作流神器✨

经常有朋友问我:明明每天都在忙,却没产出多少有效成果? 其实大多数人的忙碌,都耗在了无意义的重复工作上:反复整…

37次阅读 0个评论
AIGC 2026年7月7日
极速部署Wan2.2文生视频模型!SGLang一站式落地教程(含加速优化)

多模态大模型 极速部署Wan2.2文生视频模型!SGLang一站式落地教程(含加速优化)

近期阿里开源的Wan2.2系列文生视频模型,凭借MoE混合专家架构、电影级画质、流畅动态画面和720P高清生成…

49次阅读 0个评论
多模态大模型 2026年7月7日
vLLM-Omni 双卡完整部署实战:多模态 / 文生图 / 文生视频双卡张量并行落地指南

多模态大模型 vLLM-Omni 双卡完整部署实战:多模态 / 文生图 / 文生视频双卡张量并行落地指南

一、前言:为什么需要 vLLM-Omni 双卡部署 vLLM-Omni 是 vLLM 官方推出的统一多模态推理…

59次阅读 0个评论
多模态大模型 2026年7月6日
Windows 软链接保姆级教程:一招解决C盘爆满、文件迁移、路径固定难题

Windows Windows 软链接保姆级教程:一招解决C盘爆满、文件迁移、路径固定难题

很多人用Windows都会遇到这些痛点: ✅ 软件默认装在C盘,越用越满,不敢乱删; ✅ 游戏缓存、微信文件、…

63次阅读 0个评论
Windows 2026年7月6日
Ubuntu 超详细 JDK 安装配置教程(零基础一键搞定)

Linux Ubuntu 超详细 JDK 安装配置教程(零基础一键搞定)

很多 Java 开发新手,在 Ubuntu 系统搭建开发环境时,总会卡在 JDK 安装、环境变量配置、版本冲突…

61次阅读 0个评论
Linux 2026年7月6日
不再神秘!一文看懂正在改变世界的3D打印

3D打印 不再神秘!一文看懂正在改变世界的3D打印

提到3D打印,很多人的第一印象还停留在“打印小摆件、手办玩具”,觉得它是小众趣味技术。但事实上,这项早已走出实…

57次阅读 0个评论
3D打印 2026年7月4日
开发者必备神器:一文吃透 curl,从入门到实战

Linux 开发者必备神器:一文吃透 curl,从入门到实战

在前端调试、后端接口测试、服务器运维、自动化脚本编写的日常工作中,你一定见过 curl 命令。它没有华丽的可视…

61次阅读 0个评论
Linux 2026年7月1日
极速部署!vLLM-Omni 一站式运行 Wan2.2 视频生成模型实战教程

多模态大模型 极速部署!vLLM-Omni 一站式运行 Wan2.2 视频生成模型实战教程

最近开源圈爆火的Wan2.2视频生成模型,凭借14B MoE架构、高清画质、流畅动态画面,成为文生视频、图生视…

103次阅读 0个评论
多模态大模型 2026年6月30日
  • «
  • 1
  • 2
  • 3
  • 4
  • ...
  • 18
  • »
热门文章
保姆级教程|Claude Code 删除会话全方法(区分清空上下文+彻底删除,2026新版适配)

保姆级教程|Claude Code 删除会话全方法(区分清空上下文+彻底删除,2026新版适配)

各位开发者在用 VSCode 内置 Claude Code 编码协作时,大概率会遇到这些痛点:会话堆积过多占用...
2026最新|ghcr.io镜像彻底加速教程,告别拉取超时、镜像下载失败

2026最新|ghcr.io镜像彻底加速教程,告别拉取超时、镜像下载失败

发布时间:2026-06-22 | 适用环境:Docker / containerd / K8s / 1Pan...
vLLM RuntimeError: Engine core initialization failed 完整排查修复方案

vLLM RuntimeError: Engine core initialization failed 完整排查修复方案

报错核心解读 堆栈最终抛出:RuntimeError: Engine core initialization ...
突发!豆包、通义千问同步下线智能体功能,7 月 15 日新规落地成关键节点

突发!豆包、通义千问同步下线智能体功能,7 月 15 日新规落地成关键节点

一、两大头部 AI 官宣智能体下线,时间线整理 2026 年 7 月 3 日晚间,字节豆包率先发布《智能体功能...
一文盘点|2026全网开源数据中台项目合集,中小企业零成本自建中台选型指南

一文盘点|2026全网开源数据中台项目合集,中小企业零成本自建中台选型指南

标签:数据中台|开源选型|数据治理|国产化开源|低成本数字化 前文复盘:第一篇分清【大数据平台&数据中...
最新评论
一路向北 一路向北 (APIServer pid=3720) Traceback (most recent call last): (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/bin/vllm", line 8, in (APIServer pid=3720) sys.exit(main()) (APIServer pid=3720) ~~~~^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/cli/main.py", line 92, in main (APIServer pid=3720) args.dispatch_function(args) (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/cli/serve.py", line 148, in cmd (APIServer pid=3720) uvloop.run(run_server(args)) (APIServer pid=3720) ~~~~~~~~~~^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/uvloop/__init__.py", line 96, in run (APIServer pid=3720) return __asyncio.run( (APIServer pid=3720) ~~~~~~~~~~~~~^ (APIServer pid=3720) wrapper(), (APIServer pid=3720) ^^^^^^^^^^ (APIServer pid=3720) ...... (APIServer pid=3720) **run_kwargs (APIServer pid=3720) ^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/usr/lib/python3.14/asyncio/runners.py", line 204, in run (APIServer pid=3720) return runner.run(main) (APIServer pid=3720) ~~~~~~~~~~^^^^^^ (APIServer pid=3720) File "/usr/lib/python3.14/asyncio/runners.py", line 127, in run (APIServer pid=3720) return self._loop.run_until_complete(task) (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^ (APIServer pid=3720) File "uvloop/loop.pyx", line 1512, in uvloop.loop.Loop.run_until_complete (APIServer pid=3720) File "uvloop/loop.pyx", line 1505, in uvloop.loop.Loop.run_until_complete (APIServer pid=3720) self.run_forever() (APIServer pid=3720) File "uvloop/loop.pyx", line 1379, in uvloop.loop.Loop.run_forever (APIServer pid=3720) self._run(mode) (APIServer pid=3720) File "uvloop/loop.pyx", line 557, in uvloop.loop.Loop._run (APIServer pid=3720) raise self._last_error (APIServer pid=3720) File "uvloop/loop.pyx", line 476, in uvloop.loop.Loop._on_idle (APIServer pid=3720) handler._run() (APIServer pid=3720) File "uvloop/cbhandles.pyx", line 83, in uvloop.loop.Handle._run (APIServer pid=3720) File "uvloop/cbhandles.pyx", line 63, in uvloop.loop.Handle._run (APIServer pid=3720) callback(*args) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/uvloop/__init__.py", line 48, in wrapper (APIServer pid=3720) return await main (APIServer pid=3720) ^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 678, in run_server (APIServer pid=3720) await run_server_worker(listen_address, sock, args, **uvicorn_kwargs) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 696, in run_server_worker (APIServer pid=3720) shutdown_task = await build_and_serve( (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) engine_client, listen_address, sock, args, **uvicorn_kwargs (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 594, in build_and_serve (APIServer pid=3720) await init_app_state(engine_client, app.state, args, supported_tasks) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 407, in init_app_state (APIServer pid=3720) await init_generate_state( (APIServer pid=3720) engine_client, state, args, request_logger, supported_tasks (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/generate/api_router.py", line 140, in init_generate_state (APIServer pid=3720) state.openai_serving_chat.warmup() (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/chat_completion/serving.py", line 181, in warmup (APIServer pid=3720) self.renderer.warmup( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) ChatParams( (APIServer pid=3720) ^^^^^^^^^^^ (APIServer pid=3720) ...... (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/renderers/base.py", line 251, in warmup (APIServer pid=3720) self._warmup_mm_processor( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) self.mm_processor, (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) log_prefix="Multi-modal", (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/renderers/base.py", line 221, in _warmup_mm_processor (APIServer pid=3720) _ = processor.apply(processor_inputs, timing_ctx=TimingContext(enabled=False)) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1685, in apply (APIServer pid=3720) ) = self._cached_apply_hf_processor(inputs, timing_ctx) (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1474, in _cached_apply_hf_processor (APIServer pid=3720) ) = self._apply_hf_processor_main( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) prompt=inputs.prompt, (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ...... (APIServer pid=3720) enable_hf_prompt_update=False, (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1291, in _apply_hf_processor_main (APIServer pid=3720) mm_processed_data = self._apply_hf_processor_mm_only( (APIServer pid=3720) mm_items=mm_items, (APIServer pid=3720) hf_processor_mm_kwargs=hf_processor_mm_kwargs, (APIServer pid=3720) tokenization_kwargs=tokenization_kwargs, (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1232, in _apply_hf_processor_mm_only (APIServer pid=3720) _, mm_processed_data, _ = self._apply_hf_processor_text_mm( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) prompt_text=self.dummy_inputs.get_dummy_text(mm_counts), (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ...... (APIServer pid=3720) tokenization_kwargs=tokenization_kwargs, (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1153, in _apply_hf_processor_text_mm (APIServer pid=3720) processed_data = self._call_hf_processor( (APIServer pid=3720) prompt=prompt_text, (APIServer pid=3720) ...... (APIServer pid=3720) tok_kwargs=tokenization_kwargs, (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/model_executor/models/qwen3_vl.py", line 1265, in _call_hf_processor (APIServer pid=3720) video_outputs = super()._call_hf_processor( (APIServer pid=3720) prompt="", (APIServer pid=3720) ...... (APIServer pid=3720) tok_kwargs=tok_kwargs, (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1110, in _call_hf_processor (APIServer pid=3720) return self.info.ctx.call_hf_processor( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) self.info.get_hf_processor(**mm_kwargs), (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) dict(text=prompt, **mm_data), (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) dict(**mm_kwargs, **tok_kwargs), (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/context.py", line 269, in call_hf_processor (APIServer pid=3720) output = hf_processor(**data, **allowed_kwargs) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/processing_utils.py", line 668, in __call__ (APIServer pid=3720) processed_videos, videos_replacements = self._process_videos(videos, **merged_kwargs["videos_kwargs"]) (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/processing_utils.py", line 770, in _process_videos (APIServer pid=3720) processed_videos = self.video_processor(videos, **kwargs) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/video_processing_utils.py", line 178, in __call__ (APIServer pid=3720) return self.preprocess(videos, **kwargs) (APIServer pid=3720) ~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/video_processing_utils.py", line 369, in preprocess (APIServer pid=3720) preprocessed_videos = self._preprocess(videos=videos, **kwargs) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/models/qwen3_vl/video_processing_qwen3_vl.py", line 223, in _preprocess (APIServer pid=3720) stacked_videos = self.rescale_and_normalize( (APIServer pid=3720) stacked_videos, do_rescale, rescale_factor, do_normalize, image_mean, image_std (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/image_processing_backends.py", line 346, in rescale_and_normalize (APIServer pid=3720) images = self.normalize(images.to(dtype=torch.float32), image_mean, image_std) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/image_processing_backends.py", line 300, in normalize (APIServer pid=3720) def normalize( (APIServer pid=3720) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 673, in _interrupt_init (APIServer pid=3720) raise KeyboardInterrupt("terminated") (APIServer pid=3720) KeyboardInterrupt: terminated
烙馍网 烙馍网 徐工徐工,祝您成功
一路向北 一路向北 一起战胜癌症
一路向北 一路向北 已经添加
一路向北 一路向北 申请友情链接: 名称:烙馍省钱 网址:https://tb-m.luomor.com/ 已添加文心AIGC
一路向北 一路向北 已经添加
一路向北 一路向北 申请友情链接: 名称:烙馍省钱 网址:https://tb-m.luomor.com/ 已添加烙馍网
一路向北 一路向北 已加
一路向北 一路向北 已加
一路向北 一路向北 申请友情链接: 名称:烙馍网 网址:https://www.luomor.com/ 已添加文心AIGC
热评文章
vLLM RuntimeError: Engine core initialization failed 完整排查修复方案

vLLM RuntimeError: Engine core initialization failed 完整排查修复方案

报错核心解读 堆栈最终抛出:RuntimeError: Engine core initialization ...
2026 美加墨世界杯一站式资讯站|球迷必备宝藏网站推荐⚽

2026 美加墨世界杯一站式资讯站|球迷必备宝藏网站推荐⚽

四年一度的足球盛宴火热开启,2026 年美加墨世界杯作为首届扩军至 48 支球队的世界杯,39 天赛程、104...
零基础上手:Docker一键部署运行Apache Flink实时计算集群

零基础上手:Docker一键部署运行Apache Flink实时计算集群

博文标签:#Docker #Flink #大数据实时计算 #容器化部署 #流处理 阅读时长:8分钟|实操难度:...
运维实战|Apache Doris BE启动耗时优化全方案,最快提速60%+

运维实战|Apache Doris BE启动耗时优化全方案,最快提速60%+

适用版本:Apache Doris 2.1.x / 3.0.x / 3.1.x 主流生产版本 适用场景:集群滚...
方寸山海藏锋芒,孤岛蓝鲨书写世界杯旷世奇迹

方寸山海藏锋芒,孤岛蓝鲨书写世界杯旷世奇迹

在浩瀚的大西洋之上,散落着一片渺小的海岛国度——佛得角。这片土地鲜有喧嚣的盛名,没有雄厚的体育底蕴,更没有万众...
关于我们

烙馍网,关注AI与生活,Agent Skills、软件开发,美食、旅游、教育、文化、休闲、娱乐、游戏

友情链接

烙馍AI智能体技能 星光班级宠物园 🐾

Copyright @ 2015- 烙馍网 保留版权所有.
 Theme by Puock