烙馍网
  • 网站首页
  • 享受生活
    • 享受生活
    • 美食
    • 徐州美食
    • 小吃
    • 旅游
    • 旅游推荐
    • 文化
  • 产业
    • 产业
    • 3D打印
    • 物联网
  • 软件开发
    • 软件开发
    • Docker
    • Java
    • PHP
    • MySQL
    • Node
    • Python
    • Web
    • WordPress
    • Windows
  • AI
    • AI
    • Claude Code
    • AIGC
    • Agent-Skills
    • Codex
    • Hermes Agent
    • OpenClaw
  • 时光圈
    • 时光圈
    • 读者墙
    • 阅读导航
    • 博客归档
  • 留言板
    • 留言板
    • 网站地图
    • 试试手气
  • 中文 (中国)
    • 中文 (中国)
    • English
  • 网站首页
  • 享受生活
    • 享受生活
    • 美食
    • 徐州美食
    • 小吃
    • 旅游
    • 旅游推荐
    • 文化
  • 产业
    • 产业
    • 3D打印
    • 物联网
  • 软件开发
    • 软件开发
    • Docker
    • Java
    • PHP
    • MySQL
    • Node
    • Python
    • Web
    • WordPress
    • Windows
  • AI
    • AI
    • Claude Code
    • AIGC
    • Agent-Skills
    • Codex
    • Hermes Agent
    • OpenClaw
  • 时光圈
    • 时光圈
    • 读者墙
    • 阅读导航
    • 博客归档
  • 留言板
    • 留言板
    • 网站地图
    • 试试手气
  • 中文 (中国)
    • 中文 (中国)
    • English
徐州园博园初步开放时间定了!10大建筑群+49个展园即将亮相!
烙馍网田字格米字格字帖生成器,低年级学生练字神器
  1. 首页
  2. 标签
  3. MacOS
Mac(Apple Silicon)安装 vLLM 完整实战指南|M1/M2/M3/M4 本地部署大模型写一篇博文介绍mac安装vllm

大型语言模型 Mac(Apple Silicon)安装 vLLM 完整实战指南|M1/M2/M3/M4 本地部署大模型写一篇博文介绍mac安装vllm

更新时间:2026-08|适配 macOS Sonoma / Sequoia 重要前置结论: 原版 vLLM …

908次阅读 0个评论
大型语言模型 2026年8月6日
HPC 并行开发必备:一文看懂 LLVM/OpenMP 官方文档站 openmp.llvm.org

大型语言模型 HPC 并行开发必备:一文看懂 LLVM/OpenMP 官方文档站 openmp.llvm.org

前言 做高性能计算、多核多 GPU 并行开发的开发者,几乎都绕不开 OpenMP 并行标准;而基于 LLVM …

577次阅读 0个评论
大型语言模型 2026年8月3日
解决Windows PowerShell CMAKE_ARGS 报错:无法识别 cmdlet、函数、脚本文件

Windows 解决Windows PowerShell CMAKE_ARGS 报错:无法识别 cmdlet、函数、脚本文件

一、问题现象 在 Windows PowerShell 中编译带 CUDA 加速的 Python 库(如 ll…

558次阅读 0个评论
Windows 2026年8月1日
本地离线跑大模型的终极神器!一文吃透 Llama.cpp

大型语言模型 本地离线跑大模型的终极神器!一文吃透 Llama.cpp

现在AI大模型遍地开花,但绝大多数人跑模型都逃不开两个痛点:要么依赖云端API、有隐私泄露风险且付费限流;要么…

726次阅读 0个评论
大型语言模型 2026年8月1日
hermes /help

Hermes Agent hermes /help

654次阅读 0个评论
Hermes Agent 2026年7月31日
一文搞懂 Hermes Gateway + Hermes Desktop:全能 AI 智能代理组合

Hermes Agent 一文搞懂 Hermes Gateway + Hermes Desktop:全能 AI 智能代理组合

当下 AI 代理工具层出不穷,但大多存在界面割裂、配置不互通、部署繁琐、多平台联动弱的问题。要么只有命令行晦涩…

513次阅读 0个评论
Hermes Agent 2026年7月31日
Mac 干货|带你看懂 macOS 「.开头隐藏文件夹」,秒会显示/隐藏技巧

MacOS Mac 干货|带你看懂 macOS 「.开头隐藏文件夹」,秒会显示/隐藏技巧

很多Mac用户日常用电脑时,只会看到干干净净的桌面和文件夹,从来没见过以「.」(英文句号)开头的文件夹。 但只…

709次阅读 0个评论
MacOS 2026年7月31日
macOS SSH 控制台乱码完整解决方案

MacOS macOS SSH 控制台乱码完整解决方案

核心原因:本地 Mac 终端编码、系统 locale、SSH 环境变量转发、远程 Linux 服务器字符集四方…

583次阅读 0个评论
MacOS 2026年7月23日
macOS 创建仅 SSH 登录用户(无桌面权限、最小权限安全方案)

MacOS macOS 创建仅 SSH 登录用户(无桌面权限、最小权限安全方案)

日常使用 Mac 做本地服务器、代码编译、远程运维时,很多场景需要给他人提供 SSH 远程连接权限,但绝对不能…

611次阅读 0个评论
MacOS 2026年7月23日
不止开源数据库天花板!一文读懂 PostgreSQL 的硬核实力

软件开发 不止开源数据库天花板!一文读懂 PostgreSQL 的硬核实力

在后端开发、大数据、物联网、金融系统的技术选型中,数据库永远是核心基石。提到开源数据库,大家最先想到的往往是M…

535次阅读 0个评论
软件开发 2026年7月20日
  • «
  • 1
  • ...
  • 5
  • 6
  • 7
  • 8
  • »
热门文章
一文讲清平信投递规则

一文讲清平信投递规则

很多人寄平信的时候,都会有一个疑问:信件会不会送到邮政支局?要不要自己去邮局自取? 先说核心结论: 平信在运输...
Mac 微信视频号打开很慢、转圈加载久?一套完整排查方案

Mac 微信视频号打开很慢、转圈加载久?一套完整排查方案

标签:macOS、微信、视频号、卡顿、优化 适用:M 系列 / Intel Mac,现象:点开视频号长时间转圈...
2026 上海开源软件应用创新大赛「开源 AI 工具赛道」决赛名单公布

2026 上海开源软件应用创新大赛「开源 AI 工具赛道」决赛名单公布

2026 上海开源软件应用创新大赛「开源 AI 工具赛道」决赛入围名单今日公布,以下 10 支队伍成功晋级,将...
解决 OpenAI Codex CLI 地区 403 与 – 32600 认证报错:后端切换 Kimi Code 方案

解决 OpenAI Codex CLI 地区 403 与 – 32600 认证报错:后端切换 Kimi Code 方案

标签:Codex CLI、Kimi Code、AI 编程 Agent、终端 AI、避坑 适合人群:想使用 Co...
AICE 是什么?一篇看懂青少年人工智能核心素养测评

AICE 是什么?一篇看懂青少年人工智能核心素养测评

提到 AICE,很多家长、科技老师会第一时间想到青少年人工智能核心素养测评(Artificial Intell...
最新评论
烙馍网 烙馍网 SI了都要AI
烙馍网 烙馍网 AI的要SI
烙馍网 烙馍网 随着雄商高铁 2026 年 9 月 28 日开通,京港高铁仅剩两段待完工:昌九高铁预计 2027 年 3 月通车;北京丰台至雄安段尚在前期阶段,暂未确定开工时间。2027 年昌九段通车后,雄安至香港西九龙可实现京港高铁正线贯通;整条通道(北京丰台至香港西九龙)全线贯通时间,需等待丰雄高铁落地,暂无官方明确时间表。
烙馍网 烙馍网 强烈推荐烙馍网字帖生成器:https://zt.luomor.com/。免费免登录,内置小学各年级生字库,田字格、米字格随意切换,支持拼音、笔顺描红,描红深浅可调。输入文字实时预览,A4 直接打印,给孩子做生字练习非常省心,家长必备练字工具
烙馍网 烙馍网 现在很多物业只收钱不做事,自己买的停车位,缴了停车管理费,排风系统不开,系统不运行年久失修已经锈了,这种物业有必要存在吗?
一路向北 一路向北 (APIServer pid=3720) Traceback (most recent call last): (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/bin/vllm", line 8, in (APIServer pid=3720) sys.exit(main()) (APIServer pid=3720) ~~~~^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/cli/main.py", line 92, in main (APIServer pid=3720) args.dispatch_function(args) (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/cli/serve.py", line 148, in cmd (APIServer pid=3720) uvloop.run(run_server(args)) (APIServer pid=3720) ~~~~~~~~~~^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/uvloop/__init__.py", line 96, in run (APIServer pid=3720) return __asyncio.run( (APIServer pid=3720) ~~~~~~~~~~~~~^ (APIServer pid=3720) wrapper(), (APIServer pid=3720) ^^^^^^^^^^ (APIServer pid=3720) ...... (APIServer pid=3720) **run_kwargs (APIServer pid=3720) ^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/usr/lib/python3.14/asyncio/runners.py", line 204, in run (APIServer pid=3720) return runner.run(main) (APIServer pid=3720) ~~~~~~~~~~^^^^^^ (APIServer pid=3720) File "/usr/lib/python3.14/asyncio/runners.py", line 127, in run (APIServer pid=3720) return self._loop.run_until_complete(task) (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^ (APIServer pid=3720) File "uvloop/loop.pyx", line 1512, in uvloop.loop.Loop.run_until_complete (APIServer pid=3720) File "uvloop/loop.pyx", line 1505, in uvloop.loop.Loop.run_until_complete (APIServer pid=3720) self.run_forever() (APIServer pid=3720) File "uvloop/loop.pyx", line 1379, in uvloop.loop.Loop.run_forever (APIServer pid=3720) self._run(mode) (APIServer pid=3720) File "uvloop/loop.pyx", line 557, in uvloop.loop.Loop._run (APIServer pid=3720) raise self._last_error (APIServer pid=3720) File "uvloop/loop.pyx", line 476, in uvloop.loop.Loop._on_idle (APIServer pid=3720) handler._run() (APIServer pid=3720) File "uvloop/cbhandles.pyx", line 83, in uvloop.loop.Handle._run (APIServer pid=3720) File "uvloop/cbhandles.pyx", line 63, in uvloop.loop.Handle._run (APIServer pid=3720) callback(*args) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/uvloop/__init__.py", line 48, in wrapper (APIServer pid=3720) return await main (APIServer pid=3720) ^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 678, in run_server (APIServer pid=3720) await run_server_worker(listen_address, sock, args, **uvicorn_kwargs) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 696, in run_server_worker (APIServer pid=3720) shutdown_task = await build_and_serve( (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) engine_client, listen_address, sock, args, **uvicorn_kwargs (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 594, in build_and_serve (APIServer pid=3720) await init_app_state(engine_client, app.state, args, supported_tasks) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 407, in init_app_state (APIServer pid=3720) await init_generate_state( (APIServer pid=3720) engine_client, state, args, request_logger, supported_tasks (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/generate/api_router.py", line 140, in init_generate_state (APIServer pid=3720) state.openai_serving_chat.warmup() (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/chat_completion/serving.py", line 181, in warmup (APIServer pid=3720) self.renderer.warmup( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) ChatParams( (APIServer pid=3720) ^^^^^^^^^^^ (APIServer pid=3720) ...... (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/renderers/base.py", line 251, in warmup (APIServer pid=3720) self._warmup_mm_processor( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) self.mm_processor, (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) log_prefix="Multi-modal", (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/renderers/base.py", line 221, in _warmup_mm_processor (APIServer pid=3720) _ = processor.apply(processor_inputs, timing_ctx=TimingContext(enabled=False)) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1685, in apply (APIServer pid=3720) ) = self._cached_apply_hf_processor(inputs, timing_ctx) (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1474, in _cached_apply_hf_processor (APIServer pid=3720) ) = self._apply_hf_processor_main( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) prompt=inputs.prompt, (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ...... (APIServer pid=3720) enable_hf_prompt_update=False, (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1291, in _apply_hf_processor_main (APIServer pid=3720) mm_processed_data = self._apply_hf_processor_mm_only( (APIServer pid=3720) mm_items=mm_items, (APIServer pid=3720) hf_processor_mm_kwargs=hf_processor_mm_kwargs, (APIServer pid=3720) tokenization_kwargs=tokenization_kwargs, (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1232, in _apply_hf_processor_mm_only (APIServer pid=3720) _, mm_processed_data, _ = self._apply_hf_processor_text_mm( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) prompt_text=self.dummy_inputs.get_dummy_text(mm_counts), (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ...... (APIServer pid=3720) tokenization_kwargs=tokenization_kwargs, (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1153, in _apply_hf_processor_text_mm (APIServer pid=3720) processed_data = self._call_hf_processor( (APIServer pid=3720) prompt=prompt_text, (APIServer pid=3720) ...... (APIServer pid=3720) tok_kwargs=tokenization_kwargs, (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/model_executor/models/qwen3_vl.py", line 1265, in _call_hf_processor (APIServer pid=3720) video_outputs = super()._call_hf_processor( (APIServer pid=3720) prompt="", (APIServer pid=3720) ...... (APIServer pid=3720) tok_kwargs=tok_kwargs, (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/processor.py", line 1110, in _call_hf_processor (APIServer pid=3720) return self.info.ctx.call_hf_processor( (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^ (APIServer pid=3720) self.info.get_hf_processor(**mm_kwargs), (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) dict(text=prompt, **mm_data), (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) dict(**mm_kwargs, **tok_kwargs), (APIServer pid=3720) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) ) (APIServer pid=3720) ^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/multimodal/processing/context.py", line 269, in call_hf_processor (APIServer pid=3720) output = hf_processor(**data, **allowed_kwargs) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/processing_utils.py", line 668, in __call__ (APIServer pid=3720) processed_videos, videos_replacements = self._process_videos(videos, **merged_kwargs["videos_kwargs"]) (APIServer pid=3720) ~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/processing_utils.py", line 770, in _process_videos (APIServer pid=3720) processed_videos = self.video_processor(videos, **kwargs) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/video_processing_utils.py", line 178, in __call__ (APIServer pid=3720) return self.preprocess(videos, **kwargs) (APIServer pid=3720) ~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^ (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/video_processing_utils.py", line 369, in preprocess (APIServer pid=3720) preprocessed_videos = self._preprocess(videos=videos, **kwargs) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/models/qwen3_vl/video_processing_qwen3_vl.py", line 223, in _preprocess (APIServer pid=3720) stacked_videos = self.rescale_and_normalize( (APIServer pid=3720) stacked_videos, do_rescale, rescale_factor, do_normalize, image_mean, image_std (APIServer pid=3720) ) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/image_processing_backends.py", line 346, in rescale_and_normalize (APIServer pid=3720) images = self.normalize(images.to(dtype=torch.float32), image_mean, image_std) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/transformers/image_processing_backends.py", line 300, in normalize (APIServer pid=3720) def normalize( (APIServer pid=3720) (APIServer pid=3720) File "/mnt/c/Users/AI-Space001/venv-vllm/lib/python3.14/site-packages/vllm/entrypoints/openai/api_server.py", line 673, in _interrupt_init (APIServer pid=3720) raise KeyboardInterrupt("terminated") (APIServer pid=3720) KeyboardInterrupt: terminated
烙馍网 烙馍网 徐工徐工,祝您成功
一路向北 一路向北 一起战胜癌症
一路向北 一路向北 已经添加
一路向北 一路向北 申请友情链接: 名称:烙馍省钱 网址:https://tb-m.luomor.com/ 已添加文心AIGC
热评文章
网站日志发现大量 .git 扫描请求:Git 源码泄露攻击分析与防护方案

网站日志发现大量 .git 扫描请求:Git 源码泄露攻击分析与防护方案

前言 今天查看站点访问日志,发现有外部 IP 持续批量请求 /.git/objects/xxx 路径,大量 4...
macOS 安装 Claude Code 卡在 npm postinstall 解决全记录

macOS 安装 Claude Code 卡在 npm postinstall 解决全记录

平台:Apple Silicon(M 系列 Mac),nvm 管理 Node,使用 npmmirror 淘宝镜...
博文:踩坑记录|Cloudflare Turnstile 抓包看到 /fo 接口 POST 400 Bad Request,别再搞错接口了

博文:踩坑记录|Cloudflare Turnstile 抓包看到 /fo 接口 POST 400 Bad Request,别再搞错接口了

标签:Cloudflare、Turnstile、人机验证、爬虫、后端开发 最近在对接、调试 Cloudflar...
一文讲清平信投递规则

一文讲清平信投递规则

很多人寄平信的时候,都会有一个疑问:信件会不会送到邮政支局?要不要自己去邮局自取? 先说核心结论: 平信在运输...
趣编杯:属于徐州中小学生的编程赛场,让计算思维看得见

趣编杯:属于徐州中小学生的编程赛场,让计算思维看得见

https://aixz.codecontest.cn/home 在徐州本地中小学信息科技圈子里,有一个越来越...
关于我们

烙馍网,关注AI与生活,Agent Skills、软件开发,美食、旅游、教育、文化、休闲、娱乐、游戏

友情链接

烙馍AI智能体技能 星光班级宠物园 🐾

Copyright @ 2015- 烙馍网 保留版权所有.
 Theme by Puock