ops x - linux
type: channel
link: https://opsx.me/tag/linux/
items: vLLM 内网离线部署：脱敏后的服务端与客户端脚本
items: 搭建Syslog服务接收交换机日志

vLLM 内网离线部署：脱敏后的服务端与客户端脚本
type: item
date: 2026-03-23T17:31:00+00:00
description: 前面整理这套 vLLM 私有源部署方案时，我把重点放在了思路复盘上。这次换个更直接的版本：不改原始脚本文件，只做脱敏，把服务端部署脚本和客户端部署脚本的可公开版本贴出来，方便自己归档，也方便后续复用。先说明一下边界：仓库里的原始脚本我没有修改，这篇文章里的代码块是单独整理出来的脱敏版本。处理方式主要是把内网 IP、固定端口、默认账号、硬编码 API Key 以及过于贴近生产环境的目录替换成占位写法，保留脚本结构和部署逻辑。一、这套脚本解决什么问题目标很明确：在一台可联网的内部服务器上准备 APT 和 PyPI 私有源，然后让目标 GPU 节点通过一键脚本完成 vLLM 环境部署、systemd 托管和基础验证。整体分两段： 服务端脚本：负责下载和暴露依赖。 客户端脚本：负责安装和启动推理服务。 二、脱敏后的服务端部署脚本下面这个版本对应“在私有源服务器本机运行”的服务端脚本。它会准备 APT 源、PyPI 源，并用 systemd 把两个服务托起来。#!/bin/bash # vLLM 私有源服务端部署脚本（脱敏版） # 直接在私有源服务器本机执行 set -e APT_REPO="/opt/vllm-private-repo/apt/ubuntu22.04/cuda-12.4" PYPI_REPO="/opt/vllm-private-repo/pypi/packages/cuda-12.4/python3.10" APT_PORT="${APT_PORT:-8888}" PYPI_PORT="${PYPI_PORT:-9999}" echo "======================================" echo "开始部署 vLLM 私有源" echo "======================================" if [ "$EUID" -ne 0 ]; then echo "错误：请使用 root 用户运行此脚本" echo "使用: sudo bash deploy-server-local.sh" exit 1 fi echo "" echo "[1/8] 创建目录结构..." mkdir -p "$APT_REPO" mkdir -p "$PYPI_REPO" echo " ✓ 目录创建完成" echo "" echo "[2/8] 配置基础环境..." apt-get update -qq apt-get install -y python3-pip wget gpg dpkg-dev echo " 配置 NVIDIA CUDA 仓库..." wget -qO- https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/3bf863cc.pub \ | gpg --dearmor -o /usr/share/keyrings/cuda-archive-keyring.gpg echo 'deb [signed-by=/usr/share/keyrings/cuda-archive-keyring.gpg] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /' \ > /etc/apt/sources.list.d/cuda-ubuntu2204-x86_64.list apt-get update -qq echo " ✓ 基础环境配置完成" echo "" echo "[3/8] 安装 pypiserver..." pip3 install pypiserver echo " ✓ pypiserver 安装完成" echo "" echo "[4/8] 下载 CUDA 及系统依赖..." apt-get install -d \ -o Dir::Cache::Archives="$APT_REPO/" \ cuda-toolkit-12-4 \ libcudnn8 \ libcudnn8-dev \ build-essential \ ninja-build \ python3.10-dev echo " ✓ CUDA 依赖下载完成" echo "" echo "[5/8] 下载 vLLM、ModelScope 及 Python 依赖..." pip download \ --index-url https://pypi.org/simple \ --extra-index-url https://download.pytorch.org/whl/cu124 \ --dest …

搭建Syslog服务接收交换机日志
type: item
date: 2025-12-25T08:21:00+00:00
description: 在Ubuntu平台下搭建Syslog服务，并通过定义规则，实现日志分类和分日期存储，因交换机日志一般输出内容不多，采用syslog采集是比较轻量化的方案基于Ubuntu 22.04系统创建日志存储目录并设置权限mkdir -p /data/network-syslog chmod 777 /data/network-syslog 安装Syslog服务apt install rsyslog 编辑配置文件/etc/rsyslog.conf，将# provides UDP syslog reception段替换为以下内容# provides UDP syslog reception $ModLoad imudp $UDPServerRun 514 $ModLoad immark $template Remote,"/data/network-syslog/%HOSTNAME%/%$YEAR%-%$MONTH%-%$DAY%.log" :fromhost-ip, !isequal, "127.0.0.1" ?Remote & ~ 启动服务并设置开机运行systemctl start rsyslog systemctl enable rsyslog 交换机侧配置，以华为交换机为例info-center loghost source "替换为源IP接口" info-center loghost “替换为服务器IP” facility local5 local-time info-center timestamp log short-date without-timezone info-center timestamp trap short-date without-timezone 在服务器端日志会生成以交换机名字命名的文件夹，并在文件夹内按日期生成文件