使用SpringAI 对接vllm 服务 启动服务 使用 vllm.entrypoints.openai.api_server 来启动一个兼容openai 接口的服务 python -m vllm.entrypoints.openai.api_server --served-model-name Qwen2.5-7B-Instruct --model...
安装 一旦系统上安装了 Windows NVIDIA GPU 驱动程序，CUDA 就可以在 WSL 2 中使用。安装在 Windows 主机上的 CUDA 驱动程序将在 WSL 2 中存根为libcuda.so ，因此用户不得在 WSL 中安装任何 NVIDIA GPU Linux 驱动程序2 .这里必须非常小心，因为默认的 CUDA Toolkit 附带了一个驱动程序，并且很容易用默认安装...
前言: 最近公司的产品需要与LLMs能力结合，模型我们采用的是阿里的同义千问(qwen2.5 32B - Instruct) 使用 vllm 在windows上使用时，出现的如下错误： 依赖安装(正常) pip install torch torchvision torchaudio --index-url https://download.pytorch.or...
背景: 最近在研究 Android 模拟器,在使用Google提供的 Android Emulator 时对其背后原理深感疑惑。打算研究一波源码，一是能够学到 Android和虚拟化相关的东西 二是，也能锻炼C++的源码阅读能力! 注: 和国产其他虚拟机不同, Android Emulator是基于 QEMU做的。 相关 Android Emulator 使用文档：https:/...
环境依赖: 机器需要: root 权限 准备证书: 计算证书 hash # .cer格式证书 openssl x509 -inform DER -subject_hash_old -in 证书文件.cer # .pem格式证书 openssl x509 -inform PEM -subject_hash_old -in 证书文件.pem 计算结果:...
前期准备: 一部手机 一条数据线 一台电脑 开始操作 1.首先用数据线把手机连接到电脑 2.手机打开USB调试 3.手机进入微信随便打开一个聊天窗口输入并发送： http://debugxweb.qq.com/?inspector=true 点击打开这个链接，弹出“执行成功”，即可 4.手机微信打开想要抓包调试的网页 5.电脑上打开chrome内核的浏览器或edg...
原本在阿里云的机器由于一些原因需要迁移至腾讯云。原本部署在Nexus 的服务也需要进行迁移过去。 放在云上使用的原因是因为跨地区协同办公 环境准备 新、旧服务器操作系统版本基本一致 迁移前，首先需要进行如下操作： 新服务器安装Nexus 备份旧服务器的 sonatype-work 目录，一般为Nexus 安装目录的同级 复制 旧服务器的 sonatype...
OpenVAS是开放式漏洞评估系统，也可以说它是一个包含着相关工具的网络扫描器。其核心部件是一个服务器，包括一套网络漏洞测试程序，可以检测远程系统和应用程序中的安全问题。 OpenVAS 是一款漏洞扫描器，与APPScan，AWVS，w3af等web漏洞扫描器不同，OpenVas是一款应用级别的漏洞扫描器，可以扫描 windows／Linux 这种桌面和服务器主机的漏洞，同时也可以...
配置rustup和Cargo国内源 Rust开发生态最重要的两个工具 rustup Rust 官方的跨平台安装工具 Cargo Rust 构建系统和包管理器 它们的下载源都位于国外，为了改善在国内的使用体验，可以为它们配置国内源。 rustup 国内源 前国内 Rust 工具链镜像源有清华大学源、中国科学技术大学源、上海交通大学源等，以清华大学源为例，设置环境变量： ...
Redis ubuntu 使用apt快速安装Redis 最新版 sudo apt install lsb-release curl gpg curl -fsSL https://packages.redis.io/gpg | sudo gpg --dearmor -o /usr/share/keyrings/redis-archive-keyring.gpg echo "de...
发现新版本的内容。
