Linux
Nanos Unikernel移植Yolo推理服务
在上一篇文章 https://lyd.im/archives/accelerating-nanos-unikernel-applications-with-nvidia-gpu-drivers 中介绍了如何在Nanos中使用Nvidia显卡加速推理深度学习服务,本篇文章开始实战如何将最新的YOLOv...
2024-11-27
使用QMP管理QEMU虚拟机
Read More
QEMU Machine Protocol (QMP) 是一种强大而灵活的协议,为管理和控制QEMU虚拟机提供了标准化的接口。作为一种基于JSON的协议,QMP允许管理员和开发人员通过简单而结构化的命令与QEMU实例进行交互。无论是远程控制虚拟机、监控性能、管理设备,还是执行复杂的自动化任务,QMP...
2024-07-15
使用Nvidia显卡驱动加速Nanos Unikernel应用
Read More
前言 近两年来人工智能发展迅速,如何充分发挥硬件性能、提升应用运行效率成为了一个重要议题,Unikernel作为一种轻量级的操作系统,以其高效、安全的特性备受关注。 本篇文章介绍如何将现有的AI应用集成至Nanos Unikernel中,并使用Nvidia驱动提供CUDA支持。 介绍 在文章 htt...
2024-06-19
PVE8.2显卡直通
Read More
最近要在PVE上测试Nanos Unikernel的Nvidia显卡集成,需要事先在PVE启用显卡直通功能,网上关于PVE显卡直通的文章零零散散,于是用本文记录直通过程。 测试环境 PVE 8.2.2 CPU Intel 12490F 显卡 Nvidia 4060 步骤 启用VT-d 在开始之前务必...
2024-06-15
使用国内镜像源加速安装PyTorch
Read More
使用默认conda源或者pip源安装PyTorch时,经常会下载很慢,这里我是用上海交大的https://mirror.sjtu.edu.cn/docs/pytorch-wheels源来进行加速。 pytorch-wheels 是 PyTorch pip 源的镜像。直接将...
2024-05-10
Nanos Unikernel入门
Read More
1. Unikernel概述 1.1. 什么是Unikernel Unikernel 是一种专为特定应用构建的轻量级操作系统,将应用程序与操作系统功能紧密集成在一起,形成单一的可执行文件。这种设计可以显著提高性能和安全性,同时减少资源消耗。 定义与构成:Unikernel 是从传统的全功能操作系统中...
2024-04-21
基于Rsync的增量备份方案
Read More
1. 介绍 最近因为手残,重置错了服务器,因此意识到数据备份的重要性,因为我的服务都是部署在Docker中,只需要同步本地持久化数据即可,因此即使某台服务器到期或者出现某些意外,也能在迅速在另一台服务器迅速恢复。 在众多备份工具中,Rsync是一种广泛使用的文件同步和备份工具,特别适用于执行增量备份...
2024-04-20
服务器挖矿病毒排查记录
Read More
起因 事情的起因是前段时间,郭佬找到我说他们的实验室新配了一台AI服务器,不过在外地托管,问有没有什么远程ssh的方法,于是我给他推荐了内网穿透和 P2P 组网两种方案,并对比了两者的优劣,最终郭佬选择了内网穿透方案,当时特意嘱咐了郭佬,服务器密码千万别使用弱密码,否则可能会被别人扫描爆破,最好是直...
2024-03-29
Read More