尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
alma8.10/anolis8.10中使用gcc13并安装vllm
其实初衷是想在alma中使用vllm。但是安装编译时提示出错因为alma中是安装的gcc8.4所以要想办法解决这个问题。1、此版本不能再使用crb了这个已经弃用了使用powertools。dnf config-manager --set-enabled powertools2、尝试安装dnfinstallgcc-toolset-13-gcc gcc-toolset-13-gcc-c3、激活环境sclenablegcc-toolset-13bash4、版本已经正确了(base)[rootlocalhost yum.repos.d]# gcc --versiongcc(GCC)13.3.120240611(Red Hat13.3.1-2)Copyright(C)2023Free Software Foundation, Inc. This isfreesoftware;see thesourceforcopying conditions. There is NO warranty;not evenforMERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.5、登录生效echosource /opt/rh/gcc-toolset-13/enable~/.bashrcsource~/.bashrc6、继续安装vllm0.17.1如下是在anolis8.10中安装。我的环境死活直接用命令安装安装不好。就是这个命令pipinstallvllm[cuda13x]0.17.1 或者 pipinstallvllm0.17.1 --extra-index-url https://download.pytorch.org/whl/cu131-ihttps://pypi.tuna.tsinghua.edu.cn/simple干脆编译吧。首先。安装好cuda130/cuda131、python3.10。后来看资料说python是3.10、3.11、3.12应该都可以。(vllm)[rootlocalhost vllm]# nvcc -Vnvcc: NVIDIA(R)Cuda compiler driver Copyright(c)2005-2025 NVIDIA Corporation Built on Wed_Aug_20_01:58:59_PM_PDT_2025 Cuda compilation tools, release13.0, V13.0.88 Build cuda_13.0.r13.0/compiler.36424714_0系统级依赖yuminstall-ygcc-c cmakemakegitninja-buildwget升级 Python 构建工具pipinstall--upgradepip setuptools wheelvllm 核心依赖pipinstalltransformers4.39.0 sentencepiece psutil py-cpuinfo ninja克隆 vllm 源码gitclone https://github.com/vllm-project/vllm.gitcdvllm切换到 0.17.1 版本稳定适配 CUDA 13.xgitcheckout v0.17.1环境验证importvllmimporttorch# 核心信息校验print(fvllm 版本:{vllm.__version__})# 输出 0.17.1print(fCUDA 可用:{torch.cuda.is_available()})# 输出 Trueprint(fCUDA 版本:{torch.version.cuda})# 输出 13.1兼容 13.0print(fnvcc 路径:{torch.utils.cpp_extension.CUDA_HOME})# 输出 /usr/local/cuda-13.0配置 CUDA 13.0 环境变量exportCUDA_HOME/usr/local/cuda-13.0exportPATH$CUDA_HOME/bin:$PATHexportLD_LIBRARY_PATH$CUDA_HOME/lib64:$LD_LIBRARY_PATH强制指定 CUDA 编译器编译并安装CMAKE_ARGS-DCMAKE_CUDA_COMPILER${CUDA_HOME}/bin/nvcc -DLLAMA_CUBLASon\pipinstall.--no-cache-dir --force-reinstall等等就行了。8、更新版的vllm比如0.27.0如果安装需要使用rust环境不然编译版的会一直不通过安装命令RUSTUP_DIST_SERVERhttps://mirrors.tuna.tsinghua.edu.cn/rustupcurl--protohttps--tlsv1.2-sSfhttps://sh.rustup.rs|sh9、rpm版nvidia-driver安装例子当前使用时还要设置nouveau 开源驱动等一系列的事。rpm-ivhnvidia-driver-local-repo-rhel8-610.57.04-1.0-1.x86_64.rpm dnfinstall-ynvidia-driver10、rpm版cudnn安装例子rpm-icudnn-local-repo-rhel8-9.23.2-1.0-1.x86_64.rpm#安装cuda12的与你的cuda要配套dnf-yinstallcudnn9-cuda-12#安装cuda13的版本与你的cuda要配套dnf-yinstallcudnn9-cuda-13
RELATED

相关推荐

女主播的“单身人设”到底值多少钱?——2500万打赏背后的法律红线

女主播的“单身人设”到底值多少钱?——2500万打赏背后的法律红线

2500万元。这不是一桩商业并购案的金额,而是一名女主播凭借“单身未婚”人设从三名男粉丝手中获取的打赏总额。近日,95后抖音女主播魏莹被控诈骗一案再度引发舆论热议。这位福建连江籍、拥有近200万粉丝的女主播,2019年入局直播后长期隐瞒已婚…

📅 2026/11/16 20:15:36
mac串流pc游戏方法 mac怎么串流pc游戏

mac串流pc游戏方法 mac怎么串流pc游戏

不少Mac用户都面临着游戏适配难题,很多优质PC独占游戏无法在Mac设备上运行,想要突破设备限制,mac串流pc游戏就成了最优解决方案。想要实现稳定、高清、低延迟的mac串流pc游戏,选对工具是核心关键,对比多款串流软件后&a…

📅 2026/11/14 23:37:13
PostgreSQL order by convert_to(info,‘GB18030‘)汉字按拼音排序

PostgreSQL order by convert_to(info,‘GB18030‘)汉字按拼音排序

建库postgres# \lList of databasesName | Owner | Encoding | Collate | Ctype | Access privileges --------------------------------------------------------------------------------db_utf8 | gao | UTF8 | zh_CN.UTF-8 | zh_CN.UTF-8 …

📅 2026/11/16 2:24:50
MORE NEWS

更多资讯

📰

江苏省低压电工证办理千万别踩坑,新手必看避雷指南

江苏省低压电工证办理千万别踩坑,新手必看避雷指南 不知道去哪报名怕被中介坑,这是很多刚接触江苏省低压电工证办理的人最头疼的事。尤其是像你这样从其他行业转岗过来的,对流程不了解,很容易被那些不正规的机构坑钱。别急,今天我就从一个转岗过来的老电…

📰

强电电工证报名要求 外省证能转吗 真实经历告诉你

强电电工证报名要求 外省证能转吗 真实经历告诉你 之前考的证在外省能不能转过来?我跟你说,这个问题问得真好,很多在河南工作的外地朋友都遇到过。今天我就以漯河一位应届工程类毕业生的身份,跟你们聊聊【强电电工证报名要求】,以及怎么处理外省证书转…

📰

烟台电工证科信官方回应有效期多久?过期了怎么复审?

烟台电工证科信官方回应有效期多久?过期了怎么复审? 证书过期了不知道怎么复审延期,怕影响工作和项目进度?烟台电工证科信官方回应,有效期为6年,过期后必须及时办理复审,否则将面临无法执业的后果。 一、烟台电工证科信有效期及复审规则…

📰

初级电工证要年审流程通过率揭秘怎么避开报名坑

初级电工证要年审流程通过率揭秘怎么避开报名坑 不知道去哪报名怕被中介坑?初级电工证要年审流程其实不难,关键是你得知道从哪入手。特别是像你这种平顶山中小施工企业的负责人,天天打交道的电工证问题,别再被培训机构忽悠了,今天我就带你从头理清楚。…

📰

电工证遗失如何能查找?内部消息教你找到并顺利复审延期

电工证遗失如何能查找?内部消息教你找到并顺利复审延期 实操考试心里没底怕挂科,这是很多特种作业从业者共同的焦虑。尤其在电工证遗失的情况下,很多人不知道如何查找、如何复审、甚至担心影响后续的薪资和发展。今天就从 平顶山公路工程从业者…

📰

多伦特种作业操作证怎么考?学历不高怕报不上名?教你一步到位拿电子证书

多伦特种作业操作证怎么考?学历不高怕报不上名?教你一步到位拿电子证书 你是不是也这样想:学历不高,怕报不上名?别急,特种作业操作证这事儿,真的不看你学历高低,关键看你有没有真本事。而且现在都用 电子证书…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬