Products

GitHub 副总裁 Scott Hanselman 开源 GPU 监控工具 gputaskman

微软 GitHub 副总裁开源“GPU 任务管理器”工具,让显卡占用一目了然

Why we picked it

Scott Hanselman 开源了个 GPU 任务管理器,跑本地大模型时能看到哪个进程吃了多少显存、用的什么量化,比 Windows 自带的细多了。

微软与 GitHub 副总裁 Scott Hanselman 发布开源工具 gputaskman,可按进程展示 GPU 使用率、显存、温度、功耗、编码器/解码器活动和 PCIe 流量。相比 Windows 任务管理器和英伟达 GPU 活动监视器,它能识别本地运行的 LLM 进程,并显示模型名称、运行时、量化方式、层数和显存占用。工具支持 Windows、Linux、WSL 和 Apple Silicon Mac,目前处于早期实验阶段,已有用户反馈温度读数偶有不刷新的问题。

Original · IT之家

微软 GitHub 副总裁开源“GPU 任务管理器”工具,让显卡占用一目了然

IT之家 11 月 6 日消息,微软资深开发者、微软与 GitHub 副总裁斯科特 · 汉塞尔曼(Scott Hanselman)最新发布名为 gputaskman 的开源 GPU 监控工具, 帮助用户看清究竟是哪个程序在“吃”显卡资源。 汉塞尔曼长期活跃于 .NET、开源、开发者社区和 AI 开发工具领域,拥有 30 多年的编程经验,曾在 Intel、Nike、STEP Technology 等公司工作,目前在 Microsoft / GitHub 担任副总裁兼技术成员。 IT之家曾于今年 4 月报道, 汉塞尔曼推出 PeekDesktop 工具 ,成功将 macOS Sonoma 系统的“点击壁纸显示桌面”功能移植到 Windows 10 和 Windows 11 平台。 科技媒体 NeoWin 指出,长期以来 Windows 任务管理器虽能显示 GPU 使用率、温度等总体数据,也能在“详细信息”页开启按进程查看显存,却难以解释各进程具体在做什么。英伟达的 GPU 活动监视器同样只列出正在占用显卡的程序,信息仍较有限。gputaskman 试图补上这一缺口。 gputaskman 工具可按进程展示 GPU 使用率、显存占用、温度、功耗、时钟频率、编码器与解码器活动以及 PCIe 流量等数据。对于正在本地运行大语言模型的用户,它还能识别 LLM 进程,并显示模型、运行时、模型权重、量化方式、层数和显存占用等细节,便于判断本地 AI 任务对显卡的真实压力。 gputaskman 目前仍属于早期实验性软件,支持 Windows、Linux、WSL 和 Apple Silicon Mac。有试用者发现,GPU 温度偶尔会长时间停留在同一数值,未能正常刷新;开发者也提示用户实际体验可能因硬件和平台而异。 参考 点此前往 GitHub 访问 gputaskman 项目