A. 个人显卡用于深度学习,4060ti16g可以吗
针对个人显卡用于深度学习的探讨,选择RTX 4060 Ti 16G确实可行,但不推荐用于大型语言模型的训练和推理。大语言模型如chatGLM 6B、llama 7B等,需要充足的16G显存支持,甚至包括额外的显存用于缓存。因此,对于这类模型,RTX 4070这样的显卡可能略显不足。相反,对于小型模型,即使通过量化降低显存需求,性能也难以发挥。因此,对于希望进行大语言模型相关工作的用户,可能需要考虑更高级别的显卡。
对于传统的深度学习任务,例如YOLO / ResNet,显存需求可能不是最主要的考量因素,更关键的是显卡的算力。在这种情况下,可以根据具体任务的显存需求,适当调整训练和推理时的批次大小,确保显存不超限即可。在选择4060 Ti时,16G和8G版本在算力上并无显著差异,考虑到预算限制,选择8G版本也是一个不错的选择。
如果预算允许,对于追求更高性能的用户,可以考虑升级到更高级别的显卡,如RTX 4070或4090等,这些显卡提供更强的计算能力,更适合对显存和算力有更高需求的深度学习任务。总的来说,在选择显卡用于深度学习时,需要综合考虑任务的性质、性能需求和预算,以找到最合适的解决方案。
B. 鲲云科技新一代星空X9加速卡量产,最高4.47倍性能提升,为AI服务器提供高性能算力支持
在2021年4月17日的第八届中国(上海)国际技术进出口交易会上,鲲云科技</以卓越的创新力震撼亮相,推出了新一代的星空X9加速卡,这款高性能利器无疑为AI服务器市场注入了强劲动力。这款卡的峰值性能达到了惊人的52.4 TOPS,实测性能更是突破性地达到英伟达T4的4.47倍,旨在为AI服务器提供极致的性能、低延迟和卓越性价比的计算加速解决方案。
牛昕宇博士,作为创始人兼CEO,亲自展示了这款高科技新品——星空X9加速卡。它搭载了4颗自主研发的CAISA芯片,全高全长设计,采用了革命性的无风扇被动散热技术,这在业界是前所未有的。CAISA芯片是鲲云科技去年6月发布的全球首款定制数据流AI芯片,其芯片利用率的提升幅度高达11.05倍,这意味着在实际应用中,星空X9能够提供远超同类产品的有效算力。
经过技术团队的精心优化,星空X9展现出卓越性能。即使在低于峰值算力的条件下,也能实现英伟达T4的4.47倍实测性能,这一成绩在业界独占鳌头。在与T4的对比测试中,星空X9在运行ResNet50和YOLO v3等算法模型时,芯片利用率提升幅度最高达到11.05倍,性能表现更是显著提升,例如在ResNet50网络上,性能提升1.12倍,YOLOv3和U-Net Instrial检测分割网络的性能提升更是达到了1.99-4.47倍。在追求极致速度的场景中,X9处理延时最低可降至2.65ms,相比T4的处理速度提升了惊人的35.73倍。
随着智能化时代的加速,数据中心作为智慧社会的基石,对AI算力的需求日益增长。星空X9的量产,无疑为数据中心提供了强大而灵活的算力支持。不仅如此,现场还展示了星空X3加速卡和星空X6A智能小站等更多AI硬件产品</,以及针对智慧油田、智能安监、智慧电网和智能制造等行业的深度解决方案,全方位展示了鲲云科技在AI计算领域的领先地位。
C. 国产全功能GPU“苏堤”发布
国产全功能GPU“苏堤”发布
国产全功能GPU“苏堤”发布,首款全功能国产智能显卡发布,这也是其基于MUSA统一系统架构的第一款桌面级显卡,主打桌面级PC、工作站市场。国产全功能GPU“苏堤”发布。
近两年频繁获得巨额融资的中国初创GPU公司正陆续取得进展。
3月30日,摩尔线程在北京发布其首款GPU芯片,并面向个人电脑和数据中心用途推出对应的显卡产品。
摩尔线程成立于2020年10月,总部位于北京,主要研发GPU芯片。去年11月,摩尔线程宣布完成A轮20亿元融资,由上海国盛资本、五源资本、中银国际旗下渤海中盛基金联合领投,建银国际、前海母基金、招商证券和湖北高质量发展产业基金等九家知名机构联合参投。摩尔线程创始人兼CEO张建中曾任英伟达全球副总裁、中国区总经理。
据张建中介绍,此次摩尔线程发布首个GPU架构“MUSA”,以及基于该架构的首款GPU芯片“苏堤”和显卡产品,搭配摩尔线程自研物理仿真系统以及多种GPU应用解决方案,有助于推动“元宇宙”应用落地。
张建中称,“苏堤”是全功能GPU芯片,可用于游戏、科学计算、3D仿真等用途,而MTT S60台式机显卡基于“苏堤”核心晶片制成,单精度算力最高可达6TFlops,配置8GB显存,搭配MUSA软件运行库和驱动程序等软件工具。
发布会上,张建中展示了使用MTT S60显卡玩《英雄联盟》的游戏情景,并称该显卡为首款能打《英雄联盟》的国产显卡,支持所有主流国产PC操作系统。
面向服务器市场,摩尔线程则推出了MTT S2000显卡,单精度浮点计算达12TFlops,支持32GB显存和PyTorch、TensorFlow等AI框架,支持虚拟化等技术,可用于支持云游戏、云渲染等应用。摩尔线程称已与多家OEM厂商合作适配显卡产品。
过去两年,GPU成为热门赛道,除摩尔线程外,沐曦集成电路、天数智芯、壁仞科技、登临科技等都是这个赛道的高端玩家,每轮融资动辄上亿元,尤其是吸金王壁仞科技成立三年多累计融资超47亿元。市场期待从中可以跑出“中国英伟达”。
然而,GPU作为“大芯片”,一直由海外巨头长期占领市场,国内技术积累极为匮乏,研发难度极大。尤其是全功能GPU领域,国内具备图形、科学计算等相关专业知识的'芯片人才储备不足。因此,像登临科技等企业选择GPU的AI计算方向进行研发,即GPGPU(通用计算GPU),专注于数据中心领域。
也有部分企业选择向外购买IP(知识产权),降低开发难度。芯动科技于去年发布的GPU“风华1号”,其IP购买自英国GPU技术授权公司Imagination。此次摩尔线程并未透露其IP是自研还是来自授权。
随着国内GPU初创企业的产品陆续面试,如何吸引客户进行验证、测试,搭建生态系统,将成为包括摩尔线程在内的GPU公司们下一个关键命题。
3月30日,摩尔线程正式发布了首款全功能国产智能显卡“MTT S60”,这也是其基于MUSA统一系统架构的第一款桌面级显卡,主打桌面级PC、工作站市场。
同时发布的还有面向数据中心的MTT S200,以及GPU物理引擎AlphaCore、数字人解决方案DIGITALME。
摩尔线程(Moore Threads)成立于2020年10月,创始人兼CEO张建中是原NVIDIA全球副总裁、中国区总经理,拥有真正世界级的、能够覆盖GPU研发设计、生产制造、市场销售、服务支持等完整成熟的团队,致力于研发设计国产全功能GPU芯片及相关产品,面向数据中心、边缘计算、高性能PC、工作站。
摩尔线程的MUSA统一系统架构包括统一的编程模型、软件运行库、驱动程序框架、指令集架构、芯片架构,应用具备广泛的可移植性,可以同时运行在云端、边缘计算平台上,适用于图形、计算、多媒体、人工智能等。
摩尔线程MTT S60显卡核心代号“苏堤”,采用12nm工艺,包含2048个MUSA核心,内置现代图形渲染引擎、智能多媒体引擎、AI计算加速引擎、物理仿真、科学计算四大引擎,单精度算力最高6TFlops,搭配8GB LPDDR4X显存。
它支持DirectX、Vulkan、OpenGL、OpenGL ES等图形API接口,可满足GIS、BIM、设计、主流游戏、原生Android、三维渲染等应用对图形性能的需求。
同时有基于全栈功能GPU的通用计算能力,可加速DBNet、CRNN、Yolo、Restnet50/101等AI模型推理计算,支持OCR、图像处理、视频增强等AI场景。
视频编解码不仅支持H.264、H.265(HEVC),还业界首次加入了最新的AV1,并有三个DP 1.4接口,可输出8K、4K画面。
MTT S60显卡还提供了一站式的PES图形化控制中心,不仅可以监控GPU运行状态、设置2D/3D输出,还支持无人自动驱动更新。
CPU平台支持x86、ARM、LoongArch指令集,已适配Intel、AMD、飞腾、龙芯、兆芯、海光等平台,操作系统支持Windows 10、麒麟、统信、多种Linux发行版,比如可以在Windows下玩《英雄联盟》等。
目前,摩尔线程MTT S60显卡的PC合作伙伴包括联想、浪潮、清华同方、长城超云等。
行业应用合作伙伴包括金山办公、小鱼易连、太极图形、中望CAD、广联达、D5、苍穹数码、超图软件、易智瑞、中地数码、OSG社区、Gala Sports等等。
AlphaCore是摩尔线程独立设计研发的下一代多平台GPU物理仿真系统,能够对物理世界中复杂的固体、柔性体、流体等效果,进行超高精度的物理仿真处理,通过运算模拟,让布料、毛发、数字角色软体肌肉组织的物理交互效果,达到电影级别一般的真实。
AlphaCore物理引擎基于材料力学模块,可以实现丰富的材料交互动态效果,包括弹塑性材料、各项异性材料、羽绒服、皮革、丝绸、绵纶等。
同时,摩尔线程基于AlphaCore开发了一系列工具,包括布料毛发制作工具VeraFiber、气体流体仿真工具Catalys、生物仿生计算工具Bionics。
对比Houdini Vellum的软体毛发布料、PyroFX 的烟火流体,AlphaCore物理引擎都有5~10倍的性能提升。
AlphaCore也提供多平台兼容版本,最大程度兼容Vulkan、CUDA、DirectX等现有的运行时API环境,及Houdini、Unreal、Unity、D5等游戏引擎和设计软件。
在今天的摩尔线程 2022 春季发布会上,摩尔线程创始人兼 CEO 张建中发布了公司自主研发的首款全功能 GPU 产品“苏堤”,面向元计算提供元驱动力。
据介绍,“苏堤”基于摩尔线程最新推出的统一系统架构“MUSA”研发,具有现代图形渲染、AI 计算加速以及科学计算机物理仿真等功能引擎。是第一款支持 AV1 编解码的 GPU,支持视频云、直播、8K 游戏等智能多媒体运用。
据介绍,摩尔线程 GPU“苏堤”已开始适配国产主流 CPU 和操作系统,目前摩尔线程已与数百个生态伙伴建立合作关系,共同推进国产 GPU 应用软件的联合开发、性能优化和应用创新。
去年 11 月,摩尔线程宣布,不到 300 天,首颗国产全功能 GPU 研制成功,同时完成 A 轮融资。在完成融资的同时,摩尔线程还公布首颗国产全功能 GPU 芯片如期研制成功。
摩尔线程称,拥有完整的设计现代全功能 GPU 体系结构的软硬件设计团队,芯片内置自主研发的 3D 图形计算核芯、AI 训练与推理计算核芯、高性能并行计算核芯、超高清视频编解码计算等核芯。
D. “智慧哨兵”油气管道智能实时监测系统有什么优势
优势是有很多的——
一、人工智能分类识别
本方案采用具有自主知识产权的人工智能识别技术,系统对于 5 大类 28 种工程机械具有深度学习能力, 核心算法基于 yolo3 改进,具备分类识别能力, 我们将具备显著特征的工程机械的履带、驾驶室、执行机构分拆进行标定、训练,对未出现的组合型设备同样能够识别;
对于新出现的未录入数据库中的设备,可以在使用中添加录入数据库, 用于持续训练,改进识别能力。
二、基于识别的行为逻辑
在许多高后果区,人员往来频繁,其中手持工具者或工程车辆穿行较为常见,如只是简单的识别告警,势必出现“狼来了”的情形,驻留时间、特定动作组合等才是具备挖掘或可能实施侵害的行为,通过行为逻辑判断,可以滤除大量虚警,从而降低漏警的风险。
三、算力前置
在前端设置嵌入式控制主机,具备较强的数据采集及运算能力,可以在本地完成识别检测,在现场告警、驱离的同时将识别结果和相关图片、视频剪辑压缩发送后台,既可快速处置,又可以提供证据及触发进一步处置的流程;
现场实时图像经压缩后以较低码率发送后台,供实时预览,观测现场情况,(必要时可提高码率改善分辨率,)这样在确保预警效果的前提下可以大幅减少向后台传送的数据量,从而大幅降低运营费用。
四、搭载多传感器
我们在“ 哨兵岗”添加了温度、湿度、风力、风向、三轴位置传感器,并预留接口可以按照用户要求添加甲烷传感器及振动传感器,通过获取立杆的姿态,可以转换为地质沉降信息,实现预警;
持续对环境参数的监控、获取,为局部极端气象情况分析提供依据,也可以作为设备、管道可靠性分析的背景数据。
五、分级预警
系统根据预设定的警情等级触发不同等级预警, 事件等级用户可设置,处置方案与事件等级对应。