首页天道酬勤ai在医疗领域的应用(美计划开芯片会议 缺芯困局如何解)

ai在医疗领域的应用(美计划开芯片会议 缺芯困局如何解)

张世龙 02-20 17:58 111次浏览

几个问题的答案已经没有悬念了。

程序员问:“世界上最好的语言是什么? ”。 这个终极命题是一样的。 在医疗AI领域,围绕芯片和AI的开源框架的讨论也很热烈。

《后浪》视频一晚刷屏。

其实在AI时代,芯片和开源框架中也有很多追赶“前浪”的搅局者和颠覆者。

为了抢占市场,打造生态,科技巨头也推出了自己的开源深度学习框架,包括谷歌的TensorFlow、亚马逊的MXNet、脸书的Pytorch、微软的CNTK等

在国内,百度飞奖、玩视MegEngine等框架也进入了越来越多开发者的视野。

但是这个行业总是在洗牌。

一位开发商在雷锋网AI上掘金的杂志称,知名的Caffe由于灵活性等相对较差,用户逐年流失。 虽然Caffe2有所改善,但错过了重要的框架发展窗口期。

新势力也逐渐崛起。

今年4月底,英伟达也与伦敦国王学院联合发布了项目monai开源阿尔法版本。 MONAI是AI Medical Open Network的缩写。 该框架针对医学研究者的需求进行了优化,可与PyTorch和Ignite等深度学习框架配合使用。

该框架推出时,国内学者评价说:“为医学影像研究者制作的,是真正良心的作品。”

当然,除了开源框架外,AI芯片也是行业巨头们方兴未艾的领域,英特尔、NVIDIA和众多AI专用芯片公司的医疗AI相关产品层出不穷。

作为开源框架和芯片的“首席体验官”,我们采访了4家主要医疗AI公司的技术人员,算法工程师们如何看待芯片、开源框架等领域的诸多选择。

3358 www.Sina.com/http://www.Sina.com /快速验证模型的效果使用Pytorch,工业布局使用TensorFlow。

TensorFlow:TensorFlow是Python、c、JAVA、Go、甚至JavaScript、可爱的月光、C#; 凭借TensorFlow出色的文档和社区支持,直观的可视化计算图大大降低了学习成本。从高性能的计算机到移动设备,再到更小巧、更轻便的智能终端,该模型提供了各种各样的硬件但是,构建TensorFlow深度学习框架需要更复杂的代码,需要多次重复构建静止图像。 但是,从2.0开始,tensorflow融合了keras,简化了许多操作。

Pytorch:Pytorch的样式类似于python。 使用动态图表,建立模型快速、调试方便,可以快速验证方法的有效性。 初学者手快,库足够简单,可以与NumPy、SciPy等无缝连接。 无需定义静态网络图,即可简单动态地设计网络,非常灵活。 但是,pytorch在生产环境中的部署还不成熟。

Caffe:Caffe是一个以表达、速度、模块化为优先设计的框架。 支持c、c、Python等接口和命令行接口。 但是,Caffe不支持细粒度的网络层,给定体系结构,循环网络和语言建模的整体支持相当差,必须用低级语言构建复杂的层类型,使用门槛很高。 虽然开源比Pytorch和Tensorflow稍早,但许多早期机器视觉的算法都基于Caffe框架,但Caffe社区比前两个框架小很多,更新迭代也慢很多

AI掘金志:你们会选择哪种深度学习开源框架?Pytorch还是Caffe、TensorFlow?各家的优缺点都有哪些?目前,我们主要使用基于Tensorflow和Tensorflow的Keras框架。 选择Tensorflow的主要原因是市场占有率大,社区支持好,而且最重要的是工业部署非常成熟。

Pytorch目前研究者使用较多,最大的优点是其动态图的实现方案,对测试等非常友好。 但是,在工业配置上,与Tensorflow之间有一定的差距。 目前,这两个框架选择的人很多。

使用Caffe的人已经逐渐减少,但主要是其灵活性等相对较差,Caffe2有所改善,但错过了重要的框架发展窗口。

柏视医疗董事长yydhf:其他两个相比,Pytorch在算法实现上更灵活,与机器学习研发工程师更接近。 另外,学术界对Pytorch的支持也很强,整个社团都很活跃。 由于我们部署的全部都是内部开发部署框架,所以我们更喜欢培训研发阶段框架的灵活性和效率。

连心医疗算法经理Fisher:Pytorch易于使用、易于调试,代码编写方式为pythonic,但目前对部署的支持相对较弱,TensorFlow对部署的支持较好,但Caffe是第一代深度学习框架,仍然用于部署成熟的模型,但基于Caffe的模型开发成本相对较高,例如,用户往往需要自己实施反向传播代码,速度更快

联影智能研发科学家:

trong>

柏视医疗董事长yydhf:国内的开源框架,比如百度的飞桨和最近推出的清华大学Jittor、旷视的MegEngine和华为的MindSpore,这都是很好的尝试,但是国内开源框架都面临和Caffe一样的问题,使用者较少,资源比Pytorch、Tensorflow少很多,和Pytorch和Tensorflow框架的兼容性不好,在这些框架上做开发的难度相对比较大。因此,国内这些框架的社区还是比较小。

百度在飞桨的推广上做了很多的工作,可能也发现在通用框架上,和这些国外成熟框架竞争所面临的困境。近期推出的影像AI专用框架,是一个不错的想法,因为Pytorch和Tensorflow这类框架是针对通用性设计的,在细分领域并不算非常好。如果影像AI这一块,飞桨能做的足够出色,吸引更多的研发者进来,做好生态,也能形成自己的社区,希望国内开源框架的生态越做越好。

连心医疗算法经理Fisher:我们一直和飞桨有合作,在春节期间还一起推出了新冠肺炎的检测模型。

最近除了百度,华为以及旷视等也都推出了自己的框架,百度应该是国内开发最早、发展最成熟的框架。

国内框架的优点是中文的支持友好,和企业直接合作较多以及硬件的直接融合开发等,但是致命的缺点在于其学术界的缺位。

放眼最新的论文,其开源的代码基本都是Tensorflow以及PyTorch的实现。当然如果是比较火热的论文,框架一般也都会及时把相应的代码跟上,但是如果不是大热的论文,都需要自己再复现一下论文。

在目前工程师基本都要掌握Tensorflow和Pytorch两种框架的情景下,让他们再去掌握第三种框架是缺乏动力的。

联影智能研发科学家:基本没有太多接触,主要还是基于飞桨的应用以及开源代码,资料这方面比较少,暂时没有Pytorch和Tensorflow生态圈庞大。所以无论上手,学习,成本都会相应增高。

AI掘金志:如何评价英伟达刚刚开源的医疗AI专用框架MONAI?是否会取代Pytorch在医疗界的位置?

柏视医疗董事长yydhf:MONAI使用PyTorch深度学习框架,旨在提供一种开源、标准化程度高、用户友好、可复现性好、易于集成、高质量的、针对医疗领域特定优化的深度学习框架。

从长期来看,这是趋势,但需要吸引更加多的开发者加入,壮大社区的力量。

它和飞桨影像AI是一个思路,走的是细分领域,依托于英伟达自身的硬件基础,在医疗AI影像上,可以做出更出色的性能。在医疗AI领域,和Pytorch兼容,减少Pytorch用户迁移到MONAI的难度,提高用户对MONAI的使用率,可以实现和Pytorch共同发展。

MONAI在计算效率、并行化训练和部署,以及医疗特定任务的支持上应该会有更好的效果,而Pytorch是一个更基础通用的框架。二者各有所长,未来应该是相互促进的关系。

连心医疗算法经理Fisher:简单的总结就是,不会。

首先,我们要搞清楚MONAI是什么,它在Github上的解释是:MONAI is a PyTorch-based, open-source framework for deep learning in healthcare imaging。

也就是说,首先它和Pytorch并不是排他的关系,MONAI就是基于Pytorch构建的,包括官方的一些例子,都是会引入Torch,也就没有了什么取代。

在我看来,MONAI更像是一个基于Pytorch的医疗图像数据处理库,针对医疗图像增添了许多图像处理的方法,弥补了Pytorch对于医疗图像的支持不足。

AI掘金志:你们购买哪个厂商的服务器?为什么?

柏视医疗董事长yydhf:服务器的选购主要是考虑成本以及售后服务,在满足基本配置要求的前提下,选用价格成本较低,售后服务较为完善的服务器供应商。NVIDIA提供一站式解决方案,且计算性能优秀,是很好的选择。

连心医疗算法经理Fisher:目前,我们服务器供应商有多家,其中DELL的机器较多,主要的原因还是DELL在端机上成熟的解决方案、稳定的品质。

联影智能研发科学家:目前购买过AMAX、NVIDIA DGX系列,前者用于部署、后者用于训练,各有好处。NVIDIA DGX在整体解决方案上更为成熟,技术支持也会好些。

汇医慧影算法总监刘鹏飞:服务器基本就是NVIDIA GPU + Intel CPU。用户基数大,社区比较成熟,遇到问题可以很容易找到解决方案。

AI掘金志:主要用哪家厂商的AI芯片?

柏视医疗董事长yydhf:英伟达。

连心医疗算法经理Fisher:据我所知,在端侧基本只能用英伟达的芯片,因为各家的框架都是构建于CUDA之上,而只有英伟达的卡才可以使用CUDA。

联影智能研发科学家:现在市面主流还是NVIDIA,无论是CUDA还是深度学习,NVIDIA的显卡对各个框架的支持都很好,而且可以兼容三维渲染、并行编程,这方面较其他芯片来说优势目前还是很大的。

汇医慧影算法总监刘鹏飞:这两家的AI芯片我们都在用,目前实时性要求比较高应用主要还是基于NVIDIA芯片,计算量相对少的应用一般基于英特尔的芯片。

AI掘金志:英伟达的硬件和软件包,有哪些优势?尤其是CUDA

柏视医疗董事长yydhf:英伟达系列显卡最早能够支持诸如Tensorflow 、Pytorch一类的深度学习框架的部署,技术起步早,国内外相关的研究者比较多,技术生态比较成熟。

英伟达还有专门针对深度学习优化的工具tensorRT,能够更好地结合深度学习框架与显卡硬件资源之间的优势,充分发挥显卡的计算性能。CUDA很好地封装了一些对显卡硬件资源调度和使用的API接口,能够让研发人员方便高效地对显卡的计算资源进行利用,上手难度较低。

连心医疗算法经理Fisher:正如上边所说,虽然有一些解决方案也可以不用CUDA而使用OpenCL,但是基本工业界只有CUDA这一个选项,这主要是其统一的开发套件、非常丰富的库以及NVCC所具备的PTX代码生成以及离线编译等更成熟的编译器特性。另外,众多的开源框架也都是建立在CUDA之上。

联影智能研发科学家:CUDA有很长的一段发展历史,沉淀比较多,资料也比较多,优势很大。特别是现在除了CUDA C,还有Thrust这种C++库,选择余地大。另外,CUDNN也可以和CUDA一起兼容,所以除了深度学习,还可以做其他GPGPU并行编程,整体就非常方便。

汇医慧影算法总监刘鹏飞:对于性能要求比较高的场景,英伟达硬件软件包是比较有优势的。CUDA、TensorRT等工具都是经过高度优化,执行速度上有比较明显的优势。

AI掘金志:英特尔Xeon系列AI芯片在医疗领域应用颇多,其明显大于GPU的显存,是否在CT、MRI和病理这类比较大的图像处理上更有优势?

柏视医疗董事长yydhf:医疗AI专用芯片,具有非常巨大的市场空间,人工智能技术的快速发展,让AI算法在医疗领域已经得到了行业认可,但医疗行业有其行业特点:数据量大、mmdqj、多模态,显存更大的芯片能够加速AI算法落地复杂的医疗环境。

对医疗AI专用芯片的选择,内存是考虑因素之一,同时计算力也是一个考量的因素,在这点上英伟达更有优势。所以选择上,看个人更看重哪个因素。

英特尔的医疗AI专用芯片技术起步比较晚,在技术生态环境上暂时比不上英伟达,研发人员对英特尔系列的AI芯片的应用有一定的上手难度。对英特尔芯片的应用,很多技术人员还处于摸索阶段。从研发效率和稳定性来考虑。目前,选择英伟达的芯片是大多数的选择。

更大显存对医疗AI领域确实有着一定的优势。随着技术的发展,使用英特尔的医疗AI专用芯片做部署环境也是可以考虑的技术路线之一。

连心医疗算法经理Fisher:从我个人角度来看,硬件是服务于项目的,而项目中硬件只是制约的一部分因素,更重要的是开发效率。诚然,显存是会让算法有更多的可能性,但是开发效率会是工程上更关注的部分。

如果没有良好的社区支持以及市场支持,再好的硬件也只能是和一些特定厂商的定制硬件选项而不是广泛的工程选择。就像显卡上NVIDIA和AMD的竞争,由于CUDA的存在以及已经发展起来的良好社区,如果想要进行科学计算,那么可以说,英伟达是唯一的选项。

汇医慧影算法总监刘鹏飞:据我所知,目前英特尔的AI芯片主要应用在推理阶段。在训练阶段,大家基本还是使用NVIDIA GPU。另外,对3D医疗图像来说,Intel OpenVino目前还有一些常用算子没有完全支持。

原帖:https://cloud.tencent.com/developer/article/1630521

项目组织多路复用判别分析services水仙花数米柚
朋友圈刷屏(谷歌AI中国中心) 中国九章量子计算机(比量子计算机更厉害的计算机)
相关内容