工作层面上,全是我一个人干。
1,有几个项目是直接用 rust 实现的ai推理服务:有用li***orch,也有用onnx,还有用candle的。
2,某个 aigc 项目,不过是多语言多架构,rust 只是提供 web 服务层的功能,ai部分还是python,不用 rust 实现的原因是,虽然rust 也能推理,但是我发现生成的图片效果不如python 版本,哪怕所有参数一致,说明底层的推理框架有一些差异。
还有一个是aigc 都有大量的插件配套,这个如果全rust化,我估计…。
当前位置: 首页 >
工作层面上,全是我一个人干。
1,有几个项目是直接用 rust 实现的ai推理服务:有用li***orch,也有用onnx,还有用candle的。
2,某个 aigc 项目,不过是多语言多架构,rust 只是提供 web 服务层的功能,ai部分还是python,不用 rust 实现的原因是,虽然rust 也能推理,但是我发现生成的图片效果不如python 版本,哪怕所有参数一致,说明底层的推理框架有一些差异。
还有一个是aigc 都有大量的插件配套,这个如果全rust化,我估计…。
我们需要谈谈困扰我几个月的事情。 我一直看到独立黑客和初创公...
一开始的预测是CPU单核9010,多核m2,GPU对比910...
...
评论区很多朋友都在吐槽熊孩子和家长,我想讲讲我的反向操作。 ...
查看详情>>