Nano-vLLM-Ascend

thbcm阅读(118)

nano-vllm是开源的一个gpu推理项目,基于开源版本弄的一个ascend npu版本推理小demo,旨在帮助初学者了解推理的整体流程,区别于vllm,nano-vllm体量更小,麻雀虽小五脏俱全,更有助于初学者学习。

ROS2概述和基于RK3588的环境搭建

thbcm阅读(136)

那么问题就来了?这些组件来自不同的厂商,使用不同的通信协议(
CAN总线、
Ethernet
USB等),数据格式也千差万别。如何让它们“对话”?

腾讯云EdgeOne Pages托管Blazor Wasm

thbcm阅读(134)

腾讯云提供的EdgeOne Pages等同于Github Pages服务,近日从测试版升级为了正式版,并且仍然有免费套餐,可以部署静态站点和基于Next.js的全栈项目。

广州,广州-程序员视角在当下局势的总结

thbcm阅读(132)

  当初有娃之后对职业生涯重新评估规划,最终决定放弃北漂定居广州。利用节假日坐飞机往返北京和广州看房,彷佛就在昨日。北方想必屋外早已遍地披黄或银装素裹,再看看窗外的广州,绿红相间,温度适宜…正是踏青的好时节。选择广州,一切都按照设想的发展,但有两件事超出预料。

联系我们