CacheRoute是一种基于vLLM和LMCache开发的新型跨LLM系统任务调度平台。考虑到大语言模型的知识密集型业务(如浏览器AI、知识问答AI)涉及大量知识重用,而现有方法主要通过将知识的长文本片段放在问题前作为prompt一同送入模型进行重计算;尽管这种方法能够有效 ...
本仓库是基于 DIFFSTE 的车牌样本生成代码,包含数据预处理、字符标注转换、模型训练、单图推理、批量推理和快速批量扩增脚本。当前项目主要以车牌 OCR 数据增强为例:给定原始车牌图像、待替换字符的 mask 和目标字符,模型在原图风格约束下重绘指定字符区域 ...