作者丨孟一凡 编辑丨马晓宁 梁丙鉴 “生产级质变点”并不是一个生捏硬造的概念,所有试过用 Agent 驱动工作流的人,都不会对那种模型能力跨越带来的爽感陌生。退一步是玩具,进一步是工作搭档,中间的天差地别是交付水平、可靠度、性价比,以及最重要的商业化能力。 这也是豆包大模型 2.1 Pro ...
每次看到AI领域又出了新模型,我都心痒痒想马上跑起来试试效果。但说实话,配环境这事儿,真是谁做谁知道——CUDA版本 ...
内容摘要:使用docker init编写Dockerfile和docker-compose配置可以简化Docker资源初始化过程,该工具根据项目需求创建Dockerfiles、Compose文件和.dockerignore文件,支持多种应用平台,如Go、Python、Node.js等。docker init简化了配置Docker的过程,节省时间,减少复杂性,并遵循 ...
随着大型语言模型(LLM)的需求不断增长,确保快速、效率高和可扩展的推理变得更加重要。NVIDIA的TensorRT-LLM通过提供一套专门为LLM推理设计的强大工具和优化来解决这一挑战。TensorRT-LLM提供了一系列令人印象深刻的性能改进,例如量化、内核融合、飞行批处理 ...
校园网深澜认证Python 脚本,定时检测是否需要重新认证校园网,并在掉线时重新认证,旨在方便同学们的日常使用。默认国科大,其他学校也可以使用。 docker run -d \ --name authenticator \ --restart unless-stopped \ --log-opt max-size=1m \ --network host \ -e TZ="Asia/Shanghai ...
说明:如果访问 GitHub 比较慢的话,可以关注我的知乎账号(Python-Jack),上面的“从零开始学Python”专栏(对应本项目前 20 天的内容)比较适合初学者,其他的专栏如“数据思维和统计思维”、“基于Python的数据分析”、“说走就走的AI之旅”等也在持续更新中 ...