文章浏览阅读5.6k次,点赞5次,收藏17次。本文详细介绍了如何部署Ziya-LLaMA-13B,一个基于LLaMa的130亿参数预训练模型,该模型支持多种任务,如翻译、编程等。部署过程涉及模型权重转换、硬件环境配置,以及使用HuggingFace的工具进行模型加载和推理。现在模型已优化,仅需一张4...
部署教程大全 · 2025-05-11 23:41
[大模型]Llama-3-8B-Instruct FastApi 部署调用,下面的代码有很详细的注释,大家如有不理解的地方,欢迎提出issue。考虑到部分同学配置环境可能会遇到一些问题,我们在AutoDL平台准备了...
部署教程大全 · 2025-05-11 23:41
文章浏览阅读1.4w次,点赞19次,收藏102次。Linux内网离线安装ollama请参考:https://blog.csdn.net/u010197332/article/details/137604798。(2)国外大模型源文件下载地址https://huggingface.co/models。...
部署教程大全 · 2025-05-11 23:40
本文 的 原文 地址 本文 的 原文 地址 尼恩:LLM大模型学习圣经PDF的起源 在40岁老架构师 尼恩的读者交流群(50+)中,经常性的指导小伙伴们改造简历。 经过尼恩的改造之后,很多小伙伴拿到了一线互联网企业如得物、阿里、滴滴、极兔、有赞、希音、百度、网易、美团的面试机会,拿到了大厂...
部署教程大全 · 2025-05-11 23:32
文章浏览阅读9.8k次,点赞5次,收藏25次。n8n是一款开源的工作流自动化工具,类似于IFTTT。它的优点是开源、可以自托管、下载安装方便、易于使用,可以互联上百种服务。n8n基于节点能够将任何工具连接在一起,轻松部署不同类型的任务。它可以做很多事情,比如:从数据库中获取数据后下载为excel然后...
部署教程大全 · 2025-05-11 23:31