PyTorch 张量（Tensor）
张量是一个多维数组，可以是标量、向量、矩阵或更高维度的数据结构。 在 PyTorch 中，张量（Tensor）是数据的核心表示形式，类似于 NumPy 的多维数组，但具有更强大的功能，例如支持 GPU 加速和自动梯度计算。 张量…
PyTorch 基础
PyTorch 是一个开源的深度学习框架，以其灵活性和动态计算图而广受欢迎。 PyTorch 主要有以下几个基础概念：张量（Tensor）、自动求导（Autograd）、神经网络模块（nn.Module）、优化器（optim）等。 张量（Tensor…
国内用户安装和使用codex
第一步：安装 Codex 命令行工具 首先确保你的电脑有 Node.js 环境 (版本 >= 22) ，然后在终端里安装： bash # 使用国内镜像源安装，速度更快 npm install -g @openai/codex --registry=https://registry…
skill具体调用
场景：用户说"帮我发一封邮件" #### 用户输入（自然语言） "帮我给 test@example.com 发一封邮件，主题是'会议提醒'，内容是明天下午3点开会" #### 智能体 自动发现 Skill（无需用户指定） 系统会自动扫描所有 skil…
一个go 的skill 案例
目录 skills/ ├--- send-email/ ├------ SKILL.md ├------ references/ └----- scripts/ SKILL.md --- name: send-email-go description: Send emails via pre-built `send-email` binary. JSON config + en…
vLLM 加载和部署 LoRA 微调后的模型
vLLM 完全支持加载和部署 LoRA 微调后的模型，并且能带来显著的性能提升。 两种部署方式 方式一：直接加载 LoRA 适配器（推荐） vLLM 原生支持动态加载 LoRA 适配器，无需合并模型，启动时指定即可： bash #…
使用微调后的大模型
使用微调后的大模型 from fastapi import FastAPI, HTTPException, Depends from pydantic import BaseModel from fastapi.responses import StreamingResponse, JSONResponse import torch from transformers …
使用LoRA进行大模型数据微调三
大模型微调的数据格式，核心可以归结为两种主流范式：一种是基于“对话结构”的 ShareGPT格式，另一种是基于“指令-回答”结构的 Alpaca格式。 下面这两张表可以帮你快速了解它们的核心区别和结构： 特性 Share…
使用LoRA进行大模型数据微调二
gpu版 import os import torch from datasets import load_dataset from transformers import ( AutoModelForCausalLM, AutoTokenizer, TrainingArguments, Trainer, DataCollatorFor…
使用LoRA进行大模型数据微调一
cpu版 import os import torch import time import json from datasets import load_dataset from transformers import ( AutoModelForCausalLM, AutoTokenizer, TrainingArguments, Tra…
skills 使用py脚本，如果涉及到第三方包怎么办
Skill 本身不解决依赖问题，依赖需要在执行环境中提前准备好 SKILL.md 只是一个指令文件，它告诉 Agent "请运行 scripts/pdf_parser.py"，但不会自动安装这个脚本所需的第三方包。Python 脚本运行时的 ImportError …
有的agent skills 就一个.Md文件，他们是如何达到执行的效果的
一个 .md 文件之所以能被 Agent 执行，是因为它并非普通文档，而是一个结构化的“指令包”。其核心并非文件本身运行代码，而是通过元数据触发 Agent 按需加载，并通过 Markdown 正文中的清晰步骤指导 Agent 一步步完…
陕ICP备10001693号
Copyright © 要快网