"contract-clause-extractor"
从建筑合同中提取并分析关键条款。识别付款条款、变更订单程序、争议解决、保修条款以及风险分配规定。
把 Skill 的源码、资源快照、README、包体和安装信号放进一个可搜索、可筛选的公开目录。
从建筑合同中提取并分析关键条款。识别付款条款、变更订单程序、争议解决、保修条款以及风险分配规定。
文档照片的超分辨率处理,以在照片分辨率较低时提高面部匹配的质量
使用ArcFace R100进行的最先进面部识别,以比较自拍照与证件照
GPU加速的数据整理,用于LLM训练。支持文本/图像/视频/音频。特点包括模糊去重(快16倍),质量过滤(30多种启发式方法),语义去重,个人身份信息删除,成人内容检测。通过RAPIDS在多个GPU上扩展。可用于准备高质量的训练数据集、清理网络数据或对大型语料库进行去重。
专家指导使用Axolotl微调LLMs - YAML配置,100+模型,支持LoRA/QLoRA,DPO/KTO/ORPO/GRPO,多模态支持
提供了使用SAELens训练和分析稀疏自动编码器(SAEs)的指导,以将神经网络激活分解为可解释的特征。在发现可解释的特征、分析叠加现象或研究语言模型中的单义表示时使用。
提供了使用nnsight解释和操作神经网络内部的指导,可选NDIF远程执行。当需要在没有本地GPU资源的情况下对大规模模型(70B+)运行可解释性实验时,或在处理任何PyTorch架构时使用。
使用torchtitan提供4D并行(FSDP2、TP、PP、CP)的PyTorch原生分布式LLM预训练。当使用8到512+个GPU以及Float8、torch.compile和分布式检查点对Llama 3.1、DeepSeek V3或自定义模型进行大规模预训练时,请使用此功能。
精选的少量示例用于构建AI任务:分类、提取、分析。特定领域的示例以提高大语言模型性能。
在FaceForensics++数据集上训练的深度伪造和换脸分类器
先进的图像处理算法用于文档分析
使用从教师模型到学生模型的知识蒸馏来压缩大型语言模型。当部署保留性能的小型模型、将GPT-4的能力转移到开源模型或减少推理成本时使用。涵盖温度缩放、软目标、反向KLD、logit蒸馏和MiniLLM训练策略。
使用RadixAttention前缀缓存为大型语言模型提供快速结构化生成和服务。适用于JSON/正则表达式输出、约束解码、带有工具调用的工作流,或者当您需要比vLLM通过共享前缀快5倍的推理速度时。在xAI、AMD、NVIDIA和LinkedIn上支持超过300,000个GPU。
提供了使用TransformerLens通过HookPoints和激活缓存来检查和操作transformer内部的机制可解释性研究指南。在逆向工程模型算法、研究注意力模式或执行激活修补实验时使用。
用于音频生成的PyTorch库,包括文本转音乐(MusicGen)和文本转声音(AudioGen)。当您需要从文本描述生成音乐、创建音效或执行基于旋律条件的音乐生成时使用。
半二次量化用于无需校准数据的LLMs。当将模型量化为4/3/2位精度且不需要校准数据集时使用,适用于快速量化工作流程,或在使用vLLM或HuggingFace Transformers部署时。
利用AI技术为建设项目匹配和选择承包商。通过分析承包商的能力、过往表现、认证以及项目需求来推荐最佳匹配。
将ML模型量化为FP16/INT8以减少内存使用并加速KYC流程中的推理
用于构建带有RAG的LLM应用程序的数据框架。专注于文档摄取(300多个连接器)、索引和查询。具有向量索引、查询引擎、代理和支持多模态的特点。可用于文档问答、聊天机器人、知识检索或构建RAG管道。最适合以数据为中心的LLM应用程序。
使用LoRA、QLoRA和25种以上的方法对LLM进行参数高效的微调。当在有限的GPU内存下微调大型模型(7B-70B)时,或者当你需要以最小的精度损失训练小于1%的参数,或者用于多适配器服务时,请使用此方法。与transformers生态系统集成的HuggingFace官方库。
在CPU、Apple Silicon和非NVIDIA的消费级GPU上运行LLM推理。适用于边缘部署、M1/M2/M3 Macs、AMD/Intel GPU,或当CUDA不可用时。支持GGUF量化(1.5-8位),以减少内存使用,并在CPU上相比PyTorch提供4-10倍的速度提升。
提供了使用pyvene的声明式干预框架对PyTorch模型进行因果干预的指导。在进行因果追踪、激活修补、互换干预训练或测试关于模型行为的因果假设时使用。
大型语言和视觉助手。支持视觉指令调优和基于图像的对话。结合了CLIP视觉编码器与Vicuna/LLaMA语言模型。支持多轮次图像聊天、视觉问答以及指令执行。可用于构建视觉-语言聊天机器人或图像理解任务。最适合用于对话式的图像分析。
通过Flash Attention优化变压器注意力,实现2-4倍的速度提升和10-20倍的内存减少。当训练/运行具有长序列(>512个令牌)的变压器时遇到GPU内存问题或需要更快的推理时使用。支持PyTorch原生SDPA、flash-attn库、H100 FP8以及滑动窗口注意力。