AI教程

重要提示：本指南仅供符合道德规范的使用。请确保你拥有用于数据集创建的任何媒体的必要权限，并遵守适用的法律和准则。使用 YouTube-DL 等工具时，我们建议下载和处理你拥有所有权的内容（例如您自己的录音），以尊重他人的知识产权。语音克隆技术应始终以负责任的方式使用，并承诺保护隐私并尊重个人。 随着提供配音和类似人类对话声音的 AI 应用程序的兴起，人们对构建自定义文本转语音模型的兴趣日益浓厚。许多开发人员和公司试图通过微调自己的模型来避免付费配音服务的成本。然而，创建高质量文本转语音系统的第一步也是最关键的一步是获取丰富、准备充分的数据集。本指南介绍了构建此类数据集的全面过程，重点是提取有效语音克隆所必需的清晰准确的声音样本。 作为我项目的中间步骤，我正在努力建立一个可以无缝执行每个步骤的自动化管道。本指南提供了有关创建高质量数据集的详细演练，涵盖了从视频下载到音频转录的所有内容。最后，我将讨论在此过程中遇到的一些挑战。 语音提取概述 此工作流程使用 YouTube-DL、FFMPEG、WhisperX 等工具来确保提取的音频符合高质量机器学习模型的要求。让我们深入了解每个步骤以及帮助您入门的必要命令。 1、下载音频源 第一步是从 CSV 文件中提供的 URL 列表中下载视频。 是一个简化此过程的命令行工具。它允许您下载高质量的视频并支持各种视频托管平台。 从 CSV 加载 URL：从 CSV 文件中提取 URL 列表。 运行 YouTube-DL：使用以下命令以最佳可用质量下载视频。…

PDF 解析是许多应用程序的关键任务，尤其是在检索增强生成 (RAG) 系统中。每个人都想从 PDF 中提取结构化数据，但这非常困难。程序化解析通常会失败，因为它依赖于 PDF 的完美结构——这在现实世界的文档中很少见。非推理 LLM 可以提供帮助，但它们对于像这样的复杂任务并不总是可靠的。 因此我们需要推理模型。这些高级 LLM 承诺提供更好的性能，但它们有一个缺点：它们很昂贵。例如，OpenAI 的 o1 每 100 万个 token 的成本为 60 美元。 另一方面，DeepSeek 的新版本 R1 提供的推理模型每 100 万个…

我们目前正在经历的人工智能革命是可供挖掘和分析以获得见解的数据量激增的直接结果。 但是，从现实世界收集数据可能具有挑战性。存储和处理个人数据会带来隐私和安全挑战，而其他类型的数据可能成本高昂甚至危险。 那么为什么不生成与现实世界数据足够接近的人工数据，以便可以以时间、金钱和风险方面的一小部分成本用于许多相同的目的？这就是合成数据的前景——生成式AI正在迅速成为有价值工具的另一个领域。 以下是我对一些最有用、最有趣或最独特的生成式AI工具的总结，这些工具旨在创建合成数据，包括免费和付费工具。 1、Mostly AI 是领先的合成数据生成平台，特别擅长于生成具有真实分布的客户数据。它使用 AI 模型捕捉原始数据的复杂模式，从而生成合成数据，不仅保护隐私，还确保数据分析的准确性。Mostly AI 广泛应用于金融、保险、医疗等高度依赖数据隐私的行业。它支持多样的数据类型，并可以生成跨领域的复杂数据结构，是企业快速测试和模型开发的有力工具。 2、Gretel 提供一套综合的数据隐私工具，支持合成数据生成和数据增强。该平台易于集成，能快速生成高质量的合成数据集，同时保护敏感数据，适用于零售、金融、医疗等多个领域。Gretel 的 API 允许用户轻松集成到现有的数据管道中，并且支持生成文本、结构化和时序数据，增强了数据科学和开发流程中的隐私保护和分析能力。 3、Synthea 是一个专注于医疗保健行业的开源合成数据生成平台，模拟真实患者数据以用于研究和分析。它生成的合成数据涵盖人口、社会因素、慢性病等维度，能够真实地反映患者生命周期中的医疗事件。该平台支持开发和测试公共卫生应用，帮助研究人员、开发者和政府机构在不侵犯隐私的前提下有效利用健康数据。 4、Tonic 提供高质量的合成数据生成服务，帮助团队快速创建有代表性的数据集。Tonic 支持使用 Masking、Subsetting 和合成生成等方法构建与真实数据特征相似的数据，并能够灵活配置，适应多样化的应用场景。它支持复杂的数据库和多种数据源的合成生成，适合需要高隐私保护的测试和开发环境。 5、Faker 是一个轻量级的开源工具，用于生成各种形式的假数据，特别适用于开发和测试小型项目。它支持多语言数据生成和数据类型，能够快速生成姓名、地址、文本等。Faker 的简单 API 让开发者可以灵活生成小规模的数据集，以便进行单元测试和原型开发，是个人开发者和小型项目的数据伪造首选。…

本文档记录了 在其资助的 研究项目中所做的部分贡献。该项目由* 资助。 为了在这个高度竞争的环境中不仅保持竞争力，而且找到新的竞争优势机会，公司强烈激励尽早发现相关的新兴主题和趋势，以制定适当的未来应对策略。[ ] 1、新闻分类和自然语言处理介绍 在商业智能的应用中，新闻文章是获取相关和及时信息的重要来源。自然语言处理（NLP）和文本挖掘方法可以用来分析这些数据并提取相关信息。例如，新闻文章可以用来衡量公众情绪——参见我的。 NLP方法还可以帮助分析师更有效地探索大量新闻文章，通过检测事件和趋势[]，或总结关键点[]。 去除无关结果如假新闻[]也可以减少数据洪流。相反，如果有一个系统能够帮助他们专注于最相关的新闻，分析师将从中受益匪浅。 一种识别最有可能包含相关信息的文章的方法是自动新闻分类。特别是那些希望收集信息来制定创新战略的技术和趋势侦察员，对属于以下一个或多个类别的新闻特别感兴趣，我们也可以把这些类别称为类型： 市场研究报告提供对特定行业或市场环境的深入分析，包括竞争动态评估、趋势预测和机会。示例： 初创企业新闻涵盖新技术公司、风险投资资金、初创企业的新产品和服务、初创加速器和孵化器以及初创成功和失败的故事。示例： 业务关系、合作伙伴关系和并购新闻关注公司之间的战略联盟、合资企业和公司收购。这些故事提供了关于竞争格局可能如何变化以及可能出现哪些新协同作用或能力的见解。示例： 消费者和产品新闻包括对新技术产品的评论和公告、主要产品展会和展览的报道以及客户最感兴趣的特性和设计的见解。示例： 法律新闻报道影响技术和业务的新立法、法规、政府政策、诉讼和知识产权问题。示例： 一种简单的自动化新闻分类技术是关键词搜索。例如，我们可以预期一篇包含关键词“初创企业”、“风险资本”或“天使投资者”的新闻文章是一篇属于初创企业新闻类别的文章。 本报告的目标是比较传统关键词搜索在新闻分类方面的性能（准确性及运行时间）与最先进的机器学习方法。 2、趋势信号检测 除了上一节列出的新闻类别外，我们还希望检测趋势信号，我们将这些理解为描述事件、声明事实或反映意见的新闻文章，这些都指向潜在的重大变化，即创新和技术领域的变革。换句话说，趋势信号可以理解为新兴趋势的先兆。 趋势信号的新闻类别非常广泛，可能涉及以下任何子类别。其中一些子类别可能与其他定义的新闻类别有较大的重叠。 1. 科学与技术 1a. 新材料或方法。 讨论新型制造技术的发展和发布以及能改善产品、服务或技术的新材料的新闻文章。示例： 1b. 效率或效果的进步。…

字节跳动推出了 Goku，这是一种专为高质量视频生成而设计的高级 AI 模型。通过利用文本到视频和图像到视频的合成，Goku 重新定义了 AI 驱动的内容创作并突破了创意界限。 1、Goku 的工作原理 Goku 是一种基于流的视频生成模型，由 Rectified Flow Transformer (RFT) 提供支持，可提高质量和效率。它逐步细化图像和视频帧，确保流畅的运动过渡和高视觉保真度。该过程从以文本或图像形式输入开始，然后将其转换为结构化表示。通过整流流动力学，帧插值得到增强，从而降低噪音并确保连续性。最后，AI 合成具有无缝过渡的连贯视频序列。 2、Goku 背后的技术 Goku 的核心是一套尖端的 AI 技术。整流流变换器 (RFT) 在保持质量的同时最大限度地减少了计算开销，神经渲染确保了帧之间的逼真运动和流畅过渡。借助基于变换器的架构，Goku 可以有效地对视频序列中的时间依赖性进行建模，而其多模态 AI 功能可实现无缝的文本到视频和图像到视频的合成。…

DeepSeek R1 模型最近引起了广泛关注。我们被问到的一个问题是：“我可以在我的 .NET 应用程序中使用 DeepSeek 吗？”答案是肯定的！我将引导你了解如何在 GitHub Models 上将与 DeepSeek R1 结合使用，以便你今天就可以开始尝试使用 R1 模型。 1、MEAI 让使用 AI 服务变得简单 MEAI 库提供了一组统一的抽象和中间件，以简化 AI 服务与 .NET 应用程序中的集成。 换句话说，如果你使用 MEAI 开发应用程序，无论决定在幕后使用哪种模型，你的代码都将使用相同的…

人工智能正在占领当今的技术世界。每个人都需要将人工智能集成到他们的业务中，开发人工智能应用等。我不是来解释什么是人工智能、它的子领域或什么是LLM——这些废话。让我们直接进入主题。我的话题是生成式人工智能和代理式人工智能，特别是LLM和多代理系统（MAS）。在开发LLM应用和MAS时，我们需要验证LLM输出，监控我们的代理，并与各种工具和服务集成。我将分享一些用于构建这类应用的有用工具和库。大家都知道和。因此，我不会再次谈论这两个框架。 1. Instructor 用于从LLM获取结构化输出（类型安全）。它基于Pydantic构建。该库支持流式响应，并且可以在Python、TypeScript、Go、Ruby和Elixir中使用。此外，它可以与许多LLM一起使用，包括自托管模型。您可以简单地定义一个Pydantic模型作为响应模型，并使用Instructor获取所需的输出。Instructor还支持Jinja模板，允许您创建动态提示。此外，它还可以与LogFire结合使用以监控应用性能。在他们的中，您可以找到如何使用Instructor的许多示例。 2. Composio 当构建AI代理时，我们需要增强其功能的工具。是一个很好的选择——一个为AI代理提供的集成平台，提供对超过250个工具的访问。它允许与GitHub、Jira、Salesforce、Gmail、Shopify等服务无缝集成。Composio支持多种框架，包括LangChain、LlamaIndex、CrewAI、AutoGen和LangGraph，同时保持LLM无关性。它还提供了OAuth和JWT等身份验证机制。此外，Composio通过内置触发器实现自动动作执行，使AI工作流更加高效和自动化。提供免费和付费计划。 3. AgentOps 在开发AI代理时，监控其性能、跟踪令牌使用情况并测量响应时间至关重要。是一个可观测性平台，使您能够有效地监控、调试、测试、审计和部署您的AI代理。它支持多种代理框架，包括CrewAI、LlamaIndex、LangChain和AutoGPT，以及多种LLM。AgentOps帮助跟踪令牌使用情况，监控成本，并提供清晰的可视化以获得更好的洞察力。非常易于使用。只需两行代码，您就可以将AgentOps添加到您的应用中。它具有用户友好的界面，并提供免费和付费版本。还有类似的可观测性工具，如LangFuse、LangTrace等。 4. Parlant 允许您创建和控制AI代理的行为以满足您的需求。您可以为每个代理定义独特的指南，指定它们在不同情况下如何行动，设置自定义词汇表，并创建基于上下文的变量来存储数据。如果您正在为客户服务等任务构建AI代理，Parlant值得考虑。该框架还支持工具调用代理，提供对第三方服务和API的访问。Parlant采用事件驱动模型，而不是传统的请求/响应模型。这种方法使对话感觉更自然，允许代理随时响应。安全性也是Parlant的一个强项。它使用Lakera Guard进行越狱保护。虽然Parlant有一个小但不断增长的社区，但其能力使其成为AI驱动交互的坚实选择。有一个缺点：您不能更改LLM提供商。但是，您不能选择使用哪个模型。您必须使用Parlant开发者选定的模型。但他们将在不久的将来加入更改模型版本的功能。 5. LM Studio 让您能够在本地运行LLM，并支持各种LLM。这类似于Ollama。但有一些差异。LM Studio带有GUI。您可以在UI中探索模型。此外，LM Studio包含内置聊天功能，并允许您一键启动服务器。LM Studio适用于Windows、Linux和Mac OS。该工具可以分析您的PC规格并推荐最合适的量化版本的模型。CrewAI也支持LM Studio。 6. LangFlow 是一款开源的低代码工具，旨在简化RAG应用、AI代理和可以与任何API、模型或数据库交互的工作流的开发。它提供了一个易于使用的GUI，带有拖放组件，允许您毫不费力地构建LLM应用。LangFlow既可以在本地也可以在云中使用。它支持与LangSmith、LangFuse和LangWatch等可观测性工具的集成，帮助您监控应用。LangFlow还支持许多工具，可以将您的应用连接到Google Drive、FireCrawl、Confluence、Serper等有用的第三方服务。为了使入门更容易，LangFlow包括预建模板，允许您快速设置并启动您的应用。 7、结束语…

LLM 低位量化的最新发展，例如 AQLM 和 AutoRound，现在在下游任务中显示出可接受的退化水平，尤其是对于大型模型。 话虽如此，2 位量化在大多数情况下仍会导致明显的准确性损失。 一种很有前途的低位量化算法是微软提出的 （MIT 许可证）。它于 2024 年 10 月推出，此后在量化大型模型方面表现出色，效率极高。 在本文中，我们将： 回顾 VPTQ 量化算法 演示如何使用 VPTQ 模型，其中许多模型已经可用。例如，我们可以轻松找到 Llama 3.3 70B、Llama 3.1 405B 和 Qwen2.5…

Google 正在变老，开发人员现在正在使用现代 AI 聊天工具来完成所有编程任务。 这是 11 个具有最佳 AI 聊天界面的开源项目的列表，可帮助你最大限度地提高工作效率。 让我们开始吧。 1、LLMChat – 最直观的一体化 AI 聊天界面 我已经测试了所有工具，我相信是最好的工具之一。 我特别喜欢这个，因为用户界面看起来很干净。 我甚至不需要教程就可以理解大多数东西。 让我们看看一些使其功能强大 10 倍的功能。 支持各种语言模型，包括 GPT 4o Mini、Ollama、Claude、Groq 和 lm studio（即将推出）。您也可以根据需要使用本地模型。如果您刚刚开始使用，他们会提供自己的免费模型。…

如果你对 AI 感兴趣，可能听说过 DeepSeek R1。它目前在 LLM 领域很流行，并且表现优于开源和闭源模型。 为了让一切变得简单，我们将使用手绘流程图和简单的计算来帮助从头开始澄清DeeoSeek-R1的核心概念。 事实上，我们将在整个博客中使用字符串 2 + 3 * 4 等于多少？作为示例，引导你了解 DeepSeek 技术报告的每个组成部分。 1、快速概览 因此，在介绍技术细节之前，快速概览一下：DeepSeek-R1 不是从头开始训练的，就像从无到有一样。相反，他们从一个非常聪明的 LLM 开始，他们已经有了 DeepSeek-V3，但他们想让它成为推理超级明星。 DeepSeek 实施快速概览 为此，他们使用了强化学习（简称 RL），当 LLM…