小孟Tec
小孟Tec

Task 3: Subword Models

1.人类语言的声音：语音和语音学

  • 语音是声音流–毫无争议的“物理”
  • 语音学假设一小部分或几组独特的类别单元：音素或独特特征
  • 也许是普遍的类型学，但特定语言的实现
  • 类别感知的最佳证据来自语音学
    • 音素内差异缩小；音素间放大

Task 3: Subword Models_第1张图片

形态：词的一部分

  • 传统上，我们把语素作为最小的语义单元
  • [[un [[fortun（e）] ROOT ate] STEM] STEM ly] WORD
  • 深度学习：形态学研究很少；
    一次尝试递归神经网络是（Luong，Socher，＆Manning 2013）

Task 3: Subword Models_第2张图片

<一种处理较大词汇量的可能方法-最看不见的单词是新的形态形式（或数字）>

形态学

  • 一个简单的替代方法是使用字符n-gram
  • Wickelphones（Rumelhart＆McClelland 1986）
  • 微软的DSSM（Huang，He，Gao，Deng，Acero和Hect 2013）
  • 有关使用卷积层的想法
  • 可以更轻松地提供语素的许多好处吗？

Task 3: Subword Models_第3张图片

书写系统中的单词

写作系统在表达单词的方式上有所不同-或不

  • 没有分词 例：美国关岛国际机场及其办公室均接获
  • 单词（主要）分为：This is a sentence with words

    • 批评家？

      • 分开的 Je vous ai apporté des bonbons
      • 已加入 ف+ قال+ نا+ ھا = فقلناھا = so+said+we+it

    • 化合物？

      • 分开的 life insurance company employee
      • 已加入 Lebensversicherungsgesellschaftsangestellter

单词级别下的模型

  • 需要处理 large,openvocabulary

    • 丰富的形态：nejneobhospodařovávatelnějšímu
      (“to the worst farmable one”)

    • 音译：Christopher Kryštof

    • 非正式拼写：

Task 3: Subword Models_第4张图片

字符级别下的模型

1.单词嵌入可以由字符嵌入组成

  • 为未知单词生成嵌入
  • 相似的拼写共享相似的嵌入
  • 解决OOV问题

2.可以将连接的语言当作字符来处理两种方法都已证明非常成功！

  • 令人惊讶的是-传统上，音素/字母不是语义单位-但是DL模型组成了组

文字下方：书写系统

大多数深度学习NLP的工作都是从书面形式的语言开始的-它是易于处理的发现数据
但是人类语言写作系统不是一回事！

     
音位（也许有字） jiyawu ngabulu Wambaya
僵化音素 thorough failure English
音节/摩拉 ᑐᖑᔪᐊᖓᔪᖅ Inuktitut
表意文字（音节符号） 去年太空船二号坠毁 Chinese
结合以上 インド洋の島 Japanese

2. 纯字符级模型

  • Wesawone很好的例子，用于句子分类的字符级模型
  • 非常深的卷积网络用于文本分类
  • Conneau，Schwenk，Lecun，Barrault,EACL 2017
  • 通过深度卷积堆栈获得强大结果

纯字符级NMT模型

-最初表现不理想•（Vilar等，2007； Neubig等，2013）

  • 仅解码器
  • （钟俊英，赵庆gh，Yoshua Bengio。arXiv
    2016）。
  • 有希望的结果
  • （Wang Ling，Isabel Trancoso，Chris Dyer，Alan Black，arXiv 2015）
  • （Thang Luong，Christopher Manning，ACL 2016）
  • （Marta R.Costa-Jussà，JoséA. R. Fonollosa，ACL 2016）

英语-捷克语WMT 2015成绩

  • LuongandManning测试了基准基线纯字符级seq2seq（LSTM）NMT系统
  • 针对关键字级别的基准进行了有效处理
  • Butitwasssllooooww
    • 3个星期的训练...在运行时不是那么快

Task 3: Subword Models_第5张图片

英语-捷克语WMT 2015示例

Task 3: Subword Models_第6张图片

Task 3: Subword Models_第7张图片

无需显式细分的全字符级神经机器翻译

Jason Lee，Kyunghyun Cho，Thomas Hoffmann。 2017.编码器如下； 解码器是字符级GRU

Task 3: Subword Models_第8张图片

在LSTM seq2seq模型中具有深度的更强字符结果

回顾基于字符的神经机器翻译的能力和压缩。 2018.Cherry，Foster，Bapna，Firat，Macherey，Google AI

Task 3: Subword Models_第9张图片

3. 子词模型：两种趋势

  • 与词级模型相同的体系结构：
  • 但是使用较小的单位：“单词”
  • [Sennrich，Haddow，Birch，ACL’16a]，[Chung，Cho，Bengio，ACL’16]。
  • 混合架构：
  • 主模型有文字； 角色的其他东西
  • [Costa-Jussà＆Fonollosa，ACL’16]，[Luong＆Manning，ACL’16]。

字节对编码

  • 最初是压缩算法：
    • 最频繁的字节对一个新字节。

Rico Sennrich，Barry Haddow和Alexandra Birch。 具有子词单位的稀有词的神经机器翻译。 ACL 2016。
https://arxiv.org/abs/1508.07909 https://github.com/rsennrich/subword-nmt https://github.com/EdinburghNLP/nematus

  • 分词算法：
  • 虽然是自底向上的聚类
  • 以数据中所有（Unicode）字符的字母组合词表开头
  • 最常见的ngram对一个新的ngram
  • 分词算法：
  • 从字符词汇开始

  • 最常见的ngram对一个新的ngram
    ↓

     

    Task 3: Subword Models_第10张图片

↓

Task 3: Subword Models_第11张图片

↓

Task 3: Subword Models_第12张图片

↓

Task 3: Subword Models_第13张图片

  • 达到目标词汇量大小并在您到达时停止
  • 确定性最长的单词分段
  • 使用某些先前的标记器（通常是用于MT的Moses标记器）识别的单词进行细分
  • 自动决定vocabforsystem
    • 不再以传统方式强烈“用词”
      https://github.com/rsennrich/nematus

字词/句子模型

  • GoogleNMT（GNMT）使用以下版本
    • V1：字词模型
    • V2：句子模型
  • Ratherthancharn-gramcount，使用贪婪近似来最大化语言模型的对数可能性以选择片段
    • 添加最大程度减少困惑的n-gram
  • 单词模型对内单词进行标记
  • 句子模型来自原始文本
    • 空格保留为特殊标记（_）并正常分组
    • 您可以通过连接片段并将它们重新编码为空格来结束事物
    • https://github.com/google/sentencepiece
    • https://arxiv.org/pdf/1804.10959.pdf
  • BERT使用字词模型的变体
  • （相对）常用词在词汇表中：
    • 1910年代，费尔法克斯
  • 其他单词是由单词构成的：
    • hypatia = h ## yp ## ati ## a
      如果您以其他方式使用BERT
      基于模型，您必须处理

4. 字符级以构建词级学习词级表示形式

语音标记（Dos Santos和Zadrozny 2014）

  • 卷积字符以生成单词嵌入
  • 修复了用于PoS标记的词嵌入窗口

Task 3: Subword Models_第14张图片

基于字符的LSTM构建单词表示

Task 3: Subword Models_第15张图片

基于字符的LSTM

Task 3: Subword Models_第16张图片

技术方法

Task 3: Subword Models_第17张图片

字符感知神经语言模型

Yoon Kim，Yacine Jernite，David Sontag，Alexander M.Rush，2015年
更为复杂/复杂的方法

  • 推导适用于多种语言的强大而强大的语言模型。
  • 编码子词相关性：事件，事件，事件...
  • 解决现有模型的稀有字问题。
  • 以更少的参数获得可比的表现力。

卷积层

  • 在字符级输入上进行卷积。
  • 随时间变化的最大池化（有效地选择n-gram）。

Task 3: Subword Models_第18张图片

公路网（Srivastava et al.2015）

  • 模拟n-gram交互。
  • 在保留原始信息的同时进行转换。
  • 功能类似于LSTM存储单元。

Task 3: Subword Models_第19张图片

长短期记忆网络

Task 3: Subword Models_第20张图片

  • 分层Softmax，用于处理大量输出词汇。
  • 通过截断的反向传播进行训练。

定量结果

Task 3: Subword Models_第21张图片

定性见解

Task 3: Subword Models_第22张图片

Task 3: Subword Models_第23张图片

外卖

  • 论文质疑使用词嵌入作为神经语言建模输入的必要性。
  • 字符上方的CNN +高速公路网络可以提取丰富的语义和结构信息。
  • 关键思想：您可以构成“构建基块”以获得细微而强大的模型！

混合NMT

  • 两全其美的架构：
  • 主要在单词级别进行翻译
  • 仅在需要时进入角色级别
  • 对复制机制进行了超过2种BLEU改进，以尝试填写稀有词

Task 3: Subword Models_第24张图片

2级解码

  • 单词级光束搜索

Task 3: Subword Models_第25张图片

  • 单词级光束搜索
  • 字符级光束搜索

Task 3: Subword Models_第26张图片

英语和捷克语的结果

  • 训练WMT’15数据（1200万个句子对）
    • newstest2015

Task 3: Subword Models_第27张图片

样本英语-捷克语翻译

Task 3: Subword Models_第28张图片

Task 3: Subword Models_第29张图片

  • Char-based:错误的名字翻译

Task 3: Subword Models_第30张图片

  • Word-based:不正确的对齐

     

    Task 3: Subword Models_第31张图片

  • Char-based&hybrid:diagnózen的正确翻译

     

    Task 3: Subword Models_第32张图片

  • 基于单词：身份复制失败

Task 3: Subword Models_第33张图片

  • hybrid：正确,11-year-old – jedenáctiletá
  • 错误：Shani Bartová

5. 单词嵌入的字符

Task 3: Subword Models_第34张图片

词嵌入和词形态的联合模型
（Cao and Rei 2016）

  • 与w2v相同的目标，但使用字符
  • 双向LSTM计算嵌入
  • 模型尝试捕获形态
  • 模型可以推断出词根

FastText embeddings

使用子词信息Bojanowski，Grave，Joulin和Mikolov丰富词向量。 公平。 2016。
https://arxiv.org/pdf/1607.04606.pdf
https://fasttext.cc

  • 目标：高效的类似于word2vec的单词表示库，但更适合具有多种形态的稀有单词和语言
  • w2v跳过语法模型的扩展，包含字符n-gram
  • 用边界符号和整个单词表示的单词表示为charcharn-gram：
  • where = ，
    • 请注意，或
    • 前缀，后缀和整个单词都很特殊
  • 代表这些表示的词。
    上下文分数中的单词为：

    • 细节：不是共享所有n-gram的表示，而是使用“哈希技巧”来固定向量个数

    • 单词相似性数据集得分（相关性）

    Task 3: Subword Models_第35张图片

    • 稀有词的差别收益

    Task 3: Subword Models_第36张图片




    Reference：https://www.jianshu.com/p/57eef6923aef

    你可能感兴趣的:(CS224N,--,斯坦福自然语言处理课程笔记)

    • 探索OpenAI和LangChain的适配器集成：轻松切换模型提供商 nseejrukjhad langchaineasyui前端python
      #探索OpenAI和LangChain的适配器集成：轻松切换模型提供商##引言在人工智能和自然语言处理的世界中，OpenAI的模型提供了强大的能力。然而，随着技术的发展，许多人开始探索其他模型以满足特定需求。LangChain作为一个强大的工具，集成了多种模型提供商，通过提供适配器，简化了不同模型之间的转换。本篇文章将介绍如何使用LangChain的适配器与OpenAI集成，以便轻松切换模型提供商
    • 使用Apify加载Twitter消息以进行微调的完整指南 nseejrukjhad twittereasyui前端python
      #使用Apify加载Twitter消息以进行微调的完整指南##引言在自然语言处理领域，微调模型以适应特定任务是提升模型性能的常见方法。本文将介绍如何使用Apify从Twitter导出聊天信息，以便进一步进行微调。##主要内容###使用Apify导出推文首先，我们需要从Twitter导出推文。Apify可以帮助我们做到这一点。通过Apify的强大功能，我们可以批量抓取和导出数据，适用于各类应用场景。
    • 深入理解 MultiQueryRetriever：提升向量数据库检索效果的强大工具 nseejrukjhad 数据库python
      深入理解MultiQueryRetriever：提升向量数据库检索效果的强大工具引言在人工智能和自然语言处理领域，高效准确的信息检索一直是一个关键挑战。传统的基于距离的向量数据库检索方法虽然广泛应用，但仍存在一些局限性。本文将介绍一种创新的解决方案：MultiQueryRetriever，它通过自动生成多个查询视角来增强检索效果，提高结果的相关性和多样性。MultiQueryRetriever的工
    • 自然语言处理_tf-idf _feivirus_ 算法机器学习和数学自然语言处理tf-idf逆文档频率词频
      importpandasaspdimportmath1.数据预处理docA="Thecatsatonmyface"docB="Thedogsatonmybed"wordsA=docA.split("")wordsB=docB.split("")wordsSet=set(wordsA).union(set(wordsB))print(wordsSet){'on','my','face','sat',
    • 免费的GPT可在线直接使用（一键收藏） kkai人工智能 gpt
      1、LuminAI（https://kk.zlrxjh.top）LuminAI标志着一款融合了星辰大数据模型与文脉深度模型的先进知识增强型语言处理系统，旨在自然语言处理（NLP）的技术开发领域发光发热。此系统展现了卓越的语义把握与内容生成能力，轻松驾驭多样化的自然语言处理任务。VisionAI在NLP界的应用领域广泛，能够胜任从机器翻译、文本概要撰写、情绪分析到问答等众多任务。通过对大量文本数据的
    • 推荐3家毕业AI论文可五分钟一键生成！文末附免费教程！ 小猪包333 写论文人工智能AI写作深度学习计算机视觉
      在当前的学术研究和写作领域，AI论文生成器已经成为许多研究人员和学生的重要工具。这些工具不仅能够帮助用户快速生成高质量的论文内容，还能进行内容优化、查重和排版等操作。以下是三款值得推荐的AI论文生成器：千笔-AIPassPaper、懒人论文以及AIPaperPass。千笔-AIPassPaper千笔-AIPassPaper是一款基于深度学习和自然语言处理技术的AI写作助手，旨在帮助用户快速生成高质
    • AI论文题目生成器怎么用？9款论文写作网站简单3步搞定 小猪包333 写论文人工智能深度学习计算机视觉
      在当今信息爆炸的时代，AI写作工具的出现极大地提高了写作效率和质量。本文将详细介绍9款优秀的论文写作网站，并重点推荐千笔-AIPassPaper。一、千笔-AIPassPaper千笔-AIPassPaper是一款功能强大的AI论文生成器，基于最新的自然语言处理技术，能够一键生成高质量的毕业论文、开题报告等文本内容。它不仅提供智能选题、文献推荐和论文润色等功能，还具有较高的用户评价。其文献综述生成功
    • AI大模型的架构演进与最新发展 季风泯灭的季节 AI大模型应用技术二人工智能架构
      随着深度学习的发展，AI大模型（LargeLanguageModels,LLMs）在自然语言处理、计算机视觉等领域取得了革命性的进展。本文将详细探讨AI大模型的架构演进，包括从Transformer的提出到GPT、BERT、T5等模型的历史演变，并探讨这些模型的技术细节及其在现代人工智能中的核心作用。一、基础模型介绍：Transformer的核心原理Transformer架构的背景在Transfo
    • FlagEmbedding 吉小雨 python库python
      FlagEmbedding教程FlagEmbedding是一个用于生成文本嵌入（textembeddings）的库，适合处理自然语言处理（NLP）中的各种任务。嵌入（embeddings）是将文本表示为连续向量，能够捕捉语义上的相似性，常用于文本分类、聚类、信息检索等场景。官方文档链接：FlagEmbedding官方GitHub一、FlagEmbedding库概述1.1什么是FlagEmbeddi
    • 【NumPy】深入解析numpy.zeros()函数 二七830 numpy
      欢迎莅临我的个人主页这里是我深耕Python编程、机器学习和自然语言处理（NLP）领域，并乐于分享知识与经验的小天地！博主简介：我是二七830，一名对技术充满热情的探索者。多年的Python编程和机器学习实践，使我深入理解了这些技术的核心原理，并能够在实际项目中灵活应用。尤其是在NLP领域，我积累了丰富的经验，能够处理各种复杂的自然语言任务。技术专长：我熟练掌握Python编程语言，并深入研究了机
    • Humanize 项目教程 尤嫒冰
      Humanize项目教程humanizeAJSlibraryforaddinga“humantouch”todata.项目地址:https://gitcode.com/gh_mirrors/humani/humanize项目介绍Humanize是一个开源项目，旨在将机器生成的文本转换为更加自然、人性化的文本。该项目通过先进的算法和自然语言处理技术，使得AI生成的内容更加贴近人类的表达方式，从而提高
    • 全自动解密解码神器 — Ciphey K'illCode python_模块pythonvscode
      Ciphey是一个使用自然语言处理和人工智能的全自动解密/解码/破解工具。简单地来讲，你只需要输入加密文本，它就能给你返回解密文本。就是这么牛逼。有了Ciphey，你根本不需要知道你的密文是哪种类型的加密，你只知道它是加密的，那么Ciphey就能在3秒甚至更短的时间内给你解密，返回你想要的大部分密文的答案。下面就给大家介绍Ciphey的实战使用教程。1.准备开始之前，你要确保Python和pip已
    • CV、NLP、数据控掘推荐、量化 海的那边- AI算法自然语言处理人工智能
      下面是对CV（计算机视觉）、NLP（自然语言处理）、数据挖掘推荐和量化的简要概述及其应用领域的介绍：1.CV（计算机视觉，ComputerVision）定义：计算机视觉是一门让计算机能够从图像或视频中提取有用信息，并做出决策的学科。它通过模拟人类的视觉系统来识别、处理和理解视觉信息。主要任务：图像分类：识别图像中的物体并分类，比如猫、狗、车等。目标检测：在图像或视频中定位并识别多个对象，如人脸检测
    • 深度解析：如何使用输出解析器将大型语言模型（LLM）的响应解析为结构化JSON格式 m0_57781768 语言模型json人工智能
      深度解析：如何使用输出解析器将大型语言模型（LLM）的响应解析为结构化JSON格式在现代自然语言处理（NLP）的应用中，大型语言模型（LLM）已经成为了重要的工具。这些模型能够生成丰富的自然语言文本，适用于各种应用场景。然而，在某些应用中，开发者不仅仅需要生成文本，还需要将这些生成的文本转换为结构化的数据格式，例如JSON。这种结构化的数据格式在数据传输、存储以及进一步处理时具有显著优势。本文将深
    • 深入探讨：如何在Python中通过LangChain技术精准追踪大型语言模型（LLM）的Token使用情况 m0_57781768 pythonlangchain语言模型
      深入探讨：如何在Python中通过LangChain技术精准追踪大型语言模型（LLM）的Token使用情况在现代的人工智能开发中，大型语言模型（LLM）已经成为了不可或缺的工具，无论是用于自然语言处理、对话生成，还是其他复杂的文本生成任务。然而，随着这些模型的广泛应用，开发者面临的一个重要挑战是如何有效地追踪和管理Token的使用情况，特别是在生产环境中，Token的使用直接影响着API调用的成本
    • 使用最大边际相关性(MMR)选择示例：提高AI模型的多样性和相关性 aehrutktrjk 人工智能easyui前端python
      使用最大边际相关性(MMR)选择示例：提高AI模型的多样性和相关性引言在机器学习和自然语言处理领域，选择合适的训练示例对模型性能至关重要。最大边际相关性(MaximalMarginalRelevance,MMR)是一种优秀的示例选择方法，它不仅考虑了示例与输入的相关性，还注重保持所选示例之间的多样性。本文将深入探讨如何使用MMR来选择示例，以提高AI模型的性能和泛化能力。什么是最大边际相关性(MM
    • 使用LangChain和OpenAI实现高效文本标注 aehrutktrjk langchainpython
      使用LangChain和OpenAI实现高效文本标注引言在自然语言处理(NLP)领域，文本标注是一项重要且常见的任务。它涉及为文本分配标签，如情感、语言、风格等。本文将介绍如何使用LangChain和OpenAI的API来实现高效的文本标注系统。我们将探讨如何设置环境、定义标注模式，以及如何使用OpenAI的模型来执行标注任务。环境准备首先，我们需要安装必要的库并设置API密钥：%pipinsta
    • 基于深度学习的文本引导的图像编辑 SEU-WYL 深度学习dnn深度学习人工智能
      基于深度学习的文本引导的图像编辑（Text-GuidedImageEditing）是一种通过自然语言文本指令对图像进行编辑或修改的技术。它结合了图像生成和自然语言处理（NLP）的最新进展，使用户能够通过描述性文本对图像内容进行精确的调整和操控。1.文本引导的图像编辑的挑战文本和图像之间的对齐：如何将文本中的语义信息准确地映射到图像中的特定区域或元素是一个关键挑战。这涉及到多模态数据的对齐和理解。编
    • 多模态Transformer之文本与图像联合建模 - Transformer教程 shandianfk_com ChatGPTTransformertransformer深度学习人工智能
      大家好，今天我们来聊聊一个既前沿又有趣的话题——多模态Transformer，特别是文本与图像的联合建模。对于很多小伙伴来说，Transformer这个词已经不陌生了，但它不仅仅应用于自然语言处理，还能在图像处理、甚至是多模态数据的处理上大显身手。接下来，我会带大家深入了解什么是多模态Transformer，以及它是如何实现文本与图像的联合建模的。Transformer简介首先，我们简单回顾一下T
    • 什么是AIGC？有哪些免费工具？ chent_某位 AIGC
      AIGC（AIGeneratedContent），即“人工智能生成内容”，是指通过人工智能技术自动生成各种类型的数字内容。AIGC让机器能够根据输入的信息或数据生成符合人类需求的文本、图像、音频、视频等内容，极大提高了内容创作的效率。AIGC的背景与起源随着深度学习和自然语言处理技术的快速发展，人工智能已经不再局限于简单的任务，如分类、预测和数据分析，而是具备了生成内容的能力。生成式AI模型，如O
    • transformer架构(Transformer Architecture)原理与代码实战案例讲解 AI架构设计之禅 大数据AI人工智能Python入门实战计算科学神经计算深度学习神经网络大数据人工智能大型语言模型AIAGILLMJavaPython架构设计AgentRPA
      transformer架构(TransformerArchitecture)原理与代码实战案例讲解关键词：Transformer,自注意力机制,编码器-解码器,预训练,微调,NLP,机器翻译作者：禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming1.背景介绍1.1问题的由来自然语言处理（NLP）领域的发展经历了从规则驱动到统计驱动再到深度学习驱动的三个阶段。
    • 2018-12-12 花开的蕾蕾
      浅谈课程中的张首晟教授最近华为事件及张首晟教授事件引发了不少的风波与唏嘘，事件大家都知道，不必赘述，今天只想以个人角度回忆张首晟教授课堂之风采，以示缅怀。张教授曾在商学院上过一堂课，叫《第一性原理与创业》，这也是我第一次听一位教授以科学家的角度来阐述创业投资与科学的关联和必然性，精彩至极。不得不承认，张教授渊博的知识和对科学的探究都使其有着科学家独有的人个魅力，授课的方式也更内敛和平和，做为斯坦福
    • 英伟达（NVIDIA）B200架构解读 weixin_41205263 芯际争霸GPGPU架构gpu算力人工智能硬件架构
      H100芯片是一款高性能AI芯片，其中的TransformerEngine是专门用于加速Transformer模型计算的核心部件。Transformer模型是一种自然语言处理（NLP）模型，广泛应用于机器翻译、文本生成等任务。TransformerEngine的电路设计原理主要包括以下几个方面：
    • 使用LangChain与Together AI模型交互：深入探讨和实践指南 llzwxh888 langchain人工智能交互python
      使用LangChain与TogetherAI模型交互：深入探讨和实践指南1.引言在人工智能和自然语言处理领域，TogetherAI已经成为一个强大的平台，提供了对50多个领先开源模型的访问。本文将深入探讨如何使用LangChain与TogetherAI模型进行交互，为开发者提供实用的知识和见解，同时解决可能遇到的常见问题。2.TogetherAI简介TogetherAI是一个强大的API平台，允许
    • OpenLM: 一个灵活的开源大语言模型接口工具 llzwxh888 语言模型人工智能自然语言处理python
      OpenLM:一个灵活的开源大语言模型接口工具引言在人工智能和自然语言处理快速发展的今天，大语言模型(LLM)已经成为许多应用的核心。然而，不同的LLM提供商往往有着各自的API和使用方式，这给开发者带来了一定的挑战。本文将介绍OpenLM，这是一个零依赖、兼容OpenAIAPI的LLM提供者接口，它可以直接通过HTTP调用不同的推理端点。我们将深入探讨OpenLM的特性、使用方法，以及如何将其与
    • 使用中专API实现AI模型调用与部署 llzwxh888 人工智能easyui前端python
      在AI技术领域，如何调用和部署大语言模型（LLM）是一个常见的需求。本文将详细介绍如何通过中专API地址http://api.wlai.vip，实现对OpenAI大模型的调用与部署，并提供一个详细的demo代码示例。引言随着人工智能技术的飞速发展，大语言模型在自然语言处理任务中的表现尤为突出。然而，由于国内访问海外API存在一定限制，本文将使用中专API地址来解决这一问题，并展示如何在本地环境中配
    • 深度学习入门篇：PyTorch实现手写数字识别 AI_Guru人工智能 深度学习pytorch人工智能
      深度学习作为机器学习的一个分支，近年来在图像识别、自然语言处理等领域取得了显著的成就。在众多的深度学习框架中，PyTorch以其动态计算图、易用性强和灵活度高等特点，受到了广泛的喜爱。本篇文章将带领大家使用PyTorch框架，实现一个手写数字识别的基础模型。手写数字识别简介手写数字识别是计算机视觉领域的一个经典问题，目的是让计算机能够识别并理解手写数字图像。这个问题通常作为深度学习入门的练习，因为
    • 基于人工智能的智能语音助手 人工智能发烧友 人工智能
      语音助手的自然语言处理模块是语音助手系统的关键组成部分。通过这个模块，系统能够识别用户的意图并做出相应的回应。我们可以使用NLP技术来解析文本输入，并将其转换为系统可以理解的命令或指令。在本项目中，我们将结合语音识别、自然语言处理和语音合成技术，构建一个功能简化的语音助手。一、项目背景与需求分析1.1项目目标本项目旨在创建一个语音助手系统，它可以：1.语音识别：从用户的语音输入中提取文本信息。2.
    • 深入掌握大模型精髓：《实战AI大模型》带你全面理解大模型开发！ 努力的光头强 人工智能langchainprompttransformer深度学习
      今天，人工智能技术的快速发展和广泛应用已经引起了大众的关注和兴趣，它不仅成为技术发展的核心驱动力，更是推动着社会生活的全方位变革。特别是作为AI重要分支的深度学习，通过不断刷新的表现力已引领并定义了一场科技革命。大型深度学习模型（简称AI大模型）以其强大的表征能力和卓越的性能，在自然语言处理、计算机视觉、推荐系统等领域均取得了突破性的进展。尤其随着AI大模型的广泛应用，无数领域因此受益。AI大模型
    • 安装jina，并使用jina的向量化和重排序的功能 MonkeyKing.sun milvusnumpy
      为了在Python的FastAPI项目中使用Jina进行向量化和重排序，您需要按照以下步骤安装和使用Jina。1.安装Jina首先，确保您已经安装了Jina。可以使用pip来安装。pipinstalljina如果需要特定的功能模块，例如自然语言处理相关的向量化模型，可以通过JinaHub获取。pipinstalljina[hub]2.在FastAPI项目中集成Jina接下来，我们将Jina集成到F
    • HQL之投影查询 归来朝歌 HQLHibernate查询语句投影查询
              在HQL查询中，常常面临这样一个场景，对于多表查询，是要将一个表的对象查出来还是要只需要每个表中的几个字段，最后放在一起显示？ 针对上面的场景，如果需要将一个对象查出来： HQL语句写“from 对象”即可 Session session = HibernateUtil.openSession();
    • Spring整合redis bylijinnan redis
      pom.xml <dependencies> <!-- Spring Data - Redis Library --> <dependency> <groupId>org.springframework.data</groupId> <artifactId>spring-data-redi
    • org.hibernate.NonUniqueResultException: query did not return a unique result: 2 0624chenhong Hibernate
      参考：http://blog.csdn.net/qingfeilee/article/details/7052736 org.hibernate.NonUniqueResultException: query did not return a unique result: 2         在项目中出现了org.hiber
    • android动画效果 不懂事的小屁孩 android动画
      前几天弄alertdialog和popupwindow的时候，用到了android的动画效果，今天专门研究了一下关于android的动画效果，列出来，方便以后使用。 Android 平台提供了两类动画。 一类是Tween动画，就是对场景里的对象不断的进行图像变化来产生动画效果（旋转、平移、放缩和渐变）。 第二类就是 Frame动画，即顺序的播放事先做好的图像，与gif图片原理类似。
    • js delete 删除机理以及它的内存泄露问题的解决方案 换个号韩国红果果 JavaScript
      delete删除属性时只是解除了属性与对象的绑定，故当属性值为一个对象时，删除时会造成内存泄露  （其实还未删除） 举例： var person={name:{firstname:'bob'}} var p=person.name delete person.name p.firstname -->'bob' // 依然可以访问p.firstname，存在内存泄露
    • Oracle将零干预分析加入网络即服务计划 蓝儿唯美 oracle
      由Oracle通信技术部门主导的演示项目并没有在本月较早前法国南斯举行的行业集团TM论坛大会中获得嘉奖。但是，Oracle通信官员解雇致力于打造一个支持零干预分配和编制功能的网络即服务（NaaS）平台，帮助企业以更灵活和更适合云的方式实现通信服务提供商（CSP）的连接产品。这个Oracle主导的项目属于TM Forum Live!活动上展示的Catalyst计划的19个项目之一。Catalyst计
    • spring学习——springmvc（二） a-john springMVC
      Spring MVC提供了非常方便的文件上传功能。 1，配置Spring支持文件上传： DispatcherServlet本身并不知道如何处理multipart的表单数据，需要一个multipart解析器把POST请求的multipart数据中抽取出来，这样DispatcherServlet就能将其传递给我们的控制器了。为了在Spring中注册multipart解析器，需要声明一个实现了Mul
    • POJ-2828-Buy Tickets aijuans ACM_POJ
      POJ-2828-Buy Tickets http://poj.org/problem?id=2828 线段树，逆序插入 #include<iostream>#include<cstdio>#include<cstring>#include<cstdlib>using namespace std;#define N 200010struct
    • Java Ant build.xml详解 asia007 build.xml
      1,什么是antant是构建工具2,什么是构建概念到处可查到，形象来说，你要把代码从某个地方拿来，编译，再拷贝到某个地方去等等操作，当然不仅与此，但是主要用来干这个3,ant的好处跨平台   --因为ant是使用java实现的，所以它跨平台使用简单--与ant的兄弟make比起来语法清晰--同样是和make相比功能强大--ant能做的事情很多，可能你用了很久，你仍然不知道它能有
    • android按钮监听器的四种技术 百合不是茶 androidxml配置监听器实现接口
      android开发中经常会用到各种各样的监听器,android监听器的写法与java又有不同的地方;    1,activity中使用内部类实现接口 ,创建内部类实例  使用add方法  与java类似   创建监听器的实例 myLis lis = new myLis();   使用add方法给按钮添加监听器  
    • 软件架构师不等同于资深程序员 bijian1013 程序员架构师架构设计
              本文的作者Armel Nene是ETAPIX Global公司的首席架构师，他居住在伦敦，他参与过的开源项目包括 Apache Lucene,，Apache Nutch， Liferay 和 Pentaho等。         如今很多的公司
    • TeamForge Wiki Syntax & CollabNet User Information Center sunjing TeamForgeHow doAttachementAnchorWiki Syntax
      the CollabNet user information center http://help.collab.net/   How do I create a new Wiki page? A CollabNet TeamForge project can have any number of Wiki pages. All Wiki pages are linked, and
    • 【Redis四】Redis数据类型 bit1129 redis
      概述 Redis是一个高性能的数据结构服务器，称之为数据结构服务器的原因是，它提供了丰富的数据类型以满足不同的应用场景，本文对Redis的数据类型以及对这些类型可能的操作进行总结。 Redis常用的数据类型包括string、set、list、hash以及sorted set.Redis本身是K/V系统，这里的数据类型指的是value的类型，而不是key的类型，key的类型只有一种即string
    • SSH2整合-附源码 白糖_ eclipsespringtomcatHibernateGoogle
      今天用eclipse终于整合出了struts2+hibernate+spring框架。 我创建的是tomcat项目，需要有tomcat插件。导入项目以后，鼠标右键选择属性，然后再找到“tomcat”项，勾选一下“Is a tomcat project”即可。具体方法见源码里的jsp图片，sql也在源码里。     补充1：项目中部分jar包不是最新版的，可能导
    • [转]开源项目代码的学习方法 braveCS 学习方法
      转自： http://blog.sina.com.cn/s/blog_693458530100lk5m.html http://www.cnblogs.com/west-link/archive/2011/06/07/2074466.html   1）阅读features。以此来搞清楚该项目有哪些特性2）思考。想想如果自己来做有这些features的项目该如何构架3）下载并安装d
    • 编程之美-子数组的最大和（二维） bylijinnan 编程之美
      package beautyOfCoding; import java.util.Arrays; import java.util.Random; public class MaxSubArraySum2 { /** * 编程之美 子数组之和的最大值（二维） */ private static final int ROW = 5; private stat
    • 读书笔记-3 chengxuyuancsdn jquery笔记resultMap配置ibatis一对多配置
      1、resultMap配置 2、ibatis一对多配置 3、jquery笔记 1、resultMap配置 当<select resultMap="topic_data"> <resultMap id="topic_data">必须一一对应。 (1)<resultMap class="tblTopic&q
    • [物理与天文]物理学新进展 comsci
            如果我们必须获得某种地球上没有的矿石,才能够进行某些能量输出装置的设计和建造,而要获得这种矿石,又必须首先进行深空探测,而要进行深空探测,又必须获得这种能量输出装置,这个矛盾的循环,会导致地球联盟在与宇宙文明建立关系的时候,陷入困境       怎么办呢?  
    • Oracle 11g新特性:Automatic Diagnostic Repository daizj oracleADR
      Oracle Database 11g的FDI（Fault Diagnosability Infrastructure）是自动化诊断方面的又一增强。 FDI的一个关键组件是自动诊断库（Automatic Diagnostic Repository-ADR）。 在oracle 11g中，alert文件的信息是以xml的文件格式存在的，另外提供了普通文本格式的alert文件。 这两份log文
    • 简单排序:选择排序 dieslrae 选择排序
      public void selectSort(int[] array){ int select; for(int i=0;i<array.length;i++){ select = i; for(int k=i+1;k<array.leng
    • C语言学习六指针的经典程序，互换两个数字 dcj3sjt126com c
      示例程序，swap_1和swap_2都是错误的，推理从1开始推到2，2没完成，推到3就完成了 # include <stdio.h> void swap_1(int, int); void swap_2(int *, int *); void swap_3(int *, int *); int main(void) { int a = 3; int b =
    • php 5.4中php-fpm 的重启、终止操作命令 dcj3sjt126com PHP
      php 5.4中php-fpm 的重启、终止操作命令: 查看php运行目录命令：which php/usr/bin/php 查看php-fpm进程数：ps aux | grep -c php-fpm 查看运行内存/usr/bin/php  -i|grep mem 重启php-fpm/etc/init.d/php-fpm restart 在phpinfo()输出内容可以看到php
    • 线程同步工具类 shuizhaosi888 同步工具类
      同步工具类包括信号量（Semaphore）、栅栏（barrier）、闭锁（CountDownLatch）   闭锁（CountDownLatch） public class RunMain { public long timeTasks(int nThreads, final Runnable task) throws InterruptedException { fin
    • bleeding edge是什么意思 haojinghua DI
      不止一次，看到很多讲技术的文章里面出现过这个词语。今天终于弄懂了——通过朋友给的浏览软件，上了wiki。  我再一次感到，没有辞典能像WiKi一样，给出这样体贴人心、一清二楚的解释了。为了表达我对WiKi的喜爱，只好在此一一中英对照，给大家上次课。   In computer science, bleeding edge is a term that
    • c中实现utf8和gbk的互转 jimmee ciconvutf8&gbk编码
      #include <iconv.h> #include <stdlib.h> #include <stdio.h> #include <unistd.h> #include <fcntl.h> #include <string.h> #include <sys/stat.h> int code_c
    • 大型分布式网站架构设计与实践 lilin530 应用服务器搜索引擎
      1.大型网站软件系统的特点？ a.高并发，大流量。 b.高可用。 c.海量数据。 d.用户分布广泛，网络情况复杂。 e.安全环境恶劣。 f.需求快速变更，发布频繁。 g.渐进式发展。 2.大型网站架构演化发展历程？ a.初始阶段的网站架构。 应用程序，数据库，文件等所有的资源都在一台服务器上。 b.应用服务器和数据服务器分离。 c.使用缓存改善网站性能。 d.使用应用
    • 在代码中获取Android theme中的attr属性值 OliveExcel androidtheme
      Android的Theme是由各种attr组合而成, 每个attr对应了这个属性的一个引用, 这个引用又可以是各种东西.   在某些情况下, 我们需要获取非自定义的主题下某个属性的内容 (比如拿到系统默认的配色colorAccent), 操作方式举例一则: int defaultColor = 0xFF000000; int[] attrsArray = { andorid.r.
    • 基于Zookeeper的分布式共享锁 roadrunners zookeeper分布式共享锁
      首先，说说我们的场景，订单服务是做成集群的，当两个以上结点同时收到一个相同订单的创建指令，这时并发就产生了，系统就会重复创建订单。等等......场景。这时，分布式共享锁就闪亮登场了。   共享锁在同一个进程中是很容易实现的，但在跨进程或者在不同Server之间就不好实现了。Zookeeper就很容易实现。具体的实现原理官网和其它网站也有翻译，这里就不在赘述了。   官
    • 两个容易被忽略的MySQL知识 tomcat_oracle mysql
      1、varchar(5)可以存储多少个汉字，多少个字母数字？ 　　相信有好多人应该跟我一样，对这个已经很熟悉了，根据经验我们能很快的做出决定，比如说用varchar(200)去存储url等等，但是，即使你用了很多次也很熟悉了，也有可能对上面的问题做出错误的回答。 　　这个问题我查了好多资料，有的人说是可以存储5个字符，2.5个汉字（每个汉字占用两个字节的话），有的人说这个要区分版本，5.0
    • zoj 3827 Information Entropy(水题) 阿尔萨斯 format
      题目链接：zoj 3827 Information Entropy 题目大意：三种底，计算和。 解题思路：调用库函数就可以直接算了，不过要注意Pi = 0的时候，不过它题目里居然也讲了。。。limp→0+plogb(p)=0，因为p是logp的高阶。 #include <cstdio> #include <cstring> #include <cmath&
    按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他