请在Chrome、Firefox等现代浏览器浏览本站。另外提供付费解决DEDE主题修改定制等技术服务,如果需要请 点击 加我 QQ 说你的需求。XML地图

关于公司的好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆_我爱自然语言处理

NLP 采集侠 评论

在NLP领域中,文本分类舆情分析等任务相较于文本抽取,和摘要等任务更容易获得大量标注数据。因此在文本分类领域中深度学习相较于传统方法更容易获得比较好的效果。正是有了

关于公司的好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆_我爱自然语言处理

在NLP领域中,文本分类舆情分析等任务相较于文本抽取,和摘要等任务更容易获得大量标注数据。因此在文本分类领域中深度学习相较于传统方法更容易获得比较好的效果。正是有了文本分类模型的快速演进,海量的法律文书可以通过智能化处理来极大地提高效率。我们今天就来分析一下当前state of art的文本分类模型以及他们在法律文书智能化中的应用。

文本分类领域走过路过不可错过的深度学习模型主要有FastText,TextCNN,HAN,DPCNN。本文试图在实践之后总结一下这些这些分类模型的理论框架,把这些模型相互联系起来,让大家在选择模型与调参的时候能有一些直觉与灵感。在深度学习这个实践为王的领域常有人质疑理论理论无用,我个人的感受是理论首先在根据数据特征筛选模型的时候非常有用,其次在调参的过程中也能大幅提升效率,,更重要的是调不出结果的时候,往往脑海里的那一句“这个模型不应该是这样的结果”,以及“这不科学”提供了坚持方向信心。

一、文本分类模型详解 1. FastText

其中FastText结构特别简单,对于速度要求特别高场合适用,他把一篇买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆中所有的词向量(还可以加上N-gram向量)直接相加求均值,然后过一个单层神经网络来得出最后的分类结果。很显然,这样的做法对于复杂的文本分类任务来说丢失了太多的信息。FastText的一种简单的增强模型是DAN,改变在于在词向量平均完成后多叠了几层全连接神经网络。对应地,FastText也可以看成是DAN全连接神经网络层数为1的的一种特例。

关于公司的好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆_我爱自然语言处理

图1 2层DAN网络

需要特别注意的是,对于不加n-gram向量的FastText模型,他不可能去分辨否定词的位置,看下面的两句话:

我不喜欢这类电影,但是喜欢这一个。

我喜欢这类电影,但是不喜欢这一个。

这样的两句句子经过词向量平均以后已经送入单层神经网络的时候已经完全一模一样了,分类器不可能分辨出这两句话的区别,只有添加n-gram特征以后才可能有区别。因此,在实际应用的时候需要对你的数据有足够的了解。

2. TextCNN

TextCNN相较于fastText模型的结构会复杂一些,在2014年提出,他使用了卷积 + 最大池化这两个在图像领域非常成功的好基友组合。我们先看一下他的结构。如下图所示,示意图中第一层输入为7*5的词向量矩阵,其中词向量维度为5,句子长度为7,然后第二层使用了3组宽度分别为2、3、4的卷积核,图中每种宽度的卷积核使用了两个。

其中每个卷积核在整个句子长度上滑动,得到n个激活值,图中卷积核滑动的过程中没有使用padding,因此宽度为4的卷积核在长度为7的句子上滑动得到4个特征值。然后出场的就是卷积的好基友全局池化了,每一个卷积核输出的特征值列向量通过在整个句子长度上取最大值得到了6个特征值组成的feature map来供后级分类器作为分类的依据。

关于公司的好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆_我爱自然语言处理

图2 TextCNN结构

我们知道图像处理中卷积的作用是在整幅图像中计算各个局部区域与卷积核的相似度,一般前几层的卷积核是可以很方便地做可视化的,可视化的结果是前几层的卷积核是在原始输入图像中寻找一些简单的线条。NLP中的卷积核没法做可视化,那么是不是就不能理解他在做什么了呢,其实可以通过模型的结构来来推断他的作用。因为TextCNN中卷积过后直接就是全局max pooling,那么它只能是在卷积的过程中计算与某些关键词的相似度,然后通过max pooling层来得出模型关注那些关键词是否在整个输入文本中出现,以及最相似的关键词与卷积核的相似度最大有多大。我们假设中文输出为字向量,理想情况下一个卷积核代表一个关键词,如下图所示:

关于公司的好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆_我爱自然语言处理

图3 TextCNN卷积核的意义示意图

TAG: 名家好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆摘抄 怎样借鉴好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆 凤凰网好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆 微信里好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆公众号 微信订阅号好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆 小狗的好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆 高中语文好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆摘录800 于丹的好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆怎么形容 好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆美文100 形容好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆的优美诗句 避暑好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆 高考论文好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆 有什么希望教练为人正直的 微信好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆怎么存到电脑文 遇见你真好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆 意林好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆读后感 道家香火好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆 村庄的好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆 一篇好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆的读后感 推荐适合讲述的好买球365bet属于外围吗_365bet信誉怎么样_365bet官网登陆
喜欢 (0) or 分享 (0)
发表我的评论
取消评论

表情

您的回复是我们的动力!

  • 昵称 (必填)
  • 验证码 点击我更换图片

网友最新评论