CINXE.COM
Transformer神经网络:GPT等AI大模型的基石-神经网络-人工智能实验室AiLab-中国人工智能网-Powered by AiLab.cn
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> <html> <head> <meta http-equiv="Content-Type" content="text/html; charset=gbk" /> <meta http-equiv="X-UA-Compatible" /> <title>Transformer神经网络:GPT等AI大模型的基石-神经网络-人工智能实验室AiLab-中国人工智能网-Powered by AiLab.cn</title> <meta name="keywords" content="Transformer,神经网络,GPT,大模型,基石,Tr,"/> <meta name="description" content="Transformer模型基于自注意力机制,摒弃了传统的RNN和CNN结构,在自然语言处理任务中取得了显著的成果,一定程度上是GPT的重要基石。这篇文章里,作者就对Transformer神经网络做了解读,一起来看一下。 上文介绍了生成对抗网络(GAN)的基础概念,今天我们来"/> <meta http-equiv="Cache-Control" content="no-transform"/> <meta http-equiv="Cache-Control" content="no-siteapp"/> <link rel="canonical" href="https://ailab.cn/20240219148694_1/"> <link href="https://ailab-static.oss-cn-hangzhou.aliyuncs.com/metro/css/reset.css" rel="stylesheet" type="text/css" /> <link href="https://ailab-static.oss-cn-hangzhou.aliyuncs.com/metro/css/jh.css" rel="stylesheet" type="text/css" /> <link href="https://ailab-static.oss-cn-hangzhou.aliyuncs.com/metro/js/ckeditor/contents.css" rel="stylesheet" type="text/css" /> <script src="https://lf3-cdn-tos.bytecdntp.com/cdn/expire-1-M/jquery/1.8.0/jquery-1.8.0.min.js"></script><script src="https://lf3-cdn-tos.bytecdntp.com/cdn/expire-1-M/jquery.lazyload/1.9.1/jquery.lazyload.min.js"></script></head> <body> <div class="jh_top"> <div class="w1 clear"> <h2 class="logo"><a href="https://ailab.cn/" title="人工智能实验室"><img src="https://ailab.cn/static/metro/images/logo.png" alt="人工智能实验室"/></a></h2> <ul class="nav_ul clear"> <li><a href="https://ailab.cn/" title="人工智能实验室">首页</a></li><li><a href="https://ailab.cn/tech/" >科技新闻</a></li> <li><a href="https://ailab.cn/ml/" >机器学习</a></li> <li><a href="https://ailab.cn/rfid/" >物联网</a></li> <li><a href="https://ailab.cn/cloud/" >云计算</a></li> <li><a href="https://ailab.cn/robot/" >机器人</a></li> <li><a href="https://ailab.cn/uav/" >无人机</a></li> <li><a href="https://ailab.cn/vr/" >VR虚拟现实</a></li> <li><a href="https://ailab.cn/anns/" class="on">神经网络</a></li> <li><a href="https://ailab.cn/zhuanlan/" target="_blank">投稿</a></li> <li id="omenu"><a href="#" target="_blank">更多内容</a> <dl id="minimenu"><dd><a href="https://ailab.cn/mode/">模式识别</a></dd> <dd><a href="https://ailab.cn/algorithm/">智能算法</a></dd> <dd><a href="https://ailab.cn/mode/char/">字符识别</a></dd> <dd><a href="https://ailab.cn/robot/expert/">专家系统</a></dd> <dd><a href="https://ailab.cn/algorithm/hereditary/">遗传算法</a></dd> <dd><a href="https://ailab.cn/algorithm/ant/">蚁群算法</a></dd> <dd><a href="https://ailab.cn/cryptology/">加密与安全</a></dd> <dd><a href="https://ailab.cn/chuangye/">创业</a></dd> <dd><a href="https://ailab.cn/qiye/">企业新闻</a></dd> <dd><a href="https://ailab.cn/product/">产品动态</a></dd> <dd><a href="https://ailab.cn/report/">人物报道</a></dd> <dd><a href="https://ailab.cn/huiyi/">展会会议</a></dd> <dd><a href="https://ailab.cn/quantum/">量子技术</a></dd> <dd><a href="https://ailab.cn/robotcleaner/">扫地机器人</a></dd> <dd><a href="https://ailab.cn/space/">太空探索</a></dd> <dd><a href="https://ailab.cn/gene/">基因工程</a></dd> <dd><a href="https://ailab.cn/ar/">AR增强现实</a></dd> <dd><a href="https://ailab.cn/6g/">6G通信</a></dd> <dd><a href="https://ailab.cn/aihot/">人工智能应用</a></dd> <dd><a href="https://ailab.cn/aiedu/">人工智能教育</a></dd> <dd><a href="https://ailab.cn/chanye/">产业政策</a></dd> <dd><a href="https://ailab.cn/energy/">动力能源</a></dd> </dl> </li> </ul> </div> </div> <script type="text/javascript"> $(document).ready(function(){ // nav-li hover e var num; $('#omenu').hover(function(){ /*下拉框出现*/ $('#minimenu').slideDown(300); },function(){ /*下拉框消失*/ $('#minimenu').hide(); }); }); </script> <div class="main"> <div class="box mt10"> <a href="https://www.zhanhuigang.com/apply.php" target="_blank" title="展会信息港展会大全"><img src="https://www.zhanhuigang.com/apply.gif" width="1160" alt="展会信息港展会大全"></a> </div> <div class="col-left mt10"> <div class="box"> <div class="crumbs">当前位置: <a href="https://ailab.cn/" title="人工智能实验室">人工智能实验室</a>> <a href="https://ailab.cn/anns/" target="_blank">神经网络</a> > <a href="https://ailab.cn/20240219148694_1/">Transformer神经网络:GPT等AI大模型的基石</a></div> <h1 class="h1">Transformer神经网络:GPT等AI大模型的基石<div class="p"> 来源:互联网   发布日期:2024-02-19 15:59:35   浏览:<span id="arcViews">6733</span>次 </div> </h1> <div id="Article"> <div class="box" style="padding-left: 9px;"> </div> <div class="article-content content_z" id="mainDiv"> <div class="summary"> <strong>导读:</strong>Transformer模型基于自注意力机制,摒弃了传统的RNN和CNN结构,在自然语言处理任务中取得了显著的成果,一定程度上是GPT的重要基石。这篇文章里,作者就对Transformer神经网络做了解读,一起来看一下。 上文介绍了生成对抗网络(GAN)的基础概念,今天我们来...</div> <p>Transformer模型基于自注意力机制,摒弃了传统的RNN和CNN结构,在自然语言处理任务中取得了显著的成果,一定程度上是GPT的重要基石。这篇文章里,作者就对Transformer神经网络做了解读,一起来看一下。</p> <p><img class="lazy" data-original="https://ailab-uploads2.oss-cn-hangzhou.aliyuncs.com/allimg/240219/1629354146-0.jpg?x-oss-process=style/max-width-640" alt="Transformer神经网络:GPT等AI大模型的基石"/></p> <p>上文介绍了生成对抗网络(GAN)的基础概念,今天我们来介绍Transformer神经网络。</p> <p>Transformer神经网络模型仅基于<strong>注意机制(Attention Mechanisms)</strong>,完全摒弃了循环和卷积的结构,以其独特的自注意力机制和并行计算能力,解决了传统模型在处理长序列时的长距离依赖问题和计算效率问题,从而在各种NLP任务中取得了优异的性能。</p> <p>本文既是深度学习系列的最后一篇,也可以看做是大语言模型系列的先导篇,起到了承上启下的作用。</p> <p>一、基本原理</p> <p>Transformer模型由Vaswani等人在2017年的论文《Attention is All You Need》中提出。该模型完全基于自注意力机制,摒弃了传统的RNN和CNN结构,因此在处理长距离依赖问题上表现出了优越的性能。</p> <p>下面我将结合《Attention is All You Need》中的这张Transformer结构图,来简单解释其原理。</p> <p><img class="lazy" data-original="https://ailab-uploads2.oss-cn-hangzhou.aliyuncs.com/allimg/240219/1629354J8-1.jpg?x-oss-process=style/max-width-640" alt="Transformer神经网络:GPT等AI大模型的基石"/></p> <p>Transformer模型主要由两部分组成:编码器(Encoder)和解码器(Decoder)。编码器用于理解输入数据,解码器用于生成预测。</p> <p>接下来我们对核心部件和名词做一些解释:</p> <p>编码器(Encoder):编码器的作用是将输入的词序列转化为一系列连续的向量表示,这些向量表示包含了输入序列的语义信息。每个编码器层包含两个子层:自注意力机制和前馈神经网络。每个子层后面都有一个残差连接和层归一化,这有助于模型学习复杂函数并稳定训练。解码器(Decoder):解码器的作用是根据编码器的输出和已经生成的部分目标序列,生成下一个目标词。每个解码器层包含三个子层:自注意力机制、编码器-解码器注意力机制和前馈神经网络。每个子层后面都有一个残差连接和层归一化。自注意力机制(Self-Attention):自注意力机制的作用是计算序列中每个词对其他词的注意力,使得模型在生成每个词时都能考虑到整个序列的信息。例如,在处理句子“The cat is black”中的“black”时,自注意力机制允许模型同时考虑到“cat”,从而更好地理解“black”的含义。这种机制解决了长距离依赖问题。多头注意力机制(Multi-Head Attention):多头注意力机制的作用是让模型能够同时关注序列中的多个位置,从不同的角度学习序列的信息。例如,一个头可能专注于学习语法关系,如“cat”和“is”的主谓关系;另一个头可能专注于学习词义关系,如“cat”和“black”的修饰关系。位置编码(Positional Encoding):位置编码的作用是给模型提供词的位置信息,因为Transformer本身无法处理词的顺序信息。残差连接(Residual Connection):残差连接的作用是帮助模型更好地学习复杂函数。在Transformer中,每个子层的输入不仅被送入子层进行处理,还会与子层的输出相加。这样,模型需要学习的就是输入和输出之间的差异,即残差,而不是直接学习输出。这使得模型能够更容易地学习复杂函数。层归一化(Layer Normalization):层归一化的作用是稳定模型的训练。在Transformer中,每个子层的输出会被规范化,即减去均值并除以标准差。这使得模型的输出在不同的层和位置都有相似的规模,从而稳定了模型的训练。线性层:线性层的作用是将解码器的输出转化为预测每个可能的目标词的分数。softmax层:softmax层的作用是将线性层的输出转化为概率,使得分数最高的词被选为下一个目标词。</p> <p>接下来,我们举个栗子,来说明Transformer的处理流程:</p> <p>假设我们要翻译句子“The cat is black”到汉语。</p> <p>首先,我们需要将输入句子转化为词向量,这是通过词嵌入(Word Embedding)实现的。然后,我们将位置编码添加到词向量中,得到了包含位置信息的词向量。接下来,这些词向量被送入编码器。在编码器的每一层,每个词向量都会通过自注意力机制,计算与其他词的关系,并生成一个新的向量。然后,这个新的向量会通过前馈神经网络,得到最终的编码器输出。编码器的输出被送入解码器。在解码器的每一层,除了有一个自注意力机制和一个前馈神经网络外,还有一个编码器-解码器注意力机制。这个注意力机制会计算目标序列中每个词与输入序列中每个词的关系,帮助模型更好地生成下一个词。最后,解码器的输出被送入一个线性层和一个softmax层,生成最终的预测。在我们的例子中,模型可能首先生成“这只”,然后生成“猫”,接着生成“是”,最后生成“黑色的”,完成了翻译。</p> <p>整体来看,Transformer模型解决了RNN等模型在处理序列数据时的几个核心问题:</p> <p>长距离依赖问题:在处理序列数据时,经常会遇到长距离依赖问题,即序列中相隔较远的元素之间可能存在关联。RNN由于其递归的特性,处理长距离依赖关系的能力有限,尤其是在序列较长时,可能会出现梯度消失或梯度爆炸的问题。而Transformer通过自注意力机制,可以直接计算序列中任意两个位置之间的依赖关系,从而有效地解决了长距离依赖问题。并行计算问题:在处理序列数据时,RNN需要按照序列的顺序逐个处理元素,无法进行并行计算。这在处理长序列时,会导致计算效率低下。而Transformer模型由于没有使用RNN,可以在处理序列数据时进行并行计算,大大提高了计算效率。可解释性问题:RNN模型的中间层通常难以解释。而Transformer模型通过注意力权重,可以直观地理解模型在做决策时关注的区域,提高了模型的可解释性。</p> <p>二、Transformer的优缺点</p> <p>Transformer模型在自然语言处理任务中取得了显著的成果,我们来总结下它的优缺点。</p> <p>优点:</p> <p>并行计算:由于没有使用RNN(循环神经网络),可以并行处理序列数据,提高计算效率。长距离依赖:通过自注意力机制,能够捕捉到序列中的长距离依赖关系。可解释性:通过注意力权重,可以直观地理解模型在做决策时关注的区域。模型性能:在许多NLP任务中都取得了最先进的结果,如机器翻译、文本摘要等。模型结构灵活:编码器和解码器结构可以根据具体任务进行调整。可扩展性:可以通过堆叠更多的层或者增加更多的注意力头来增加模型的容量。</p> <p>缺点:</p> <p>计算资源:需要大量的计算资源。尤其是在处理长序列时,由于自注意力机制的复杂度是序列长度的平方,需要大量的内存和计算能力。训练时间:尽管可以并行计算,但由于模型的复杂性,训练时间仍然很长。对位置编码的依赖:需要依赖位置编码来获取序列信息,可能会限制模型处理超出训练时序列长度的能力。需要大量数据:通常需要大量的标注数据进行训练,对于数据量较小的任务或者领域,可能无法充分发挥其性能。缺乏对序列长度的适应性:对于不同长度的序列,模型可能需要重新调整和训练。</p> <p>三、Transformer的重要应用:GPT</p> <p>最近爆火的GPT(Generative Pretrained Transformer)是OpenAI提出的一种预训练语言模型,全名叫生成式-预训练-Transformer模型,说明Transformer是GPT的重要基石。</p> <p>GPT采用了Transformer的解码器(Decoder)结构,但是去掉了编码器-解码器的注意力(Encoder-Decoder Attention)部分,使其成为一个纯自回归模型。</p> <p>GPT之所以在生成自然语言文本方面表现如此出色,除了以Transformer模型为底座,优秀的预训练技术同样功不可没。以下是GPT预训练过程的一些主要亮点:</p> <p>自监督学习:GPT利用自监督学习的方式,通过预测下一个词的任务来进行训练。这种方式不需要额外的标注数据,而是利用文本自身的信息来训练模型,从而降低了对数据的需求。掩码技术:GPT在训练过程中采用了掩码技术,随机选择文本中的一些词进行掩码,然后让模型根据上下文来预测这些被掩词的原始词。这种技术有助于提高模型的泛化能力,使其能够更好地处理未见过的词汇和句子结构。高效处理长序列:GPT模型采用了预测掩码技术和动态掩码技术,使得模型在训练和推理时能够高效地处理长序列。这在对长文本进行生成时尤为重要,使得GPT模型比其他模型更加高效。</p> <p>四、总结</p> <p>本文介绍了Transformer模型的基本原理、优缺点,并简单提到了其爆款应用GPT,希望对大家有所帮助。</p> <p>这样,我们的深度学习系列也就宣告完结,我们陆续介绍了人工神经网络ANN、卷积神经网络CNN、循环神经网络RNN(LSTM、GRU)、生成对抗网络GAN和Transformer模型,当然这些只是深度学习的冰山一角,感兴趣的朋友可以自行扩展。</p> <p>接下来我们将正式进入大模型的学习,下篇文章,我会介绍在大模型中非常重要的提示词工程,敬请期待。</p> <p>本文由 @AI小当家 原创发布于人人都是产品经理,未经许可,禁止转载</p> <p>题图来自 Unsplash,基于 CC0 协议</p> <!-- cache at 2025-01-15 13:16:48 --> <p style="padding-left:2em;display:none;"><a id="button_zanzhu_2" href="https://ailab.cn/zanzhu.html" target="blank">赞助本站</a> </p> </div> <div class="jh_76090"> <!-- 文章内容页广告位1 --> </div> <div class="xg_rc"> <p class="p arckw" id="itag"> <strong>相关热词:</strong> <!-- --><a class="itag-0" href="https://zhannei.baidu.com/cse/search?s=40303207690317848&ie=gbk&entry=1&q=Transformer" target="_blank" title="Transformer">Transformer</a> <a class="itag-1" href="https://zhannei.baidu.com/cse/search?s=40303207690317848&ie=gbk&entry=1&q=神经网络" target="_blank" title="神经网络">神经网络</a> <a class="itag-2" href="https://zhannei.baidu.com/cse/search?s=40303207690317848&ie=gbk&entry=1&q=GPT" target="_blank" title="GPT">GPT</a> <a class="itag-3" href="https://zhannei.baidu.com/cse/search?s=40303207690317848&ie=gbk&entry=1&q=大模型" target="_blank" title="大模型">大模型</a> <a class="itag-4" href="https://zhannei.baidu.com/cse/search?s=40303207690317848&ie=gbk&entry=1&q=基石" target="_blank" title="基石">基石</a> <a class="itag-5" href="https://zhannei.baidu.com/cse/search?s=40303207690317848&ie=gbk&entry=1&q=Tr" target="_blank" title="Tr">Tr</a> </p> </div> </div> <div class="bk10"></div> </div> <div class="bk20"></div> <div class="x_g clear"> <div class="lef_s">上一篇:<a href="https://ailab.cn/20240219148693_1/">1500万美元A+轮融资,奥创光年如何用AI重塑营销?</a></div> <div class="rig_s">下一篇:<a href="https://ailab.cn/20240219148695_1/">仅1/8,“硅仙人”称不到1万亿美元就能重塑AI芯片领域</a></div> </div> <div class="bk20"></div> <div class="box xgnr clear"> <h5 class="xgxz_x">相关内容</h5> <ul class="list list21 mr10"><li><a href="https://ailab.cn/20250116155205_1/" target="_blank">脑机接口竞赛:又一场典型的中美模式较量</a></li> <li><a href="https://ailab.cn/20250216155843_1/" target="_blank">为什么DeepSeek会诞生在杭州?</a></li> <li><a href="https://ailab.cn/20250107154950_1/" target="_blank">黄仁勋:我们的目标是创建一个巨型芯片,将使用72个Blackwell GPU</a></li> <li><a href="https://ailab.cn/20250109155022_1/" target="_blank">2025年手机芯片,可能不会采用2nm技术</a></li> <li><a href="https://ailab.cn/20250107154951_1/" target="_blank">上海脑机接口临床试验迎来重大突破,可用意念实时合成汉语</a></li> <li><a href="https://ailab.cn/20250109155034_1/" target="_blank">拜登卸任前最后一搏:拟进一步收紧AI芯片对华出口!</a></li> <li><a href="https://ailab.cn/20250126155355_1/" target="_blank">年终展望:2025年,生成式AI投资十大风向标</a></li> <li><a href="https://ailab.cn/20250109155026_1/" target="_blank">2025十大AI技术趋势:具身智能、世界模型都有望迎来ChatGPT时刻|钛媒体AGI</a></li> <li><a href="https://ailab.cn/20250107154915_1/" target="_blank">中国互联网协会发布 “2024年影响中国互联网行业发展的十件大事”</a></li> <li><a href="https://ailab.cn/20250114155147_1/" target="_blank">Neuralink已为第三位脑机接口被试植入设备,患者状态良好</a></li> </ul> <!-- E list21 --> <ul class="list list21" style=" border:0px; margin-left:30px;"><li><a href="https://ailab.cn/20250216155837_1/" target="_blank">DeepSeek立功,华为算力芯片供不应求,英伟达算力霸权坍塌背后</a></li> <li><a href="https://ailab.cn/20250126155363_1/" target="_blank">AI 2025 的硅谷答案:60 条关键洞察</a></li> <li><a href="https://ailab.cn/20250107154893_1/" target="_blank">端侧AI火爆,中国芯片企业如何在高通、苹果竞争中食得一杯羹</a></li> <li><a href="https://ailab.cn/20250217155918_1/" target="_blank">Arm计划推出自研芯片,已将Meta锁定为首批客户</a></li> <li><a href="https://ailab.cn/20250214155796_1/" target="_blank">孙正义旗下Arm正在开发自家芯片 锁定Meta为首批客户 股价大涨</a></li> <li><a href="https://ailab.cn/20250121155303_1/" target="_blank">2025全球电商消费趋势有哪些?AI等创新科技应用场景加速拓展、情绪经济成亮点</a></li> <li><a href="https://ailab.cn/20250114155136_1/" target="_blank">《麻省理工科技评论》预测2025年AI五大趋势</a></li> <li><a href="https://ailab.cn/20250216155835_1/" target="_blank">英伟达,进军手机芯片</a></li> <li><a href="https://ailab.cn/20250216155828_1/" target="_blank">DeepSeek爆火的启示:中国如何培植创新基因?</a></li> <li><a href="https://ailab.cn/20250121155290_1/" target="_blank">美科技巨头未来“完全收购”AI开发者?拜登警告:警惕科技工业综合体</a></li> </ul> </div> <div class="bk20"></div> <div class="box xgnr clear"> <h5 class="xgxz_x">AiLab云推荐</h5> <ul class="list list21 mr10" style="overflow: hidden;"><li><a href="https://ailab.cn/20241120153138_1/" target="_blank">Rokid发布AI+AR眼镜Rokid Glasses,售价2499元,2025年第二季度上市 | 最前线</a></li> <li><a href="https://www.zhanhuigang.com/article-36477-1.html" target="_blank">建议收藏!上海宝马展详细展位图已出,助您观展不迷路</a></li> <li><a href="https://szzqlj.com/news-20832/" target="_blank">消费行为新常态,看支付如何助力业务增长 </a></li> <li><a href="https://ailab.cn/20240702210261_16/" target="_blank">月之暗面Kimi开放平台“上下文缓存”开启公测:首Token延迟降低83%</a></li> <li><a href="https://ailab.cn/20241112152909_1/" target="_blank">一家AI视频独角兽的消亡:巨额融资后多次遭诈骗,如今从事剧本杀</a></li> <li><a href="https://www.zhanhuigang.com/article-36391-1.html" target="_blank">2024年上海压缩机展ComVac Asia亮点有哪些?</a></li> <li><a href="https://ailab.cn/20240430143766_17/" target="_blank">华硕推出天选X Plus 2024游戏台式机 显卡采用双轴流风扇散热</a></li> <li><a href="https://ailab.cn/20241114152989_1/" target="_blank">2024澎湃科创先锋|闫维新:通用AI与机器人结合引领产业变革</a></li> <li><a href="https://ailab.cn/20241125153370_1/" target="_blank">英伟达创始人黄仁勋:三种机器人有望实现大规模生产</a></li> <li><a href="https://ailab.cn/20241120153168_1/" target="_blank">AI和量子:谁将主宰未来计算?</a></li> <li><a href="https://ailab.cn/20240626210178_16/" target="_blank">六家大模型接入钉钉生态,共同探索AI应用创新</a></li> <li><a href="https://ailab.cn/20240627210186_16/" target="_blank">原生鸿蒙,激活数字内容一池活水</a></li> <li><a href="https://ailab.cn/2023112175068_18/" target="_blank">点广告赚钱是真的吗?点广告赚钱骗局揭秘</a></li> <li><a href="https://ailab.cn/20241124153336_1/" target="_blank">乌镇流水十年间 藏锋互联网产业的“来时路”和“新去向”</a></li> <li><a href="https://www.zhanhuigang.com/zhanhui-82141.html" target="_blank">2024鸿威世界宠物博览会(GWPF世宠会)十城巡展-南宁站</a></li> <li><a href="https://ailab.cn/20241121153261_1/" target="_blank">里程碑式突破:谷推歌出 AlphaQubit 解码器,攻克量子纠错难题</a></li> <li><a href="https://www.zhanhuigang.com/article-36485-1.html" target="_blank">伦敦世界旅游交易会WTM,中国展区再度重磅亮相</a></li> <li><a href="https://ailab.cn/2023112875237_18/" target="_blank">大鱼号每天搬运10个视频可以吗?大鱼号怎么做搬运?</a></li> <li><a href="https://www.zhanhuigang.com/article-36393-1.html" target="_blank">郑州台球产业博览会</a></li> <li><a href="https://ailab.cn/20241126153407_1/" target="_blank">中国工程院院士邬贺铨:AI 正在从模型层走向“智能体”,具身智能不等于AGI</a></li> <li><a href="https://ailab.cn/20240705210338_16/" target="_blank">“city不city”成热梗的背后,外国游客扎堆打卡中国景区</a></li> <li><a href="https://ailab.cn/20240702210266_16/" target="_blank">Kimi首发“上下文缓存”技术,助推长文本大模型降本90%</a></li> <li><a href="https://www.zhanhuigang.com/article-36421-1.html" target="_blank">2024深圳薄膜与胶带展:TAP特邀买家计划助您降本增效</a></li> <li><a href="https://www.zhanhuigang.com/article-36452-1.html" target="_blank">2026年德国杜塞尔多夫国际玻璃工业展览会Glasstec</a></li> <li><a href="https://www.zhanhuigang.com/zhanhui-83331.html" target="_blank">2024北京国际珠宝首饰展览会(秋季)</a></li> </ul> <!-- E list21 --> <ul class="list list21" style=" border:0px; margin-left:30px;overflow: hidden;"><li><a href="https://ailab.cn/20240628210206_16/" target="_blank">空间智能 新质引擎|2024空间智能软件技术大会在京召开</a></li> <li><a href="https://ailab.cn/20241126153402_1/" target="_blank">Anthropic提出AI聊天机器人连接数据的新方法</a></li> <li><a href="https://ailab.cn/20241125153366_1/" target="_blank">月活全球第二,用户粘性却一言难尽?字节AI布局全盘点</a></li> <li><a href="https://www.zhanhuigang.com/thread-299220-1-1.html" target="_blank">2025中国箱包展-中国箱包手袋博览会</a></li> <li><a href="https://ailab.cn/20240429143580_17/" target="_blank">用智能算力加速推动文化科技的融合芒果融创与中移动签署战略合作协议 </a></li> <li><a href="https://ailab.cn/20240429143648_17/" target="_blank">《英雄联盟》迎来14.9版本更新 告别DX 9时代</a></li> <li><a href="https://www.zhanhuigang.com/thread-299238-1-1.html" target="_blank">酒店用品展会|2025年重庆国际酒店用品展【参展申请】</a></li> <li><a href="https://ailab.cn/20241113152935_1/" target="_blank">智谱出手,投了一家清华系大模型公司</a></li> <li><a href="https://ailab.cn/20240430143696_17/" target="_blank">昂达推出B650M-W M-ATX主板 定位入门市场</a></li> <li><a href="https://ailab.cn/2023112575180_18/" target="_blank">大圣驾到小儿推拿加盟项目:为孩子的健康保驾护航</a></li> <li><a href="https://szzqlj.com/news-20823/" target="_blank">乡贤聚力念“茶”经 </a></li> <li><a href="https://ailab.cn/2023112575174_18/" target="_blank">腾讯云发布《2023年商业银行风控趋势调研报告》: 金融风控迈入“模型对抗”时代</a></li> <li><a href="https://szzqlj.com/news-20869/" target="_blank">杭州发出全市首张快递专用电动三轮车实体号牌 </a></li> <li><a href="https://ailab.cn/20241120153211_1/" target="_blank">教育初尝AI红利</a></li> <li><a href="https://www.zhanhuigang.com/article-36429-1.html" target="_blank">2024深圳新材料展会 | 5G新材料展览会</a></li> <li><a href="https://ailab.cn/20240704210309_16/" target="_blank">三星MICRO LED Pop-up许昌站启幕,百万级MICRO LED首展中原</a></li> <li><a href="https://ailab.cn/20241117153061_1/" target="_blank">特斯拉Optimus机器人模型上架后一天内售罄,售价40美元</a></li> <li><a href="https://ailab.cn/2023112175072_18/" target="_blank">深化电子印章应用场景,深圳电子印章与腾讯电子签正式达成合作</a></li> <li><a href="https://szzqlj.com/news-20910/" target="_blank">抖音公司取得用于生成水印的方法、装置、设备和计算机可读介质专利,实现水印不易在图 ...</a></li> <li><a href="https://ailab.cn/20241121153226_1/" target="_blank">文心智能体的乌镇时间,指路AI新十年</a></li> <li><a href="https://ailab.cn/20241122153298_1/" target="_blank">智氪 | 坚守AI战略,百度要打“持久战”</a></li> <li><a href="https://szzqlj.com/news-20872/" target="_blank">迪卡侬收购户外运动专业零售商BERGFREUNDE </a></li> <li><a href="https://ailab.cn/20240628210218_16/" target="_blank">国内近十年市场验证的ALPD激光光源在海外有多能打?</a></li> <li><a href="https://ailab.cn/20240628210227_16/" target="_blank">2024 MWC上海精彩时刻,星闪联盟描绘“人车家园”美好未来</a></li> <li><a href="https://ailab.cn/20240430143733_17/" target="_blank">华为将于今年5月7日在迪拜举行“创新产品发布会”</a></li> </ul> </div> <div class="bk20"></div> <div class="gg_gg"> </div> </div> <!-- right start --> <div class="col-auto mt10"> <div class="gg_300250" style="margin-top:0px;"> <!-- 右侧广告位1 --> <img src="https://ailab.cn/static/ailab_wx.png" width="300" style="border-radius:5px;"/> </div> <div class="box"> <h5 class="title-2">最新资讯</h5> <ul class="content digg"> <li><a href="https://ailab.cn/20250217155918_1/" target="_blank">Arm计划推出自研芯片,已将Meta锁定为首批客户</a></li> <li><a href="https://ailab.cn/20250217155904_1/" target="_blank">哈佛大学研发新型 CMOS 芯片,成功绘制 2000 个大鼠神经元图谱</a></li> <li><a href="https://ailab.cn/20250217155897_1/" target="_blank">脑机接口有望将大脑信号转换为语音</a></li> <li><a href="https://ailab.cn/20250217155877_1/" target="_blank">清华团队新算法玩转频域时域,压缩95%计算量实现语音分离新SOTA!</a></li> <li><a href="https://ailab.cn/20250216155843_1/" target="_blank">为什么DeepSeek会诞生在杭州?</a></li> <li><a href="https://ailab.cn/20250216155837_1/" target="_blank">DeepSeek立功,华为算力芯片供不应求,英伟达算力霸权坍塌背后</a></li> <li><a href="https://ailab.cn/20250216155835_1/" target="_blank">英伟达,进军手机芯片</a></li> <li><a href="https://ailab.cn/20250216155828_1/" target="_blank">DeepSeek爆火的启示:中国如何培植创新基因?</a></li> <li><a href="https://ailab.cn/20250214155797_1/" target="_blank">消息称 Arm 寻求从客户中挖角高管,参与芯片设计工作</a></li> <li><a href="https://ailab.cn/20250214155796_1/" target="_blank">孙正义旗下Arm正在开发自家芯片 锁定Meta为首批客户 股价大涨</a></li> </ul> </div> <div class="box mt10"> <h5 class="title-2">本月热点</h5> <ul class="content digg"> <li><a href="https://ailab.cn/20241207153781_1/" target="_blank">大模型领域再掀热潮,芯片技术能否解决耗电困局?</a></li> <li><a href="https://ailab.cn/20241216154107_1/" target="_blank">美国红杉:2025年AI三大预测</a></li> <li><a href="https://ailab.cn/20241220154203_1/" target="_blank">加入华为鲲鹏社区,精美礼品等你来拿!</a></li> <li><a href="https://ailab.cn/20241219154198_1/" target="_blank">2024年十大科技进步,除了AI还有这九个</a></li> <li><a href="https://ailab.cn/20241208153802_1/" target="_blank">国内脑机接口植入明年将入组30-50例患者,手术有望实现标准化</a></li> <li><a href="https://ailab.cn/20250109155026_1/" target="_blank">2025十大AI技术趋势:具身智能、世界模型都有望迎来ChatGPT时刻|钛媒体AGI</a></li> <li><a href="https://ailab.cn/20241228154525_1/" target="_blank">2025年,AI必须面对的四大关键问题</a></li> <li><a href="https://ailab.cn/20241228154500_1/" target="_blank">具身智能、AI眼镜等入围 《科创板日报》评选2024年十大科技热词出炉</a></li> <li><a href="https://ailab.cn/20241223154319_1/" target="_blank">2025年值得关注的六大科技趋势:除了AI,还有电动汽车、核能</a></li> <li><a href="https://ailab.cn/20241226154472_1/" target="_blank">抖音2024年度趋势盘点:政策调整与业务升级助力商家成长</a></li> </ul> </div> <div class="box mt10"> <h5 class="title-2">热门排行</h5> <dl class="digg lmtj"> <dd> <a href="https://ailab.cn/20240930151562_1/" target="_blank" class="margin10_r" title="科学家成功研发可弯曲的非硅柔性芯片,成本不到 1 美元"><img height="80" width="100" src="https://static.ailab.org/ailabcover/62/151562/151562_100_80.jpg" alt=""/></a> <a href="https://ailab.cn/20240930151562_1/" target="_blank">科学家成功研发可弯曲的非硅柔性芯片,成本不到 1 美元</a> <p class="xx">阅读量:6029</p> </dd> <dd> <a href="https://ailab.cn/20240929151548_1/" target="_blank" class="margin10_r" title="马斯克的新愿景对准盲人,Neuralink下一代脑机接口已获批"><img height="80" width="100" src="https://static.ailab.org/ailabcover/48/151548/151548_100_80.jpg" alt=""/></a> <a href="https://ailab.cn/20240929151548_1/" target="_blank">马斯克的新愿景对准盲人,Neuralink下一代脑机接口已获批</a> <p class="xx">阅读量:4634</p> </dd> <dd> <a href="https://ailab.cn/20241009151674_1/" target="_blank" class="margin10_r" title="为了获诺奖,AI不仅要懂物理学,还要懂哲学?"><img height="80" width="100" src="https://static.ailab.org/ailabcover/74/151674/151674_100_80.jpg" alt=""/></a> <a href="https://ailab.cn/20241009151674_1/" target="_blank">为了获诺奖,AI不仅要懂物理学,还要懂哲学?</a> <p class="xx">阅读量:3805</p> </dd> <dd> <a href="https://ailab.cn/20241027152281_1/" target="_blank" class="margin10_r" title="我国研究人员设计出高效神经调控芯片,推动脑机接口研发进程"><img height="80" width="100" src="https://static.ailab.org/ailabcover/81/152281/152281_100_80.jpg" alt=""/></a> <a href="https://ailab.cn/20241027152281_1/" target="_blank">我国研究人员设计出高效神经调控芯片,推动脑机接口研发进程</a> <p class="xx">阅读量:3643</p> </dd> <dd> <a href="https://ailab.cn/20241010151704_1/" target="_blank" class="margin10_r" title="为何诺贝尔化学奖又颁给AI?万字详解:AI重塑结构生物学"><img height="80" width="100" src="https://static.ailab.org/ailabcover/4/151704/151704_100_80.jpg" alt=""/></a> <a href="https://ailab.cn/20241010151704_1/" target="_blank">为何诺贝尔化学奖又颁给AI?万字详解:AI重塑结构生物学</a> <p class="xx">阅读量:3570</p> </dd> <dd> <a href="https://ailab.cn/20241019152018_1/" target="_blank" class="margin10_r" title="芯片大厂恩智浦边缘业务提速融合人工智能"><img height="80" width="100" src="https://static.ailab.org/ailabcover/18/152018/152018_100_80.jpg" alt=""/></a> <a href="https://ailab.cn/20241019152018_1/" target="_blank">芯片大厂恩智浦边缘业务提速融合人工智能</a> <p class="xx">阅读量:3445</p> </dd> </dl> </div> <div class="box"> <h5 class="title-2"><a href="https://www.zhanhuigang.com/" target="_blank" title="展会港">推荐内容</a></h5> <ul class="content digg"> <li><a href="http://www.zhanhuigang.com/zhanhui-82781.html" target="_blank">2025第二十三届深圳国际LED展(LED CHINA)</a></li> <li><a href="http://www.zhanhuigang.com/zhanhui-83766.html" target="_blank">2025第25届大湾区(深圳)国际广告标识展</a></li> <li><a href="http://www.zhanhuigang.com/zhanhui-82148.html" target="_blank">IDEX2025第17届中东阿布扎比国际防务展</a></li> <li><a href="http://www.zhanhuigang.com/zhanhui-82149.html" target="_blank">NAVDEX2025第八届中东(阿布扎比)国际海事防务展</a></li> </ul> </div> </div> <!-- right end --> </div> <!--gezi--> <script type="text/javascript"> $(function() { $("img.lazy").lazyload({effect: "fadeIn"}); }); </script><!--kefu begin--> <link href="https://ailab-static.oss-cn-hangzhou.aliyuncs.com/kefu/kefu.css" rel="stylesheet"> <div id="floatTools" class="rides-cs" style="height:320px;"> <div class="floatL"> <a id="aFloatTools_Show" class="btnOpen" title="查看在线客服" style="top:20px;display:block" href="javascript:void(0);">展开</a> <a id="aFloatTools_Hide" class="btnCtn" title="关闭在线客服" style="top:20px;display:none" href="javascript:void(0);">收缩</a> </div> <div id="divFloatToolsView" class="floatR" style="display: none;height:290px;width: 140px;"> <div class="cn"> <h3 class="titZx">在线客服</h3> <ul> <li><span>值班编辑</span> <a target="_blank" href="https://wpa.qq.com/msgrd?v=3&uin=281688302&site=qq&menu=yes"><img border="0" src="https://ailab-static.oss-cn-hangzhou.aliyuncs.com/kefu/online.png" alt="点击这里给我发消息" title="点击这里给我发消息"/></a> </li> <li><span>友情链接</span> <a target="_blank" href="https://wpa.qq.com/msgrd?v=3&uin=281688302&site=qq&menu=yes"><img border="0" src="https://ailab-static.oss-cn-hangzhou.aliyuncs.com/kefu/online.png" alt="点击这里给我发消息" title="点击这里给我发消息"/></a> </li> <li><span>商务合作</span> <a target="_blank" href="https://wpa.qq.com/msgrd?v=3&uin=281688302&site=qq&menu=yes"><img border="0" src="https://ailab-static.oss-cn-hangzhou.aliyuncs.com/kefu/online.png" alt="点击这里给我发消息" title="点击这里给我发消息"/></a> </li> <li><a href="https://ailab.cn/about/advertisement.html" target="_blank"><strong>广告合作</strong></a></li> <li><a href="https://ailab.cn/zhanhui.php" target="_blank"><strong>展会合作</strong></a></li> <li><a href="https://ailab.cn/zhuanlan/" target="_blank"><strong>申请专栏</strong></a></li> </ul> </div> </div> </div> <script> $(function(){ $("#aFloatTools_Show").click(function(){ $('#divFloatToolsView').animate({width:'show',opacity:'show'},100,function(){$('#divFloatToolsView').show();}); $('#aFloatTools_Show').hide(); $('#aFloatTools_Hide').show(); }); $("#aFloatTools_Hide").click(function(){ $('#divFloatToolsView').animate({width:'hide', opacity:'hide'},100,function(){$('#divFloatToolsView').hide();}); $('#aFloatTools_Show').show(); $('#aFloatTools_Hide').hide(); }); }); </script> <!--kefu end--><!-- gezi end--> <div class="w1 box clear mt20"> <h2 class="ti_01"><font class="c">热门栏目</font>HotCates</h2> <div class="Links_l"> <ul> <li><a href="https://ailab.cn" target="_blank">人工智能</a> </li> <li><a href="https://bbs.ailab.cn" target="_blank">人工智能论坛</a> </li><li><a href="https://tech.ailab.cn/" target="_blank">科技新闻</a></li> <li><a href="https://ai.ailab.cn/" target="_blank">人工智能动态</a></li> <li><a href="https://ml.ailab.cn/" target="_blank">机器学习</a></li> <li><a href="https://voice.ailab.cn/" target="_blank">语音识别</a></li> <li><a href="https://nlp.ailab.cn/" target="_blank">自然语言处理</a></li> <li><a href="https://fingerprint.ailab.cn/" target="_blank">指纹识别</a></li> <li><a href="https://face.ailab.cn/" target="_blank">人脸识别</a></li> <li><a href="https://anns.ailab.cn/" target="_blank">神经网络</a></li> <li><a href="https://bigdata.ailab.cn/" target="_blank">大数据</a></li> <li><a href="https://iot.ailab.cn/" target="_blank">物联网</a></li> <li><a href="https://cloud.ailab.cn/" target="_blank">云计算</a></li> <li><a href="https://ipv6.ailab.cn/" target="_blank">IPv6</a></li> <li><a href="https://4g.ailab.cn/" target="_blank">4G通信</a></li> <li><a href="https://mv.ailab.cn/" target="_blank">机器视觉</a></li> <li><a href="https://robot.ailab.cn/" target="_blank">机器人</a></li> <li><a href="https://hmi.ailab.cn/" target="_blank">人机交互</a></li> <li><a href="https://renwu.ailab.cn/" target="_blank">人物动态</a></li> <li><a href="https://smarthome.ailab.cn/" target="_blank">智能家居</a></li> <li><a href="https://5g.ailab.cn/" target="_blank">5G通信</a></li> <li><a href="https://iov.ailab.cn/" target="_blank">车联网/无人驾驶</a></li> <li><a href="https://wearable.ailab.cn/" target="_blank">可穿戴/智能硬件</a></li> <li><a href="https://nfc.ailab.cn/" target="_blank">移动支付/NFC</a></li> <li><a href="https://uav.ailab.cn/" target="_blank">无人机</a></li> <li><a href="https://vr.ailab.cn/" target="_blank">VR虚拟现实</a></li> <li><a href="https://blockchain.ailab.cn/" target="_blank">区块链/数字货币</a></li> <li><a href="https://graphene.ailab.cn/" target="_blank">石墨烯</a></li> <li><a href="https://3dprint.ailab.cn/" target="_blank">3D打印</a></li> <li><a href="https://ailab.cn/mode/" target="_blank">模式识别</a></li> <li><a href="https://ailab.cn/algorithm/" target="_blank">智能算法</a></li> <li><a href="https://ailab.cn/mode/char/" target="_blank">字符识别</a></li> <li><a href="https://ailab.cn/robot/expert/" target="_blank">专家系统</a></li> <li><a href="https://ailab.cn/algorithm/hereditary/" target="_blank">遗传算法</a></li> <li><a href="https://ailab.cn/algorithm/ant/" target="_blank">蚁群算法</a></li> <li><a href="https://ailab.cn/cryptology/" target="_blank">加密与安全</a></li> <li><a href="https://ailab.cn/chuangye/" target="_blank">创业</a></li> <li><a href="https://ailab.cn/qiye/" target="_blank">企业新闻</a></li> <li><a href="https://ailab.cn/product/" target="_blank">产品动态</a></li> <li><a href="https://ailab.cn/report/" target="_blank">人物报道</a></li> <li><a href="https://ailab.cn/huiyi/" target="_blank">展会会议</a></li> <li><a href="https://ailab.cn/quantum/" target="_blank">量子技术</a></li> <li><a href="https://ailab.cn/robotcleaner/" target="_blank">扫地机器人</a></li> <li><a href="https://ailab.cn/space/" target="_blank">太空探索</a></li> <li><a href="https://ailab.cn/gene/" target="_blank">基因工程</a></li> <li><a href="https://ailab.cn/ar/" target="_blank">AR增强现实</a></li> <li><a href="https://ailab.cn/6g/" target="_blank">6G通信</a></li> <li><a href="https://ailab.cn/aihot/" target="_blank">人工智能应用</a></li> <li><a href="https://ailab.cn/aiedu/" target="_blank">人工智能教育</a></li> <li><a href="https://ailab.cn/chanye/" target="_blank">产业政策</a></li> <li><a href="https://ailab.cn/energy/" target="_blank">动力能源</a></li> <li><a href="https://ailab.cn/html/" target="_blank">头条资讯</a></li> <li><a href="https://ailab.cn/it/" target="_blank">互联网</a></li> <li><a href="https://ailab.cn/hangye/" target="_blank">行业百态</a></li> <li><a href="https://ailab.cn/market/" target="_blank">市场动态</a></li> <li><a href="https://ailab.cn/finance/" target="_blank">财经快讯</a></li> <li><a href="https://ailab.cn/media/" target="_blank">媒体之声</a></li> <li><a href="https://ailab.cn/cloudtims/" target="_blank">云时代</a></li> <li><a href="https://ailab.cn/xiaohua/" target="_blank">笑话-开心一刻</a></li> <li><a href="https://ailab.cn/stock/" target="_blank">股票资讯</a></li> <li><a href="https://ailab.cn/hotnews/" target="_blank">全网热点</a></li> <li><a href="https://ailab.cn/zhanhui1/" target="_blank">展会新闻</a></li> <li><a href="https://ailab.cn/zhanhui2/" target="_blank">展会信息</a></li> <li><a href="https://ailab.cn/zhanhui3/" target="_blank">展会资讯</a></li> <li><a href="https://ailab.cn/itnews/" target="_blank">IT新闻</a></li> <li><a href="https://ailab.cn/guancha/" target="_blank">IT观察</a></li> <li><a href="https://ailab.cn/kuaixun/" target="_blank">商业快讯</a></li> </ul> </div> </div> <div class="fot"> <div class="footer clear"> <div class="f_right"> <h3 class="h3">关于我们</h3> <p class="p">人工智能实验室(AiLab:Artificial Intelligence Laboratory)中国人工智能领域的专业媒体平台,始于2010年的中国AI创业先行者,专注人工智能、机器人、无人驾驶、可穿戴、模式识别、物联网、云计算等新兴技术信息资讯,是人工智能爱好者学习和交流平台,是一群梦想者与实践者的网络家园!</p> </div> <div class="f_left "> <h3 class="h3">版权声明</h3> <p class="p">本站部分文章来源于互联网以及网友投稿,本站只负责对文章进行整理、排版、编辑,是出于知识传递之目的,并不意味着赞同其观点或证实其内容的真实性。如果您有什么意见或建议,请联系E-mail:kefu#ailab.cn(将#换成@)!</p> </div> </div> <div class="fot_bo"> <div class="w1 "><span class=" col-right">Copyright © 2010-2025 AiLab Team. 人工智能实验室 版权所有   </span> <a href="https://ailab.cn/about/index.html" target="_blank">关于我们</a> | <a href="https://ailab.cn/about/contact.html" target="_blank">联系我们</a> | <a href="https://ailab.cn/about/advertisement.html" target="_blank">广告服务</a> | <a href="https://ailab.cn/about/news.html" target="_blank">公司动态</a> | <a href="https://ailab.cn/about/disclaimer.html" target="_blank">免责声明</a> | <a href="https://ailab.cn/about/privacy.html" target="_blank">隐私条款</a> | <a href="https://ailab.cn/about/job.html" target="_blank">工作机会</a> | <a href="https://www.zhanhuigang.com/" target="_blank">展会港</a> </div> </div> </div> <div id="back-to-top" style="display: block;"><a href="#top" class="top_b"><span></span></a> </div> <div style="display:none;"> <script type="text/javascript"> function adconfirm(url){ var msg=confirm('您即将进入第三方网站,第三方网站的产品或服务与本站没有任何直接关系,网络有风险,交易请谨慎!'); if(msg){ window.location =url; }else{ return false; } } </script> </div> <!--Processed in 0.015583 second(s), 1 queries --> </body> </html>