抓住安全绳，竞赛局谨防练习事端，竞赛局跟着冬防冬训如火如荼地打开，练习安全作业也成为要点，大队严厉执行练习安全作业，紧盯训前、训时、训后三个关键环节，时间坚持防备练习安全事端的警惕性

此外，竞赛局ETF的迭代晋级还或许包含费率变革、产品和事务立异、指数出资服务不断精细化等。另一方面，竞赛局活跃布局新质生产力相关硬科技指数，呼应国家开展新质生产力召唤，引导金融资源助力实体经济高质量开展。

深圳一家中型基金公司出资部表明，竞赛局海外商场ETF产品愈加老练和多元化，竞赛局包含股票、债券、产品、混合战略等多种财物类别，战略型和主题型ETF的丰厚性也明显高于国内。沪上一家中型基金公司指数出资部表明，竞赛局现在，竞赛局我国跨境ETF首要掩盖首要兴旺商场，许多具有较大开展和出资潜力的新式商场掩盖程度较低，未来有望成为要点布局方向。未来，竞赛局国内ETF立异能够从跨商场和跨财物的ETF产品、SmartBeta类ETF，以及绿色经济、新质生产力等范畴发力，为长线资金入市供应支撑东西。

国泰基金表明，竞赛局ETF归于重资源投入型产品，竞赛局基金公司的办理运营本钱较高，发行一只小有规划和流动性的立异型ETF，需求继续投入许多资金保持运营、培育流动性等。其间，竞赛局永赢基金在主题ETF上发力，于1月初建立了全商场首只通用航空主题ETF——永赢国证通用航空工业ETF，个人出资者占比达97.21%。

永赢基金也以为，竞赛局监管继续鼓舞金融立异，进一步促进了立异型ETF的发行，激起了ETF商场生机。

后续跟着出资者认知的进步以及出资理念的进化，竞赛局公司会当令丰厚偏生长性、竞赛局战略型指数产品的供应，为出资者供应更为多元的低本钱、透明化、东西型装备挑选。FFN层的处理进程，竞赛局引自3Blue1Brown的视频《直观解说大言语模型怎么贮存现实》在Transformer中，竞赛局FFN层由两个线性改换和一个激活函数构成，它的处理进程是词元维度的，每个词元都会并行地进行核算，如上图，因而在学习FFN层的处理进程时，咱们只需求剖析单个词元的处理进程。

层归一化（LayerNorm，竞赛局上图中表明为RMSNorm，一般与残差衔接一重用，LayerNorm和RMSNorm是归一化的两种不同技能）。这个进程能够以为是对输入的扩展，竞赛局意图是使FFN的躲藏层能够表达更多的特征，竞赛局这一层的维度一般比自留意力层供给的输出维度大得多，比方GPT-3中它的维度是49152，刚好是自留意力层输出维度的四倍。

本文中，竞赛局咱们会环绕着躲藏层和输出层来具体介绍，特别是其间GPT的中心——躲藏层。MHA和FFN的多层结构，竞赛局引自3Blue1Brown的视频《GPT是什么？直观解说Transformer》躲藏层不只要一层，而是一种多层嵌套的结构。