量化后的递归神经网络在PennTreebank数据集上测试，精度相当于仅用4比特的32比特。N-ShotLearning:用最少的数据训练最多的模型作者|HeetSankesara译|田字一中(郑州大学)和野调(江苏科技大学)修订|唐力和皮塔如果把AI比作电，那么数据就是创造电的煤。
作者| Sophie Transformer模型在NLP领域取得了巨大的成功，以此为核心的超大规模预训练模型BERT和GPT3在所有NLP任务中大放异彩，引人注目。计算机视觉分析的任务也借鉴了变压器模型的思想和方法。在Meta公司的DETR模型中，使用Transformer和端到端的方法来实现CV领域的目标检测任务，随后Google公司又推出了使用纯Transformer来完成计算机视觉任务的ViT模型。
coco(commonobjectsincontext)数据集是微软研究院提出的大规模计算机视觉数据集，致力于常见视觉任务的分析和评估，包括物体检测、实例分割、人体关键点检测、全景分割等。与之前的PASCALVOC和ImageNet数据集不同，COCO数据集更加复杂，任务更加丰富，更加贴近实际应用。
神经网络(QNN)的方法具有极低的精度(例如，1位)权重和运行时活跃的神经网络。在训练期间，量化的权重和激活值用于计算参数梯度。在正向传输过程中，QNN大大减少了内存大小和访问次数，并用位运算取代了大多数算术运算。因此，预期的功耗将大大降低。我们用MNIST、CIFAR10、SVHN和ImageNet数据集对QNN进行了训练。
比如我们量化版的AlexNet，1比特权重，2比特激活，可以达到51%的top1准确率。此外，我们将参数gradient量化为6bit，使得仅通过位运算计算梯度成为可能。量化后的递归神经网络在PennTreebank数据集上测试，精度相当于仅用4比特的32比特。最后，我们编写了二进制矩阵乘法GPU内核。与未优化的GPU内核相比，使用它可以在不降低分类精度的情况下，使MNISTQNN运行速度提高7倍。
4、手机上运行的深度神经网络模型-MobileNet文章引用自《从MobileNet看轻量级神经网络的发展》。详情请点击原文观看前言。随着深度学习的火热，计算机视觉领域的卷积神经网络模型层出不穷。从1998年的LeNet到2012年掀起深度学习热潮的AlexNet，再到2014年的VGG和2015年的ResNet，深度学习网络模型在图像处理中的应用效果越来越好。
由于硬件资源和计算能力的限制，移动设备很难运行复杂的深度学习网络模型。在深度学习领域，也在努力推进神经网络的小型化。在保证模型精度的同时，更小更快。从2016年至今，业界提出了SqueezeNet、ShuffleNet、NasNet、MnasNet、MobileNet等轻量级网络模型。这些模型使得移动终端和嵌入式设备运行神经网络模型成为可能。
5、如何使用网络的bottleneck特征提升准确率一个稍微考究的方法是使用在大规模数据集上预先训练好的网络。这种网络可以在大多数计算机视觉问题上得到很好的特征，利用这种特征我们可以得到更高的精度。我们将使用vgg16网络，它是在ImageNet数据集上训练的。我们之前提到过这个模型。因为ImageNet数据集包含多种“猫”和多种“狗”，所以这个模型已经能够学习与我们的数据集相关的特征。
但是我们这里说的方法对其他类似问题有更好的推广性，包括ImageNet中没有出现的类别的分类。VGG16的网络结构如下:我们的方法如下:我们会用网络的卷积层部分，把全连接上面的部分扔掉。然后在我们的训练集和测试集上运行，在两个numpyarray中记录输出(也就是“bottleneckfeature”，全连接前在网络最后一层激活的featuremap)。
6、N-ShotLearning:用最少的数据训练最多的模型作者|翻译作者|HeetSankesara |修改作者一中(郑州大学)和野钓(江苏科技大学)|唐力和皮塔如果把AI比作电，那么数据就是创造电的煤。不幸的是，正如我们看到可用的煤炭是消耗品一样，许多人工智能应用程序很少或没有数据可访问。新技术弥补了物质资源的不足；还需要新的技术来保证程序在数据很少的情况下正常运行。
7、18组-QuoVadis,ActionRecognition?ANewModelandtheKinetics...QuoVadis，行为识别？动力学数据集的新模型和总结在现有的行为分类数据集(ucf 101和HMDB51)中，视频数据的缺乏使得很难确定一个好的视频结构，大多数方法在小规模数据集上取得了类似的结果。本文根据人类行为动力学重新评价这些高级结构。Kinetics有两个数量级的数据，400种人类行为，每种行为都有超过400个片段，而这些都是从真实且具有挑战性的YouTube视频中收集的。
8、论文阅读:ImageNetClassificationwithDeepConvolutionalNeural...本文由AlexNet于2010年在ImageNetLSVRC2010中制作。在对120万张高分辨率图片进行1000个类别分类的任务中，测试集上top1和top5的错误率分别为37.5%和17.0%(top5错误率:即对一张图片预测五个类别，只要其中一个与人工标注的类别相同，就是对的，同样，top1对一幅图像只预测了一个类别)，在ImageNetLSVRC2012比赛中，top5的错误率为15.3%。
