百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

在C#中学习如何使用SIMD

bigegpt 2024-08-08 11:50 2 浏览

前言

在前面说 在C#中如何提高Linq的性能 ,其中就提到在.Net 8之前的版本(.Net Core 3.0之后的版本,)可以通过使用SimdLinq库来提高性能.SimdLinq源码还是比较轻量级的,因为轻量级只提供了以下方法的支持:

  1. Sum(支持的类型: int, uint, long, ulong, float, double)
  2. LongSum(支持的类型: int, uint)
  3. Average(支持的类型: int, uint, long, ulong, float, double)
  4. Min(支持的类型: byte, sbyte, short, ushort, int, uint, long, ulong, float, double)
  5. Max(支持的类型: byte, sbyte, short, ushort, int, uint, long, ulong, float, double)
  6. MinMax(支持的类型: byte, sbyte, short, ushort, int, uint, long, ulong, float, double)
  7. Contains(支持的类型: byte, sbyte, short, ushort, int, uint, long, ulong, float, double)
  8. SequenceEqual(支持的类型:byte, sbyte, short, ushort, int, uint, long, ulong, float, double)

支持的集合有: T[], List<T>, Span<T>, Memory<T>, ReadOnlyMemory<T>, Span<T>, ReadOnlySpan<T>.

理解SIMD(单指令多数据)

这里从汇编代码来说SIMD的.使用SIMD要数据对齐,

extern printf
section .data
        dummy   db      13
align   16  // 数据对齐
       //;pdivector1相当于数组
        pdivector1      dd 1
                       	       dd 2
                               dd 3
                               dd 4
			 //pdivector2相当于数组
        pdivector2      dd 5
                               dd 6
                               dd 7
                               dd 8
        fmt             db "Sum Vector:%d %d %d %d",10,0
section .bss
alignb  16
        pdivector_res   resd    4
section .text
        global main
main:
	     //序言
        push    rbp
        mov     rbp,rsp

			 //*****将pdivector1,加载到xmm0寄存器中*****
        movdqa  xmm0,[pdivector1]
	    //*****将pdivector2和xmm0寄存器内的值,进行加法运算***
        paddd  xmm0,[pdivector2]

        //将结果保存在内存中,保存导出pdivector_res
        movdqa  [pdivector_res],xmm0
        //打印内存中的向量
        mov     rsi,pdivector_res  //将pdivector_res的值移到rsi寄存器中
        mov     rdi,fmt                 //将fmt字符串加载到rdi寄存器中
        call    printpdi							    //调用printpdi函数(内部处理提取打包的值到寄存器中)

	      //尾言
        mov     rsp,rbp
        pop     rbp
        ret

//打印-----------------------------------
printpdi:
        push    rbp
        mov     rbp,rsp

        movdqa  xmm0,[rsi]
        //从xmmo0中提取打包的值
        pextrd  esi,xmm0,0
        pextrd  edx,xmm0,1
        pextrd  ecx,xmm0,2
        pextrd  r8d,xmm0,3

        //没有浮点数
        mov     rax,0
        call    printf
        mov     rsp,rbp
        pop     rbp
        ret

重点就这两行代码:

//*****将pdivector1,一次性加载到xmm0寄存器中*****
movdqa  xmm0,[pdivector1]
//*****将pdivector2和xmm0寄存器内的值,进行加法运算,原本是是需要4次加法,
//现在只需要一次运算***
paddd  xmm0,[pdivector2]

用图来理解:

接着看SimdLinq源码

先看一下SimdLinq源码目录:

在学习源码的时候,只需要关心文件名带有Core的源码,包含Core源码就是具体实现.

比如Sum的源码:

static T SumCore<T>(ReadOnlySpan<T> source)
where T : struct, INumber<T>
{
	T sum = T.Zero;

	if (!Vector128.IsHardwareAccelerated || source.Length < Vector128<T>.Count)
	{
		// Not SIMD supported or small source.
		//1. 当硬件不支持,会退变为for循环
		//2. 集合内的数量小于Vector128的支持的数量,如int->4 long->2,会退变for循环
		unchecked // SIMD operation is unchecked so keep same behaviour
		{
			for (int i = 0; i < source.Length; i++)
			{
				sum += source[i];
			}
		}
	}
	else if (!Vector256.IsHardwareAccelerated || source.Length < Vector256<T>.Count)
	{
		// Only 128bit SIMD supported or small source.
		//满足128bit,不足256bit的,数量少的时候

		//获取开始元素
		ref var begin = ref MemoryMarshal.GetReference(source);

		//获取结尾的元素
		ref var last = ref Unsafe.Add(ref begin, source.Length);
		ref var current = ref begin;
		//获取一个初始值为0的Vector128
		var vectorSum = Vector128<T>.Zero;

		//集合的长度减去Vector128<T>的数量,让开始元素进行偏移
		ref var to = ref Unsafe.Add(ref begin, source.Length - Vector128<T>.Count);
		//开始元素的地址是否和小于一次Vector的地址
		while (Unsafe.IsAddressLessThan(ref current, ref to))
		{
			//如果是int类型, 就一次加载前4个元素
			vectorSum += Vector128.LoadUnsafe(ref current);
       //如果是int类型,偏移4个元素
			current = ref Unsafe.Add(ref current, Vector128<T>.Count);
		}

		//判断current的地址是否小于结尾元素的地址
		//处理不够一次Vector的时候,退变循环处理
		while (Unsafe.IsAddressLessThan(ref current, ref last))
		{
			unchecked // SIMD operation is unchecked so keep same behaviour
			{
				sum += current;
			}
			current = ref Unsafe.Add(ref current, 1); //每次偏移1个元素
		}

		sum += Vector128.Sum(vectorSum); //进行求和计算
	}
	else
	{
		// 256bit SIMD supported
                //Vector256就不注释了
		ref var begin = ref MemoryMarshal.GetReference(source);
		ref var last = ref Unsafe.Add(ref begin, source.Length);
		ref var current = ref begin;
		var vectorSum = Vector256<T>.Zero;

		ref var to = ref Unsafe.Add(ref begin, source.Length - Vector256<T>.Count);
		while (Unsafe.IsAddressLessThan(ref current, ref to))
		{
			vectorSum += Vector256.LoadUnsafe(ref current);
			current = ref Unsafe.Add(ref current, Vector256<T>.Count);
		}
		while (Unsafe.IsAddressLessThan(ref current, ref last))
		{
			unchecked // SIMD operation is unchecked so keep same behaviour
			{
				sum += current;
			}
			current = ref Unsafe.Add(ref current, 1);
		}

		sum += Vector256.Sum(vectorSum);
	}

	return sum;
}

个人能力有限,如果您发现有什么不对,请私信我

如果您觉得对您有用的话,可以点个赞或者加个关注,欢迎大家一起进行技术交流

相关推荐

php-fpm的配置和优化

目录概述php-fpm配置php-fpm进程优化配置慢日志查询配置php7进阶到架构师相关阅读概述这是关于php进阶到架构之php7核心技术与实战学习的系列课程:php-fpm的配置和优化学习目标:理...

成功安装 Magento2.4.3最新版教程「技术干货」

外贸独立站设计公司xingbell.com经过多次的反复实验,最新版的magento2.4.3在oneinstack的环境下的详细安装教程如下:一.vps系统:LinuxCentOS7.7.19...

十分钟让你学会LNMP架构负载均衡

业务架构、应用架构、数据架构和技术架构一、几个基本概念1、pv值pv值(pageviews):页面的浏览量概念:一个网站的所有页面,在一天内,被浏览的总次数。(大型网站通常是上千万的级别)2、u...

php从远程URL获取(mp4 mp3)音视频的流媒体数据

/***从远程URL中获取媒体(如mp4mp3)的内容*@parammixed$file_url*@parammixed$media_type...

Zabbix5.0安装部署

全盘展示运行状态,减轻运维人员的重复性工作量,提高系统排错速度,加速运维知识学习积累。1.png1、环境安装关闭SELinux并重启系统2.png安装httpd、mariadb、php运行yum-...

php 常见配置详解

以下是PHP常见的配置项及其含义:error_reporting:设置错误报告级别,可以控制PHP显示哪些错误。例如,设置为E_ALL将显示所有错误,而设置为0将禁止显示任何错误。displa...

实践分享|基于基石智算 DeepSeek API + WordPress 插件自动生成访客回复

基石智算举办的DeepSeek案例大赛汇集了不少基于CoresHubDeepSeekAPI服务或模型部署服务的精彩实践。本次我们将分享个人实践:通过DeepSeekAPI+Word...

如何在Eclipse中搭建Zabbix源码的调试和开发环境

Zabbix是一款非常优秀的企业级软件,被设计用于对数万台服务器、虚拟机和网络设备的数百万个监控项进行实时监控。Zabbix是开放源码和免费的,这就意味着当出现bug时,我们可以很方便地通过调试源码来...

MySQL自我保护参数

#头条创作挑战赛#之前(MySQL自我保护工具--pt-kill)提到用pt-kill工具来kill相关的会话,来达到保护数据库的目的,本文再通过修改数据库参数的方式达到阻断长时间运行的SQL的目...

Python闭包深度解析:掌握数据封装的高级技巧

闭包作为Python高级编程特性之一,为开发者提供了一种优雅的方式来实现数据封装和状态保持。这一概念源于函数式编程理论,在现代Python开发中发挥着重要作用。理解和掌握闭包的使用不仅能够提升代码的表...

Java服务网格故障注入与熔断实战

在分布式系统的高可用性挑战中,服务网格的故障注入与熔断机制是检验系统韧性的终极试金石。以下是10道逐步升级的"地狱关卡",每个关卡都对应真实生产环境中可能遇到的致命场景,并附具体场景示...

MySQL数据库性能优化全攻略:程序员必知的七大核心策略

作为程序员,我们每天都要与数据库打交道。当系统用户量突破百万级时,数据库往往成为性能瓶颈的首要怀疑对象。本文将深入探讨MySQL优化的七大核心策略,并提供可直接落地的优化方案,助您构建高效稳定的数据库...

如何在 Windows 11 上使用单个命令安装 XAMPP

XAMPP是一种广泛使用的软件,用于在Windows操作系统上快速运行LAMP服务器包,包括Windows11。尽管LAMP通常用于Linux系统,但XAMPP并不使用Li...

uTorrent怎样将bt种子转换为磁力

如何用uTorrent把BT种子转为磁力链接?以下方法希望能帮到你。1、在uTorrent窗口里,点击工具栏的按钮,所示。2、在打开窗口里,选取要转为磁力的种子文件,然后点击打开按钮,参照图示操作...

支持向量机SVM 分类和回归的实例

支持向量机(SupportVectorMachine)是Cortes和Vapnik于1995年首先提出的,它在解决小样本、非线性及高维模式识别中表现出许多特有的优势,并能够推广应用到函数拟合等其他...