机遇屋-.net 10万+大数据处理方式、应用场景

.net 10万+大数据处理方式、应用场景

作者：ych

#### 大并发大数据量请求一般会分为几种情况

大量的用户同时对系统的不同功能页面进行查找、更新操作

大量的用户同时对系统的同一个页面，同一个表的大数据量进行查询操作

大量的用户同时对系统的同一个页面，同一个表进行更新操作

第一类情况 ：大量的用户同时对系统的不同功能页面进行查找、更新操作
##### 一、对服务器层面的处理
1.调整`IIS 7`应用程序池队列长度
由原来的默认`1000`改为`65535`。

`IIS Manager` > `ApplicationPools` > `Advanced Settings`
`Queue Length` : `65535`

2.调整`IIS 7`的`appConcurrentRequestLimit`设置
由原来的默认`5000`改为`100000`。
`c:\windows\system32\inetsrv\appcmd.exe set config /section:serverRuntime /appConcurrentRequestLimit:100000`
在`%systemroot%\System32\inetsrv\config\applicationHost.config`中可以查看到该设置：
```
<serverRuntime appConcurrentRequestLimit="100000" />
```

3.调整`machine.config`中的`processModel`>`requestQueueLimit`的设置
由原来的默认`5000`改为`100000`。
```
<configuration>
    <system.web>
        <processModel requestQueueLimit="100000"/>
```
4.修改注册表，调整`IIS 7`支持的同时TCPIP连接数
由原来的默认`5000`改为`100000`。
```
reg add HKLM\System\CurrentControlSet\Services\HTTP\Parameteris /v MaxConnections /t REG_DWORD /d 100000
```
完成上述4个设置，就基本可以支持10万个同时请求。

如果访问量达到10万以上，就可以考虑将程序 和数据库 按功能模块划分，部署到多个服务器分担访问压力。
另外可以考虑软硬件负载均衡 。

硬件负载均衡 能够直接通过智能交换机 实现，处理能力强，而且与系统无关，但是价格贵,配置困难，不能区分实习系统与应用的状态。所以硬件负载均衡适用于一大堆设备，大访问量，简单应用 。
软件负载均衡 是基于系统与应用的，能过更好地根据系统与应用的状况来分配负载。性价比高。PCL负载均衡软件，Linux下的LVS软件。

##### 二、对数据库层面的处理
当两个用户同时访问一个页面，一个用户可能更新的是另一个用户已经删除的记录。
在一个用户加载页面与他点击删除按钮之间的时间里，另一个用户修改了这条记录的内容。
所以需要考虑数据库锁的问题。
有下面三中并发控制策略可供选择：

什么都不做 – 如果并发用户修改的是同一条记录，让最后提交的结果生效（默认的行为）。
开放式并发（Optimistic Concurrency - 假定并发冲突只是偶尔发生，绝大多数的时候并不会出现； 那么，当发生一个冲突时，仅仅简单的告知用户，他所作的更改不能保存，因为别的用户已经修改了同一条记录。
保守式并发（Pessimistic Concurrency） – 假定并发冲突经常发生，并且用户不能容忍被告知自己的修改不能保存是由于别人的并发行为；那么，当一个用户开始编辑一条记录，锁定该记录，从而防止其他用户编辑或删除该记录，直到他完成并提交自己的更改。
当多个用户试图同时修改数据时，需要建立控制机制来防止一个用户的修改对同时操作的其他用户所作的修改产生不利的影响。处理这种情况的系统叫做“并发控制”。

并发控制的类型
通常，管理数据库中的并发有三种常见的方法：

保守式并发控制 - 在从获取记录直到记录在数据库中更新的这段时间内，该行对用户不可用。
开放式并发控制 - 只有当实际更新数据时，该行才对其他用户不可用。更新将在数据库中检查该行并确定是否进行了任何更改。如果试图更新已更改的记录，则将导致并发冲突。
最后的更新生效 - 只有当实际更新数据时，该行才对其他用户不可用。但是，不会将更新与初始记录进行比较；而只是写出记录，这可能就改写了自上次刷新记录后其他用户所进行的更改。
1.保守式并发
保守式并发通常用于两个目的。
第一，在某些情况下，存在对相同记录的大量争用。在数据上放置锁所费的成本小于发生并发冲突时回滚更改所费的成本。

在事务过程中不宜更改记录的情况下，保守式并发也非常有用。库存应用程序便是一个很好的示例。

假定有一个公司代表正在为一名潜在的客户检查库存。
您通常要锁定记录，直到生成订单为止，这通常会将该项标记为“已订购”状态并将其从可用库存中移除。
如果未生成订单，则将释放该锁，以便其他检查库存的用户得到准确的可用库存计数。

但是，在断开的结构中无法进行保守式并发控制。连接打开的时间只够读取数据或更新数据，因此不能长时间地保持锁。此外，长时间保留锁的应用程序将无法进行伸缩。

2.开放式并发
在开放式并发中，只有在访问数据库时才设置并保持锁。
这些锁将防止其他用户在同一时间更新记录。除了进行更新这一确切的时刻之外，数据始终可用。
有关更多信息，请参见开放式并发。

当试图更新时，已更改行的初始版本将与数据库中的现有行进行比较。
如果两者不同，更新将失败，并引发并发错误。
这时，将由您使用所创建的业务逻辑来协调这两行。

3.最后的更新生效
当使用“最后的更新生效”时，不会对初始数据进行检查，而只是将更新写入数据库。
很明显，可能会发生以下情况：

用户 A 从数据库获取一项记录。
用户 B 从数据库获取相同的记录，对其进行修改，然后将更新后的记录写回数据库。
用户 A 修改“旧”记录并将其写回数据库。

在上述情况中，用户 A 永远也不会看到用户 B 作出的更改。如果您计划使用并发控制的“最后的更新生效”方法，则要确保这种情况是可以接受的。

#### 三、`ADO.NET`和`Visual Studio .NET`中的并发控制
因为数据结构基于断开的数据，所以`ADO.NET`和`Visual Studio .NET`使用开放式并发。
因此，您需要添加业务逻辑，以利用开放式并发解决问题。

如果您选择使用开放式并发，则可以通过两种常规的方法来确定是否已发生更改：
版本号方法（实际版本号或日期时间戳）和保存所有值方法。

1.版本号方法
在版本号方法中，要更新的记录必须具有一个包含日期时间戳或版本号的列。
当读取该记录时，日期时间戳或版本号将保存在客户端。
然后，将对该值进行部分更新。

处理并发的一种方法是，仅当 WHERE子句中的值与记录上的值匹配时才进行更新。
该方法的 SQL 表示形式为：
```
UPDATE Table1 SET Column1 = @newvalue1, Column2 = @newvalue2
WHERE DateTimeStamp = @origDateTimeStamp
```
或者，可以使用版本号进行比较：
```
UPDATE Table1 SET Column1 = @newvalue1, Column2 = @newvalue2
WHERE RowVersion = @origRowVersionValue
```
如果日期时间戳或版本号匹配，则表明数据存储区中的记录未被更改，并且可以安全地使用数据集中的新值对该记录进行更新；
如果不匹配，则将返回错误。

您可以编写代码，在`Visual Studio .NET`中实现这种形式的并发检查。您还必须编写代码来响应任何更新冲突。
为了确保日期时间戳或版本号的准确性，您需要在表上设置触发器，以便在发生对行的更改时，对日期时间戳或版本号进行更新。

2.保存所有值方法
使用日期时间戳或版本号的替代方法是，在读取记录时获取所有字段的副本。
ADO.NET 中的 DataSet 对象维护每个修改记录的两个版本：

初始版本（最初从数据源中读取的版本）和修改版本（表示用户更新）。

当试图将记录写回数据源时，数据行中的初始值将与数据源中的记录进行比较。
如果它们匹配，则表明数据库记录在被读取后尚未经过更改。
在这种情况下，数据集中已更改的值将成功地写入数据库。
对于数据适配器的四个命令（`DELETE`、`INSERT`、`SELECT`和`UPDATE`）来说，每个命令都有一个参数集合。每个命令都有用于初始值和当前值（或修改值）的参数。

第二类情况的处理：
因为是大并发请求，也能采用第一种情况的处理方法，
另外，因为是对大数据量进行检索，所以需要考虑查询效率的问题：

对表按查询条件建立索引
对查询语句进行优化
可以考虑对查询数据使用缓存
第三类情况的处理：
也能采用第一种情况的处理方法，
另外因为是对同一个表进行更新操作，可以考虑使用下面的处理方法：

先将数据保存到缓存中，当数据达到一定的数量后，再更新到数据库中
将表按索引划分(分表，分区)，如：对于一个存储全国人民信息的表，这个数据量是很大的，如果按省划分为多个表，在将全国的人民信息按省存储到相应的表中，然后根据省份对相应的并进行查询和更新，这样大并发和大数据量的问题就会减小很多

原文地址：https://www.cnblogs.com/wxlevel/p/7484738.html

评论区

先去登录

.net 10万+大数据处理方式、应用场景

相关推荐

评论区