Java高并发,如何解决,什么方式解决

Java高并发,如何解决,什么方式解决
Java高并发,如何解决,什么方式解决

对于我们开发的网站,如果网站的访问量非常大的话,那么我们就需要考虑相关的并发访问问题了。而并发问题是绝大部分的程序员头疼的问题,

但话又说回来了,既然逃避不掉,那我们就坦然面对吧~今天就让我们一起来研究一下常见的并发和同步吧。

为了更好的理解并发和同步,我们需要先明白两个重要的概念:同步和异步

1、同步和异步的区别和联系

所谓同步,可以理解为在执行完一个函数或方法之后,一直等待系统返回值或消息,这时程序是出于阻塞的,只有接收到

返回的值或消息后才往下执行其它的命令。

异步,执行完函数或方法后,不必阻塞性地等待返回值或消息,只需要向系统委托一个异步过程,那么当系统接收到返回

值或消息时,系统会自动触发委托的异步过程,从而完成一个完整的流程。

同步在一定程度上可以看做是单线程,这个线程请求一个方法后就待这个方法给他回复,否则他不往下执行(死心眼)。

异步在一定程度上可以看做是多线程的(废话,一个线程怎么叫异步),请求一个方法后,就不管了,继续执行其他的方法。

同步就是一件事,一件事情一件事的做。

异步就是,做一件事情,不引响做其他事情。

例如:吃饭和说话,只能一件事一件事的来,因为只有一张嘴。

但吃饭和听音乐是异步的,因为,听音乐并不引响我们吃饭。

对于Java程序员而言,我们会经常听到同步关键字synchronized,假如这个同步的监视对象是类的话,那么如果当一个对象

访问类里面的同步方法的话,那么其它的对象如果想要继续访问类里面的这个同步方法的话,就会进入阻塞,只有等前一个对象

执行完该同步方法后当前对象才能够继续执行该方法。这就是同步。相反,如果方法前没有同步关键字修饰的话,那么不同的对象

可以在同一时间访问同一个方法,这就是异步。

在补充一下(脏数据和不可重复读的相关概念):

脏数据

脏读就是指当一个事务正在访问数据,并且对数据进行了修改,而这种修改还没有提交到数据库中,这时,另外一个事务也访问这个数据,然后使用了这

个数据。因为这个数据是还没有提交的数据,那么另外一个事务读到的这个数据是脏数据(Dirty Data),依据脏数据所做的操作可能是不正确的。

不可重复读

不可重复读是指在一个事务内,多次读同一数据。在这个事务还没有结束时,另外一个事务也访问该同一数据。那么,在第一个事务中的两次读数据之间,由于第二个事务的修改,那么第一个事务两次读到的数据可能是不一样的。这样就发生了在一个事务内两次读到的数据是不一样的,因此称为是不可重复读

2、如何处理并发和同步

今天讲的如何处理并发和同同步问题主要是通过锁机制。

我们需要明白,锁机制有两个层面。

一种是代码层次上的,如java中的同步锁,典型的就是同步关键字synchronized,这里我不在做过多的讲解,

感兴趣的可以参考:https://www.360docs.net/doc/037854224.html,/xiohao/p/4151408.html

另外一种是数据库层次上的,比较典型的就是悲观锁和乐观锁。这里我们重点讲解的就是悲观锁(传统的物理锁)和乐观锁。

悲观锁(Pessimistic Locking):

悲观锁,正如其名,它指的是对数据被外界(包括本系统当前的其他事务,以及来自外部系统的事务处理)修改持保守态度,因此,

在整个数据处理过程中,将数据处于锁定状态。

悲观锁的实现,往往依靠数据库提供的锁机制(也只有数据库层提供的锁机制才能真正保证数据访问的排他性,否则,即使在本系统

中实现了加锁机制,也无法保证外部系统不会修改数据)。

一个典型的倚赖数据库的悲观锁调用:

sele ct * from account where name=”Erica” for update

这条sql 语句锁定了account 表中所有符合检索条件(name=”Erica” )的记录。

本次事务提交之前(事务提交时会释放事务过程中的锁),外界无法修改这些记录。

Hibernate 的悲观锁,也是基于数据库的锁机制实现。

下面的代码实现了对查询记录的加锁:

String hqlStr ="from TUser as user where https://www.360docs.net/doc/037854224.html,='Erica'";

Query query = session.createQuery(hqlStr);

query.setLockMode("user",LockMode.UPGRADE); // 加锁

List userList = query.list();// 执行查询,获取数据

query.setLockMode对查询语句中,特定别名所对应的记录进行加锁(我们为 TUser 类指定了一个别名“user” ),这里也就是对

返回的所有user 记录进行加锁。

观察运行期Hibernate 生成的SQL 语句:

select tuser0_.id as id, tuser0_.name as name, tuser0_.group_id

as group_id, tuser0_.user_type as user_type, tuser0_.sex as sex

from t_user tuser0_ where (tuser0_.name='Erica' ) for update

这里Hibernate 通过使用数据库的for update 子句实现了悲观锁机制。

Hibernate 的加锁模式有:

? LockMode.NONE :无锁机制。

? LockMode.WRITE :Hibernate 在Insert 和Update 记录的时候会自动获取

? LockMode.READ :Hibernate 在读取记录的时候会自动获取。

以上这三种锁机制一般由Hibernate 内部使用,如Hibernate 为了保证Update

过程中对象不会被外界修改,会在save 方法实现中自动为目标对象加上WRITE 锁。

? LockMode.UPGRADE :利用数据库的for update 子句加锁。

? LockMode. UPGRADE_NOWAIT :Oracle 的特定实现,利用Oracle 的for update nowait 子句实现加锁。

上面这两种锁机制是我们在应用层较为常用的,加锁一般通过以下方法实现:

Criteria.setLockMode

Query.setLockMode

Session.lock

注意,只有在查询开始之前(也就是Hiberate 生成SQL 之前)设定加锁,才会

真正通过数据库的锁机制进行加锁处理,否则,数据已经通过不包含for update

子句的Select SQL 加载进来,所谓数据库加锁也就无从谈起。

为了更好的理解select... for update的锁表的过程,本人将要以mysql为例,进行相应的讲解

1、要测试锁定的状况,可以利用MySQL的Command Mode ,开二个视窗来做测试。

表的基本结构如下:

表中内容如下:

开启两个测试窗口,在其中一个窗口执行select * from ta for update0然后在另外一个窗口执行update操作如下图:

等到一个窗口commit后的图片如下:

到这里,悲观锁机制你应该了解一些了吧~

需要注意的是for update要放到mysql的事务中,即begin和commit中,否者不起作用。

至于是锁住整个表还是锁住选中的行,请参考:

https://www.360docs.net/doc/037854224.html,/xiohao/p/4385768.html

至于hibernate中的悲观锁使用起来比较简单,这里就不写demo了~感兴趣的自己查一下就ok了~

乐观锁(Optimistic Locking):

相对悲观锁而言,乐观锁机制采取了更加宽松的加锁机制。悲观锁大多数情况下依靠数据库的锁机制实现,以保证操作最大程度的独占性。但随之

而来的就是数据库性能的大量开销,特别是对长事务而言,这样的开销往往无法承受。如一个金融系统,当某个操作员读取用户的数据,并在读出的用户数

据的基础上进行修改时(如更改用户帐户余额),如果采用悲观锁机制,也就意味着整个操作过程中(从操作员读出数据、开始修改直至提交修改结果的全

过程,甚至还包括操作员中途去煮咖啡的时间),数据库记录始终处于加锁状态,可以想见,如果面对几百上千个并发,这样的情况将导致怎样的后果。乐

观锁机制在一定程度上解决了这个问题。

乐观锁,大多是基于数据版本Version )记录机制实现。何谓数据版本?即为数据增加一个版本标识,在基于数据库表的版本解决方案中,一般是通

过为数据库表增加一个“version” 字段来实现。读取出数据时,将此版本号一同读出,之后更新时,对此版本号加一。此时,将提交数据的版本数据与数据

库表对应记录的当前版本信息进行比对,如果提交的数据版本号大于数据库表当前版本号,则予以更新,否则认为是过期数据。对于上面修改用户帐户信息

的例子而言,假设数据库中帐户信息表中有一个 version 字段,当前值为1 ;而当前帐户余额字段(balance )为$100 。操作员A 此时将其读出

(version=1 ),并从其帐户余额中扣除$50($100-$50 )。 2 在操作员A 操作的过程中,操作员B 也读入此用户信息(version=1 ),并从其帐

户余额中扣除$20 ($100-$20 )。 3 操作员A 完成了修改工作,将数据版本号加一(version=2 ),连同帐户扣除后余额(balance=$50 ),提交

至数据库更新,此时由于提交数据版本大于数据库记录当前版本,数据被更新,数据库记录version 更新为2 。 4 操作员B 完成了操作,也将版本号加一

(version=2 )试图向数据库提交数据(balance=$80 ),但此时比对数据库记录版本时发现,操作员B 提交的数据版本号为2 ,数据库记录当前版

本也为2 ,不满足“ 提交版本必须大于记录当前版本才能执行更新“ 的乐观锁策略,因此,操作员B 的提交被驳回。这样,就避免了操作员B 用基于

version=1 的旧数据修改的结果覆盖操作员A 的操作结果的可能。从上面的例子可以看出,乐观锁机制避免了长事务中的数据库加锁开销(操作员A

和操作员B 操作过程中,都没有对数据库数据加锁),大大提升了大并发量下的系统整体性能表现。需要注意的是,乐观锁机制往往基于系统中的数据存储

逻辑,因此也具备一定的局限性,如在上例中,由于乐观锁机制是在我们的系统中实现,来自外部系统的用户余额更新操作不受我们系统的控制,因此可能

会造成脏数据被更新到数据库中。在系统设计阶段,我们应该充分考虑到这些情况出现的可能性,并进行相应调整(如将乐观锁策略在数据库存储过程中实

现,对外只开放基于此存储过程的数据更新途径,而不是将数据库表直接对外公

开)。 Hibernate 在其数据访问引擎中内置了乐观锁实现。如果不用考虑外

部系统对数据库的更新操作,利用Hibernate 提供的透明化乐观锁实现,将大大提升我们的生产力。

User.hbm.xml

"-//Hibernate/Hibernate Mapping DTD 3.0//EN"

"https://www.360docs.net/doc/037854224.html,/hibernate-mapping-3.0.d td">

optimistic-lock="version">

注意version 节点必须出现在ID 节点之后。

这里我们声明了一个version 属性,用于存放用户的版本信息,保存在User 表的version 中

optimistic-lock 属性有如下可选取值:

? none

无乐观锁

? version

通过版本机制实现乐观锁

? dirty

通过检查发生变动过的属性实现乐观锁

? all

通过检查所有属性实现乐观锁

其中通过version 实现的乐观锁机制是Hibernate 官方推荐的乐观锁实现,同时也

是Hibernate 中,目前唯一在数据对象脱离Session 发生修改的情况下依然有效的锁机制。因此,一般情况下,我们都选择version 方式作为Hibernate 乐观锁实现机制。

2 .配置文件hibernate.cfg.xml和UserTest测试类

hibernate.cfg.xml

"-//Hibernate/Hibernate Configuration DTD 3.0//EN"

"https://www.360docs.net/doc/037854224.html,/hibernate-configuration -3.0.dtd">

name="dialect">org.hibernate.dialect.MySQL5InnoDBDialect< /property>

update

true

false

name="current_session_context_class">thread

name="connection.url">jdbc:mysql:///user root 123456

name="connection.driver_class">com.mysql.jdbc.Driver

UserTest.java

package com.xiaohao.test;

import org.hibernate.Session;

import org.hibernate.SessionFactory;

import org.hibernate.Transaction;

import org.hibernate.cfg.Configuration;

public class UserTest {

public static void main(String[] args) {

Configuration conf=new Configuration().configure(); SessionFactory sf=conf.buildSessionFactory();

Session session=sf.getCurrentSession();

Transaction tx=session.beginTransaction();

// User user=new User("小浩","英雄");

// session.save(user);

// session.createSQLQuery("insert into

user(userName,password) value('张英雄16','123')")

// .executeUpdate();

User user=(User) session.get(User.class, 1);

user.setUserName("221");

// session.save(user);

System.out.println("恭喜您,用户的数据插入成功了哦~~");

https://www.360docs.net/doc/037854224.html,mit();

}

}

每次对TUser 进行更新的时候,我们可以发现,数据库中的version 都在递增。

下面我们将要通过乐观锁来实现一下并发和同步的测试用例:

这里需要使用两个测试类,分别运行在不同的虚拟机上面,以此来模拟多个用户同时操作一张表,同时其中一个测试类需要模拟长事务

UserTest.java

package com.xiaohao.test;

import org.hibernate.Session;

import org.hibernate.SessionFactory;

import org.hibernate.Transaction;

import org.hibernate.cfg.Configuration;

public class UserTest {

public static void main(String[] args) {

Configuration conf=new Configuration().configure(); SessionFactory sf=conf.buildSessionFactory();

Session session=sf.openSession();

// Session session2=sf.openSession();

User user=(User) session.createQuery(" from User user where user=5").uniqueResult();

// User user2=(User) session.createQuery(" from User user where user=5").uniqueResult();

System.out.println(user.getVersion());

// System.out.println(user2.getVersion());

Transaction tx=session.beginTransaction();

user.setUserName("101");

https://www.360docs.net/doc/037854224.html,mit();

System.out.println(user.getVersion());

// System.out.println(user2.getVersion());

//

System.out.println(user.getVersion()==user2.getVersion()) ;

// Transaction tx2=session2.beginTransaction();

// user2.setUserName("4468");

// https://www.360docs.net/doc/037854224.html,mit();

}

}

UserTest2.java

package com.xiaohao.test;

import org.hibernate.Session;

import org.hibernate.SessionFactory;

import org.hibernate.Transaction;

import org.hibernate.cfg.Configuration;

public class UserTest2 {

public static void main(String[] args) throws InterruptedException {

Configuration conf=new Configuration().configure(); SessionFactory sf=conf.buildSessionFactory();

Session session=sf.openSession();

// Session session2=sf.openSession();

User user=(User) session.createQuery(" from User user where user=5").uniqueResult();

Thread.sleep(10000);

// User user2=(User) session.createQuery(" from User user where user=5").uniqueResult();

System.out.println(user.getVersion());

// System.out.println(user2.getVersion());

Transaction tx=session.beginTransaction();

user.setUserName("100");

https://www.360docs.net/doc/037854224.html,mit();

System.out.println(user.getVersion());

// System.out.println(user2.getVersion());

//

System.out.println(user.getVersion()==user2.getVersion()) ;

// Transaction tx2=session2.beginTransaction();

// user2.setUserName("4468");

// https://www.360docs.net/doc/037854224.html,mit();

}

}

操作流程及简单讲解: 首先启动UserTest2.java测试类,在执行到Thread.sleep(10000);

这条语句的时候,当前线程会进入睡眠状态。在10秒钟之内

启动UserTest这个类,在到达10秒的时候,我们将会在UserTest.java 中抛出下面的异常:

Exception in thread "main"

org.hibernate.StaleObjectStateException: Row was updated or

deleted by another transaction (or unsaved-value mapping was incorrect): [https://www.360docs.net/doc/037854224.html,er#5]

at

org.hibernate.persister.entity.AbstractEntityPersister.ch eck(AbstractEntityPersister.java:1932)

at

org.hibernate.persister.entity.AbstractEntityPersister.up date(AbstractEntityPersister.java:2576)

at

org.hibernate.persister.entity.AbstractEntityPersister.up dateOrInsert(AbstractEntityPersister.java:2476)

at

org.hibernate.persister.entity.AbstractEntityPersister.up date(AbstractEntityPersister.java:2803)

at

org.hibernate.action.EntityUpdateAction.execute(EntityUpd ateAction.java:113)

at

org.hibernate.engine.ActionQueue.execute(ActionQueue.java :273)

at

org.hibernate.engine.ActionQueue.executeActions(ActionQue ue.java:265)

at

org.hibernate.engine.ActionQueue.executeActions(ActionQue ue.java:185)

at

org.hibernate.event.def.AbstractFlushingEventListener.per formExecutions(AbstractFlushingEventListener.java:321)

at

org.hibernate.event.def.DefaultFlushEventListener.onFlush (DefaultFlushEventListener.java:51)

at

org.hibernate.impl.SessionImpl.flush(SessionImpl.java:121 6)

at

org.hibernate.impl.SessionImpl.managedFlush(SessionImpl.j ava:383)

at

https://www.360docs.net/doc/037854224.html,mit(JDBCTran saction.java:133)

at https://www.360docs.net/doc/037854224.html,erTest2.main(UserTest2.java:21)

UserTest2代码将在https://www.360docs.net/doc/037854224.html,mit() 处抛出StaleObjectStateException 异常,并指出版本检查失败,当前事务正在试图提交一个过期数据。通过捕捉这个异常,我们就可以在乐观锁校验失败时进行相应处理

3、常见并发同步案例分析

案例一:订票系统案例,某航班只有一张机票,假定有1w个人打开你的网站来订票,问你如何解决并发问题(可扩展到任何高并发网站要考虑

的并发读写问题)

问题,1w个人来访问,票没出去前要保证大家都能看到有票,不可能一个人在看到票的时候别人就不能看了。到底谁能抢到,那得看这个人的“运气”(网

络快慢等)

其次考虑的问题,并发,1w个人同时点击购买,到底谁能成交?总共只有一张票。

首先我们容易想到和并发相关的几个方案:

锁同步同步更多指的是应用程序的层面,多个线程进来,只能一个一个的访问,java中指的是syncrinized关键字。锁也有2个层面,一个是java中谈到的对

象锁,用于线程同步;另外一个层面是数据库的锁;如果是分布式的系统,显然只能利用数据库端的锁来实现。

假定我们采用了同步机制或者数据库物理锁机制,如何保证1w个人还能同时看到有票,显然会牺牲性能,在高并发网站中是不可取的。使用hibernate后我们

提出了另外一个概念:乐观锁、悲观锁(即传统的物理锁);

采用乐观锁即可解决此问题。乐观锁意思是不锁定表的情况下,利用业务的控制来解决并发问题,这样即保证数据的并发可读性又保证保存数据的排他性,保

证性能的同时解决了并发带来的脏数据问题。

hibernate中如何实现乐观锁:

前提:在现有表当中增加一个冗余字段,version版本号, long类型

原理:

1)只有当前版本号》=数据库表版本号,才能提交

2)提交成功后,版本号version ++

实现很简单:在ormapping增加一属性optimistic-lock="version"即可,以下是样例片段

案例二、股票交易系统、银行系统,大数据量你是如何考虑的

首先,股票交易系统的行情表,每几秒钟就有一个行情记录产生,一天下来就有(假定行情3秒一个)股票数量×20×60*6 条记录,一月下来这个表记录数

量多大?oracle中一张表的记录数超过100w后查询性能就很差了,如何保证系统性能?

再比如,中国移动有上亿的用户量,表如何设计?把所有用于存在于一个表么?

所以,大数量的系统,必须考虑表拆分-(表名字不一样,但是结构完全一样),通用的几种方式:(视情况而定)

1)按业务分,比如手机号的表,我们可以考虑130开头的作为一个表,131开头的另外一张表以此类推

2)利用oracle的表拆分机制做分表

3)如果是交易系统,我们可以考虑按时间轴拆分,当日数据一个表,历史数据弄到其它表。这里历史数据的报表和查询不会影响当日交易。

当然,表拆分后我们的应用得做相应的适配。单纯的or-mapping也许就得改动了。比如部分业务得通过存储过程等

此外,我们还得考虑缓存

这里的缓存,指的不仅仅是hibernate,hibernate本身提供了一级二级缓存。这里的缓存独立于应用,依然是内存的读取,假如我们能减少数据库频繁的访

问,那对系统肯定大大有利的。比如一个电子商务系统的商品搜索,如果某个关键字的商品经常被搜,那就可以考虑这部分商品列表存放到缓存(内存中

去),这样不用每次访问数据库,性能大大增加。

简单的缓存大家可以理解为自己做一个hashmap,把常访问的数据做一个key,value是第一次从数据库搜索出来的值,下次访问就可以从map里读取,而不

读数据库;专业些的目前有独立的缓存框架比如memcached 等,可独立部署成一个缓存服务器。

4、常见的提高高并发下访问的效率的手段

首先要了解高并发的的瓶颈在哪里?

1、可能是服务器网络带宽不够

2.可能web线程连接数不够

3.可能数据库连接查询上不去。

根据不同的情况,解决思路也不同。

1.像第一种情况可以增加网络带宽,DNS域名解析分发多台服务器。

2.负载均衡,前置代理服务器nginx、apache等等

3.数据库查询优化,读写分离,分表等等

最后复制一些在高并发下面需要常常需要处理的内容:

?尽量使用缓存,包括用户缓存,信息缓存等,多花点内存来做缓存,可以大量减少与数据库的交互,提高性能。

?用jprofiler等工具找出性能瓶颈,减少额外的开销。

?优化数据库查询语句,减少直接使用hibernate等工具的直接生成语句(仅耗时较长的查询做优化)。

?优化数据库结构,多做索引,提高查询效率。

?统计的功能尽量做缓存,或按每天一统计或定时统计相关报表,避免需要时进行统计的功能。

?能使用静态页面的地方尽量使用,减少容器的解析(尽量将动态内容生成静态html 来显示)。

?解决以上问题后,使用服务器集群来解决单台的瓶颈问题。

java高并发,如何解决,什么方式解决

之前我将高并发的解决方法误认为是线程或者是队列可以解决,因为高并发的时候是有很多用户在访问,导致出现系统数据不正确、丢失数据现象,所以想到的是用队列解决,其实队列解决的方式也可以处理,比如我们在竞拍商品、转发评论微博或者是秒杀商品等,同一时间访问量特别大,队列在此起到特别的作用,将所有请求放入队列,以毫秒计时单位,有序的进行,从而不会出现数据丢失系统数据不正确的情况。

今天我经过查资料,高并发的解决方法有俩种:

一种是使用缓存、另一种是使用生成静态页面;还有就是从最基础的地方优化我们写代码减少不必要的资源浪费:(

1.不要频繁的new对象,对于在整个应用中只需要存在一个实例的类使用单例模式.对于String的连接操作,使用StringBuffer或者StringBuilder.对于utility类型的类通过静态方法来访问。

2. 避免使用错误的方式,如Exception可以控制方法推出,但是Exception要保留stacktrace 消耗性能,除非必要不要使用instanceof做条件判断,尽量使用比的条件判断方式.使用JAVA中效率高的类,比如ArrayList比Vector性能好。)

首先缓存技术我一直没有使用过,我觉得应该是在用户请求时将数据保存在缓存中,下次请求时会检测缓存中是否有数据存在,防止多次请求服务器,导致服务器性能降低,严重导致服务器崩溃,这只是我自己的理解,详细的资料还是需要在网上收集;

使用生成静态页面我想大家应该不模式,我们见过很多网站当在请求的时候页面的后最已经变了,如“https://www.360docs.net/doc/037854224.html,/art/201207/348766.htm”该页面其实是一个服务器请求地址,在转换成htm后,访问速度将提升,因为静态页面不带有服务器组件;在这里我就多多介绍一下:

一、什么是页面静态化:

简单的说,我们如果访问一个链接,服务器对应的模块会处理这个请求,转到对应的jsp

界面,最后生成我们想要看到的数据。这其中的缺点是显而易见的:因为每次请求服务器都会进行处理,如果有太多的高并发请求,那么就会加重应用服务器的压力,弄不好就把服务器搞down 掉了。那么如何去避免呢?如果我们把对test.do 请求后的结果保存成一个html 文件,然后每次用户都去访问,这样应用服务器的压力不就减少了?

那么静态页面从哪里来呢?总不能让我们每个页面都手动处理吧?这里就牵涉到我们要讲解的内容了,静态页面生成方案… 我们需要的是自动的生成静态页面,当用户访问,会自动生成test.html ,然后显示给用户。

二、下面我们在简单介绍一下要想掌握页面静态化方案应该掌握的知识点:

1、基础- URL Rewrite

什么是URL Rewrite 呢? URL 重写。用一个简单的例子来说明问题:输入网址,但是实际上访问的却是https://www.360docs.net/doc/037854224.html,/test.action,那我们就可以说URL 被重写了。这项技术应用广泛,有许多开源的工具可以实现这个功能。

2、基础- Servlet web.xml

如果你还不知道web.xml 中一个请求和一个servlet 是如何匹配到一起的,那么请搜索一下servlet 的文档。这可不是乱说呀,有很多人就认为/xyz/*.do 这样的匹配方式能有效。

如果你还不知道怎么编写一个servlet ,那么请搜索一下如何编写servlet.这可不是说笑呀,在各种集成工具漫天飞舞的今天,很多人都不会去从零编写一个servlet了。

三、基本的方案介绍

其中,对于URL Rewriter的部分,可以使用收费或者开源的工具来实现,如果url不是特别的复杂,可以考虑在servlet 中实现,那么就是下面这个样子:

总结:其实我们在开发中都很少考虑这种问题,直接都是先将功能实现,当一个程序员在干到1到2年,就会感觉光实现功能不是最主要的,安全性能、质量等等才是一个开发人员最该关心的。今天我所说的是高并发。

我的解决思路是:

1、采用分布式应用设计

2、分布式缓存数据库

3、代码优化

Java高并发的例子:

??????????????????????????????????????????

具体情况是这样:通过java和数据库,自己实现序列自动增长。

实现代码大致如下:

id_table表结构, 主要字段:

id_name varchar2(16);

id_val number(16,0);

id_prefix varchar2(4);

//操作DB

public synchronized String nextStringValue(String id){ SqlSession sqlSess = SqlSessionUtil.getSqlSession(); sqlSess.update("update id_table set id_val = id_val + 1 where id_name="+id);

Map map = sqlSess.getOne("select id_name, id_prefix, id_val from id_table where id_name="+ id);

BigDecimal val = (BigDecimal) map.get("id_val");

//id_val是具体数字,rePack主要是统一返回固定长度的字符串;如:Y0000001, F0000001, T0000001等

String idValue = rePack(val, map);

return idValue;

}

//公共方法

public class IdHelpTool{

public static String getNextStringValue(String idName){ return getXX().nextStringValue(idName);

}

}

具体使用者,都是通过类似这种方式:IdHelpTool.getNextStringValue("PAY_LOG");来调用。

问题:

(1)当出现并发时,有时会获取重复的ID;

(2)由于服务器做了相关一些设置,有时调用这个方法,好像还会导致超时。

为了解决问题(1), 考虑过在方法getNextStringValue上,也加上synchronized ,同

步关键字过多,会不会更导致超时?

跪求大侠提供个解决问题的大概思路!!!

??????????????????????????????????????????

解决思路一:

1、推荐 https://https://www.360docs.net/doc/037854224.html,/adyliu/idcenter

2、可以通过第三方redis来实现。

解决思路一:

1、出现重复ID,是因为脏读了,并发的时候不加 synchronized 比如会出现问题

2、但是加了 synchronized ,性能急剧下降了,本身 java 就是多线程的,你把它单线程使用,不是明智的选择,同时,如果分布式部署的时候,加了 synchronized 也无法控制并发

3、调用这个方法,出现超时的情况,说明你的并发已经超过了数据库所能处理的极限,数据库无限等待导致超时

基于上面的分析,建议采用线程池的方案,支付宝的单号就是用的线程池的方案进行的。

数据库 update 不是一次加1,而是一次加几百甚至上千,然后取到的这 1000个序号,放在线程池里慢慢分配即可,能应付任意大的并发,同时保证数据库没任何压力。

服务器高并发解决方案

服务器高并发解决方案 篇一:JAVA WEB高并发解决方案 java处理高并发高负载类网站中数据库的设计方法(java教程,java处理大量数据,java高负载数据)一:高并发高负载类网站关注点之数据库没错,首先是数据库,这是大多数应用所面临的首个SPOF。尤其是的应用,数据库的响应是首先要解决的。 一般来说MySQL是最常用的,可能最初是一个mysql 主机,当数据增加到100万以上,那么,MySQL的效能急剧下降。常用的优化措施是M-S(主-从)方式进行同步复制,将查询和操作和分别在不同的服务器上进行操作。我推荐的是M-M-Slaves方式,2个主Mysql,多个Slaves,需要注意的是,虽然有2个Master,但是同时只有1个是Active,我们可以在一定时候切换。之所以用2个M,是保证M不会又成为系统的SPOF。 Slaves可以进一步负载均衡,可以结合LVS,从而将select操作适当的平衡到不同的slaves上。 以上架构可以抗衡到一定量的负载,但是随着用户进一步增加,你的用户表数据超过1千万,这时那个M变成了SPOF。你不能任意扩充Slaves,否则复制同步的开销将直线上升,怎么办?我的方法是表分区,从业务层面上进行分区。最简单的,以用户数据为例。根据一定的切分方式,比如id,

切分到不同的数据库集群去。 全局数据库用于meta数据的查询。缺点是每次查询,会增加一次,比如你要查一个用户nightsailer,你首先要到全局数据库群找到nightsailer对应的cluster id,然后再到指定的cluster找到nightsailer的实际数据。 每个cluster可以用m-m方式,或者m-m-slaves方式。这是一个可以扩展的结构,随着负载的增加,你可以简单的增加新的mysql cluster进去。 需要注意的是: 1、禁用全部auto_increment的字段 2、id需要采用通用的算法集中分配 3、要具有比较好的方法来监控mysql主机的负载和服务的运行状态。如果你有30台以上的mysql数据库在跑就明白我的意思了。 4、不要使用持久性链接(不要用pconnect),相反,使用sqlrelay这种第三方的数据库链接池,或者干脆自己做,因为php4中mysql的链接池经常出问题。 二:高并发高负载网站的系统架构之HTML静态化 其实大家都知道,效率最高、消耗最小的就是纯静态化 /shtml/XX07/的html页面,所以我们尽可能使我们的网站上的页面采用静态页面来实现,这个最简单的方法其实

Java高并发,如何解决,什么方式解决

对于我们开发的网站,如果网站的访问量非常大的话,那么我们就需要考虑相关的并发访问问题了。而并发问题是绝大部分的程序员头疼的问题, 但话又说回来了,既然逃避不掉,那我们就坦然面对吧~今天就让我们一起来研究一下常见的并发和同步吧。 为了更好的理解并发和同步,我们需要先明白两个重要的概念:同步和异步 1、同步和异步的区别和联系 所谓同步,可以理解为在执行完一个函数或方法之后,一直等待系统返回值或消息,这时程序是出于阻塞的,只有接收到 返回的值或消息后才往下执行其它的命令。 异步,执行完函数或方法后,不必阻塞性地等待返回值或消息,只需要向系统委托一个异步过程,那么当系统接收到返回 值或消息时,系统会自动触发委托的异步过程,从而完成一个完整的流程。 同步在一定程度上可以看做是单线程,这个线程请求一个方法后就待这个方法给他回复,否则他不往下执行(死心眼)。 异步在一定程度上可以看做是多线程的(废话,一个线程怎么叫异步),请求一个方法后,就不管了,继续执行其他的方法。 同步就是一件事,一件事情一件事的做。 异步就是,做一件事情,不引响做其他事情。 例如:吃饭和说话,只能一件事一件事的来,因为只有一张嘴。 但吃饭和听音乐是异步的,因为,听音乐并不引响我们吃饭。 对于Java程序员而言,我们会经常听到同步关键字synchronized,假如这个同步的监视对象是类的话,那么如果当一个对象 访问类里面的同步方法的话,那么其它的对象如果想要继续访问类里面的这个同步方法的话,就会进入阻塞,只有等前一个对象 执行完该同步方法后当前对象才能够继续执行该方法。这就是同步。相反,如果方法前没有同步关键字修饰的话,那么不同的对象 可以在同一时间访问同一个方法,这就是异步。 在补充一下(脏数据和不可重复读的相关概念): 脏数据 脏读就是指当一个事务正在访问数据,并且对数据进行了修改,而这种修改还没有提交到数据库中,这时,另外一个事务也访问这个数据,然后使用了这

高并发下的接口幂等性解决方案

高并发下的接口幂等性解决方案 我们实际系统中有很多操作,是不管做多少次,都应该产生一样的效果或返回一样的结果。例如: 1.前端重复提交选中的数据,应该后台只产生对应这个数据的一个反应结果。 2.我们发起一笔付款请求,应该只扣用户账户一次钱,当遇到网络重发或系统 bug重发,也应该只扣一次钱; 3.发送消息,也应该只发一次,同样的短信发给用户,用户会哭的; 4.创建业务订单,一次业务请求只能创建一个,创建多个就会出大问题。 等等很多重要的情况,这些逻辑都需要幂等的特性来支持。 二、幂等性概念 幂等(idempotent、idempotence)是一个数学与计算机学概念,常见于抽象代数中。在编程中.一个幂等操作的特点是其任意多次执行所产生的影响均与一次执行的影响相同。幂等函数,或幂等方法,是指可以使用相同参数重复执行,并能获得相同结果的函数。这些函数不会影响系统状态,也不用担心重复执行会对系统造成改变。例如,“getUsername()和setTrue()”函数就是一个幂等函数.更复杂的操作幂等保证是利用唯一交易号(流水号)实现。我的理解:幂等就是一个操作,不论执行多少次,产生的效果和返回的结果都是一样的 三、技术方案 1. 查询操作查询一次和查询多次,在数据不变的情况下,查询结果是一样的。select是天然的幂等操作; 2. 删除操作删除操作也是幂等的,删除一次和多次删除都是把数据删除。(注意可能返回结果不一样,删除的数据不存在,返回0,删除的数据多条,返回结果多个); 3.唯一索引,防止新增脏数据比如:支付宝的资金账户,支付宝也有用户账户,每个用户只能有一个资金账户,怎么防止给用户创建资金账户多个,那么给资金账户表中的用户ID加唯一索引,所以一个用户新增成功一个资金账户记录。 要点:唯一索引或唯一组合索引来防止新增数据存在脏数据(当表存在唯一索引,并发时新增报错时,再查询一次就可以了,数据应该已经存在了,返回结果即可) 4. token机制,防止页面重复提交 业务要求: 页面的数据只能被点击提交一次。发生原因:由于重复点击或者网络重发,或者nginx重发等情况会导致数据被重复提交 解决办法:集群环境:采用token加redis(redis单线程的,处理需要排队)单JVM环境:采用token加redis或token加jvm内存。 处理流程: 1.数据提交前要向服务的申请token,token放到redis或jvm内存,token有效时间 2.提交后后台校验token,同时删除token,生成新的token返回; 3.token特点:要申请,一次有效性,可以限流; 4.注意:redis要用删除操作来判断token,删除成功代表token校验通过,如果用select+delete 来校验token,存在并发问题,不建议使用; 5. 悲观锁获取数据的时候加锁获取select * from table_xxx where id=3939 for update;注意:id 字段一定是主键或者唯一索引,不然是锁表,会死人的悲观锁使用时一般伴随事务一起使用,数据锁定时间可能会很长,根据实际情况选用。 6. 乐观锁乐观锁只是在更新数据那一刻锁表,其他时间不锁表,所以相对于悲观锁,效率更高。乐观锁的实现方式多种多样可以通过version或者其他状态条件:

Java架构师必备知识点(高级程序员教程必备)

Java架构师必备知识点(高级程序员教程) 2019年3月 一、并发编程 1.线程安全: 当多个线程访问某一个类(对象)时这个类始终都能表现出正确的行为,那么这个类(对象和方法)就是线程安全的。 2.synchronized: 可以在任意对象以及方法上加锁,而加锁的这段代码称为"互斥区"或者"临界区"。 一个线程想要执行synchronized修饰的方法里的内容,首先是尝试获得锁,如果拿到锁,执行synchronized方法体里面的内容 如果拿不到那么这个线程会不断的尝试获得这把锁,直到拿到为止,而且是多个线程去竞争这把锁。 3.多个线程多个锁: 多个线程,每个线程都将可以拿到自己指定的锁,分别获得锁之后,执行synchronized方法体的内容, 关键字synchronized获得的锁都是对象锁,而不是把一段代码(方法)当做锁,在静态方法上机上synchronized获得的锁为类级别的锁,表示锁定类。 4.对象锁的同步和异步: 同步synchronized:同步就是共享,同步的目的是为了线程安全,对于线程安全需要满足两个特性:原子性(同步)、可见性。 异步asynchronized:异步就是独立,相互之间不受任何制约。 5.脏读:

对于对象的同步和异步方法,我们在设计程序的时候,一定要考虑问题的整体,不然就会出现数据不一致错误,很经典的错误就是脏读(dityread)。 在我们对一个对象的方法加锁的时候,需要考虑业务的整体性,即为setValue和getValue方法同时加锁synchronized同步关键字 保证(service)业务逻辑层的原子性,不然会出现业务逻辑错误。 6.synchronized锁重入: 关键字synchronized拥有重入锁的功能,也就是在使用synchronized时,当一个线程得到一个对象的锁后,再次请求此对象时是可以再次得到该对象的锁。 7.出现异常,锁自动释放: 对于web应用程序,异常释放锁的情况,如果不及时处理,很可能对应用程序业务逻辑产生严重的错误。 比如:现在执行一个队列任务,很多对象都去在等待一个对象正确执行完毕再释放锁, 但是一个对象出现由于异常的出现,导致业务逻辑没有正常执行完毕,就是释放了锁,那么后面的对象执行的都是错误的业务逻辑。 8.synchronized代码块: 使用synchronized声明的方法在某些情况下是有弊端的,比如:A线程方法调用一个时间很长的任务,那么B线程 必须等待很长的时间才能执行,这样的情况下可以使用synchronized代码块去优化代码执行时间,也就是减小锁的时间。 synchronized可以使用任何object对象进行加锁,用法比较灵活,不要使用string的常量加锁,会出现死循环问题。 9.锁对象改变的问题: 当使用一个对象进行加锁的时候,要注意对象本身发生改变的时候,那

.net高并发解决方案_1

竭诚为您提供优质文档/双击可除.net高并发解决方案 篇一:开源企业级web高并发解决方案 开源企业级web高并发解决方案 主要介绍利用开源的解决方案,来为企业搭建web高并发服务器架构花了一个多小时,画了张图片,希望能先帮你理解整个架构,之后我在一一介绍.linux的大型架构其实是一点点小架构拼接起来的,笔者从各个应用开始配置,最后在完全整合起来,以实现效果。 笔者所使用的环境为Rhel5.4内核版本2.6.18实现过程在虚拟机中,所用到的安装包为dVd光盘自带rpm包装过developmentlibrariesdevelopmenttools包组 笔者所使用的环境为Rhel5.4内核版本2.6.18实现过程在虚拟机中,所用到的安装包为dVd光盘自带rpm包装过developmentlibrariesdevelopmenttools包组 笔者虚拟机有限,只演示单边varnish配置 一、配置前端lVs负载均衡 笔者选用lVs的dR模型来实现集群架构,如果对dR模型不太了了解的朋友建议先去看看相关资料。

本模型实例图为: 现在director 上安装ipvsadm,笔者yum配置指向有集群源所以直接 用yum安装。yuminstallipvsadm 下面是director配置: dip配置在接口上172.16.100.10 Vip配置在接口别名上:172.16.100.1 varnish服务器配置:Rip配置在接口上:172.16.100.11;Vip配置在lo别名上 如果你要用到下面的heartbeat的ldirectord来实现 资源转换,则下面的#director配置不用配置 1.#director配置 2.ifconfigeth0172.16.100.10/16 3.ifconfigeth0:0172.16.100.1broadcast172.16.100.1ne tmask255.25 5.255.255up 4.routeadd-host172.16.100.1deveth0:0 5.echo1>/proc/sys/net/ipv4/ip_forward 1.#varnish服务器修改内核参数来禁止响应对Vip的aRp广播请求 2.echo1>/proc/sys/net/ipv4/conf/lo/arp_ignore

黑马程序员:高并发解决方案

黑马程序员:高并发解决方案 一、什么是高并发 高并发(High Concurrency)是互联网分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计保证系统能够同时并行处理很多请求。高并发相关常用的一些指标有响应时间(Response Time),吞吐量(Throughput),每秒查询率QPS(Query Per Second),并发用户数等。 响应时间:系统对请求做出响应的时间。例如系统处理一个HTTP请求需要200ms,这个200ms就是系统的响应时间。 吞吐量:单位时间内处理的请求数量。 QPS:每秒响应请求数。在互联网领域,这个指标和吞吐量区分的没有这么明显。并发用户数:同时承载正常使用系统功能的用户数量。例如一个即时通讯系统,同时在线量一定程度上代表了系统的并发用户数。 二、什么是秒杀 秒杀场景一般会在电商网站举行一些活动或者节假日在12306网站上抢票时遇到。对于电商网站中一些稀缺或者特价商品,电商网站一般会在约定时间点对其进行限量销售,因为这些商品的特殊性,会吸引大量用户前来抢购,并且会在约定的时间点同时在秒杀页面进行抢购。

此种场景就是非常有特点的高并发场景,如果不对流量进行合理管控,肆意放任大流量冲击系统,那么将导致一系列的问题出现,比如一些可用的连接资源被耗尽、分布式缓存的容量被撑爆、数据库吞吐量降低,最终必然会导致系统产生雪崩效应。 一般来说,大型互联网站通常采用的做法是通过扩容、动静分离、缓存、服务降级及限流五种常规手段来保护系统的稳定运行。 三、扩容 由于单台服务器的处理能力有限,因此当一台服务器的处理能力接近或已超出其容量上限时,采用集群技术对服务器进行扩容,可以很好地提升系统整体的并行处理能力,在集群环境中,节点的数量越多,系统的并行能力和容错性就越强。在无状态服务下,扩容可能是迄今为止效果最明显的增加并发量的技巧之一。从扩容方式角度讲,分为垂直扩容(scale up)和水平扩容(scale out)。垂直扩容就是增加单机处理能力,怼硬件,但硬件能力毕竟还是有限;水平扩容说白了就是增加机器数量,怼机器,但随着机器数量的增加,单应用并发能力并不一定与其呈现线性关系,此时就可能需要进行应用服务化拆分了。 从数据角度讲,扩容可以分为无状态扩容和有状态扩容。无状态扩容一般就是指我们的应用服务器扩容;有状态扩容一般是指数据存储扩容,要么将一份数据拆分成不同的多份,即sharding,要么就整体复制n份,即副本。sharding遇

高并发网站系统架构解决方案

高并发网站系统架构解决方案 一个小型的网站,比如个人网站,可以使用最简单的html静态页面就实现了,配合一些图片达到美化效果,所有的页面均存放在一个目录下,这样的网站对系统架构、性能的要求都很简单,随着互联网业务的不断丰富,网站相关的技术经过这些年的发展,已经细分到很细的方方面面,尤其对于大型网站来说,所采用的技术更是涉及面非常广,从硬件到软件、编程语言、数据库、WebServer、防火墙等各个领域都有了很高的要求,已经不是原来简单的html静态网站所能比拟的。 大型网站,比如门户网站。在面对大量用户访问、高并发请求方面,基本的解决方案集中在这样几个环节:使用高性能的服务器、高性能的数据库、高效率的编程语言、还有高性能的Web容器。但是除了这几个方面,还没法根本解决大型网站面临的高负载和高并发问题。 上面提供的几个解决思路在一定程度上也意味着更大的投入,并且这样的解决思路具备瓶颈,没有很好的扩展性,下面我从低成本、高性能和高扩张性的角度来说说我的一些经验。 1、HTML静态化 其实大家都知道,效率最高、消耗最小的就是纯静态化的html页面,所以我们尽可能使我们的网站上的页面采用静态页面来实现,这个最简单的方法其实也是最有效的方法。但是对于大量内容并且频繁更新的网站,我们无法全部手动去挨个实现,于是出现了我们常见的信息发布系统CMS,像我们常访问的各个门户站点的新闻频道,甚至他们的其他频道,都是通过信息发布系统来管理和实现的,信息发布系统可以实现最简单的信息录入自动生成静态页面,还能具备频道管理、权限管理、自动抓取等功能,对于一个大型网站来说,拥有一套高效、可管理的CMS是必不可少的。 除了门户和信息发布类型的网站,对于交互性要求很高的社区类型网站来说,尽可能的静态化也是提高性能的必要手段,将社区内的帖子、文章进行实时的静态化,有更新的时候再重新静态化也是大量使用的策略,像Mop的大杂烩就是使用了这样的策略,网易社区等也是如此。 同时,html静态化也是某些缓存策略使用的手段,对于系统中频繁使用数据库查询但是内容更新很小的应用,可以考虑使用html静态化来实现,比如论坛中论坛的公用设置信息,这些信息目前的主流论坛都可以进行后台管理并且存储再数据库中,这些信息其实大量被前台程序调用,但是更新频率很小,可以考虑将这部分内容进行后台更新的时候进行静态化,这样避免了大量的数据库访问请求。 2、图片服务器分离

数据库高并发升级方案1

XXXXXXXXXXXX平台数据库升级方案 XXXXXXXXXXXXXXX有限公司2016年11月28日

目录 1. 概述 (4) 1.1. 背景 (4) 1.2. 目标与目的 (4) 1.3. 可行性分析 (4) 1.4. 参考依据 (5) 2. 数据库高并发方案 (5) 2.1. 数据库均衡负载(RAC) (5) 2.2. 数据库主从部署 (8) 2.3. 数据库垂直分割 (9) 2.4. 数据库水平分割 (10) 3. 二代办公平台数据库优化设计 (11) 3.1. 数据库集群 (11) 3.2. 重点业务表分区 (11) 3.3. 任务表历史数据分割 (12) 3.4. 数据库表结构优化 (12) 3.5. 数据访问优化 (12) 4. 实施方案 (13) 5. 工作量及预算评估 (14) 5.1. 工作量及预算评估 (14) 5.2. 其他费用 (15)

1.概述 1.1.背景 随着XXXXXX平台及其他子系统业务量增多,且用户已面向各地州市,用户数量增大,现有的二代办公平台及其他子系统在单一环境下的架构体系和数据库架构体系也无法高效的满足这样的场景。 当前XXXXXX平台及其子系统通过搭建多台WEB服务器和双机热备份的方式进行部署运行。虽已提高了整体效率,但对于部分的业务处理还是未解决。部分业务量并发处理多,业务关联多等因素,导致对数据库并发处理的业务量大,读写量大等也无法用双机热备份进行解决。 因此,在此背景下提高数据库访问效率,增大访问吞吐量等将成为二代办公平台及其子系统运行顺畅的关键因素。 1.2.目标与目的 目标:依托现有系统服务和设备环境,建立可扩容、高并发、高吞吐量的数据库架构体系。 目的:为缓解当前XXXXXX平台机器及其他子系统对数据库访问过大,造成的访问效率低下的问题,提升数据库访问效率和并发效率。对部分业务繁杂的表和访问进行优化设计,缓解因此造成的使用效率低下问题。 1.3.可行性分析 数据库性能分析:根据当前的数据库性能分析,当前硬件设备的提高也无法满足数据库性能的提升,因此应考虑数据库访问控制和数据访问方面进行优化。现有的数据库虽也实现双机热备份,但访问的效率未较大改善,因此应考虑各健全的数据库高并发访问方案。 数据库优化分析:当前的数据库采用的ORACLE数据库,同时,现有的均衡负载、读写分离、数据分割技术较为成熟,在对系统进行适当调整和优化的情况下,能保证系统的正常运行。

高并发高访问量网站的运维技术

高并发高访问量网站的运维技术 1. 前言 对于小型的网站,可以使用最简单的html静态页面就实现了,配合一些图片达到美化效果,所有的页面均存放在一个目录下,这样的网站对系统架构、性能的要求都很简单,随着互联网业务的不断丰富,尤其对于大型网络来说,所采用的技术更是涉及面非常广,从硬件到软件、编程语言、数据库、web服务器、防火墙等各个领域都有了很高的要求,已经不是原来简单的html静态网站所能比拟的。 大型网站,比如大型门户网站。在面对大量用户访问、高并发请求方面,基本的解决方案集中在这样几个环节:使用高性能的服务器、高性能的数据库、高效率的编程语言,还有高性能的Web容器。以上几个解决思路在一定程度上也意味着更大的投入,并且这样的解决思路具备瓶颈,没有很好的扩展性,本文将论述从低成本、高性能和高扩张性的角度来考虑对高并发高负载网站的运行与维护技术。 2. HTML静态化技术 在站点流量很大的时候,为了提高系统性能,减短系统响应时间,最简单的方法其实也是最有效的方法就是把站点做成静态的,因为大家都知道效率最高、消耗最小的就是纯静态化的html 页面,所以我们应该尽可能使我们的网站上的页面采用静态页面来实现。然而静态页面在性能上虽然具有不少优势,但是,相对动态页面,其灵活性不够,扩展性不好,以后维护起来也比较麻烦。特别对于大量内容并且更新频繁的网站,我们无法全部手动去挨个实现页面静态化,那么我们一般可以采用设计信息发布系统CMS,先做好静态页面的模板,在通过信息发布系统从数据源读取数据,生成html代码块替换模板中的标签,然后生成静态文件。像我们常访问的各个门户站点的新闻频道,甚至他们的其他频道,都是通过信息发布系统来管理和实现的,信息发布系统可以实现最简单的信息录入自动生成静态页面,还能具备频道管理、权限管理、自动抓取等功能,对于一个大型网站来说,拥有一套高效、可管理的CMS是必不可少的。 同时,html静态化也是某些缓存策略使用的手段,对于系统中频繁使用数据库查询但是内容更新很小的应用,可以考虑使用html静态化来实现,比如论坛中论坛的公用设置信息,这些信息目前的主流论坛都可以进行后台管理并且存储再数据库中,这些信息其实大量被前台程序调用,但是更新频率很小,可以考虑将这部分内容进行后台更新的时候进行静态化,这样避免

高并发解决方案总结

高并发解决方案总结 1.使用缓存 在绝大多数情况下,服务器的压力都会集中在数据库,减少数据库的访问次数,就可以减轻服务器的压力。所以,在高并发场景下,缓存的作用是至关重要的。 redis缓存数据库,它可以很好的在一定程度上解决一瞬间的并发量,redis之所以能解决高并发的原因是它可以直接访问内存,提高了访问效率,解决了数据库服务器压力。 使用缓存框架的时候,我们需要关心的就是什么时候创建缓存和缓存失效策略。 缓存的创建可以通过很多的方式进行创建,具体也需要根据自己的业务进行选择。例如,供应商平台的应用信息,应用上线后就进行缓存。需要注意的是,当我们修改或删除应用信息的时候,我们要考虑到同步更新该条缓存。 2.数据库优化 数据库优化是性能优化的最基础的一个环节,虽然提供了缓存技术,但是对数据库的优化还是一个需要认真的对待。数据库优化的方式很多,这里说下分表与分区。 ?分表 分表的适用场景 1. 一张表的查询速度已经慢到影响使用的时候。 2.当频繁插入或者联合查询时,速度变慢。

分表后数据都是存放在分表里,总表只是一个外壳,存取数据发生在一个一个的分表里面。分表的重点是存取数据时,如何提高数据库的并发能力。分表后,单表的并发能力提高了,磁盘I/O性能也提高了。 以安审日志服务的历史记录表为例: 表按年月拆分,格式为:表名+年+月,例如:TEST_202001、TEST_202002、、TEST_202003……然后可以 根据日期来查询。 ?分区 分区的适用场景 1. 一张表的查询速度已经慢到影响使用的时候。 2.表中的数据是分段的。 3.对数据的操作往往只涉及一部分数据,而不是 所有的数据。 分区是把一张表的数据分成N多个区块,这些区块可以在同一个磁盘上,也可以在不同的磁盘上。分区把存放数据的 文件分成了许多小块,分区后的表还是一张表,数据处理还是 由自己来完成。 3.分离数据库中活跃的数据 数据库的数据虽然很多,但是经常被访问的数据还是有限的, 因此可以将这些相对活跃的数据进行分离出来单独进行保存来提高 处理效率。其实前边使用redis缓存的思想就是一个很明显的分离数据库中活跃的数据示例,将应用经常使用的数据缓存在内存中。

高并发网站架构解决方案

一个小型的网站,比如个人网站,可以使用最简单的html静态页面就实现了,配合一些图片达到美化效果,所有的页面均存放在一个目录下,这样的网站对系统架构、性能的要求都很简单,随着互联网业务的不断丰富,网站相关的技术经过这些年的发展,已经细分到很细的方方面面,尤其对于大型网站来说,所采用的技术更是涉及面非常广,从硬件到软件、编程语言、数据库、WebServer、防火墙等各个领域都有了很高的要求,已经不是原来简单的html静态网站所能比拟的。 大型网站,比如门户网站。在面对大量用户访问、高并发请求方面,基本的解决方案集中在这样几个环节:使用高性能的服务器、高性能的数据库、高效率的编程语言、还有高性能的Web容器。但是除了这几个方面,还没法根本解决大型网站面临的高负载和高并发问题。 上面提供的几个解决思路在一定程度上也意味着更大的投入,并且这样的解决思路具备瓶颈,没有很好的扩展性,下面我从低成本、高性能和高扩张性的角度来说说我的一些经验。 1、HTML静态化 其实大家都知道,效率最高、消耗最小的就是纯静态化的html页面,所以我们尽可能使我们的网站上的页面采用静态页面来实现,这个最简单的方法其实也是最有效的方法。但是对于大量内容并且频繁更新的网站,我们无法全部手动去挨个实现,于是出现了我们常见的信息发布系统CMS,像我们常访问的各个门户站点的新闻频道,甚至他们的其他频道,都是通过信息发布系统来管理和实现的,信息发布系统可以实现最简单的信息录入自动生成静态页面,还能具备频道管理、权限管理、自动抓取等功能,对于一个大型网站来说,拥有一套高效、可管理的CMS是必不可少的。 除了门户和信息发布类型的网站,对于交互性要求很高的社区类型网站来说,尽可能的静态化也是提高性能的必要手段,将社区内的帖子、文章进行实时的静态化,有更新的时候再重新静态化也是大量使用的策略,像Mop的大杂烩就是使用了这样的策略,网易社区等也是如此。 同时,html静态化也是某些缓存策略使用的手段,对于系统中频繁使用数据库查询但是内容更新很小的应用,可以考虑使用html静态化来实现,比如论坛中论坛的公用设置信息,这些信息目前的主流论坛都可以进行后台管理并且存储再数据库中,这些信息其实大量被前台程序调用,但是更新频率很小,可以考虑将这部分内容进行后台更新的时候进行静态化,这样避免了大量的数据库访问请求。

java,高并发解决方案

java,高并发解决方案 篇一:Java高并发程序设计 Java 高并发程序设计 第一课前沿 ? 在计算密集型的领域中非常适用并行程序 ? 多核CPU的产生促使了并行程序的设计,摩尔定律的失效,芯片的性能不能提高,4GHz已经是当下最高的频率,从而产生多核CPU的出现。 ? 活锁:两个资源A、B,进程1和2 分别占用A和B 时发现不能工作,就同时释放掉,然后又同时分别占用B 和A 如此反复!出现活锁 ? 阻塞: 第二课Java并行程序基础 ? 线程是比进程更细粒度的执行单元,可以说是属于进程的一个子集 ? 7, Thread 类的run()方法实现于Runnable 接口,如果直接调用run()方法,不会启动新的线程,而是在当前线程下运

行,start() 方法会开启一个新的线程。 两种方式,1 重载run方法2,实现Ruanable接口 8, Thread.Interrupt() 是一种比较的让线程终止的方法优雅的方法,不会立刻停止掉该程序,根据程序的设计,而是根据该程序的设计,当执行完该程序的一次循环之后,在下次循环程序开始之前中断,保证该程序的数据完整性。9,try { Thread.sleep(2000); } catch (InterruptedException e) { // //设置中断状态,抛出异常后会清除中断标记位e.printStackTrace(); } 10,查看当前被挂起的进程命令jps 查看进程中具体线程的信息jstack 5880 11, ? 等待线程结束join(),其本质是判断线程是否还存活,如果一直存活那么通 知调用该线程的其他线程等待,如果结束有JVM 调用notifyAll()唤醒所 有等待该线程的线程。 f (millis == 0) { while (isAlive()) { wait(0); }

大型网站高并发架构与自动化运维实战

大型网站高并发架构与自动化运维实战 运维工程师解决的问题? 1、1000台服务器规模,JAVA和PHP混合环境,如何构建一套高效的从测试环境代码测试到正式环境的代码发布、回滚以及软件更新、配置变更的可实施的解决方案及规范流程制度? 2、电商秒杀:前10秒100万并发抢购,请设计个方案解决之? 3、6个机房,近1000台服务器如何设计一套所有账号统一管理的解决方案? 4、不考虑硬件资源及带宽,请设计一套可行的网站架构,解决大流量DDOS攻击问题,请分层逐一详细说明? 5、500台服务器规模,如何实现跨机房容灾,即一个机房宕机,其他机房可以最快接管提供服务 什么是运维工程师? 一个互联网产品的上线流程 1、首先公司管理层给出指导思想,PM定位市场需求(或copy成熟应用)进行调研、分析、最终给出详细设计。 2、架构师根据产品设计的需求,如pv大小预估、服务器规模、应用架构等因素完成网络规划,架构设计等(基本上对网络变动不大,除非大项目) 3、开发工程师将设计code实现出来、测试工程师对应用进行测试。 4、好,到运维工程师出马了,首先明确一点不是说前三步就与运维工作无关了,恰恰相反,前三步与运维关系很大:应用的前期架构设计、软/硬件资源评估申请采购、应用设计性能隐患及评估、IDC、服务性能\安全调优、服务器系统级优化(与特定应用有关)等都需运维全程参与,并主导整个应用上线项目;运维工程师负责产品服务器上架准备工作,服务器系统安装、网络、IP、通用工具集安装。运维工程师还需要对上线的应用系统架构是否合理、是否具备可扩展性、及安全隐患等因素负责,并负责最后将产品(程序)、网络、系统三者进行拼接并最优化的组合在一起,最终完成产品上线提供用户使用,并周而复使:需求->开发(升级)->测试->上线(性能、安全问题等之前预估外的问题随之慢慢就全出来了)在这里提一点:网站开发模式与传统软件开发完全不一样,网站一天开发上线1~5个升级版本是家常便饭,用户体验为王嘛,如果某个线上问题像M$ 需要1年解决,用户早跑光了;应用上线后,运维工作才刚开始,具体工作可能包括:升级版本上线工作、服务监控、应用状态统计、日常服务状态巡检、突发故障处理、服务日常变更调整、集群管理、服务性能评估优化、数据库管理优化、随着应用PV增减进行应用架构的伸缩、安全、运维开发。

高并发下的接口幂等性解决方案

我们实际系统中有很多操作,是不管做多少次,都应该产生一样的效果或返回一样的结果。 例如: 1.前端重复提交选中的数据,应该后台只产生对应这个数据的一个反应结果。 2.我们发起一笔付款请求,应该只扣用户账户一次钱,当遇到网络重发或系统 bug重发,也应该只扣一次钱; 3.发送消息,也应该只发一次,同样的短信发给用户,用户会哭的; 4.创建业务订单,一次业务请求只能创建一个,创建多个就会出大问题。 等等很多重要的情况,这些逻辑都需要幂等的特性来支持。 二、幂等性概念 幂等(idempotent、idempotence)是一个数学与计算机学概念,常见于抽象代数中。 在编程中.一个幂等操作的特点是其任意多次执行所产生的影响均与一次执行的影响相同。幂等函数,或幂等方法,是指可以使用相同参数重复执行,并能获得相同结果的函数。 这些函数不会影响系统状态,也不用担心重复执行会对系统造成改变。 例如,“getUsername()和setTrue()”函数就是一个幂等函数. 更复杂的操作幂等保证是利用唯一交易号(流水号)实现. 我的理解:幂等就是一个操作,不论执行多少次,产生的效果和返回的结果都是一样的 三、技术方案 1. 查询操作查询一次和查询多次,在数据不变的情况下,查询结果是一 样的。select是天然的幂等操作 2. 删除操作删除操作也是幂等的,删除一次和多次删除都是把数据删除。 (注意可能返回结果不一样,删除的数据不存在,返回0,删除的数据多条,返回结果多个) 3.唯一索引,防止新增脏数据比如:支付宝的资金账户,支付宝也有用户 账户,每个用户只能有一个资金账户,怎么防止给用户创建资金账户多个,那么给资金账户表中的用户ID加唯一索引,所以一个用户新增成功一个资金账户记录 要点:唯一索引或唯一组合索引来防止新增数据存在脏数据(当表存在唯一索引,并发时新增报错时,再查询一次就可以了,数据应该已经存在了,返回结果即可) 4. token机制,防止页面重复提交 业务要求: 页面的数据只能被点击提交一次。发生原因:由于重复点击或者网络重发,或者nginx重发等情况会导致数据被重复提交 解决办法:集群环境:采用token加redis(redis单线程的,处理需要排队)单JVM环境:采用token加redis或token加jvm内存 处理流程:

Linux服务器开发—2小时搞定高并发网络编程

Linux服务器开发——2小时搞定高并发网络编程 一、使用多线程处理高并发的弊端 多线程处理高并发是常用同时处理多个并发用户请求的方式,但线程数过多会增加系统的资源消耗(线程本身占用的资源+线程切换带来的系统开销),同时因硬件和软件的限制,操作系统支持的线程数有限,也抑制了系统的吞吐量。 动脑学院以一个餐饮为例,每一个人来就餐就是一个事件,他会先看一下菜单,然后点餐。就像一个网站会有很多的请求,要求服务器做一些事情。处理这些就餐事件的就需要我们的服务人员了。 在多线程处理的方式会是这样的: 一个人来就餐,一个服务员去服务,然后客人会看菜单,点菜。服务员将菜单给后厨。 二个人来就餐,二个服务员去服务…… 五个人来就餐,五个服务员去服务…… 这个就是多线程的处理方式,一个事件到来,就会有一个线程服务。很显然这种方式在人少的情况下会有很好的用户体验,每个客人都感觉自己是VIP,专人服务的。如果餐厅一直这样同一时间最多来5个客人,这家餐厅是可以很好的服务下去的。 来了一个好消息,因为这家店的服务好,吃饭的人多了起来。同一时间会来10个客人,老板很开心,但是只有5个服务员,这样就不能一对一服务了,有些客人就要没有人管了。老板就又请了5个服务员,现在好了,又能每个人都受V IP待遇了。 越来越多的人对这家餐厅满意,客源又多了,同时来吃饭的人到了20人,老板高兴不起来了,再请服务员吧,占地方不说,还要开工钱,再请人就攒不到钱了。怎么办呢?老板想了想,10个服务员对付20个客人也是能对付过来的,服务员勤快点就好了,伺候完一个客人马上伺候另外一个,还是来得及的。综合考虑了一下,老板决定就使用10个服务人员的线程池啦~~~ 但是这样有一个比较严重的缺点就是,如果正在接受服务员服务的客人点菜很慢,其他的客人可能就要等好长时间了。有些火爆脾气的客人可能就等不了走人了。 来,动脑学院直接上演示代码:

java高并发的解决方案

java 高并发的解决方案 对于我们开发的网站,如果网站的访问量非常大的话, 那么我们就需要考虑相关的并发访问问题了。而并发问题 是绝大部分的程序员头疼的问题 ! 下面是小编分享的,欢迎 大家阅读 ! 常用的,可能最初是一个 mysql 主机,当数据增加到 100 万以上,那么,MySQ 啲效能急剧下降。常用的优化措施是 M-S (主-从)方式进行同步复制,将查询和操作和分别在不 同的服务器上进行操作。我推荐的是 M-M-Slaves 方式, 2 个主 Mysql ,多个 Slaves ,需要注意的是,虽然有 Master ,但是同时只有 1 个是 Active ,我们可以在一定时 候切 换。之所以用2个M 是保证M 不会又成为系统的 SPOF 。 Slaves 可以进一步负载均衡,可以结合 LVS,从而将 以上架构可以抗衡到一定量的负载,但是随着用户进 步增加,你的用户表数据超过 1千万,这时那个 M 变成 了 SPOF 你不能任意扩充 Slaves ,否则复制同步的开销将 直线上升,怎么办 ?我的方法是表分区,从业务层面上进行 分区。最简单的,以用户数据为例。根据一定的切分方式, 比如 id ,切分到不同的数据库集群去。 java 高并发的解决方案】 般来说MySQl 是最 2个 select 操作适当的平衡到不同的 slaves 上。

全局数据库用于 meta 数据的查询。缺点是每次查询, 会增加一次,比如你要查一个用户 nightsailer, 你首先要 后再到指定的 cluster 找到 nightsailer 的实际数据 个 cluster 可以用 m-m 方式,或者 m-m-slaves 方式。 个可以扩展的结构,随着负载的增加,你可以简单的增 加新的 mysql cluster 进去。 网站HTML 静态化解决方案 当一个Servlet 资源请求到达WE 餌艮务 器之后我们会 填充指定的JSP 页面来响应请求: HTTP 请求---Web 服务器---Servlet-- 业务逻辑处理-- 访问数据 -- 填充 JSP-- 响应请求 HTML 静态化之后: HTTP 请求---Web 服务器---Servlet--HTML-- 响应请求 缓存、负载均衡、存储、队列 存集群,一般来说部署 10 台左右就差不多 (10g 内存池 ) 。 需要注意一点,千万不能用使用 swaP,最好关闭 linux 的swap 。 2. 负载均衡 / 加速。可能上面说缓存的时候,有人第 想的是页面静态化,所谓的静态 html ,我认为这是常识, 不属于要点了。页面的静态化随之带来的是静态服务的负 载均衡和加速。我认为 Lighttped+Squid 是最好的方式了。 到全局数据库群找到 nightsailer 对应的 cluster id ,然 这是 1. 缓存是另一个大问题,我一般用 memcachec 来 做缓

大型网站平台优化方案

1. 平台优化方案 大型网站,在面对大量用户访问、高并发请求方面,基本的解决方案集中在这样几个环节:使用高性能的服务器、高性能的数据库、高效率的编程语言、还有高性能的Web容器。但是除了这几个方面,还没法根本解决大型网站面临的高负载和高并发问题。 上面提供的几个解决思路在一定程度上也意味着更大的投入,并且这样的解决思路具备瓶颈,没有很好的扩展性,下面我从低成本、高性能和高扩张性的角度来说说我的一些经验。 1.1. HTML静态化 由于效率最高、消耗最小的就是纯静态化的html页面,所以尽可能使网站上的页面采用静态页面来实现,这个最简单的方法其实也是最有效的方法。但是对于大量内容并且频繁更新的网站,无法全部手动去挨个实现,于是出现了常见的信息发布系统CMS,信息发布系统可以实现最简单的信息录入自动生成静态页面,还能具备频道管理、权限管理、自动抓取等功能,对于一个大型网站来说,拥有一套高效、可管理的CMS是必不可少的。 除了门户和信息发布类型的网站,对于交互性要求很高的社区类型网站来说,尽可能的静态化也是提高性能的必要手段,将社区内的帖子、文章进行实时的静态化,有更新的时候再重新静态化也是大量使用的策略,如Mop的大杂烩就是使用了这样的策略,网易社区等也是如此。 同时,html静态化也是某些缓存策略使用的手段,对于系统中频繁使用数据库查询但是内容更新很小的应用,可以考虑使用html静态化来实现,比如论坛中论坛的公用设置信息,这些信息目前的主流论坛都可以进行后台管理并且存储在数据库中,这些信息其实大量被前台程序调用,但是更新频率很小,可以考虑将这部分内容进行后台更新的时候进行静态化,这样避免了大量的数据库访问请求。

WEB应用中的高并发问题

WEB应用中的高并发问题 大型网站,比如门户网站。在面对大量用户访问、高并发请求方面,基本的解决方案集中在这样几个环节:使用高性能的服务器、高性能的数据库、高效率的编程语言、还有高性能的Web容器。但是除了这几个方面,还没法根本解决大型网站面临的高负载和高并发问题。这些解决思路在一定程度上也意味着更大的投入,并且这样的解决思路具备瓶颈,没有很好的扩展性,以下从平时的项目经验以及引用一些博客的思路来尝试解决高并发的情况。 0、首先需要关注数据库 没错,首先是数据库,这是大多数应用所面临的首个SPOF(单点故障)。尤其是Web2.0的应用,数据库的响应是首先要解决的。 可能最初是一台主机,当数据增加到100万以上,那么,数据库的效能急剧下降。常用的优化措施是M-S(主-从)方式进行同步复制,将查询和操作和分别在不同的服务器上进行操作。我推荐的是M-M-Slaves方式,2个主Master,多个Slaves,需要注意的是,虽然有2个Master,但是同时只有1个是Active,我们可以在一定时候切换。之所以用2个M,是保证M不会又成为系统的SPOF。 Slaves可以进一步负载均衡,可以结合LVS,从而将select操作适当的平衡到不同的slaves 上。 以上架构可以抗衡到一定量的负载,但是随着用户进一步增加,你的用户表数据超过1千万,这时那个M变成了SPOF。你不能任意扩充Slaves,否则复制同步的开销将直线上升,怎么办?我的方法是表分区,从业务层面上进行分区。最简单的,以用户数据为例。根据一定的切分方式,比如id,切分到不同的数据库集群去。

全局数据库用于meta数据的查询。缺点是每次查询,会增加一次,比如你要查一个用户nightsailer,你首先要到全局数据库群找到nightsailer对应的cluster id,然后再到指定的cluster找到nightsailer的实际数据。 每个cluster可以用m-m方式,或者m-m-slaves方式。这是一个可以扩展的结构,随着负载的增加,你可以简单的增加新的mysql cluster进去。 1、HTML静态化 其实大家都知道,效率最高、消耗最小的就是纯静态化的html页面,所以我们尽可能使我们的网站上的页面采用静态页面来实现,这个最简单的方法其实也是最有效的方法。但是对于大量内容并且频繁更新的网站,我们无法全部手动去挨个实现,于是出现了我们常见的信息发布系统CMS,像我们常访问的各个门户站点的新闻频道,甚至他们的其他频道,都是通过信息发布系统来管理和实现的,信息发布系统可以实现最简单的信息录入自动生成静态页面,还能具备频道管理、权限管理、自动抓取等功能,对于一个大型网站来说,拥有一套高效、可管理的CMS是必不可少的。 除了门户和信息发布类型的网站,对于交互性要求很高的社区类型网站来说,尽可能的静态化也是提高性能的必要手段,将社区内的帖子、文章进行实时的静态化,有更新的时候再重新静态化也是大量使用的策略,像Mop的大杂烩就是使用了这样的策略,网易社区等也是如此。 同时,html静态化也是某些缓存策略使用的手段,对于系统中频繁使用数据库查询但是内容更新很小的应用,可以考虑使用html静态化来实现,比如论坛中论坛的公用设置信息,

相关文档
最新文档