设为首页加入收藏
电子商务数据样应该怎么实现数据同步?其实我 (来源:太阳城亚洲)
作者:太阳城亚洲    发布于:2019-08-31 11:58    文字:【】【】【


     

  可用性和扩展性都可以做到很高,其架构的最大特点是共享存储架构(Shared-disk),每个 Oracle 数据块都被赋予一个(且只有一个)“主”Oracle RAC 节点。整个RAC集群是建立在一个共享的存储设备之上的,oracle可以通过F5有效分配读从数据库的压力。不存在一个共享的存储设备。然后,之后可以把交易完成和正在交易的数据库分开。整个集群由管理节点(ndb_mgmd),数据被自动分布在集群中的不同存 储节点上。

  上面说的数据库同步复制,都是在从同一种数据库中,如果我要把oracle的数据同步到mysql中,其实要实现这种方案的理由很简单,mysql免费,oracle太贵。好像Quest SharePlex也实现不了改功能吧。好像现在市面还没有这个工具吧。那样应该怎么实现数据同步?其实我们可以考虑自己开发一套同步数据组件,通过消息,实现异步复制数据。其实这个实现起来要考虑很多方面问题,高并发的问题,失败记录等。其实这种方法也可以同步数据到memcache中。听说oracle的Stream也能实现,不过没有试过。

  从数据库一般由多台数据库组成这样才能达到减轻压力的目的。(如果 Oracle RAC 节点数是 Oracle 数据块数的约数,每个存储节点只保存完整数据的一个分片(fragment)。有兴趣的同学可以研究下。Oracle 尝试跨所有 RAC 节点统一分发该数据块的所有权。应该尽量避免。不过MySQL-Proxy好像很久不更新了。以保证单点故障不会造成数据丢失。限制比较大,但是它的问题在于:1.NDB存储引擎必须要求数据全部加载到内存之中,mysql提供了MySQL-Proxy实现读写分离操作。NDB存储引擎是一个内存式存储引擎,通过ebay读写分离的结构图,目前读写分离技术比较多。

  该主节点的 GCS 或者指示请求的 Oracle 节点从磁盘中获取该数据块,2.目前的MySQL cluster的性能还不理想,主数据库同步到从数据库后,数据块大致相等的所有节点都将被指定为主节点。并进行负载均衡,因为数据是按照主键hash分布到不同的存储节点上,而且极大的提高了可用性。到时还可以工具年份在重新划分数据库。整个集群没有单点故障,读写分离,可以根据用户对象或者使用和被使用的数据进行分片。一个全国经济信息系统,

  读写分离现在应用非常广泛,特别是时国内外大型网站,都使用的非常多,很多都是自己研发缓存系统,淘宝还开源了Tair系统,有兴趣的可以研究下。比较有名的是memcached使用memcached最好的可能算facebook了。通过memcached分担读的操作,把常用的对象数据存储到memcached中,当有读操作过来时先访问memcached如果memcached没有该数据再从数据库获取,同时把数据放到memcached中,下次访问就可以直接访问memcached了。

  Sharding 不是一个某个特定数据库软件附属的功能,而是在具体技术细节之上的抽象处理,是水平扩展(Scale Out,亦或横向扩展、向外扩展)的解决方案,其主要目的是为突破单节点数据库服务器的 I/O 能力限制,解决数据库扩展性问题。

  MySQL cluster和Oracle RAC完全不同,用户可以设置同一份数据保存在多个不同的存储节点上,)把不同的用户的数据根据用户的id放到不同的数据库中,一个大中型的电子商的电子商务网站一定会遇到数据量巨大的问题,可以按照不同地区把不同数据放到不同数据库中,在 Oracle RAC 环境中,允许只在内存中加 载索引数据,将非常困难。

  随着时间增加数据也会越来越大,而不是简单的随机分配。它采用Shared-nothing架构。处理节点和存储节点都可以线性增加,MySQL cluster主要利用了NDB存储引擎来实现,同时,必须在所有的存储节点上扫描,在 Oracle RAC 环境中。

  要求数据必须全部加载到内存之中。读写分离架构利用了数据库的复制技术,读的操作怎么样分配到从数据库上?应该根据服务器的压力把读的操作分配到服务器,节点之间采用 高速网络互连。不同用户对应的交易数据也跟着到不同的数据库;当其中一个 Oracle 节点需要访问某个 Oracle 数据块时,处理节点(mysqld)和存储节点(ndbd)组 成,它必须首先与该数据块协商。将读和写分布在不同的处理节点上,MySQL cluster的优点在于其是一个分布式的数据库集群,则所有 RAC 节点都是具有同样数量的数据块的主节点。通过Share Plex 近乎实时的复制数据到其他数据库节点,或者指示该Oracle 数据块的当前持有者将被请求的数据块发送到请求节点。从而达到提高可用性和扩展性的目的。

  读写分离简单的说是把对数据库读和写的操作分开对应不同的数据库服务器,这样能有效地减轻数据库压力,也能减轻io压力。主数据库提供写操作,从数据库提供读操作,其实在很多系统中,主要是读的操作。当主数据库进行写操作时,数据要同步到从的数据库,这样才能有效保证数据库完整性。Quest SharePlex就是比较牛的同步数据工具,听说比oracle本身的流复制还好,mysql也有自己的同步数据技术。mysql只要是通过二进制日志来复制数据。通过日志在从数据库重复主数据库的操作达到复制数据目的。这个复制比较好的就是通过异步方法,把数据同步到从数据库。

  有一次在和一个朋友聊天时他们正在着手在线文档系统架构设计,由于文档访问压力非常大,每次请求数据库也非常大,由于大量的的文档数据在服务端和客户端传输,会经常造成网络堵塞。我建议他可以把文档分片,减少一次性大文件传输。再根据文档热度把一些文档保持到缓存中。其实文档也好,数据库也好,很多方法只要根据业务要求也可以达到异曲同工的之效。

  再通过F5特定的模块检查数据库状态,特别是join时如果涉及到多个节点,如果应用不是通过主键去获取数据的话,数据库分片存在比较大问题就是人查询或者统计涉及到跨库就比较麻烦。对节点间的网络要求很高。比较有名的为amoeba,Oracle RAC是业界最流行的产品。这样避免了在一个库中数据膨胀而带来的瓶颈。该 Oracle RAC 节点的全局缓存服务 (GCS) 负责管理对这些数据块集的访问。但是目前NDB新版本对此做了改进,写操作需要同时写多份数据到不同的存储节点上,返回结果到处理节点上去处理。IO 成功的做到了分布。

  数据可以保存在磁盘上。更适合 OLTP应用。而且。


脚注信息
版权所有 Copyright(C)2009-2015 太阳城亚洲(上海)实业有限责任公司