达梦@记一次国产数据库适配思考过程|社区征文

开篇


写在前面的话,每一篇摘文都以实际案例场景出发,空余时间记录每一次mark历程,在不一样的业务实际场景下,针对项目阶段所产生的变化,制定不一样的技术方案,不论多么渺小的技术方案,放在其对应的场景下都有着不一样的意义。实践是检验真理的唯一标准,当真正实操过后参与讨论,或许会让你有一点新发现,希望对读者在思考上有点不一样的IDea,欢迎Join一起交流探讨,热衷拥抱新知识,旨在技术交流+心得分享->每天译点晓知识。

简介

image.png image.png

背景

image.png image.png

思考

image.png image.png

场景

image.png image.png

达梦适配过程

image.png

Q-A NO.1

image.png image.png image.png
接下来,打开DM8客户端,可通过dm sql脚本方式去创建表,这里只是简单创建了一张crm_version表。这里尤其需要注意的是创建表名不需要带双引号,达梦默认是大写,sql方言中也不需要额外处理,若是通过DM8工具去建表建字段或者带小写加双引号创建脚本,出现双引号则在实际的sql方言中也需要加上双引号,否则执行sql会抛出视图或表不存在,字段列名不存在的异常。

image.png 若是通过Mysql或Oracle或其他数据库,文件等方式迁移导入。这里记录一下迁移过程中遇到的问题,在迁移的时候,报某些字段超长。于是,查看了MySql中那些字段的类型及长度,都是varchar(50) 。这里应该是迁移有些字段,须在DM数据库中增加位宽,在MySql中varchar是表示字符,varchar(50)表示可以存放50个字符,但是DM的默认跟Oracle是一样的,varchar(50)表示50个字节。这就意味着,50个字节,如果存中文,在utf-8的字符集下,只能存最多16个。所以,如果MySql库到DM,varchar类型,需特别留意一下。 image.png image.png image.png image.png 在项目工程中引入达梦数据库驱动,SpringBoot对MySql做了集成,没有get到对达梦数据库做集成,小编这里采用的jdk1.8,安装的达梦数据库也是DM8,所以这里引入: DmJdbcDriver18,其相对于DmJdbcDriver17作出了很大的改进。

i、本地引入的方式 在pom.xml文件中,引入依赖jar

<!-- 达梦数据库驱动 -->
<dependency>    
  <groupId>com.dm</groupId>    
   <artifactId>DmJdbcDriver18</artifactId>    
    <version>1.8</version>    
     <scope>system</scope>    
      <systemPath>${project.basedir}/src/main/resources/lib/DmJdbcDriver18.jar</systemPath>
</dependency>

ii、nexus私服引入的方式

在pom.xml文件中,引入依赖jar

<!-- 达梦数据库驱动 -->
<dependency>    
  <groupId>com.dm</groupId>    
   <artifactId>DmJdbcDriver18</artifactId>    
    <version>1.8</version>
</dependency>

说明:这里的groupId坐标参数,可由使用者自行在nexus中upload创建声明,然后在pom.xml中引入相关坐标即可。

扩展:若是需要从本地deploy到nexus或是先获取本地仓库.m2的包->nexus仓库的包->aliyun maven仓库的包,为了解决开发过程中jar包拉取异常等问题,则在maven中settings.xml中可这样去配置:

<settings xmlns="http://maven.apache.org/SETTINGS/1.0.0"    
   xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"    
   xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.0.0 http://maven.apache.org/xsd/settings-1.0.0.xsd">    
   <!-- 本地仓库 -->    
   <localRepository>D:/.m2</localRepository>    
   <mirrors>    
       <mirror>    
           <id>nexus</id>    
           <mirrorOf>*</mirrorOf>    
           <name>yd nexus</name>    
           <url>http://ip:port/repository/maven-public/</url>    
       </mirror>    
   </mirrors>
   <mirror>
    <id>alimaven</id>
    <mirrorOf>central</mirrorOf>
    <name>aliyun maven</name>
    <url>http://maven.aliyun.com/nexus/content/groups/public/</url>
   </mirror>   
   <profiles>    
       <profile>    
           <id>nexus</id>    
           <repositories>    
               <repository>    
                   <id>maven-snapshots</id>    
                   <url>http://ip:port/repository/maven-snapshots/</url>    
                   <releases><enabled>false</enabled></releases>    
                           <snapshots><enabled>true</enabled></snapshots>    
               </repository>    
               <repository>    
                   <id>maven-releases</id>    
                   <url>http://ip:port/repository/maven-releases/</url>    
                   <releases><enabled>true</enabled></releases>    
                           <snapshots><enabled>false</enabled></snapshots>    
               </repository>    
           </repositories>    
       </profile>    
   </profiles>    
   <servers>   
   <server>    
     <id>nexus</id>    
     <username>yxd179</username>    
     <password>yxd179</password>    
   </server>    
   <server>    
     <id>maven-releases</id>    
     <username>yxd179</username>    
     <password>yxd179</password>    
   </server>    
   <server>    
     <id>maven-snapshots</id>    
     <username>yxd179</username>    
     <password>yxd179</password>    
   </server>    
 </servers>    
 <activeProfiles>    
   <activeProfile>nexus</activeProfile>    
 </activeProfiles>    
</settings>

image.png

说明:这里采取Nacos注册中心去管理项目工程中用到的一些配置信息,Nacos的介绍暂不详细说明,欢迎一起讨论交流,至此,达梦数据库环境安装,相关版本及其依赖的选取跟引入,配置信息完毕。

Q-A NO.2

image.png image.png

// 驱动-连接地址-账号-密码等信息
String driverClassName = "dm.jdbc.driver.DmDriver";
String url = "jdbc:dm://localhost:5236/";
String username = "yxd179";
String password = "yxd179";
// 加载驱动
Class.forName(driverClassName);
// 获取数据库连接对象
Connection con = (Connection) DriverManager.getConnection(url,username,password);
// 获取数据库操作对象
PreparedStatement ps = con.prepareStatement("SELECT COUNT(*) FROM TEST;");
// 执行sql
ResultSet rs= ps.executeQuery();
// 这里还可以获取到数据库产品名称
DatabaseMetaData metaData = (DatabaseMetaData) con.getMetaData();
// 这里为后续提到的在xml指定达梦的databaseId奠定基础
System.out.println("数据库产品名称:" + metaData.getDatabaseProductName());
最后需关闭连接close,释放资源->rs-ps-con. 

tk.mybatis:mybatis定制的第一大业务增强库。

pagehelper:分页控件,mybatis定制的第二大业务增强库。

Q-A NO.3

image.png

其实,这都是需要我们care到的。当mybatis装配时,若是同一个方法被找到多条sql时,首先,会优先使用 databaseId 相同的 sql。若是没有 databaseId 相同的sql,其次,再使用未配置 databaseId 的 sql,而databaseId 未对应的 sql 不会使用。

i、当获取到的数据源信息为mysql,则执行图一中批量插入insertBatch方法;

ii、当获取到的数据源信息为db2,则会执行图二中批量插入insertBatch方法;

iii、当获取到的数据源信息为oracle,则会执行图三批量插入insertBatch方法。

上例,这样我们就能极其简易的指定 databaseId,很多小伙伴肯定会说为什么需要这样去指定?其背后的原理又是怎样的,我们是否能够扩展并自定义 databaseId?框架这层的应用真能够提供的这么 perfect 吗?

在上一个Q-A中,我们已经get到了数据库产品的名称,可以从数据源连接对象中去获取,不妨从这里出发。这里先提出一点 little 猜想,mybatis既然能够支持mysql,oracle,db2等等数据库,那么其他关系型数据库?肯定是提供一些这样的入口可以去扩展的,只是各种框架的适配程度不一样,都在不断兼容。网上关于这块的资料并不全面,基于数据库产品名称这条线索,于是,小编封装了独立的适配器sdk,可作达梦等关系型数据库适配。当然不同类型的数据库,后续在sdk中去扩展兼容都是可以做到的。

说明:有兴趣的童鞋欢迎一起讨论交流,welcome together^_^

i、通过配置文件属性方式指定databaseId:

mybatis:
  mapper-locations: classpath*:mapper/**.xml
  configuration:
    database-id: dm8

ii、 通过configuration配置类,往容器注入Bean方式指定databaseId:

/**
 * @Auther: X.D.Yang
 * @Date: 2021/4/1 13:14
 * @Description:
 */
@Configuration
public class DatabasesConfig {
 
    private static final Logger logger = LoggerFactory.getLogger(DatabasesConfig.class);
 
    @Bean
    public DatabaseIdProvider getDatabaseIdProvider() {
        DatabaseIdProvider databaseIdProvider = new VendorDatabaseIdProvider();
        Properties p = new Properties();
        logger.info("Join DM8 databaseId Starting...");
        p.setProperty("DM DBMS", "dm8");
        //p.setProperty("MySQL", "mysql");
        databaseIdProvider.setProperties(p);
        logger.info("Join DM8 databaseId Start completed.");
        return databaseIdProvider;
    }
}

iii、mybatis-config.xml配置方式指定databaseId:

<databaseIdProvider type="DB_VENDOR">
   <property name="SQL Server" value="sqlserver"/>
   <property name="DB2" value="db2"/>
   <property name="Oracle" value="oracle" />
   <property name="DM DBMS" value="dm8" />
</databaseIdProvider>

至于封装的独立sdk,其主要思想结合SpringBoot-自动装配-条件配置

@SpringBootApplication->@SpringBootConfiguration(@Configuration注解,声明为spring的配置类)、@EnableAutoConfigurationspringboot(启动最关键的注解)、@ComponentScan(对包进行扫描)

1、其中@EnableAutoConfiguration注解会读取所有classpath:META-INF/Spring.factories,取key为org.springframework.boot.autoconfigure.EnableAutoConfiguration下的所有value,注册到核心容器,完成自动配置类的加载。

读取:spring提供的工具类-SpringFactoriesLoader>>>第一个参数是个Class对象,决定读取的key,为class对象的全类名。第二个参数是ClassLoader对象,决定从哪里开始找这个文件,然后读取classpath:META-INF/spring.factories文件。

2、自动配置类上有大量自动配置生效的条件,比如依赖是否被引入。springboot采用了默认代替配置的策略,当然也可更改默认配置,比如修改application.yml>yamlproperties配置文件,手动往容器中注册特定bean,注册一些实现特殊接口的类,比如实现WebMvcConfigurer接口的类。自动配置即向容器注册组件,实现了特殊接口的组件,影响spring的生命周期。

/**
 * @Auther: X.D.Yang
 * @Date: 2021/3/15 20:39
 * @Description:
 */
@Configuration
public class WebMvcConfigurer extends WebMvcConfigurerAdapter {
 
    @Override
    public void addInterceptors(InterceptorRegistry registry) {
        registry.addInterceptor(getLoggedInterceptor()).addPathPatterns("/**");
        super.addInterceptors(registry);
    }
 
    @Bean
    public LoggedInterceptor getLoggedInterceptor() {
        return new LoggedInterceptor();
    }
}

image.png

//WebMvcConfigurer接口还有很多实现方法
@Deprecated
public abstract class WebMvcConfigurerAdapter implements WebMvcConfigurer {
    public WebMvcConfigurerAdapter() {
    }
 
    public void addInterceptors(InterceptorRegistry registry) {
    }
}

其中,

@ConditionalOnClass:一些类是否存在当前类路径下。

@ConditionalOnProperty:相应的配置字段满足。

@ConditionalOnMissingBean:容器中没有某个bean。

这里我们着重看一下,mybatis提供的自动配置包-MybatisAutoConfiguration,生效条件:需引入mybatis相关的依赖,核心容器中只有一个DataSource,在DataSource自动配置完成后才生效等等条件,并且还开启了配置类@EnableConfigurationProperties(MybatisProperties.class)

image.png 上述构造方法:当前对象被实例化时,会被注入一系列的bean-MybatisProperties对象...

3、mybatis为我们注册了SqlSessionFactory,SqlSessionTemplate,以及为每个@Mapper注册了一个Mapper实现类-MyBatis->@Autowired注入一个Mapper。

当我们自己为容器中注入SqlSessionFactory对象,从容器中取dataSource(当引入spring-boot-starter-jdbc时会自动配置)作为参数,创建一个SqlSessionFactoryBean对象,该对象是个工厂-生产SqlSessionFactory,这里通过SqlSessionFactoryBean对象的一系列set方法,最后调用getObject方法来获取到SqlSessionFactory对象。其中生成SqlSessionFactory需要的Configuration对象,这里也可以取代mybatis的主配置文件-sqlSessionFactoryBean.setConfiguration方法。

image.png

image.png

而SqlSessionTemplate的创建,则取上述注入的SqlSessionFactory,new SqlSessionTemplate对象即可。至于对MyBatis源码Debug有兴趣的可以参考小编之前的文章>对Mybatis源码的认识_yxd179的博客-CSDN博客

记录:在适配的过程中还试出了达梦的幻读,达梦和Oracle一样默认的隔离级别都是读提交;还有特别需要注意的就是,在数据库中varchar类型的字段,比如在mysql中定义varchar(50),在写满的情况下为50个字符,到了达梦这边最多也就是varchar(150),当然可自行指定位宽,小编用的字符集是UTF-8,每个字符占三个字节,乘以三倍,就肯定是装得下的。目前达梦适配现有的框架为: HiKari+MyBatis3.4.6+tk.MyBatis+PageHelper

ok,now,接入sdk适配后,启动的效果,大致如下: image.png 这里,主要对sql分页查询作下阐述:简单的分页可通过手写sql limit...,首先统计count总数,然后计算分页等相关信息,这里不着重说明,当然sql分页控件也是可以去扩展的。PageHelper分页,其主要原理:首先将传递的参数设置到page这个对象中去,然后会接着将page的副本存放入ThreadLoacl中,保证分页时参数互不影响,通过mybatis提供的拦截器,获取ThreadLocal中的值,重新拼装分页sql语句。

接入之后,我们在控制台输出dm sql日志,看一下打印的sql-伪列分页:

image.pngDM8中正常执行sql,获取结果集:

image.png 而在MySql中,简单limit分页输出是这样的:

image.png <附注>Debug分页控件源码,其实也很容易理解,分页最终是这样去拼装的:

protected BoundSql getPageBoundSql(Object parameterObject) {
    String tempSql = sql;
    String orderBy = PageHelper.getOrderBy();
    if (orderBy != null) {
        tempSql = OrderByParser.converToOrderBySql(sql, orderBy);
    }
    tempSql = localParser.get().getPageSql(tempSql);
    return new BoundSql(configuration, tempSql, localParser.get().getPageParameterMapping(configuration, original.getBoundSql(parameterObject)), parameterObject);
}
//当然,这里有很多其他的Parser,这里可扩展,可兼容,去适用于不同的数据库
public String getPageSql(String sql) {
    StringBuilder sqlBuilder = new StringBuilder(sql.length() + 120);
    sqlBuilder.append("select * from ( select tmp_page.*, rownum row_id from ( ");
    sqlBuilder.append(sql);
    sqlBuilder.append(" ) tmp_page where rownum <= ? ) where row_id > ?");
    return sqlBuilder.toString();
}

Q-A NO.4

image.png

结尾

末尾:后续Java框架体系,数据库技术体系,大数据体系进阶案例实战都会同时更新,微信公众号同步,旨在分享的初衷,欢迎提出宝贵建议^_^

609
4
1
2
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论